Перейти к содержимому
Новость

Microsoft, Nvidia и Meta выступили против ограничений открытых моделей ИИ

Письмо 25 технологических компаний появилось на фоне спора о китайских моделях и возможном незаконном копировании американских разработок. Его главный тезис сводится к тому, что нарушения следует пресекать адресно, не превращая борьбу с кражей технологий в запрет на модели с доступными весами.

BadMadSam
Microsoft, Nvidia и Meta выступили против ограничений открытых моделей ИИ

Автор: ИИ Copilot Designer//DALL·E 3

Коалиция из 25 компаний, фондов и отраслевых организаций опубликовала 24 июля открытое письмо, адресованное американским властям. Среди подписантов оказались Microsoft, Nvidia, Meta, IBM, Dell Technologies, Palantir, Hugging Face, Mozilla, Linux Foundation, Mistral, Perplexity, ServiceNow, Replit и Y Combinator.

Авторы документа просят не вводить преждевременные ограничения для моделей с открытыми весами. Такие модели можно скачать, запускать на собственной инфраструктуре, дополнительно обучать и приспосабливать под конкретные задачи. При этом доступ к весам еще не делает разработку полностью открытой: исходный код, обучающие наборы, методика подготовки данных и подробности обучения могут оставаться закрытыми.

Именно поэтому привычное выражение «ИИ с открытым исходным кодом» здесь неточно. Письмо защищает прежде всего возможность распространять обученные параметры модели и независимо запускать ее без постоянного обращения к облачному сервису разработчика.

Спор начался не с безопасности

Обращение появилось в момент, когда американские власти обсуждают действия против китайских разработчиков ИИ. Поводом стали подозрения в том, что новые китайские модели могли обучаться на результатах закрытых американских систем при помощи дистилляции.

Дистилляция позволяет использовать ответы более крупной модели для обучения другой системы. Сам метод давно применяется при разработке ИИ, тестировании и уменьшении моделей. Спор возникает вокруг способа получения исходных ответов, соблюдения условий сервиса и масштаба автоматического сбора данных.

Подписанты не отрицают проблему возможного присвоения чужих разработок. Они предлагают отделять допустимое обучение от незаконного извлечения технологий и применять меры против конкретных нарушителей. По их позиции, общий запрет дистилляции или распространения весов заденет проекты, которые не связаны с предполагаемой кражей.

Такой подход меняет смысл письма. Это не требование оставить рынок ИИ без правил, а попытка не допустить, чтобы расследование действий отдельных компаний привело к ограничениям для всего класса моделей.

Открытые нужны разным участникам рынка

Состав коалиции показывает, почему вопрос вышел за пределы сообщества разработчиков. Производители оборудования получают спрос на серверы и ускорители, облачные платформы продают вычислительные мощности, а разработчики приложений могут выбирать между несколькими моделями и поставщиками.

Для корпоративного заказчика доступные веса означают возможность разместить систему внутри собственной инфраструктуры. Это упрощает работу с конфиденциальными данными, позволяет менять модель под внутренние процессы и снижает зависимость от условий одного API. Однако локальный запуск не означает автоматически низкую стоимость: крупной модели все равно нужны ускорители, память, электроэнергия и специалисты для обслуживания.

Письмо также связывает открытые веса с конкуренцией. Когда базовую модель можно запускать у разных поставщиков, владельцу приложения проще сменить облачную площадку или развернуть систему самостоятельно. Закрытый сервис оставляет такую возможность только в пределах, установленных его владельцем.

Этим объясняется и заметное отсутствие среди подписантов OpenAI, Anthropic и Google, чьи передовые системы в основном распространяются через контролируемые сервисы. Само отсутствие подписи не доказывает, что эти компании требуют запрета открытых моделей. Оно лишь показывает, что единая позиция крупнейших разработчиков по этому вопросу пока не сложилась.

01_876x3701_fc9f85fd87

Фото: ITHome

Безопасность остается слабым местом аргумента

Авторы письма признают, что после публикации весов разработчик теряет значительную часть контроля. Модифицированную версию можно распространять отдельно, а уже загруженные файлы почти невозможно отозвать у всех владельцев.

В ответ коалиция указывает на другой риск: закрытая модель тоже может быть взломана, использована во вред или давать опасные результаты, которые внешние исследователи не способны полноценно проверить. Открытые веса расширяют возможности независимого анализа, но сами по себе не гарантируют обнаружение всех уязвимостей и не мешают намеренно удалить защитные механизмы.

Поэтому спор нельзя свести к выбору между безопасной закрытой и опасной открытой системой. У обеих схем разные способы контроля и разные уязвимости. Для закрытой модели разработчик может менять правила доступа и быстро обновлять сервис. Для открытой исследователи получают больше свободы проверки, но контроль над последующим распространением резко сокращается.

Пока письмо не содержит готового механизма регулирования. Подписанты предлагают поддерживать доступ к вычислительным ресурсам, общим наборам данных, инструментам и системам оценки, но не определяют границу, после которой возможности модели потребуют особого контроля.

Главный результат обращения состоит в другом: крупная часть американской технологической отрасли публично потребовала отделить доступность весов от нарушений, совершенных при обучении модели. Дальнейший спор будет зависеть от того, смогут ли власти закрепить это различие в конкретных правилах, не создавая запрет, который затронет законные исследования и самостоятельное развертывание ИИ.

Источник: ITHome