Содержание
Anthropic объяснила свою позицию по открытым AI-моделям
Anthropic впервые прямо сформулировала публичную позицию по AI-моделям с открытыми весами. Глава компании Дарио Амодей заявил, что Anthropic никогда не выступала за их полный запрет. По его словам, модели без опасных возможностей являются общественным благом: разработчики, исследователи и компании могут запускать их на собственной инфраструктуре и не платить за доступ к закрытому сервису.
Почему Anthropic против общего запрета
Поводом для заявления стала дискуссия в США о возможных ограничениях для китайских open-weight моделей. Амодей считает, что запрет их использования американским бизнесом не решит главные проблемы безопасности: злоумышленники всё равно не будут действовать как легальные компании, а наиболее опасная система вообще может разрабатываться закрыто для военных или разведки.
При этом Anthropic не называет открытые модели полностью безопасными. После публикации весов разработчик уже не может отозвать модель, а встроенные ограничения сложнее контролировать. Особенно компанию беспокоят возможные кибератаки, создание биологических угроз и проблемы с поведением наиболее мощных систем.
Что предлагает Anthropic
Вместо общего запрета компания предлагает три меры: ограничивать поставки самых мощных AI-чипов авторитарным государствам, бороться с промышленной дистилляцией закрытых моделей и ввести обязательное тестирование достаточно мощных систем перед выпуском. Проверки должны одинаково распространяться на открытые и закрытые модели и оценивать киберриски, биологические угрозы и проблемы выравнивания.
Что это значит для пользователей и бизнеса
Для разработчиков и компаний позиция Anthropic важна тем, что она оставляет пространство для локальных и самостоятельно размещаемых AI-инструментов. Но одновременно вокруг сильных open-weight моделей может появиться более строгая процедура допуска: акцент смещается с происхождения и лицензии модели на её реальные возможности и результаты тестов безопасности.
Авторы, маркетинговые команды и малый бизнес пока не столкнутся с немедленными изменениями. Однако именно от этой дискуссии зависит, сохранятся ли доступные локальные модели для генерации контента, автоматизации и работы с конфиденциальными данными — или доступ к самым мощным системам будет всё сильнее регулироваться.