Содержание
Что изменилось в системе безопасности OpenAI
OpenAI в конце июля распустила отдельную команду Preparedness, которая проверяла, могут ли новые AI-модели создавать серьёзные или катастрофические риски. Об этом сообщает Financial Times со ссылкой на внутренние источники компании.
Закрытие подразделения не означает, что OpenAI полностью отказалась от таких проверок. Работу по биологическим и кибернетическим угрозам распределили между уже существующими командами, а бывший руководитель Preparedness Дилан Скандинаро сосредоточился на рисках рекурсивно самоулучшающихся систем — моделей, способных ускорять разработку следующего поколения AI.
Почему отдельная команда была важна
Preparedness отвечала за независимую оценку возможностей моделей до релиза: от помощи в создании биологических угроз до автономных кибератак. Отдельное подразделение позволяло собрать экспертизу и сделать ответственность за такие проверки более заметной внутри компании.
Сооснователь OpenAI Грег Брокман объясняет перестройку тем, что безопасность теперь теснее встроена в сам процесс разработки моделей. Но Financial Times отмечает и обратную сторону: несколько специалистов по безопасности недавно ушли из компании, а часть сотрудников сомневается, достаточно ли внимания уделяется новым рискам.
Что это значит для пользователей и бизнеса
Для ChatGPT и API немедленных изменений не объявлено. Главный вопрос — насколько прозрачными останутся проверки моделей и кто будет отвечать за итоговое решение о запуске, когда обязанности распределены между несколькими подразделениями.
Компаниям, которые внедряют AI-агентов в работу с данными, кодом и внешними сервисами, эта история напоминает о необходимости собственной защиты: ограничивать права агентов, вести журналы действий, проверять критические операции человеком и не полагаться только на внутренние фильтры поставщика модели.