Содержание
Google DeepMind предлагает новые правила для frontier-AI
Генеральный директор Google DeepMind Демис Хассабис опубликовал развернутый план регулирования передовых AI-моделей. По его оценке, AGI может оказаться всего в нескольких годах от появления, а влияние технологии будет сравнимо не с обычным технологическим скачком, а с электричеством или огнем.
Главная идея предложения — создать в США специальный орган по стандартам для frontier-AI. Он должен быть похож на FINRA в финансовой индустрии: формально независимая структура с участием ведущих технических экспертов, представителей open source-сообщества и финансированием со стороны индустрии.
Что именно предлагает Хассабис
Новый орган должен разрабатывать и регулярно обновлять протоколы оценки самых мощных моделей. Сначала лаборатории будут добровольно передавать frontier-модели на проверку примерно за 30 дней до релиза, а после отладки процесса такие проверки могут стать обязательным условием запуска на рынке США.
Тесты должны покрывать области с высоким риском: кибербезопасность, биологические угрозы, поведение агентных систем, попытки обхода защитных ограничений и признаки обмана. Хассабис также упоминает практики вроде модельных карточек, сильной внутренней кибербезопасности, проверки ключевых сотрудников и достаточного финансирования safety-команд.
Почему это важно пользователям и бизнесу
Для обычных пользователей это сигнал, что крупнейшие AI-лаборатории готовятся к более жесткому контролю релизов. Если подход примут, новые модели могут выходить медленнее, но с понятнее описанными ограничениями, тестами и ответственностью за уязвимости после запуска.
Для компаний и креаторов важен другой вывод: рынок AI-инструментов становится зрелее. Поставщикам придется не только показывать красивые демо, но и доказывать, что модель безопасно работает в реальных сценариях — от автоматизации рабочих процессов до генерации контента и автономных агентов.
Замедление разработки тоже на столе
Хассабис отдельно подчеркивает, что механизм не должен душить стартапы и академические проекты: non-frontier модели предлагается вывести из-под такой процедуры. Но если проверки выявят критические риски, орган сможет координировать замедление разработки среди ведущих лабораторий.
Пока это не закон, а публичная рамка от главы одной из ключевых AI-компаний. Но ее уже обсуждают как попытку заранее договориться о правилах для моделей следующего уровня — до того, как скорость гонки окончательно обгонит способность индустрии объяснять, тестировать и контролировать свои системы.