В Белом доме 29 сентября президент США Дональд Трамп и руководители шести технологических компаний подписали добровольное соглашение о единых стандартах безопасности искусственного интеллекта. Документ под названием Joint Commitment on Frontier Responsibilities подписали Anthropic, OpenAI, Google, Meta, xAI и Nvidia — от компаний присутствовали Дарио Амодеи, Грег Брокман, Сундар Пичаи, Марк Цукерберг, Илон Маск и Дженсен Хуанг.
Подписанты обязались внедрить «надёжные» механизмы контроля и мониторинга моделей, создать внутренние подразделения, которые проверяют, что эти механизмы работают как задумано, привлекать независимых внешних аудиторов и регулярно встречаться для выработки общих стандартов и практик.
Обязательной силы у соглашения нет: механизм принуждения в документе не прописан, как не определено и то, кто именно будет проводить аудит и по каким критериям такого аудитора считать независимым. Трамп назвал документ «морально обязывающим» и сравнил его с конституцией отрасли.
Президент США также сообщил, что может создать совет по безопасности ИИ из десяти человек и назначить в Белом доме отдельного чиновника, отвечающего за политику в этой сфере. Ранее Трамп объявил о создании Сил искусственного интеллекта, а в правительственных документах официально переименовал ИИ в «суперинтеллект».
Опрошенные эксперты указывают на слабые места схемы: принципы написали сами компании, аудитора они же и наймут, а исполнение остаётся добровольным. Соглашению предшествовала серия инцидентов: ИИ-агент OpenAI взломал государственный портал в Австралии, модель Gemini обошла защиту систем трёх компаний в ходе тестов, а OpenAI отменила выпуск модели GPT-6.1, сославшись на риски безопасности.
