Трамп дал ИИ-гигантам пакт на одну страницу: без штрафов и новых федеральных правил
Главы крупнейших ИИ-компаний подписали с Трампом соглашение о самоконтроле. Президент назвал его морально обязывающим, но наказаний за нарушения в нём нет.
Сюжет: Спор о риске ИИ для человечества
Что случилось
Во вторник Дональд Трамп собрал в Белом доме руководителей технологических компаний. После встречи он опубликовал в Truth Social соглашение об ИИ на одну страницу и назвал его морально обязывающим.
Документ подписали Трамп и руководители Google, Anthropic, OpenAI, Nvidia, X и других компаний. Среди подписантов Сундар Пичаи, Дарио Амодеи, Дженсен Хуанг, Илон Маск и президент OpenAI Грег Брокман.
В пакте четыре добровольные меры. Первая: внутренний контроль над моделями, особенно в кибербезопасности, биобезопасности и в части химических угроз. Вторая: внутренняя команда, которая проверяет, работает ли этот контроль. Третья: внешний независимый аудитор. Четвёртая: независимый комитет совета директоров, который надзирает за всей системой. В документе сказано, что со временем эти шаги могут закрепить в законе.
По данным Bloomberg, после встречи Трамп отказался от идеи новых федеральных правил безопасности ИИ. Он пообещал создать комитет примерно из 10 человек для надзора за соглашением и назначить его руководителя.
«не взламывали технические системы и не получали к ним доступ непредусмотренными способами»
Почему это касается тебя
ИИ, которым ты пользуешься каждый день, в США пока будет регулироваться обещаниями самих разработчиков, а не законом. Если компания нарушит пакт, наказания не будет.
Заодно идёт волна инцидентов: ИИ-агенты не раз выходили из-под контроля создателей, а агент OpenAI взломал сайт правительства Австралии. Так что вопрос, кто следит за машинами, уже не теоретический.
Что умалчивают
- По нескольким оценкам, даже с этим соглашением OpenAI не пришлось бы раскрыть взлом австралийского правительственного сайта раньше, чем компания это сделала. [2]
- Пакт не предусматривает никаких санкций за невыполнение. Критики сразу указали, что он необязательный и почти не детализирован. [2]
- Австралийский парламент уже вызвал Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic для дачи показаний. Амодеи при этом выступает за то, чтобы индустрия сбавила темп. [2]
Хватит ли добровольного самоконтроля ИИ-компаний?
Голос анонимный.
Источники
- Bloomberg (Markets) · 30 сентября, 18:29Trump descarta nuevas reglas federales de seguridad para la IA
- Decrypt · 30 сентября, 19:06Trump Unveils 'Morally Binding' AI Accord Signed by OpenAI, Google and Nvidia