США передумали: ИИ-модели снова можно показывать Британии до релиза
По данным The Telegraph, администрация Трампа отменила свою же просьбу не давать британскому Институту безопасности ИИ ранний доступ к новым моделям. Официального подтверждения пока нет.
Что случилось
Американские разработчики ИИ снова могут давать правительству Великобритании ранний доступ к новым моделям для проверки безопасности. Об этом в воскресенье сообщила The Telegraph.
В конце сентября Белый дом попросил крупные компании, в том числе OpenAI и Anthropic, не передавать разработки британскому Институту безопасности ИИ (AISI) до релиза. В администрации объяснили это так: компании американские, значит и проверять их системы первыми должны в США. Трамп при этом говорил, что «глобалистские» организации не должны вмешиваться в разработку американских моделей.
По данным Politico, компании возражать не стали. Anthropic после этой просьбы ограничила институту доступ к анализу своей новой модели Claude Mythos 5.1. Теперь, по версии Telegraph, решение отменено.
Представители Трампа, OpenAI и Anthropic на запрос Reuters сразу не ответили.
Почему это касается тебя
Чатботы, которыми ты пользуешься, проходят проверки до выхода, и вопрос в том, кто именно их проводит. Британский институт тестирует самые продвинутые модели на опасные возможности и риск злоупотреблений. Если его снова пускают к моделям до релиза, у разработчиков появляется ещё один независимый проверяющий. Пока, правда, это сообщение газеты, а не официальное решение.
Что умалчивают
- Разворот известен только из публикации The Telegraph. Белый дом, OpenAI и Anthropic на запрос Reuters сразу не ответили, так что официального подтверждения пока нет. [1]
- Запрет успел сработать: после просьбы Белого дома Anthropic ограничила британскому институту доступ к анализу новой модели Claude Mythos 5.1. [2]
- Позиция Трампа по безопасности ИИ меняется и внутри страны. В пятницу его новая рабочая группа по ИИ объявила, что разработчики обязаны сообщать об инцидентах безопасности со своими моделями. Раньше Трамп не раз отвергал обязательные требования к безопасности. [1]
Нужно ли давать иностранным госинститутам проверять ИИ-модели до релиза?
Голос анонимный.
Источники
- CNA (Channel NewsAsia) · 12 октября, 02:48US reverses course on Britain's testing of AI models, Telegraph says
- Коммерсантъ · 12 октября, 03:17США уступили Британии и разрешили передавать ей ИИ-модели для проверки // США позволят OpenAI и Google передавать ИИ-разработки институту Британии