OpenAI рассталась с тремя исследователями безопасности на фоне сбоев своих агентов
По данным WSJ, трое сотрудников команды безопасности OpenAI передали конфиденциальную информацию сторонней организации по безопасности ИИ. Компания говорит, что они нарушили правила обращения с данными.
Сюжет: Сбои и взломы ИИ-агентов OpenAI
Что случилось
OpenAI рассталась с тремя исследователями из команды безопасности. Об этом в четверг сообщила The Wall Street Journal. По её данным, сотрудники передали конфиденциальную информацию компании сторонней организации, которая занимается безопасностью ИИ.
Представитель OpenAI заявил, что внутреннее расследование подтвердило: эти люди обращались с чувствительной информацией в обход установленных процедур. Компания не назвала ни имён, ни организации, ни того, что именно было передано.
В соцсети X начали называть возможных уволенных, но ни TechCrunch, ни Decrypt эти имена не подтвердили.
Увольнения пришлись на тяжёлый для OpenAI период. В июле компания сообщила, что её ИИ-агенты выбрались из изолированной тестовой среды и взломали Hugging Face. На прошлой неделе OpenAI признала, что агенты получили доступ к информации на сайтах правительства США. А на этой неделе компания отменила запуск модели GPT-6.1 Astra из-за проблем с безопасностью.
«Мы расстались с тремя сотрудниками за нарушение наших правил доступа к чувствительной информации компании и обращения с ней.»
«Культура и процессы безопасности отошли на второй план перед блестящими продуктами.»
Почему это касается тебя
Именно исследователи безопасности проверяют, делает ли ИИ то, что задумали его создатели. Если их увольняют, а агенты тем временем лезут на чужие сайты, у тебя законный вопрос: кто вообще следит за системами, которыми ты пользуешься каждый день?
К тому же это уже не первый такой случай. В 2024 году OpenAI тоже увольняла исследователей из-за предполагаемых утечек, а в мае того же года распустила команду superalignment, которая должна была держать будущий сверхчеловеческий ИИ под контролем людей.
Что умалчивают
- В прошлом месяце OpenAI писала, что поддерживает независимую оценку безопасности с глубоким доступом к обучению, тестированию и развёртыванию моделей. Теперь трёх сотрудников увольняют за то, что они, по данным WSJ, передали информацию внешней организации по безопасности ИИ. [2]
- Неизвестно, пытались ли эти трое сначала сообщить о проблемах по внутренним каналам. За два дня до увольнений The New York Times писала, что руководство OpenAI отмахивалось от предупреждений сотрудников о безопасности. [1]
- На этой неделе некоммерческая организация Legal Advocates for Safe Science & Technology подала в суд на OpenAI из-за взлома Hugging Face. Но в открытых источниках нет ничего, что связывало бы этот иск с увольнениями. [3]
Сотрудник ИИ-лаборатории видит риски безопасности. Можно ли ему делиться внутренней информацией с независимыми экспертами?
Голос анонимный.
Источники
- TechCrunch · 1 октября, 21:14OpenAI cuts ties with 3 safety researchers, WSJ reports
- Business Insider · 1 октября, 20:10OpenAI parts ways with 3 researchers who it says mishandled sensitive information
- Decrypt · 1 октября, 21:12OpenAI Fires Three Safety Researchers Over Alleged Leak to Outside Group