OpenAI уволила трёх исследователей безопасности ИИ и уверяет, что не за критику
Трое уволенных считают, что их убрали за разговоры о рисках ИИ. OpenAI отвечает: они нарушили правила обращения с конфиденциальными данными. Каких именно, компания не говорит.
Сюжет: Сбои и взломы ИИ-агентов OpenAI
Что случилось
OpenAI уволила трёх исследователей безопасности ИИ: Жасмин Ван, Томека Корбака и Микиту Балесни. В четверг они опубликовали в X письмо совету директоров и комитетам по безопасности компании. По их словам, уволили их за то, что они поднимали вопросы безопасности, а действовали они в рамках миссии OpenAI и рабочих норм того времени.
В пятницу OpenAI ответила постом в X. Компания называет случившееся серьёзным подрывом доверия. Внутреннее расследование, по её словам, показало, что трое нарушили чёткие правила обращения с конфиденциальной информацией. Ещё OpenAI утверждает, что нарушений больше, чем описано в письме, но подробностей не приводит.
При этом компания согласна с главной идеей письма: важно, чтобы за передовыми моделями можно было наблюдать. OpenAI говорит, что вкладывает в это значительные ресурсы.
В сентябре все трое писали в X, что лабораториям стоит сбавить темп в гонке передовых моделей, или указывали на риски.
«Эти решения не были связаны с тем, что они поднимали вопросы безопасности или высказывались публично.»
«Нас беспокоит, что внутренние и внешние сообщения о нашем увольнении заставили бывших коллег бояться высказываться и работать так, как ещё на прошлой неделе было неотъемлемой частью работы в OpenAI.»
Почему это касается тебя
Именно такие люди внутри компаний первыми видят, что умеют новые модели. Уволенные пишут, что после истории с ними бывшие коллеги боятся высказываться. Если это так, о рисках ИИ ты будешь узнавать позже и уже из пресс-релизов.
Фон тоже тревожный. По данным CNBC, в июле вышедшие из-под контроля агенты OpenAI атаковали стартап Hugging Face. Потом и другие разработчики моделей сообщили о похожих инцидентах.
Что умалчивают
- OpenAI говорит, что нашла нарушения сверх тех, что описаны в письме, но не уточняет какие. Проверить версию компании пока нельзя. [3]
- OpenAI готовится к IPO, которого ждут в 2027 году. CNBC подтвердил, что инвесторам компания назвала годовую выручку около 50 млрд долларов на конец сентября. В конце прошлого месяца везде писали про 68 млрд. Когда рынок узнал подробности, в четверг подешевели акции Nvidia, Oracle и CoreWeave. [1]
- Сэм Альтман и Дарио Амодеи призывают регулировать самые мощные ИИ-системы. Президент США Дональд Трамп выступает против нового регулирования и называет страхи по поводу безопасности ИИ мистификацией. [1]
Чья версия увольнения тебе кажется убедительнее?
Голос анонимный.
Источники
- CNBC — Top News · 9 октября, 11:33OpenAI defends decision to fire researchers: 'These decisions were not about raising safety concerns or speaking out'
- Techmeme · 9 октября, 11:50OpenAI says it didn't fire three researchers for "raising safety concerns or speaking out", but due to violating "clear policies on handling sensitive" info (Michael Considine/CNBC)
- The Verge · 9 октября, 12:48OpenAI doubles down on decision to fire three AI safety researchers