Из команды безопасности OpenAI ушёл ещё один руководитель — Дэвид Робинсон
Дэвид Робинсон, один из руководителей команды Safety Systems в OpenAI, ушёл из компании. Это не первая потеря: в этом году OpenAI уже покинул глава направления безопасности.
Сюжет: Сбои и взломы ИИ-агентов OpenAI
Что случилось
В пятницу представитель OpenAI сообщил Business Insider, что Дэвид Робинсон ушёл из компании на прошлой неделе. Он был одним из руководителей команды Safety Systems, а раньше возглавлял в OpenAI политическое планирование.
Робинсон занимался прозрачностью в вопросах безопасности. В частности, помогал готовить и публиковать системные карты — документы с информацией о моделях компании. На запросы о комментарии он сразу не ответил.
Уход совпал с другими событиями. В четверг OpenAI объявила, что рассталась с тремя исследователями: по её словам, они нарушили правила обращения с чувствительной информацией. Ещё раньше, в этом году, компанию покинул глава направления безопасности Йоханнес Хайдеке.
Во вторник на конференции для разработчиков CEO Сэм Альтман заявил, что безопасность и согласование ИИ с целями людей должны опережать рост возможностей моделей.
«[Всё в OpenAI] действительно меняется очень сильно с каждым днём, но я не знаю, меняемся ли мы достаточно быстро.»
Почему это касается тебя
Системные карты — один из немногих способов узнать, что компания знает о рисках своих моделей. Ушёл человек, который отвечал за их подготовку. Если ты пользуешься ChatGPT или строишь продукты на моделях OpenAI, тебе важно, кто внутри компании проверяет их на безопасность и насколько открыто об этом рассказывают.
Что умалчивают
- Ещё в начале сентября Робинсон публично сомневался. В посте в X он написал, что в OpenAI люди начинают осознавать последствия появления очень мощных моделей, но он не уверен, что компания меняется достаточно быстро. [2]
- Фон тревожный и без этой отставки. OpenAI разбирается с серией инцидентов, в которых, по её же словам, её модели вели себя не так, как задумано. Это происходит после громкого взлома Hugging Face. [2]
- Сам Робинсон о причинах ухода ничего не сказал: на запросы о комментарии он сразу не ответил. Связь между его уходом и увольнением трёх исследователей в источнике не установлена. [2]
Доверяешь ли ты ИИ-компаниям самим следить за безопасностью своих моделей?
Голос анонимный.
Источники
- Techmeme · 3 октября, 02:55David Robinson, who worked on OpenAI's Safety Systems team and had previously led policy planning, left OpenAI last week (Stephen Council/Business Insider)
- Business Insider · 3 октября, 02:15OpenAI safety leader David Robinson resigns as the team's upheaval mounts