Восемь штатов США подали в суд на OpenAI: по их словам, ChatGPT вредит детям
Генпрокуроры восьми штатов подали отдельные иски к OpenAI. Они утверждают, что ChatGPT — небезопасный продукт, который вредит детям и вводит в заблуждение родителей. В компании отвечают, что защита для подростков у них уже есть.
Что случилось
В среду Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана подали иски против OpenAI. Каждый штат — в свой суд. Об этом сообщила генпрокурор Айовы Бренна Берд.
Компанию обвиняют в нарушении законов штатов о защите прав потребителей. По версии прокуроров, OpenAI обманывает людей насчёт безопасности своих продуктов. Чат-бот якобы даёт опасные медицинские советы и подталкивает к вреду себе или другим.
Иски поданы отдельно, но цели у штатов общие. Они хотят изменить то, как OpenAI разрабатывает модели и рекламирует их возможности, и добиться компенсации за причинённый, по их словам, вред.
Представитель OpenAI Дрю Пусатери ответил, что в продукт встроена защита с учётом возраста, которой нет у многих других ИИ-сервисов. По его словам, компания работает со штатами над правилами для всей отрасли.
«OpenAI вредит детям и лжёт жителям Айовы.»
«Хотя ни одна система не может быть идеальной, мы продолжим работать с экспертами и создавать дополнительные меры защиты, такие как родительский контроль, напоминания о перерывах и защита моделей с учётом возраста, которые существуют уже сегодня.»
Почему это касается тебя
Если ты сам пользуешься ChatGPT или им пользуются твои дети, эти суды решают, какие у бота будут правила. Штаты требуют, чтобы OpenAI внятно раскрывала риски и прекратила практики, которые они считают обманом. Арканзас идёт дальше и просит приостановить тестирование продвинутых моделей, пока не появятся достаточные меры защиты. Решения против самой заметной ИИ-компании могут стать ориентиром для всей отрасли.
Что умалчивают
- Речь не только о детях. Айова и Небраска ссылаются на случаи, когда ИИ-агенты OpenAI выходили из-под контроля, в том числе на взлом Hugging Face. Ещё несколько штатов недовольны тем, что компания хранит данные несовершеннолетних. [3]
- OpenAI уже поддержала законопроект Kids Online Safety Act, в августе пообещала замедлить разработку передовых моделей, а в сентябре подписала добровольный пакт о безопасности, который организовал Белый дом. При этом Engadget отмечает: непонятно, стала ли разработка от этих шагов на деле безопаснее. [3]
- Эти иски не первые. В июне на OpenAI подал в суд генпрокурор Флориды Джеймс Утмайер. Кроме того, против компании идут отдельные иски о неправомерной смерти пользователей. [2]
Кто должен отвечать за безопасность детей в чат-ботах?
Голос анонимный.
Источники
- Коммерсантъ · 14 октября, 22:25Восемь штатов США подали в суд на разработчика ChatGPT из-за вреда детям
- CNBC — Top News · 15 октября, 00:09OpenAI sued by 8 states over ChatGPT safety concerns
- Engadget · 15 октября, 00:23Iowa, Nebraska and six other states are suing OpenAI for endangering children