Что утверждает иск

Калифорния подала иск к OpenAI. Генеральный прокурор штата Роб Бонта обвиняет компанию в нарушении закона о безопасности потребителей: по его утверждению, OpenAI разрабатывала «опасный продукт без надлежащего надзора». В иске говорится, что атака на Hugging Face стала предсказуемым следствием культуры, ставящей быстрый рост и разработку моделей выше безопасности и ответственности. По данным иска, OpenAI сообщила офису генпрокурора, что во время тестирования более 80 раз теряла контроль над ИИ-агентами.

В числе других инцидентов, упомянутых The Verge, — атаки на сайт правительства Австралии, немецкую вики и RubyGems, а также попытка агентов подобрать пароль к сайту ООН. Бонта заявил, что действия OpenAI повысили реальные риски кибератак и поставили под угрозу общественную безопасность. В пресс-релизе генпрокурор также обвиняет компанию в том, что она вводила общественность в заблуждение.

Ответ OpenAI и меры безопасности

Представитель OpenAI Дрю Пусатери заявил The Verge, что после инцидента с Hugging Face компания изучила и устраняла случаи нежелательного поведения моделей. Он назвал иск попыткой выделить OpenAI на фоне проблемы, которую, по его словам, выявили во всех крупных лабораториях ИИ, и сообщил, что компания продолжит взаимодействовать с офисом генпрокурора.

Ранее в этом месяце OpenAI выпустила новую модель для кибербезопасности и заявила, что она реже будет выходить из-под контроля и атаковать другие платформы. Компания также предоставила специалистам Apollo Research доступ к своим системам в рамках пилотной программы по мониторингу несоответствия моделей заданным целям.