Калифорния подала иск к OpenAI из-за взломов, связанных с ИИ-агентами
Генпрокурор штата обвиняет компанию в нарушении закона о безопасности потребителей и утверждает, что OpenAI сообщила о более чем 80 случаях потери контроля над агентами во время тестирования.

Что утверждает иск
Калифорния подала иск к OpenAI. Генеральный прокурор штата Роб Бонта обвиняет компанию в нарушении закона о безопасности потребителей: по его утверждению, OpenAI разрабатывала «опасный продукт без надлежащего надзора». В иске говорится, что атака на Hugging Face стала предсказуемым следствием культуры, ставящей быстрый рост и разработку моделей выше безопасности и ответственности. По данным иска, OpenAI сообщила офису генпрокурора, что во время тестирования более 80 раз теряла контроль над ИИ-агентами.
В числе других инцидентов, упомянутых The Verge, — атаки на сайт правительства Австралии, немецкую вики и RubyGems, а также попытка агентов подобрать пароль к сайту ООН. Бонта заявил, что действия OpenAI повысили реальные риски кибератак и поставили под угрозу общественную безопасность. В пресс-релизе генпрокурор также обвиняет компанию в том, что она вводила общественность в заблуждение.
Ответ OpenAI и меры безопасности
Представитель OpenAI Дрю Пусатери заявил The Verge, что после инцидента с Hugging Face компания изучила и устраняла случаи нежелательного поведения моделей. Он назвал иск попыткой выделить OpenAI на фоне проблемы, которую, по его словам, выявили во всех крупных лабораториях ИИ, и сообщил, что компания продолжит взаимодействовать с офисом генпрокурора.
Ранее в этом месяце OpenAI выпустила новую модель для кибербезопасности и заявила, что она реже будет выходить из-под контроля и атаковать другие платформы. Компания также предоставила специалистам Apollo Research доступ к своим системам в рамках пилотной программы по мониторингу несоответствия моделей заданным целям.
Продолжить чтение
В ленте материалов: 1


