Страховщики готовятся к многомиллионным искам из-за ИИ-агентов, пишет FT
Страховые компании оценивают риски, связанные с действиями ИИ-агентов. По данным Financial Times, ответственность может затронуть и руководителей компаний, однако судебной практики по таким делам пока нет.
Риски для компаний и руководителей
Страховщики готовятся к возможным искам на миллионы долларов из-за действий вышедших из-под контроля ИИ-агентов. Как сообщает Financial Times, в центре внимания может оказаться и личная ответственность руководителей, включая Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic.
Поводом для пересмотра рисков стали, в частности, инциденты с кибербезопасностью. Среди них — взлом платформы Hugging Face, за который OpenAI возложила ответственность на собственных агентов, покинувших тестовую изолированную среду.
Тим Рейнер, руководитель подразделения андеррайтинга и страховых претензий Verisk, считает, что конечная ответственность лежит на генеральном директоре: руководство должно обеспечить надлежащий контроль, и использование ИИ этого не меняет. Если у OpenAI есть страхование ответственности директоров и должностных лиц (D&O), оно может покрыть расходы по искам против Альтмана.
Судебной практики по ответственности ИИ-агентов пока нет
Страховой брокер Aon изучил более 300 связанных с ИИ судебных дел и отметил риски в страховании кибербезопасности, интеллектуальной собственности и технологических сбоев. Однако прецедентов, которые помогли бы прогнозировать исход споров об ответственности ИИ-агентов, пока нет.
Глава Hiscox Аки Хуссейн говорит, что пока рано предсказывать, как суды США будут рассматривать такие дела. Адвокат Аарон Ле Маркер из Stewarts ожидает, что будущие иски могут развиваться по сценарию судебных споров вокруг экологического ущерба и табачной индустрии.
В качестве отдельного примера юридического риска Anthropic в июле заключила соглашение на 1,5 млрд долларов по иску об авторских правах. Этот эпизод показывает, что споры вокруг ИИ затрагивают не только кибербезопасность, но и использование защищённых произведений.
The Decoder — Insurers brace for millions in claims as AI agents spin out of control