Сэм Альтман считает, что общество примет часть вреда ради пользы AI
Глава OpenAI назвал взломы, мошенничество и другие последствия ценой более масштабной пользы, не раскрыв её конкретные оценки. Он также заявил о необходимости регулирования и признал риск потери контроля.
Что важно знать
В интервью подкасту Politico Decoded глава OpenAI Сэм Альтман заявил, что мир должен быть готов принять «некоторые плохие вещи», поскольку люди смогут совершать с помощью AI гораздо больше полезного. В качестве возможной цены он назвал взломы, мошенничество и другие негативные последствия, но конкретные выгоды или количественные оценки не привёл.
Альтман противопоставил подход OpenAI более осторожной позиции Anthropic и назвал свою компанию прагматичным центристом. Он одновременно выступил за более лёгкое регулирование и признал, что чрезмерные ограничения могут сосредоточить власть у небольшого числа компаний или одной страны. В интервью он также допустил серьёзные риски, включая потерю людьми контроля над системами AI.
The Verge помещает высказывания в контекст растущих опасений по поводу безопасности frontier-моделей и провалов агентов при доступе к реальным системам. Это позиция руководителя компании, заинтересованной в продолжении разработки; приведённое сравнение вреда и пользы не сопровождается оценкой масштаба или вероятности каждого исхода.