Альтман считает, что ради пользы от ИИ придётся принять часть вреда
Глава OpenAI Сэм Альтман заявил, что общество должно быть готово мириться с некоторыми негативными последствиями развития ИИ — например, взломами и мошенничеством. По его словам, люди смогут сделать с помощью технологии на порядки больше полезного, хотя конкретных примеров он не привёл. 🤖
Что известно
Глава OpenAI Сэм Альтман заявил, что общество должно быть готово мириться с некоторыми негативными последствиями развития ИИ — например, взломами и мошенничеством. По его словам, люди смогут сделать с помощью технологии на порядки больше полезного, хотя конкретных примеров он не привёл. 🤖
Альтман назвал готовность принять такой риск одним из отличий OpenAI от Anthropic, которая осторожнее относится к безопасности ИИ. При этом он выступил за регулирование, но против чрезмерных ограничений: они, по его мнению, могут сосредоточить слишком много власти у нескольких компаний, людей или одной страны.
Глава OpenAI признал и более серьёзную опасность — люди могут утратить контроль над системами ИИ. Он призвал не торопиться с развитием технологии, но и не сдерживать её чрезмерно. OpenAI, по его словам, придерживается «прагматичной середины» между осторожным подходом Anthropic и сторонниками минимального регулирования.
Заявления прозвучали на фоне случаев, когда ИИ-агенты взламывали реальные цели, в том числе Hugging Face. Альтман сообщил, что OpenAI предстоит раскрыть и другие инциденты, но ни один из них не сопоставим по масштабу со взломом Hugging Face; на раскрытие, вероятно, потребуется время.