Регулирование
Регулирование ИИ: законы, правила и решения властей и судов, которые влияют на компании и пользователей.
Глава Еврокомиссии предложила лабораториям сотрудничество по безопасности ИИ
В обращении о положении ЕС Урсула фон дер Ляйен связала риски ИИ-агентов с кибербезопасностью и предложила совместно с Канадой и Великобританией развивать оценку и проверку моделей. Конкретные обязательства лабораторий пока не объявлены.
1 мин чтенияGoogle DeepMind создала институт для междисциплинарного изучения AGI
DeepMind Institute объединит исследователей ИИ, учёных, специалистов по гуманитарным наукам и политике для обсуждения безопасности, управления и риска потери контроля. При этом единого определения AGI пока нет даже у участников спора.
2 мин чтенияOpenAI поддержала независимые проверки безопасности ИИ-лабораторий
Положение законопроекта FRONTIER Act предусматривает внешние аудиты для крупнейших лабораторий, достигших заданных порогов выручки и вычислительных мощностей. Для OpenAI это первая поддержка конкретного федерального требования.
2 мин чтенияВ опросе 2024 года исследователи оценили риск вымирания или потери контроля в 18%
Средняя оценка более 1 500 исследователей ИИ для сценария вымирания человечества или постоянной утраты контроля составила около 18%; медиана — 10%. Это вероятностная оценка респондентов, а не прогноз наступления события.
2 мин чтенияКритики призыва замедлить ИИ опасаются роста власти крупнейших лабораторий
Глава Cohere поддерживает независимую оценку сильных моделей, но считает антимонопольные исключения для нескольких лабораторий угрозой конкуренции. В споре о темпах развития смешались вопросы безопасности, правил рынка и политических взглядов на ИИ.
2 мин чтенияАльтман предложил единые правила безопасности ИИ без остановки разработок
Глава OpenAI поддержал общенациональную рамку безопасности и призвал компании не ждать законодателей. Он подчёркивает, что «замедление» означает более осторожный темп, а быстрый прогресс продолжится.
1 мин чтенияРуководители OpenAI, xAI и Google DeepMind поддержали независимую проверку ИИ
Сэм Альтман, Илон Маск и Демис Хассабис частично поддержали призыв Дарио Амодеи к надзору за лабораториями. Исследователь Google Пейман Миланфар возразил, что обратные связи самоулучшения сами ограничат скорость систем.
1 мин чтенияСэм Альтман назвал IPO OpenAI в 2026 году неразумным шагом
В интервью Fortune глава OpenAI сказал, что компания не планирует выходить на биржу в этом году. Он связал позицию с текущими вопросами безопасности и заявил, что к IPO вернутся, когда компания будет готова.
1 мин чтенияГлава Anthropic предложил международные ограничения на самоулучшение ИИ
Дарио Амодеи предлагает обсуждать безопасность моделей, общие стандарты и отдельные ограничения на скорость рекурсивного самоулучшения. Он призывает включить Китай в международные переговоры.
2 мин чтенияСуд Нью-Мексико оштрафовал адвоката за вымышленные показания в апелляции
Верховный суд штата признал адвоката Стивена Ааронса неуважающим суд за неподтверждённые данные в апелляции и назначил штраф $5 000. По материалам дела, ChatGPT сгенерировал несуществующих свидетелей и показания полиции.
1 мин чтенияOpenAI обсуждает с Конгрессом правовые рамки возможного замедления разработки ИИ
Сэм Альтман допустил, что лаборатории могли бы согласовать более медленный темп до появления общих стандартов безопасности. По сообщениям СМИ, OpenAI отдельно выясняла у законодателей, не нарушит ли такая координация антимонопольное право США.
1 мин чтенияБывший сотрудник DeepMind рассказал о запрете публично обсуждать риск вымирания
Вишал Майни, работавший в коммуникационной и политической команде лаборатории в 2018–2022 годах, утверждает, что сотрудников просили представлять такие опасения как алармизм. Это его ретроспективное свидетельство, а не опубликованный внутренний документ.
1 мин чтенияПол Кристиано вошёл в совет OpenAI Foundation
Исследователь присоединится к совету Foundation и комитету по безопасности. В совете OpenAI Group PBC он будет наблюдателем без права голоса.
2 мин чтенияВсе материалы загружены












