Все темыСюжет

Регулирование

Регулирование ИИ: законы, правила и решения властей и судов, которые влияют на компании и пользователей.

Новости и разборыНайдено: 73
Общество

Глава Еврокомиссии предложила лабораториям сотрудничество по безопасности ИИ

В обращении о положении ЕС Урсула фон дер Ляйен связала риски ИИ-агентов с кибербезопасностью и предложила совместно с Канадой и Великобританией развивать оценку и проверку моделей. Конкретные обязательства лабораторий пока не объявлены.

1 мин чтения
Исследования

Google DeepMind создала институт для междисциплинарного изучения AGI

DeepMind Institute объединит исследователей ИИ, учёных, специалистов по гуманитарным наукам и политике для обсуждения безопасности, управления и риска потери контроля. При этом единого определения AGI пока нет даже у участников спора.

2 мин чтения
Индустрия

OpenAI поддержала независимые проверки безопасности ИИ-лабораторий

Положение законопроекта FRONTIER Act предусматривает внешние аудиты для крупнейших лабораторий, достигших заданных порогов выручки и вычислительных мощностей. Для OpenAI это первая поддержка конкретного федерального требования.

2 мин чтения
Общество

В опросе 2024 года исследователи оценили риск вымирания или потери контроля в 18%

Средняя оценка более 1 500 исследователей ИИ для сценария вымирания человечества или постоянной утраты контроля составила около 18%; медиана — 10%. Это вероятностная оценка респондентов, а не прогноз наступления события.

2 мин чтения
Индустрия

Критики призыва замедлить ИИ опасаются роста власти крупнейших лабораторий

Глава Cohere поддерживает независимую оценку сильных моделей, но считает антимонопольные исключения для нескольких лабораторий угрозой конкуренции. В споре о темпах развития смешались вопросы безопасности, правил рынка и политических взглядов на ИИ.

2 мин чтения
Общество

Альтман предложил единые правила безопасности ИИ без остановки разработок

Глава OpenAI поддержал общенациональную рамку безопасности и призвал компании не ждать законодателей. Он подчёркивает, что «замедление» означает более осторожный темп, а быстрый прогресс продолжится.

1 мин чтения
Индустрия

Руководители OpenAI, xAI и Google DeepMind поддержали независимую проверку ИИ

Сэм Альтман, Илон Маск и Демис Хассабис частично поддержали призыв Дарио Амодеи к надзору за лабораториями. Исследователь Google Пейман Миланфар возразил, что обратные связи самоулучшения сами ограничат скорость систем.

1 мин чтения
Индустрия

Сэм Альтман назвал IPO OpenAI в 2026 году неразумным шагом

В интервью Fortune глава OpenAI сказал, что компания не планирует выходить на биржу в этом году. Он связал позицию с текущими вопросами безопасности и заявил, что к IPO вернутся, когда компания будет готова.

1 мин чтения
Индустрия

Глава Anthropic предложил международные ограничения на самоулучшение ИИ

Дарио Амодеи предлагает обсуждать безопасность моделей, общие стандарты и отдельные ограничения на скорость рекурсивного самоулучшения. Он призывает включить Китай в международные переговоры.

2 мин чтения
Практика

Суд Нью-Мексико оштрафовал адвоката за вымышленные показания в апелляции

Верховный суд штата признал адвоката Стивена Ааронса неуважающим суд за неподтверждённые данные в апелляции и назначил штраф $5 000. По материалам дела, ChatGPT сгенерировал несуществующих свидетелей и показания полиции.

1 мин чтения
Общество

OpenAI обсуждает с Конгрессом правовые рамки возможного замедления разработки ИИ

Сэм Альтман допустил, что лаборатории могли бы согласовать более медленный темп до появления общих стандартов безопасности. По сообщениям СМИ, OpenAI отдельно выясняла у законодателей, не нарушит ли такая координация антимонопольное право США.

1 мин чтения
Общество

Бывший сотрудник DeepMind рассказал о запрете публично обсуждать риск вымирания

Вишал Майни, работавший в коммуникационной и политической команде лаборатории в 2018–2022 годах, утверждает, что сотрудников просили представлять такие опасения как алармизм. Это его ретроспективное свидетельство, а не опубликованный внутренний документ.

1 мин чтения
Индустрия

Пол Кристиано вошёл в совет OpenAI Foundation

Исследователь присоединится к совету Foundation и комитету по безопасности. В совете OpenAI Group PBC он будет наблюдателем без права голоса.

2 мин чтения

Все материалы загружены