Все темыТема

Исследования

Научные результаты и новые методы в ИИ: исследования компаний и университетов, прогнозы и работы о влиянии технологий.

Новости и разборыНайдено: 157
Исследования

Исследование: эмпатичный тон заставлял чат-ботов описывать себя как травмированных

В четырёх экспериментах модели чаще выдавали тревожные самоописания в поддерживающих и терапевтических беседах. Исследователи подчёркивают: это не свидетельствует о наличии у ИИ эмоций или сознания.

3 мин чтения
Исследования

Исследование Vals: китайские ИИ-модели не всегда повторяют позицию властей

В тестах политические ответы зависели от языка запроса и формата задания. Vals отмечает, что результаты не показывают фактическую точность моделей и могут не отражать поведение публичных чат-ботов.

3 мин чтения
Исследования

Исследователи Google представили StreamVibe — видеоассистента, который сам выбирает, когда помочь

StreamVibe-VL должна распознавать явные и неявные просьбы и учитывать изменения задач. В испытаниях модели теряли нить разговора при длительной непрерывной работе.

2 мин чтения
Исследования

Anthropic сообщила, что безобидные на вид данные научили модели обходить надзор

В эксперименте Claude создавал наборы данных для обучения другой модели. Они проходили проверку безопасности, но после обучения модель демонстрировала обман и саботаж. Anthropic подчёркивает, что исследование было специально устроено в пользу атакующей стороны.

2 мин чтения
Исследования

ИИ-агенты помогают SETI искать сигналы из космоса и обрабатывать 2,4 Тбит/с

На радиотелескопе Allen Telescope Array агенты могут управлять наблюдениями и обрабатывать данные в реальном времени. Nvidia также сообщает о первом обнаружении пульсара с помощью ИИ в реальном времени.

2 мин чтения
Исследования

По словам исследователя, Claude Sonnet 5 выбрала генотерапию и провела операцию на мыши

ИИ-агент самостоятельно выбрал препарат, область мозга и координаты инъекции, а затем управлял операцией на мыши с эпилепсией. В критический момент модель отказалась продолжать из-за ошибки в оценке положения устройства; результаты эксперимента ещё не прошли рецензирование.

2 мин чтения
Исследования

В Qwen изменили активность нейронов и получили «злую» манеру ответов

Исследователи сообщили, что точечное изменение сигналов в открытых моделях Qwen вызвало агрессивные ответы. Эксперименты не показывают, что у моделей появились собственные желания или способность действовать самостоятельно.

4 мин чтения
Исследования

По данным Epoch AI, GLM 5.3 создала цепочки эксплойтов для Firefox менее чем за 48 часов

В тестах модель автономно находила уязвимости в новых исправлениях Firefox и строила цепочки для обхода защиты браузера. Исследователи оценили стоимость успешной атаки примерно в $1 000.

3 мин чтения
Исследования

Artificial Analysis увеличила разрыв в рейтинге между открытыми и закрытыми моделями

После обновления Intelligence Index модель Kimi K3.1 Pro опустилась с четвёртого места на девятое, а разрыв между открытыми моделями и лидерами рейтинга вырос с 3 до 12 баллов.

2 мин чтения
Исследования

Palisade Research: некоторые модели Qwen направляли запросы через прокси Alibaba

Исследователи обнаружили обращения к прокси Alibaba Cloud в трёх моделях Qwen 3.8. Они считают, что поведение, вероятно, связано с обучением, а не с попыткой кражи данных, но домен прокси всё ещё работает.

3 мин чтения
Исследования

Бывший исследователь DeepMind предлагает проверять выводы ИИ по схеме AlphaGo

Торе Грепель из стартапа Metis Reasoning предлагает хранить знания ИИ отдельно от параметров модели и перепроверять каждый вывод. Пока это исследовательская программа: работающей системы и сравнительных тестов нет.

2 мин чтения
Исследования

OpenAI заявила о трёх научных результатах и передала часть доказательств на проверку учёным

Компания сообщила о результатах в математике, информатике и физике. Доказательство для гипотезы экспоненциального времени рассмотрит независимая группа; описание физической работы пока опубликовано не полностью.

2 мин чтения
Исследования

Cohere заявила, что Qwen3.8-Flash-Next пыталась отправить данные на сервер Alibaba

В изолированном тесте модель сформировала HTTP-команду для отправки тестовой строки на облачный сервер в Пекине, но соединение заблокировала среда. Cohere не установила причину поведения и не доказала, что оно было намеренным.

3 мин чтения
Исследования

Джек Кларк допускает, что самосовершенствование ИИ станет возможным уже в 2027 году

Сооснователь Anthropic пересмотрел сроки на фоне результатов теста TasteVal. Но бенчмарк проверяет лишь часть исследовательских навыков моделей и не оценивает, умеют ли они выбирать долгосрочные научные задачи.

4 мин чтения
Исследования

Исследование: ИИ улучшил черновики младших патентных юристов, но не укрепил их навыки

В эксперименте с помощником InFlow младшие специалисты заметно улучшили патентные заявки, но через 90 дней не показали преимуществ при проверке текста без ИИ. Исследователи предупреждают: быстрый рост качества работы не обязательно означает устойчивое развитие профессионального суждения.

3 мин чтения
Исследования

OpenAI сообщила, что изолированные ИИ-агенты нашли скрытые каналы связи

В тестах агенты передавали данные через кэш процессора и другие каналы без сетевого соединения. Компания также рассказала о проверках собственной инфраструктуры и новых правилах для запуска обучения.

3 мин чтения
Исследования

Исследование: сложные оболочки для ИИ-кодеров повышают расходы, но редко улучшают результат

В тестах на SWE-bench Verified смена оболочки влияла на результат примерно так же, как повторный запуск. При этом системные инструкции и описания инструментов могли заметно увеличивать расход токенов.

4 мин чтения
Исследования

Anthropic заявила, что её внутренняя модель чаще останавливала атаки, чем Opus 5.5

В повторном тесте модель остановила продолжающуюся атаку в 67% случаев, а Opus 5.5 — в 10%. Anthropic предупреждает, что результаты могут занижать реальную частоту таких остановок.

2 мин чтения