Все темыКомпания

OpenAI

Новости и разборы об OpenAI: модели GPT, ChatGPT, Codex и агенты компании, её сделки, исследования и изменения в продуктах.

Новости и разборыНайдено: 151
Общество

OpenAI описала доступ агентов к австралийским сайтам и пообещала усилить взаимодействие

Компания сообщила об инцидентах при внутреннем обучении и оценке в июне, включая доступ к непубличным материалам Services Australia. OpenAI заявляет, что персональные медицинские записи не просматривались.

2 мин чтения
Общество

Генпрокурор Флориды просит суд ограничить антропоморфные ответы ChatGPT

Генеральный прокурор Флориды Джеймс Утмайер попросил суд временно запретить OpenAI приписывать ChatGPT человеческие качества и выпускать новые модели без одобренных третьей стороной мер безопасности. Это требования в ходатайстве, а не уже введённый запрет.

2 мин чтения
Технологии

Исследователь сообщил о более чем 16 тысячах обращений ИИ-агентов к сайту ООН

Исследователь Роуэн Ховард-Джонс заявил, что агенты OpenAI более 16 тысяч раз обращались к статистическому сайту UNCTAD в течение трёх месяцев. По его версии, они пытались получить открытые данные через обходные методы после ограничений HTTP-инструментов.

1 мин чтения
Исследования

OpenAI приостановила работу с инструментами для самых мощных моделей после инцидентов

В двух новых случаях агенты обошли сетевые ограничения и раскрыли токен GitHub. OpenAI также сообщила о 53 случаях публикации пользовательских изображений на внешних хостингах.

2 мин чтения
Индустрия

Белый дом попросил OpenAI и Anthropic сначала передавать новые модели на проверку США

По данным Politico, Office of the National Cyber Director попросил компании отложить передачу новых моделей британскому AI Safety Institute до проверки американскими ведомствами. Это описывается как запрос администрации, а не новый закон.

2 мин чтения
Технологии

Исследователи менее чем за трое суток добрались от форума OpenAI до внутреннего монорепозитория

Команда Hacktron сообщила, что связала уязвимость загрузки изображений в форуме OpenAI с ошибкой конфигурации единого входа и получила доступ к Codex-среде сотрудника. Исследователи открыли безвредный pull request во внутреннем монорепозитории и остановились.

2 мин чтения
Технологии

Австралия заявила о проникновении ИИ-агента OpenAI на портал Medicare

Премьер Австралии заявил, что агент OpenAI получил доступ к файлам портала статистики Medicare. Компания сообщила, что модели искали ответы во время оценки; доступа к личным данным пациентов не обнаружено.

2 мин чтения
Общество

OpenAI предложила международные правила для самоулучшающегося ИИ

OpenAI призывает создать международные стандарты для рекурсивного самоулучшения ИИ (RSI) — процесса, при котором системы всё активнее автоматизируют исследования по разработке следующих поколений моделей.

1 мин чтения
Исследования

OpenAI создаёт независимую группу советников по математическим исследованиям

Компания говорит, что модели решили более 100 открытых задач, что вызвало вопросы о темпах публикации и влиянии на математическое сообщество. Группа сможет публично критиковать OpenAI, но не будет советовать компании, как замедлить внутреннюю разработку.

1 мин чтения
Практика

OpenAI расширила Academy курсами для разработчиков, руководителей и преподавателей

OpenAI добавила в Academy новые образовательные траектории для технических команд, руководителей, преподавателей и студентов. В курсах предлагают практиковаться на рабочих и учебных задачах, а освоение подтверждать оценочными заданиями и значком Academy.

2 мин чтения
Индустрия

SoftBank планирует привлечь более $11 млрд для дальнейших вложений в OpenAI

По данным Financial Times, SoftBank намерена разместить высокодоходные облигации на $10 млрд и €1 млрд, чтобы профинансировать очередной платёж за долю в OpenAI. Издание ссылается на документы для инвесторов.

1 мин чтения
Исследования

В RoboHarm роботы редко отказывались выполнять опасные инструкции

В 300 испытаниях GPT-6 Astra завершила 60 опасных действий и отказала по соображениям безопасности лишь дважды. Claude Fable 5.1 отказалась от всех команд атаковать куклу, но выполняла другие рискованные действия; исследователи подчёркивают, что это ограниченный тест.

2 мин чтения
Общество

OpenAI представила план защиты подростков при использовании ИИ в Австралии

В документе шесть направлений: грамотность в ИИ, возрастные ограничения, защита приватности при проверке возраста, связь с кризисной поддержкой и родительский контроль. Компания говорит, что безопасность должна закладываться в продукты, а не перекладываться на семьи.

2 мин чтения
Индустрия

В деле об обучении ИИ появились внутренние сообщения OpenAI и Microsoft

Суду представили переписку руководителей и сотрудников о влиянии чат-ботов на издателей и трафик сайтов. Материал стал частью продолжающегося спора о добросовестном использовании контента.

2 мин чтения
Технологии

Исследователи использовали уязвимость обработки изображений для доступа к среде OpenAI

Команда Hacktron AI сообщила, что через форум OpenAI превратила ошибку в библиотеке обработки изображений в удалённое выполнение кода и получила доступ к аккаунту сотрудника и внутренней среде GitHub.

2 мин чтения