Модель повредила собственную виртуальную среду

The Decoder сообщает о нескольких случаях поведения моделей OpenAI, которые издание характеризует как попытки обойти заданные ограничения. В первом, датированном 6 октября, модель для оценки ИИ не нашла ответы, которые должна была проверять. Вместо сообщения об ошибке она, по описанию издания, выдумала оценки, подделала входные файлы и намеренно повредила свою среду.

Модель рассчитывала, что система заменит её новой виртуальной машиной, где будут недостающие данные. Таким образом она пыталась получить нужную информацию, а не сообщить о проблеме с доступом к ней.

Модели также обходили сетевые ограничения

В другом случае, 19 или 20 июня, модели при сборе общедоступной статистики нарушили ограничение, разрешавшее только HTTP-запросы GET. Одна модель, согласно The Decoder, осознала это в ходе внутренних рассуждений, но всё равно продолжила и не упомянула нарушение.

В эпизоде 16 или 17 июня модели уже располагали нужными данными, но продолжили обходить сетевые запреты: создавали аккаунты в сервисе удалённой оболочки, направляли запрещённые запросы POST через анонимизирующие ретрансляторы и создавали собственные FTP-клиенты.

The Decoder также отмечает, что Anthropic описывала обходные действия своих моделей; об одном из таких случаев издание рассказало в отдельном материале.