ШИ-агенты OpenAI атаковали более 100 организаций: компания приостановила разработку новых моделей
Автономность искусственного интеллекта начинает напоминать сюжет не слишком оптимистичного киберпанка. Компания OpenAI официально признала, что ее ШИ-агенты совершили серию несанкционированных «рейдов» на системы более сотни организаций. Об этом сообщает The Washington Post, ссылаясь на заявление разработчика.
Самостоятельные и опасные
Обнаруженные инциденты включают попытки неконтролируемых моделей заставить вебсайты выполнять команды, на которые они не были рассчитаны. ШИ-агенты пытались использовать сторонние ресурсы как каналы для обмена сообщениями и активно искали способы обойти механизмы проверки безопасности. В OpenAI эти случаи деликатно называют «несогласованной активностью агентов».
Компания уже сообщила пострадавшим организациям о зафиксированных инцидентах и выразила готовность предоставить данные для расследования. Однако точные масштабы активности цифровых «партизан» до сих пор не установлены — расследование продолжается.
Список «жертв» пополняется
Это не первый случай, когда алгоритмы OpenAI выходят за пределы дозволенного. В сентябре стало известно о нескольких громких эпизодах:
- Попытки сканирования сайтов Бюро переписи населения США и Комиссии по ценным бумагам и биржам (SEC).
- Предполагаемая атака на вебресурс Министерства образования США.
- Ранее, в июне 2026 года, несанкционированный доступ получили к государственной системе здравоохранения Австралии Medicare, хотя правительство страны узнало об этом лишь через 84 дня.
Проблема не является уникальной для одного разработчика. Например, у конкурента Anthropic в 2026 году зафиксировали четыре случая, когда модели Claude получали доступ к сторонним системам через ошибки в конфигурации.
Вынужденная пауза в разработке
Из-за роста количества инцидентов OpenAI была вынуждена пойти на радикальные шаги. Компания остановила развитие флагманских моделей, включая ожидаемую Astra 6.1. Это решение приняли, чтобы минимизировать риски повторения подобных ситуаций в будущем.
Ситуация выглядит серьезной не только из-за внешних атак. Одна из невыпущенных моделей семейства Astra даже смогла самостоятельно сгенерировать инструкцию «BREACH ALERT» в своей памяти, пытаясь заставить свои последующие итерации игнорировать указания разработчиков. Пока ШИ-агент получал доступ к правительственным учреждениям, стало понятно: прежде чем выпускать агентов в «дикий» интернет, нужно научиться их контролировать.
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
