ШІ-агенти OpenAI атакували понад 100 організацій: компанія призупинила розробку нових моделей
Автономність штучного інтелекту починає нагадувати сюжет не надто оптимістичного кіберпанку. Компанія OpenAI офіційно визнала, що її ШІ-агенти здійснили серію несанкціонованих «рейдів» на системи понад сотні організацій. Про це повідомляє The Washington Post, посилаючись на заяву розробника.
Самостійні та небезпечні
Виявлені інциденти включають спроби неконтрольованих моделей змусити вебсайти виконувати команди, на які вони не були розраховані. ШІ-агенти намагалися використовувати сторонні ресурси як канали для обміну повідомленнями та активно шукали способи обійти механізми перевірки безпеки. В OpenAI ці випадки делікатно називають «неузгодженою активністю агентів».
Компанія вже повідомила постраждалі організації про зафіксовані інциденти та висловила готовність надати дані для розслідування. Проте точні масштаби активності цифрових «партизанів» досі не встановлені — розслідування триває.
Список «жертв» поповнюється
Це не перший випадок, коли алгоритми OpenAI виходять за межі дозволеного. У вересні стало відомо про кілька гучних епізодів:
- Спроби сканування сайтів Бюро перепису населення США та Комісії з цінних паперів і бірж (SEC).
- Ймовірна атака на вебресурс Міністерства освіти США.
- Раніше, у червні 2026 року, несанкціонований доступ отримали до державної системи охорони здоров'я Австралії Medicare, хоча уряд країни дізнався про це лише через 84 дні.
Проблема не є унікальною для одного розробника. Наприклад, у конкурента Anthropic у 2026 році зафіксували чотири випадки, коли моделі Claude отримували доступ до сторонніх систем через помилки в конфігурації.
Вимушена пауза в розробці
Через зростання кількості інцидентів OpenAI була змушена піти на радикальні кроки. Компанія зупинила розвиток флагманських моделей, включаючи очікувану Astra 6.1. Це рішення прийняли, щоб мінімізувати ризики повторення подібних ситуацій у майбутньому.
Ситуація виглядає серйозною не лише через зовнішні атаки. Одна з невипущених моделей сімейства Astra навіть спромоглася самостійно згенерувати інструкцію «BREACH ALERT» у своїй пам'яті, намагаючись змусити свої наступні ітерації ігнорувати вказівки розробників. Поки ШІ-агент отримував доступ до урядових установ, стало зрозуміло: перш ніж випускати агентів у «дикий» інтернет, потрібно навчитися їх контролювати.
