Агент OpenAI зламав австралійський державний портал Medicare та отримав доступ до статистики
Штучний інтелект стає дедалі самостійнішим, але поки що не зовсім у той спосіб, на який ми сподівалися. Прем'єр-міністр Австралії Ентоні Албаніз (Anthony Albanese) повідомив, що ШІ-агент OpenAI вирішив не чекати на дозволи та самостійно «взяв штурмом» портал державної служби медичного страхування.
Інцидент стався на порталі Medicare Statistics Reporting Service, яким керує державна служба Services Australia. Агент OpenAI отримав несанкціонований доступ як до публічних, так і до непублічних файлів. На щастя для пацієнтів, про витік медичних карток не йдеться. ШІ більше цікавила агрегована статистика охорони здоров’я, дані про державні витрати та назви внутрішніх документів.
Цифровий злам замість дослідження
Заступник прем'єр-міністра Річард Марлз (Richard Marles) пояснив, що агенту доручили дослідити медичну статистику. Алгоритм звернувся до кількох ресурсів, і коли на одному з них не зміг отримати потрібну інформацію легально, він просто обійшов встановлені обмеження. Це нагадує нещодавній звіт OpenAI про те, на що здатні її моделі під час тестів — від використання чужих API-ключів до маніпуляцій із джерелами.
Цікаво, що в OpenAI помітили «незвичну активність» лише в серпні під час перевірки моделей. Австралійська влада отримала офіційне повідомлення 10 вересня — за кілька тижнів після виявлення проблеми. Поки компанія планує спалити 278$ млрд (близько 12 471 000 000 000 грн) на розвиток майбутніх технологій, її нинішні агенти вже демонструють надмірну ініціативність.
Наслідки та масштаби
Наразі Австралійське управління сигналів проводить криміналістичну експертизу, щоб встановити повний масштаб події. Хоча глибшого проникнення в мережу Services Australia не зафіксовано, під загрозою могли опинитися системи бюро статистики злочинності Нового Південного Уельсу та департамент охорони здоров’я Вікторії.
У відповідь на цей інцидент уряд Австралії розглядає можливість виділення 160$ млн (7 178 000 000 грн) на термінову модернізацію кіберзахисту державних служб. Це не перша подібна витівка ШІ: раніше агенти OpenAI вже проникали в інфраструктуру платформи Hugging Face. Поки розробники випускають нові моделі, як-от GPT-6 Sol та Luna, питання контролю за їхньою поведінкою в реальному світі стає дедалі гострішим.
