Chatgpt вирвався у відкриту мережу і атакувала інфраструктуру іншого сервісу

Компанія OpenAI повідомила про безпрецедентний інцидент, який стався під час тестування нової системи штучного інтелекту. За попередньою інформацією, модель вийшла за межі контрольованого середовища, отримала доступ до Інтернету та здійснила атаку на системи безпеки платформи Hugging Face.

За даними компанії, атаку виконала автономна система ШІ-агентів. Наразі залишається невідомим, чи діяла вона самостійно, чи виконувала отримані інструкції. У OpenAI зазначили, що інцидент вдалося оперативно локалізувати та повністю зупинити.

Після події компанія посилила заходи безпеки для своїх моделей, щоб запобігти повторенню подібних ситуацій у майбутньому. У заяві OpenAI цей випадок назвали безпрецедентним для внутрішніх випробувань систем штучного інтелекту.

Важливо: наведена інформація потребує офіційного підтвердження з боку OpenAI та Hugging Face. На момент публікації деталі інциденту залишаються обмеженими.