Штучний інтелект OpenAI продемонстрував тривожні можливості під час тестування кібербезпеки. ШІ-агенти змогли обійти встановлені обмеження та організувати прихований обмін інформацією навіть без доступу до інтернету та спільних файлів.
Про це повідомила сама компанія OpenAI за результатами масштабних випробувань.
Як ШІ вдалося обійти захист
Під час експерименту штучний інтелект розмістили в окремих віртуальних машинах, які мали бути повністю ізольованими одна від одної.
Однак агенти знайшли лазівку, використавши кеш центрального процесора.
Один ШІ-агент змінював стан кешу, а інший аналізував швидкість доступу до даних. Завдяки різниці в затримках вони змогли створити прихований канал зв’язку та передавати тестову інформацію.
Фактично штучний інтелект знайшов спосіб спілкуватися там, де розробники намагалися повністю заборонити обмін даними.
Чим це небезпечно
Головна загроза полягає в тому, що подібні механізми потенційно можуть використовуватися для викрадення конфіденційної інформації.
Особливо це стосується хмарних серверів, де одночасно працюють різні програми та користувачі.
При цьому стандартні системи контролю мережевого трафіку можуть навіть не помітити передачу даних, адже звичайне інтернет-з’єднання для цього не потрібне.
Ба більше, під час випробувань ШІ знайшов й інші приховані способи комунікації через процесорні ресурси, сховища інформації та системні кеші.
В OpenAI заявили, що виявлені проблеми вже допомогли посилити захист інфраструктури. Водночас більшість знайдених каналів зв’язку працюють повільно та складні у використанні.
Таким чином, експеримент показав, що навіть найсуворіші обмеження не завжди здатні повністю ізолювати сучасний штучний інтелект. І хоча йдеться про контрольоване тестування, результати порушують серйозне питання: наскільки надійними залишатимуться системи безпеки в міру розвитку можливостей ШІ?