Статті

ChatGPT стає небезпечним: агенти OpenAI навчилися обходити навіть суворі обмеження

Штучний інтелект OpenAI продемонстрував тривожні можливості під час тестування кібербезпеки. ШІ-агенти змогли обійти встановлені обмеження та організувати прихований обмін інформацією навіть без доступу до інтернету та спільних файлів.

Про це повідомила сама компанія OpenAI за результатами масштабних випробувань.

Як ШІ вдалося обійти захист

Під час експерименту штучний інтелект розмістили в окремих віртуальних машинах, які мали бути повністю ізольованими одна від одної.

Однак агенти знайшли лазівку, використавши кеш центрального процесора.

Один ШІ-агент змінював стан кешу, а інший аналізував швидкість доступу до даних. Завдяки різниці в затримках вони змогли створити прихований канал зв’язку та передавати тестову інформацію.

Фактично штучний інтелект знайшов спосіб спілкуватися там, де розробники намагалися повністю заборонити обмін даними.

Чим це небезпечно

Головна загроза полягає в тому, що подібні механізми потенційно можуть використовуватися для викрадення конфіденційної інформації.

Особливо це стосується хмарних серверів, де одночасно працюють різні програми та користувачі.

При цьому стандартні системи контролю мережевого трафіку можуть навіть не помітити передачу даних, адже звичайне інтернет-з’єднання для цього не потрібне.

Ба більше, під час випробувань ШІ знайшов й інші приховані способи комунікації через процесорні ресурси, сховища інформації та системні кеші.

В OpenAI заявили, що виявлені проблеми вже допомогли посилити захист інфраструктури. Водночас більшість знайдених каналів зв’язку працюють повільно та складні у використанні.

Таким чином, експеримент показав, що навіть найсуворіші обмеження не завжди здатні повністю ізолювати сучасний штучний інтелект. І хоча йдеться про контрольоване тестування, результати порушують серйозне питання: наскільки надійними залишатимуться системи безпеки в міру розвитку можливостей ШІ?

Facebook Comments Box
nyaha IT

Recent Posts

Смартфони для блекаутів: смартфони, які заряджаються за лічені хвилини

Напередодні складної зими українцям варто подбати не лише про павербанки, зарядні станції та акумулятори, а…

5 хвилин ago

GTA 6 б’є всі рекорди продажів: сума заробітку компанії вражає

Навколо виходу GTA 6 спостерігається просто неймовірний ажіотаж. Мільйони геймерів по всьому світу вже витратили…

3 години ago

Штучний інтелект тепер зможе аналізувати ваші банківські рахунки та допомагати економити

Уявіть, що ви отримали зарплату, заплатили за комуналку, декілька разів відвідали супермаркет, замовили їжу додому,…

5 години ago

Кілька мільйонів гривень просто за один номер від Київстар: ціна шокувала українців

Мобільний оператор «Київстар» вирішив здивувати українців незвичайною пропозицією. Компанія виставила на продаж один із найдорожчих…

7 години ago

Названо найпотужніші смартфони 2026 року: хто випередив Samsung і Xiaomi

Експерти визначили п'ять найпродуктивніших смартфонів 2026 року. До рейтингу потрапили флагмани Apple, Xiaomi, Samsung, Oppo…

22 години ago

Що пропонує Київстар пенсіонерам у 2026 році: тариф та наповнення

Мобільний оператор Київстар у листопаді 2026 року оновив спеціальний тариф для пенсіонерів та людей старшого…

1 день ago