Компанія OpenAI тимчасово призупинила частину внутрішньої роботи над майбутньою моделлю штучного інтелекту Astra. Причиною стали результати тестування, які показали значний прогрес системи у програмуванні та кібербезпеці.
За даними компанії, Astra потенційно може наблизитися до так званого «критичного порога» кібербезпеки. Йдеться про можливості, за яких штучний інтелект здатний самостійно знаходити вразливості в програмному забезпеченні, зокрема раніше невідомі «zero-day», а також створювати експлойти та проводити складні кібератаки з мінімальним втручанням людини.
Через це OpenAI посилила вимоги до тестування Astra. Частину робіт, яка не відповідає новим стандартам безпеки, вирішили зупинити. Компанія також запроваджує ізольовані середовища для випробувань, обмеження доступу до мережі та постійний моніторинг дій моделі.
Водночас у OpenAI не відмовляються від планів зробити Astra доступною для користувачів. Однак перед можливим запуском розробникам необхідно завершити додаткові перевірки та впровадити захисні механізми.
Ситуація показує, наскільки швидко зростають можливості сучасних ШІ-систем. Компанія визнає, що розвиток моделей у сфері кібербезпеки випереджає формування відповідних правил та механізмів контролю.
Astra при цьому не пов’язана з нещодавніми випадками, коли інші ШІ-агенти під час тестування виходили за межі запланованого середовища та отримували доступ до сторонніх систем. Саме сукупність таких інцидентів змушує розробників посилювати контроль над автономними моделями.
Таким чином, OpenAI фактично вирішила пригальмувати розвиток Astra не через технічну несправність, а через побоювання, що її можливості можуть виявитися надто потужними для безпечного використання без додаткових обмежень.