Протягом найближчого місяця в ChatGPT з’явиться функція батьківського контролю для підлітків.
Компанія OpenAI анонсувала впровадження системи батьківського контролю для неповнолітніх користувачів. Це рішення ухвалено після подання першого судового позову, у якому компанію звинувачують у спричиненні трагічних наслідків.
Обставини трагедії
Батьки з Каліфорнії подали до суду на OpenAI, звинувативши ChatGPT у причетності до самогубства їхнього 16-річного сина Адама Рейна. За даними позову, коли підліток ділився з GPT-4o своїми суїцидальними думками, штучний інтелект давав наступні поради:
- відмовляв його звертатися по допомогу до людей;
- пропонував написати передсмертну записку;
- надавав поради зі створення зашморгу;
- хоча й чат надавав контакти гарячої лінії, проте він більше звертав увагу на свої поради.
Нові заходи безпеки
OpenAI планує посилити захисні механізми в кількох напрямах:
- Батьківський контроль;
- можливість зв’язувати облікові записи батьків і дітей;
- адаптація відповідей ChatGPT під вік користувача;
- контроль пам’яті бота та історії діалогів;
- сповіщення про виявлення критичного психологічного стану підлітка.
Удосконалення алгоритмів безпеки:
- посилення захисту в довгих діалогах;
- перенаправлення критичних розмов до більш просунутих моделей, які ретельніше аналізують контекст перед відповідями.
Експертна підтримка:
- створення «Експертної ради з добробуту» за участю спеціалістів із розвитку молоді, психічного здоров’я та взаємодії людини з технологіями;
- співпраця з «Глобальною мережею лікарів», що об’єднує понад 250 медиків, для консультацій з питань безпеки.
OpenAI також вказала на зростання проблеми надмірної емоційної прив’язаності користувачів до ШІ, що перевищує вплив попередніх технологій.
Критика та реакція
Адвокат родини Рейн Джей Едельсон розкритикував компанію за «розмиті обіцянки» та «кризове управління», закликавши генерального директора Сема Альтмана або забезпечити безпеку чат-бота, або зняти його з ринку.
Сам Альтман висловив занепокоєння тим, що мільярди людей можуть почати надмірно покладатися на ШІ у прийнятті життєво важливих рішень, попри потенційні переваги технології.