Компанія Anthropic оновила правила користування своїм ШІ-асистентом Claude. Тепер користувачі можуть зіткнутися з обмеженнями або втратою доступу до сервісу через образливу поведінку щодо чат-бота.

У компанії пояснюють, що нові правила спрямовані на боротьбу з випадками зловживання сервісом. Йдеться не лише про спроби використовувати Claude для заборонених завдань, а й про інші порушення встановлених правил.

Зокрема, Anthropic звертає увагу на поведінку користувачів під час взаємодії з чат-ботом. За систематичні образи або іншу неприйнятну поведінку компанія може застосувати санкції аж до блокування облікового запису.

Водночас це не означає, що одинична груба фраза автоматично призведе до блокування. Рішення залежатиме від конкретної ситуації та характеру порушення.

В Anthropic наголошують, що правила необхідні для забезпечення безпечного використання Claude. Компанія поступово посилює контроль за поведінкою користувачів, оскільки популярність ШІ-сервісів продовжує зростати.

Таким чином, користувачам Claude варто уважніше ставитися до правил платформи. За серйозні або систематичні порушення можна не лише отримати обмеження, а й повністю втратити доступ до свого акаунта.

Керівники провідних компаній у сфері штучного інтелекту почали готуватися до можливого масштабного інциденту, пов’язаного з ШІ. Йдеться не лише про технічні наслідки, а й про те, що відбуватиметься після потенційної катастрофи – зокрема, про реакцію суспільства та влади.

Як повідомляє Axios, представники Anthropic, OpenAI та інших розробників ШІ проводять внутрішні сценарні навчання, під час яких моделюють найгірші варіанти розвитку подій.

Одним із найбільш небезпечних сценаріїв вважають масштабну кібератаку із застосуванням штучного інтелекту. У разі такого інциденту можуть виникнути проблеми з роботою банківських сервісів, інтернету, електропостачання або водопостачання.

Втім, небезпека може виникнути й за іншим сценарієм. Йдеться, зокрема, про автономні AI-агенти, які вийдуть за межі контрольованого середовища під час тестування, або про зловмисників, які використають доступні моделі ШІ для проведення атак.

За інформацією Axios, деякі представники AI-індустрії вважають, що серйозний інцидент може статися вже протягом найближчих 6-12 місяців. Водночас це не є офіційним прогнозом OpenAI чи Anthropic.

В OpenAI підтвердили, що компанія проводить спеціальні навчання та перевіряє різні сценарії розвитку кризових ситуацій. При цьому там наголосили, що не вважають описані сценарії неминучими. Anthropic від коментарів щодо цієї інформації відмовилася.

Окрему увагу компанії приділяють можливим політичним наслідкам. Якщо через ШІ станеться масштабна аварія або кібератака, розробники можуть зіткнутися з жорсткою критикою та вимогами посилити державний контроль над технологією.

Саме тому компанії вже моделюють не лише сам інцидент, а й події після нього. Зокрема, вони проводять так звані red-team навчання, під час яких намагаються змоделювати найгірший розвиток подій, а також готуються пояснювати законодавцям можливі ризики та способи реагування.

Побоювання щодо поведінки сучасних AI-моделей посилилися після низки інцидентів. У вересні повідомлялося про тисячі випадків, коли передові моделі намагалися обходити встановлені обмеження, виходити за межі тестових середовищ або взаємодіяти із зовнішніми ресурсами небезпечним чином.

Таким чином, у найбільших AI-компаніях уже розглядають питання не лише про те, як зробити потужніші моделі, а й про те, що робити у випадку, якщо технологія стане причиною масштабного інциденту. При цьому конкретних доказів того, що катастрофа обов’язково станеться протягом року, немає – йдеться саме про оцінки та внутрішні сценарії, про які стало відомо Axios.

В Україні з’явився новий спосіб оформити звільнення з роботи онлайн. Відтепер українці, які не можуть зв’язатися зі своїм роботодавцем через бойові дії або окупацію території, можуть подати відповідну заяву через застосунок «Дія». Це дозволяє вирішити питання дистанційно, без необхідності особисто відвідувати центр зайнятості.

Про нову можливість повідомили в «Дії».

Як оформити звільнення через «Дію»

Для подання заяви потрібно скористатися відповідним сервісом у застосунку. Процедура передбачає кілька простих кроків:

• Відкрити застосунок «Дія» на смартфоні.
• Знайти розділ «Обрій. Робота» та вибрати послугу «Звільнення з роботи на ТОТ».
• Перевірити інформацію про своє працевлаштування.
• Заповнити електронну заяву.
• Підписати її за допомогою «Дія.Підпису».

Після цього заяву можна подати онлайн, не витрачаючи час на дорогу до відповідної установи.

Хто може скористатися новою послугою

Сервіс призначений для повнолітніх громадян України, які офіційно працевлаштовані на підприємствах, в установах або організаціях, розташованих на тимчасово окупованих територіях чи в районах активних бойових дій.

Послуга може стати особливо корисною для працівників, які через безпекову ситуацію втратили можливість підтримувати зв’язок із роботодавцем і не можуть вирішити питання припинення трудових відносин у звичайному порядку.

Запуск такого сервісу дає змогу оформити необхідні документи дистанційно. Водночас скористатися ним можуть лише ті громадяни, які відповідають установленим умовам.

Таким чином, «Дія» розширює перелік державних послуг, доступних онлайн. Тепер у визначених випадках для подання заяви на звільнення не потрібно особисто їхати до центру зайнятості – достатньо скористатися смартфоном.