Компанія Meta представила нову модель штучного інтелекту “Muse Glimmer”, яка здатна працювати безпосередньо на звичайному персональному комп’ютері. Розробники зробили ставку на локальний запуск, завдяки чому для роботи моделі не обов’язково постійно звертатися до хмарних серверів.
Новинка має “30 мільярдів параметрів”, але при цьому оптимізована таким чином, щоб запускатися на одному графічному процесорі. Це робить Muse Glimmer значно доступнішою для користувачів, які хочуть використовувати потужний ШІ на власному ПК.
ШІ може працювати локально
Головна особливість Muse Glimmer полягає саме у можливості локальної роботи. Модель розроблялася для так званих агентних завдань – тобто ситуацій, коли штучний інтелект не просто відповідає на запитання, а може виконувати послідовність дій відповідно до поставленого завдання.
Серед потенційних сценаріїв Meta називає організацію файлів, роботу з розкладом та інші повсякденні завдання. Таким чином, ШІ поступово перетворюється з простого чат-бота на своєрідного цифрового помічника, який може взаємодіяти з програмами та інформацією на комп’ютері.
Ще одна важлива перевага локального запуску – дані не обов’язково передавати на віддалені сервери. Це може бути особливо важливо під час роботи з особистими файлами або іншою приватною інформацією.
Muse Glimmer вже доступна у відкритому форматі через платформу Hugging Face. Meta фактично продовжує розвивати стратегію відкритих моделей, намагаючись конкурувати з компаніями, які також роблять ставку на ШІ, доступний для запуску на власному обладнанні.
Водночас Muse Glimmer є меншою версією потужнішої “Muse Spark 1.2”. У Meta вже заявили про плани відкрити доступ і до цієї моделі в майбутньому.
Для користувачів це може стати важливим кроком у розвитку так званого локального ШІ. Якщо раніше найпотужніші моделі переважно працювали у великих дата-центрах, то тепер дедалі більше можливостей штучного інтелекту переносяться безпосередньо на комп’ютери користувачів.