ИИ размером с записную книжку: крошечные агенты учатся работать без облака
ИИ размером с записную книжку: крошечные агенты учатся работать без облака
Мы привыкли, что умные помощники живут где-то далеко — на серверах больших компаний. А что, если такой помощник поместится прямо в ваш телефон или ноутбук и будет работать без интернета? Именно об этом две свежие новости из мира ИИ: команда Tether AI Research показала модель BotPsy на 0,8 миллиарда параметров, а разработчики Ornith выпустили облегчённую версию своей модели на 9 миллиардов — с вариантом для мобильных устройств.
Что вообще происходит
Начнём с простого: «параметры» — это, грубо говоря, объём «мозга» модели. Чем больше, тем умнее, но тем больше нужен компьютер. BotPsy — это как раз про экономию: меньше миллиарда параметров, а задача у него вполне взрослая — выполнять действия за вас. Поиск в интернете, работа с файлами, календарём, почтой, покупки, управление устройствами. Разработчики специально учили модель не «рассуждать о высоком», а выбирать нужный инструмент и делать шаг за шагом. И, судя по их цифрам, получилось неплохо: на тестах агентных способностей результат вырос примерно вдвое по сравнению с базовой моделью — например, показатель BFCL v4 поднялся с 23,4 до 44,0, а τ-bench — с 23,2 до 51,5. Об этом подробно пишет creati.ai.
Вторая история — про семейство Ornith-1.5. Его младшая версия на 9 миллиардов параметров уже помещается на одну видеокарту, а квантованная мобильная сборка, по словам разработчиков, рассчитана на телефоны. В тестах на «умение писать код» и решать задачи модель обходит многих конкурентов своего размера, а иногда подбирается к моделям в разы крупнее. Не бог весть какой прорыв, но тенденция видна: маленькое становится всё более дееспособным.
📖 Кстати, больше новостей, кейсов и разборов о том, как искусственный интеллект меняет нашу жизнь, мы собираем в нашей рубрике ИИ и нейросети на сайте Lamvi.Art. Заходите почитать!
Что это значит для нас
Для обычного человека тут три плюса. Первый — приватность: если помощник работает на вашем устройстве, ваши переписки и файлы не уходят в чужое облако. Второй — цена: не нужно платить за подписку на мощный сервер. Третий — доступность: такой ИИ сможет работать там, где интернет слабый или его нет вовсе. Правда, честности ради: разработчики BotPsy сами предупреждают, что модель не годится для серьёзных и рискованных задач — это помощник для повседневных дел, а не замена специалисту. И независимых проверок этих цифр пока нет, так что верим с осторожным оптимизмом.
Похоже, следующий этап — не «самый большой ИИ в мире», а «самый удобный ИИ в кармане». И это, пожалуй, хорошая новость.
📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.
💛 Если статья оказалась полезной, поддержите автора донатом.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.