Нейросеть, которая помещается в ноутбук и работает без интернета
Нейросеть, которая помещается в ноутбук и работает без интернета
Представьте: вы в самолёте, Wi-Fi нет, а рядом на ноутбуке вовсю работает умный помощник. Не «облако» где-то за тридевять земель, а самая настоящая нейросеть прямо у вас на коленях. Именно такой эксперимент недавно показала лаборатория Thinking Machines Lab — и это, пожалуй, самый интересный поворот в мире ИИ за последнее время.
Что вообще произошло
Компания выпустила модель под названием Inkling 2 Mini и открыла её исходники — то есть любой желающий может скачать её и запустить у себя. Модель умеет работать и с текстом, и с картинками, а «помнит» до миллиона слов в разговоре. Звучит как характеристики чего-то очень большого, но вся хитрость в том, что весит она около 20 гигабайт и помещается на обычный ноутбук.
Секрет — в необычной архитектуре. Если объяснять по-простому: модель не прогоняет информацию через все свои «слои» один раз, а возвращается к середине несколько раз, как будто перечитывает черновик и уточняет его. Так она тратит меньше ресурсов, но думает глубже. По словам разработчиков, запустить её можно даже на Mac с 32 гигабайтами памяти.
А что она умеет на практике
В демонстрации исследователи сели в самолёт, отключили интернет — и модель за несколько минут написала вполне играбельный авиасимулятор. В другом эксперименте та же нейросеть «оживила» целый пиксельный городок: двадцать персонажей живут своей жизнью на одном ноутбуке без сети, болтают, устраивают кулинарные конкурсы и даже отвечают на записки, оставленные у их дверей. По задачам программирования модель показывает результаты на уровне более крупных конкурентов.
Любопытно, что сообщество уже вовсю пробует новинку: кто-то подключил её к другим инструментам и удивился скорости, кто-то заставил её проходить компьютерную игру и постепенно находить оптимальную стратегию. Подробности и ссылки на модель есть на странице проекта.
Что это значит для нас
Главная мысль проста: умные нейросети перестают быть роскошью, доступной только через платную подписку и быстрый интернет. Если модель помещается на ноутбук и работает без сети, это меняет расклад — ваши данные никуда не уходят, связь не нужна, а платить за каждый запрос не приходится. Пока это скорее эксперимент, чем готовый продукт для всех, но направление очень показательное: ИИ потихоньку перебирается из далёких серверов к нам на рабочий стол.
Возможно, совсем скоро «поставить себе нейросеть» будет так же привычно, как установить программу для фотографий.
📬 Вы можете подписаться на рубрику «ИИ и нейросети» прямо на сайте Lamvi.Art. Уведомления будут приходить в личный кабинет и на почту!
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.
