Французы сделали ИИ, который работает даже без видеокарты
Французы сделали ИИ, который работает даже без видеокарты
Представьте: нейросеть, которой не нужна дорогая видеокарта за пару тысяч долларов. Просто обычный компьютер — и всё работает. Звучит как мечта? А вот французская компания OVHcloud взяла и сделала это наяву, выпустив свою первую модель Olala. И это, пожалуй, один из самых интересных поворотов в истории с «европейским ИИ».
Что за зверь такой — Olala
Полное имя модели — Olala mini 7A1B. Цифры звучат грозно, но суть простая: всего в модели 7 миллиардов «нейронов» (параметров), а на каждую конкретную задачу работает лишь один миллиард. Остальные как бы дремлют и просыпаются только при необходимости. Именно поэтому модель такая экономная: по данным OVHcloud, она спокойно умеет работать на видеокарте с жалкими 8 ГБ памяти, а на обычном процессоре без всякой видеокарты выдаёт около 50 слов в секунду. Для сравнения: это темп нормальной человеческой речи, только в тексте.
Модель понимает контекст в 32 тысячи токенов — это примерно как целая небольшая книга, которую она держит в голове во время разговора. И что важно: её выложили в открытый доступ на Hugging Face под лицензией Apache 2.0, вместе с документацией о том, как всё это соответствует европейскому закону об ИИ. То есть пользоваться можно свободно, в том числе в бизнесе.
Как её учили и кто уже пробует
Интересная деталь: для обучения использовали мощности трёх европейских государственных суперкомпьютеров — Jupiter, MeluXina и Jean Zay. По оценкам, это около семи миллионов евро вычислительного времени, которое предоставили безвозмездно. Именно после этого в OVHcloud и появилась собственная исследовательская лаборатория OVHai LLM. А ещё модель уже работает в деле: в европейском поисковике Qwant она даёт прямые ответы на 20% быстрее, а операционные расходы при этом в три раза ниже, чем у предыдущей модели. Подробности на сайте Dutch IT Channel.
И это только начало. До конца года обещают версию 1.1 с контекстом в 128 тысяч токенов и улучшенной математикой. А в версии 2.0 замахнулись на модели с более чем 100 миллиардами параметров — для бизнеса, облачных задач и кибербезопасности.
Что это значит для нас
Главное здесь — не громкие цифры, а сама идея. Европа показывает: чтобы иметь свой хороший ИИ, не обязательно строить дата-центры размером с город и тратить миллиарды. Технологии подешевели, знания стали доступнее — и вот уже французская компания делает модель, которая работает на вашем ноутбуке и не требует видеокарты за 300 тысяч рублей. Для обычного человека это значит простую вещь: умные помощники постепенно перестают быть роскошью для избранных и перебираются на кухонный стол. А для бизнеса — что можно не отправлять все свои данные за океан, а держать ИИ у себя, под рукой.
Так что следите за новостями: похоже, «европейский ИИ» перестаёт быть красивой фразой из пресс-релизов и становится чем-то вполне осязаемым.
📬 Вы можете подписаться на рубрику «ИИ и нейросети» прямо на сайте Lamvi.Art. Уведомления будут приходить в личный кабинет и на почту!
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.
