Cloudflare научила ИИ принимать решения за миллисекунды: зачем это нам
Cloudflare научила ИИ принимать решения за миллисекунды: зачем это нам
Представьте: вы пишете в поддержку, а ответ приходит почти мгновенно — не «мы получили ваше обращение», а сразу «это к техническому отделу, вопрос срочный». Именно такие быстрые решения теперь умеет принимать новая нейросеть Clef от Cloudflare. И это, как ни странно, касается каждого из нас.
Cloudflare — та самая компания, которая стоит «на входе» в огромную часть интернета и защищает сайты от атак. И вот её команда представила свои первые собственные модели — Clef и Clef-flash. Они не пишут тексты и не сочиняют стихи. Их работа — читать ситуацию и выбирать ответ из готового списка вариантов: срочно или нет, в какой отдел передать, заблокировать запрос или позвать человека.
В чём фокус и почему это быстро
Обычные чат-боты, к которым мы привыкли, сначала «размышляют» и только потом выдают текст, который ещё нужно разобрать. Clef устроена иначе: на вход — описание ситуации и типовые вопросы, на выход — вероятность каждого варианта ответа. Никаких лишних слов, которые надо расшифровывать. По данным разработчиков, на их тестах модель отвечает примерно за 209 миллисекунд, а облегчённая версия Clef-flash — всего за 39 миллисекунд. Для сравнения: похожая модель Jev тратит на это около полусекунды. Разница кажется микроскопической, но когда такие решения принимаются миллионами в день, каждая доля секунды на счету.
Ещё один важный момент — модели открыли: веса выложили под свободной лицензией Apache 2.0, а работать они могут прямо на инфраструктуре Cloudflare рядом с пользователями. Плюс компания запустила сервис дообучения, чтобы бизнес мог настроить Clef под свои задачи. Подробности можно найти в документации Cloudflare.
📖 Кстати, больше новостей, кейсов и разборов о том, как искусственный интеллект меняет нашу жизнь, мы собираем в нашей рубрике ИИ и нейросети на сайте Lamvi.Art. Заходите почитать!
Что это значит для нас
Для обычного пользователя такие «решающие» модели означают одно: общение с сервисами станет быстрее и точнее. Меньше шансов, что ваше письмо в поддержку неделю будут пересылать из отдела в отдел, и меньше раздражающих ответов «не по теме». Для бизнеса — возможность не тратить дорогие ресурсы больших чат-ботов там, где достаточно простого и мгновенного выбора. А ещё это сигнал: гонка ИИ идёт не только за умом, но и за скоростью и дешевизной.
Похоже, будущее — не только за «умными собеседниками», но и за скромными помощниками, которые просто быстро и правильно решают. И, честно говоря, нам с вами от этого только легче.
📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.
💛 Если статья оказалась полезной, поддержите автора донатом.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.