Малките AI модели настъпват — Liquid AI с 600M модел, а Meta с локален AI агент

Krumov

Well-Known Member
И сериозните играчи излизат от облака и се преместват директно на потребитеслките устройства.
На 7 октомври Liquid AI представи два нови компактни модела:
  • d1-omni-600M — само 600 милиона параметъра. Обработва текст и изображения или текст и аудио.
  • d1-3B — 3 милиарда параметъра, предназначен за бърз анализ и вземане на решения.
Интересното е, че d1-3B може да обработи задача за около 50 милисекунди на NVIDIA Jetson Orin Nano, според тестовете на компанията.
И двата модела са с отворени тегла и могат да работят локално.

Meta също има интересно предложение!
Компанията представи Muse Glimmer 30B — модел с около 30 милиарда параметъра, специално разработен за локални AI агенти.
Технически характеристики:
  • 30B параметъра.
  • Приблизително 16,8 GB за компактната Q4 версия.
  • Препоръчителна видеопамет: 24 GB.
  • Контекст до 131 072 токена.
  • Поддържа текст, изображения, програмиране и извикване на инструменти.
  • Отворен лиценз Apache 2.0.
  • Съвместим с llama.cpp.
За разлика от обикновен чатбот, Muse Glimmer е създаден за агенти, които могат да изпълняват последователни задачи, да използват инструменти и да обработват информация локално.
Какво означава всичко това за бизнеса?
С подобни технологии малките фирми и онлайн магазините могат да изграждат собствени AI решения:
  • Интелигентно обслужване на клиенти.
  • Автоматична обработка на запитвания и документи.
  • AI асистенти за продуктови каталози.
  • Автоматизация на повтарящи се административни задачи.
  • Локални помощници за програмиране и разработка.
Разбира се, за пълноценен магазинен чатбот са необходими допълнителни интеграции, а големият Muse Glimmer изисква сравнително мощен компютър.
Но тенденцията е интересна — все повече AI възможности могат да работят на собствен хардуер, без постоянна зависимост от платени облачни услуги.
Източници:

Liquid AI — 7 октомври 2026 г.
https://www.liquid.ai/blog/d1-open
Meta Muse Glimmer — 10 август 2026 г.
https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model
Моделът на Meta:
https://huggingface.co/meta-models/Muse-Glimmer-30B
 
Последно редактирано:

Горе