LiquidAI: LFM2-24B-A2B
liquid/lfm-2-24b-a2b
Опис
LFM2-24B-A2B є найбільшою моделлю в сімействі гібридних архітектур LFM2, розроблених для ефективного розгортання на пристроях. Створена як модель "Суміш експертів" (Mixture-of-Experts) з 24 мільярдами параметрів і лише 2 мільярдами активних параметрів на токен, вона забезпечує високоякісну генерацію при збереженні низьких витрат на виведення. Модель вміщується в 32 ГБ оперативної пам'яті, що робить її практичною для запуску на споживчих ноутбуках і настільних комп'ютерах без втрати можливостей.
Порівняння з каталогом
Загалом — увесь каталог. За тарифом — лише моделі, доступні на цьому рівні (ті самі правила, що й «доступні» у списку). Позиція в діапазоні мін–середнє–макс. Ціна — більша з prompt або completion за токен, за 1M токенів.
Ціна (за 1M токенів)
Мін
Макс
Ця модель
336 моделей у цій групіЦіна (за 1M токенів)
- Мін
- 0,04 USD
- Сер
- 12,385977 USD
- Макс
- 750,00 USD
Ця модель: 0,12 USD / 1M токенів
Довжина контексту (токени)
Мін
Макс
Ця модель
336 моделей у цій групіДовжина контексту (токени)
- Мін
- 4 095 токенів
- Сер
- 382 115,467 токенів
- Макс
- 10 000 000 токенів
Ця модель: 128 000 токенів
Можливості
Текст → ТекстКонтекст: 32,768 токенів
Вхід:
Текст
Вихід:
Текст