Французький стартап Mistral у річницю випуску своєї першої безплатної моделі Mistral 7B представив наступників — сімейство ШІ-моделей Les Ministraux, що оптимізоване для використання на смартфонах і ноутбуках. Про це йдеться у блозі компанії.
До сімейства входять дві моделі — Ministral 3B і Ministral 8B, обидві підтримують до 128 тисяч токенів. Стартап порівняв їх зі схожими за розміром моделями інших компаній, і, якщо вірити тесту, Mistral 8B виявилась найсильнішою фактично за всіма показниками, окрім кодування. А найменша Ministral 3B перевершила Mistral 7B.
Les Ministraux можна використовувати або налаштовувати для різних цілей — від базової генерації тексту до роботи в поєднанні з більш потужними моделями, наприклад флагманською Mistral Large.
«Наші клієнти та партнери дедалі частіше просять забезпечити локальні, орієнтовані на конфіденційність рішення для критично важливих застосувань, таких як переклад на пристрої, офлайн смартасистенти, локальна аналітика та автономна робототехніка. Les Ministraux були створені для забезпечення ефективного використання обчислювальних ресурсів і мінімальної затримки для таких сценаріїв», — кажуть у Mistral.
Ministral 8B уже доступний для завантаження, але поки тільки в дослідницьких цілях. Для самостійного використання Ministral просить звернутися до них, щоб отримати ліцензію.
Також йдеться, що незабаром обидві моделі будуть доступні у хмарних партнерів стартапу. Ministral 8B коштує 10 центів за мільйон токенів, а Ministral 3B — 4 центи за мільйон токенів.
Місяць тому Mistral запустив безплатний API, знизив ціни на всі продукти та презентував оновлену Mistral Small корпоративного класу. У червні французький стартап заверши раунд фінансування серії B, залучивши €600 млн.
