Френската компания за изкуствен интелект Mistral отвори достъп до предварителна версия на новия си флагмански модел Mistral Large 4, с неофициалното име Le Chonk. От компанията съобщиха, че моделът вече може да се тества през API в платформата Mistral Studio, а отворените му тегла ще бъдат публикувани до края на октомври. По данни на изданието Axios конкретната дата е 27 октомври, след допълнително обучение с подсилване и тестове за безопасност.

Large 4 е мултимодален модел, който обработва текст и изображения. Използва архитектура Mixture-of-Experts (MoE), при която за конкретна заявка се активира само част от общия брой параметри. Според съобщението на Mistral моделът има 1 трилион общо параметри и 49 млрд. активни. В документацията си компанията посочва малко по-различни числа: 1,05 трилиона общо параметри, 52 млрд. активни и отделен модул за разпознаване на изображения с 1,6 млрд. параметъра. От Mistral твърдят, че Large 4 е обучен от нулата върху 3800 ускорителя Nvidia Grace Blackwell в собствени европейски центрове за данни.

Силна страна в киберсигурността

Mistral посочва киберсигурността като едно от предимствата на новия модел. По данни на компанията Large 4 е сред първите пет модела в света в теста Artificial Analysis Cyber Index. При конкретна задача за възпроизвеждане и отстраняване на уязвимост в софтуер моделът постига 82%, най-високия резултат сред всички тествани модели. На комплект от 40 задачи, наречен Cybench, резултатът е 93%, твърдят от Mistral. Важно е да се отбележи, че тези цифри идват от самия производител, а не от независима оценка.

Доколко моделът действително е водещ в Европа остава спорен въпрос. Пред Axios вицепрезидентът по наука на Mistral Пиер Сток признава, че компанията все още изостава от водещите затворени модели. По думите му Mistral не е достигнала върха на технологията. Компанията представя Large 4 основно като инструмент за професионална работа, включително за писане на код, анализ на документи, финансови изчисления и обработка на изображения, а не просто като платформа за чатботове.

За бизнеса в Европа е важно, че публичната версия на модела работи върху европейската инфраструктура на Mistral. Компанията планира и отделно европейско внедряване, което ще управлява изцяло и ще бъде подчинено на европейското право. Mistral посочва също, че значителна част от обучаващите данни обхваща над 160 езика, включително всички официални езици на ЕС, без да дава конкретни резултати за българския. Според документацията на компанията достъпът през API в момента се таксува на промоционална цена от 0,68 долара за милион входни токени и 2,09 долара за милион изходни токени. Цените могат да се променят след окончателното пускане на модела.