Френската компания Mistral AI публикува теглата на своя модел Mistral Large 4, познат с прякора „Le Chonk“ заради трилионния брой параметри. Това означава, че разработчици и фирми вече могат да изтеглят модела, да го пускат на собствена инфраструктура и да го дообучават с вътрешни данни, вместо да разчитат единствено на достъп през платен API.

Моделът излезе в предварителна версия на 6 октомври, а теглата му бяха публикувани на 29 октомври, след около три седмици допълнително обучение с обратна връзка от клиенти и партньори по киберсигурност, пише VentureBeat. През това време Mistral продължава да усъвършенства модела чрез подсилено обучение. Компанията твърди, че няма видими признаци за изчерпване на подобренията.

Какво представлява Le Chonk

Large 4 е мултимодален и многоезичен модел от типа Mixture-of-Experts, който приема текст и изображения, а генерира само текст. Според блога на Hugging Face той има около 1 трилион общи параметъра, 49 млрд. активни параметъра и контекстов прозорец до 1 милион токена. Моделът предлага три режима на разсъждение, нисък, среден и висок, така че потребителите сами да избират баланса между точност и изчислителен разход.

Техник монтира графичен процесор в сървърен рак в европейски дейта центърГенерирано с AI
Техник монтира графичен процесор в сървърен рак в европейски дейта център

Противоречиви резултати при програмирането

Mistral представя новата версия като водещ отворен модел за писане на код. В теста Terminal-Bench 4.0 резултатът скача с 13 процентни пункта до 41%, което според компанията я поставя на първо място сред моделите с отворени тегла в тази конкретна оценка. В по-широкия Artificial Analysis Coding Agent Index Large 4 получава 48 точки, почти колкото конкурентния GLM-5.3, но според Mistral използва средно 47% по-малко токени на задача.

Независимите издания обаче не потвърждават еднозначно първото място. ZDNET посочва, че в неговите данни GLM-5.3 изпреварва Large 4 с точка в общия индекс, 49 срещу 48, макар моделът на Mistral да води с точка в Terminal-Bench. VentureBeat отбелязва, че при оценка на Artificial Analysis от 29 октомври Large 4 получава 26 точки в Intelligence Index v5 при настройка за високо разсъждение, с точка повече от Muse Spark Open. Така той става най-високо оцененият модел с публични тегла, разработен извън Китай, но не и непременно най-силният отворен модел в света.

Киберсигурност, лиценз и Европа

Mistral отделя специално внимание на киберсигурността. По данни на компанията моделът постига 51% в Artificial Analysis Cyber Index и отказва 96,6% от заявките със зловредна цел, най-високият процент сред отворените модели, с които компанията го сравнява. Hugging Face посочва и резултат от 82% на отделен тест за възпроизвеждане и закърпване на реални уязвимости в софтуер. Според платформата редица затворени модели отказват тази задача и затова получават резултати близо до нула.

Моделът не е безусловно свободен за ползване. Лицензът, наречен Mistral Ecosystem Open-Weight License, е модифициран вариант на лиценза MIT, но компаниите, които искат да предлагат Large 4 като платена услуга, трябва да сключат отделен търговски договор. Mistral посочва, че моделът е трениран изцяло на европейска инфраструктура, а достъпът през API струва 0,70 долара за милион входящи токена и 2,10 долара за милион изходящи токена, според цените, обявени от компанията.