Mis on Mistral 3?

Mistral 3 on Mistrali järgmise põlvkonna avatud multimodaalsed ja mitmekeelsed AI-mudelid. See väljalase hõlmab kolme tipptasemel väikest tihedat mudelit (14B, 8B ja 3B parameetriga) ning Mistral Large 3 – seni võimekaima mudeli – hõreda ekspertide seguga (MoE) mudelit, mis on treenitud 41B aktiivse ja 675B koguparameetriga. Kõik mudelid on välja antud Apache 2.0 litsentsi all, andes arendajatele avatud juurdepääsu tipptasemel AI võimalustele.

Kellele see on mõeldud

• Ettevõtete arendajad – kes ehitavad kohandatud AI-lahendusi, mis vajavad tugevat mitmekeelset tuge ja pildi mõistmist ilma müüja lukustuseta
• Servarvutuse meeskonnad – kes kasutavad AI-d kohalikes seadmetes, robotites või ressursipiiratud keskkondades, kus Ministral 3 seeria pakub parimat jõudluse ja hinna suhet
• Avatud lähtekoodiga AI kogukond – teadlased ja entusiastid, kes soovivad peenhäälestada, kohandada või ise majutada tipptasemel mudeleid lubava litsentsi all

Peamised omadused

Mistral Large 3: tipptasemel MoE arhitektuur

Mistral Large 3 on Mistrali esimene ekspertide seguga mudel alates Mixtral seeriast, treenitud nullist 3000 NVIDIA H200 GPU-l. See saavutab pariteedi parimate juhiste järgi häälestatud avatud kaaluga mudelitega üldiste päringute puhul, demonstreerides samal ajal pildi mõistmist ja parimat jõudlust mitmekeelsetes vestlustes.

Ministral 3: servaoptimeeritud intelligentsus

Ministral 3 seeria on saadaval kolmes suuruses (3B, 8B ja 14B) koos baas-, juhend- ja arutlusvariantidega – igaüks neist omab loomupäraseid multimodaalseid ja mitmekeelseid võimeid. Need mudelid pakuvad parimat hinna ja jõudluse suhet oma kategooria avatud lähtekoodiga mudelite seas.

Apache 2.0 litsents kõigile mudelitele

Iga Mistral 3 mudel – alates väikseimast 3B variandist kuni massiivse Large 3-ni – on välja antud Apache 2.0 litsentsi all. See hõlmab nii baas- kui ka juhiste järgi peenhäälestatud versioone, pakkudes tugevat alust edasiseks kohandamiseks ettevõtete ja arendajate kogukondades.

Optimeeritud NVIDIA riistvara ja avatud lähtekoodiga tööriistade jaoks

Mistral tegi koostööd NVIDIA, vLLM ja Red Hatiga, et pakkuda tõhusat järelduste toe. Large 3 töötab ühel 8×A100 või 8×H100 sõlmel, kasutades vLLM-i, samas kui Ministral mudelid paigutuvad sujuvalt DGX Spark, RTX arvutitesse, sülearvutitesse ja Jetson seadmetesse – andmekeskusest robotini.

Mis paistab silma

"Mistral Large 3 liitub tipptasemel juhiste järgi peenhäälestatud avatud lähtekoodiga mudelite ridadesse, samas kui Ministral seeria pakub oma kategoorias parimat jõudluse ja hinna suhet."

See kahekordne väljalase on tähelepanuväärne, kuna see katab kogu AI kasutuselevõtu spektri – alates massiivsetest pilvepõhistest MoE mudelitest kuni väikeste servaoptimeeritud tihedate mudeliteni – kõik ühe lubava litsentsi all. Mistral Large 3 debüteerib LMArena edetabelis OSS-i mittearutlusmudelite kategoorias #2 kohal, samas kui Ministral 3 seeria seab uue standardi kulutõhusa kohaliku AI jaoks.

Tasub vaadata, kui…

Vajate avatud kaaluga mudeleid, mis tasakaalustavad jõudlust, kulu ja kasutuselevõtu paindlikkust. Mistral 3 on ideaalne, kui ehitate mitmekeelseid rakendusi, kasutate AI-d servaseadmetes või soovite tipptasemel MoE mudelit, mida saate vabalt kohandada. Apache 2.0 litsents ja lai riistvaratoetus muudavad selle tugevaks valikuks nii ettevõtete kui ka kogukonna projektide jaoks.