L'entreprise française d'intelligence artificielle Mistral a ouvert au public, le jeudi 29 octobre, les poids de son plus gros modèle, Mistral Large 4, via Hugging Face. Proposé début octobre uniquement en préversion par API, le modèle peut désormais être téléchargé et exécuté par des entreprises et des États sur leurs propres serveurs.
Que s'est-il passé ?
D'après les données rapportées par VentureBeat, le modèle compte 1,05 trillion de paramètres au total, mais seulement 52 milliards sont actifs : à chaque étape, il n'exécute qu'une petite partie de l'ensemble. Sa fenêtre de contexte atteint 1 million de tokens. Il lit du texte et des images, et produit du texte. Environ 3 800 GPU Nvidia Grace Blackwell ont servi à son entraînement.
Mistral positionne le modèle en particulier pour les agents de cybersécurité et de programmation : trouver, analyser et traiter les menaces dans le code et l'infrastructure informatique. Dans l'indice de l'organisme d'évaluation indépendant Artificial Analysis, le modèle obtient le meilleur score parmi les modèles à poids ouverts développés hors de Chine. Il reste tout de même derrière des modèles ouverts chinois comme DeepSeek et GLM. La licence n'est pas totalement libre : une licence MIT modifiée exige une licence commerciale distincte pour les entreprises qui vendent le modèle en tant que service.
Pourquoi c'est important
Aujourd'hui, la plupart des modèles les plus puissants ne sont accessibles que sur Internet, dans la mesure où l'entreprise le permet. Des poids ouverts, c'est un accès qu'on ne peut plus couper après coup. Pierre Stock, vice-président science de Mistral, a déclaré à Reuters qu'une fois le modèle publié, il est impossible d'en restreindre l'accès. C'est un grand avantage pour les organisations qui ne veulent pas faire sortir leurs données, mais cela signifie aussi que le modèle peut tomber entre de mauvaises mains. C'est également un pas concret dans le débat européen sur la « souveraineté en matière d'IA ».
Un lien avec l'histoire
L'idée de programmes qui circulent seuls sur un réseau, et de les arrêter, n'est pas nouvelle. Reaper, écrit en 1971 pour rattraper Creeper qui circulait sur ARPANET, est considéré comme le premier antivirus. Nous avons raconté cette histoire dans notre article Creeper, le premier « virus » informatique, n'a rien effacé. Aujourd'hui, on écrit des modèles à mille milliards de paramètres pour la défense informatique.