Microsoft a présenté mardi Phi-3, une mise à jour de son petit modèle de langage qui, selon elle, est capable de traiter de nombreuses tâches qui auraient nécessité des modèles beaucoup plus grands. Phi-3 n'est pas légèrement moins cher ; il est nettement moins cher ; nous parlons d'une différence de coût de 10x par rapport aux autres modèles existants avec des capacités similaires", a déclaré Sébastien Bubeck, vice-président de la recherche GenAI de Microsoft.

Les SLM sont conçus pour effectuer des tâches plus simples, ce qui les rend plus faciles à utiliser pour les entreprises disposant de ressources limitées.

Phi-3-mini sera disponible immédiatement sur le catalogue de modèles d'IA de la plateforme de services en nuage Azure de Microsoft, sur la plateforme de modèles d'apprentissage automatique Hugging Face et sur Ollama, un cadre permettant d'exécuter des modèles sur une machine locale, a indiqué l'entreprise.

Jaspreet Bindra, fondateur de TechWhisperer UK Limited, a déclaré : "Le tout nouveau "Small Language Model" est proposé par Microsoft avec Phi-3 Mini. Il s'agit d'un modèle d'intelligence artificielle léger développé dans le cadre de sa famille de petits modèles de langage (SLM). C'est le premier des trois SLM que Microsoft prévoit de lancer prochainement, les deux autres étant Phi-3 Small et Phi-3 Medium. Le Phi-3 Mini a une capacité de 3,8 milliards de paramètres et est conçu pour effectuer des tâches plus simples, ce qui le rend plus accessible et plus abordable pour les entreprises disposant de ressources limitées. Le Phi-3 Mini a été entraîné sur un ensemble de données plus petit que celui des grands modèles linguistiques tels que le GPT-4. Il s'inscrit dans le cadre d'une initiative plus large de Microsoft visant à introduire une série de SLM adaptés à des tâches plus simples, ce qui les rend idéaux pour les entreprises disposant de moins de ressources. Cette approche promet de réduire les coûts, de rendre les modèles plus rapides puisqu'ils sont à la périphérie, et de promettre davantage de cas d'utilisation de l'IA générative par les entreprises et les consommateurs" Phi-3 permet aux développeurs de créer des applications d'IA générative à la périphérie - plus efficacement, avec une meilleure latence et des coûts plus bas. Microsoft a développé une série de SLM qui offrent un grand nombre des mêmes capacités que les LLM, mais qui sont de taille plus réduite et qui sont formés sur des quantités de données plus faibles. "Nous avons commencé ce voyage il y a un an en essayant de construire de petits modèles de langage, en essayant de voir jusqu'où nous pouvons aller avec peut-être seulement 1 milliard de paramètres", a déclaré Sébastien Bubeck, vice-président de Microsoft GenAI.

Les concurrents de Microsoft disposent également de leurs propres petits modèles d'IA, dont la plupart visent des tâches plus simples telles que le résumé de documents ou l'aide au codage. Les modèles Gemma 2B et 7B de Google sont parfaits pour les chatbots simples et les tâches liées aux langues.