L’avenir de l’IA d’entreprise porté par les petits modèles de langage

Joshua Burke Directeur technique, architecture des ventes et livraison

Partager cet article

Le monde de l’intelligence artificielle (IA) connaît actuellement une transformation radicale. Pendant des années, les discussions ont été dominées par les capacités colossales des grands modèles de langage (LLM) tels que GPT-4, Llama et autres. Ces modèles, avec leurs milliards, voire leurs billions de paramètres, ont captivé l’imagination du public grâce à leur polyvalence, leur raisonnement complexe et leurs prouesses créatives.

Mais dans un contexte d’entreprise pragmatique et orienté vers les résultats, un nouveau paradigme s’impose comme un véritable catalyseur de changement : l’essor des petits modèles de langage (SLM). Chez Alithya, cette tendance a été reconnue très tôt, c’est pourquoi nous avons développé des SLM adaptés à l’usage, formés sur des ensembles de données spécifiques à un domaine et optimisés pour l’inférence IA en temps réel et les environnements aux ressources limitées.

Le passage aux SLM ne revient pas à choisir une IA « moins puissante ». Il s’agit plutôt d’opter pour des modèles rentables et extensibles, adaptés à des tâches précises et offrant de meilleurs résultats commerciaux. Cette analyse approfondie présente les différences cruciales entre les LLM et les SLM et explique pourquoi les modèles plus petits offrent souvent une voie supérieure et plus durable pour la plupart des cas d’utilisation en entreprise, en particulier ceux qui exigent une efficacité élevée, une confidentialité stricte et une prévisibilité des coûts.

La grande fracture entre LLM et SLM et leur importance pour l’IA d’entreprise

Si les LLM et les SLM reposent sur la même architecture transformationnelle fondamentale, leurs différences en matière d’échelle, de conception et d’objectif se traduisent par des capacités et des modes de déploiement très différents. La distinction fondamentale entre les deux réside dans le nombre de paramètres et la portée de leurs données d’entraînement, qui influencent directement la puissance de calcul, la vitesse d’inférence en temps réel et l’efficacité avec laquelle chaque modèle peut être ajusté pour des tâches précises.

Caractéristique	Petits modèles de langage (SLM)	Grands modèles de langage (LLM)
Nombre de paramètres	De quelques millions à quelques milliards (p. ex., jusqu’à environ 10 milliards)	Des dizaines de milliards à des billions
Données d’entraînement	Ensembles de données plus petits, hautement sélectionnés et explicites à un domaine	Ensembles de données massifs, généralisés et variés à l’échelle du Web
Objectif principal	Spécialisation, efficacité et rentabilité	Polyvalence, généralisation et raisonnement complexe
Vitesse d’inférence (latence)	Rapide (faible latence, idéal pour les applications en temps réel)	Plus lente (latence élevée, en raison d’un calcul intensif)
Coût de calcul	Faible (moins coûteux à former, à affiner et à exploiter)	Élevé (nécessite une infrastructure importante et coûteuse)
Déploiement	Flexible : peut fonctionner sur des processeurs standard, des appareils périphériques ou sur site	Nécessite généralement des unités de traitement graphique (GPU) et des unités de traitement tensoriel (TPU) haut de gamme et des API basées sur le cloud

Les SLM l’emportent dans l’IA d’entreprise : coût, efficacité et performance en temps réel

Les indicateurs de performance des solutions d’IA vont au-delà de la simple précision. Ils incluent le coût total de possession, la rapidité de déploiement et l’efficacité opérationnelle. C’est là que les SLM excellent vraiment et que leur choix s’impose pour déployer l’IA à l’échelle d’une organisation. Avec des besoins en puissance de calcul réduits, une inférence en temps réel plus rapide et des modèles de déploiement rentables, les SLM offrent le type de performance prévisible et extensible nécessaire aux entreprises modernes pour mettre en œuvre efficacement l’automatisation intelligente.

1. Rentabilité supérieure

Les coûts liés aux LLM sont stupéfiants. La formation d’un LLM de pointe peut coûter des millions de dollars. De plus, le coût de l’inférence, c’est-à-dire le coût d’exécution du modèle chaque fois qu’un utilisateur soumet une requête, est considérable.

Coûts de formation et d’ajustement réduits : Les SLM nécessitent beaucoup moins de données et de puissance de calcul pour la formation initiale et l’ajustement ultérieur. Alors que la formation d’un grand modèle comme GPT-3 peut coûter jusqu’à 15 millions $, ou 78 millions $ rien que pour l’ajustement de GPT-4, un SLM peut souvent être mis en place en une fraction du temps et du coût, soit en quelques semaines au lieu de plusieurs mois, ce qui le rend viable pour une personnalisation rapide en entreprise.¹
Coûts d’inférence réduits : Grâce à leur nombre réduit de paramètres, les SLM nécessitent moins de mémoire et moins de cycles de calcul par requête. Par exemple, le coût d’inférence d’un petit modèle comme Mistral 7B est d’environ 0,000 4 $ par 1 000 jetons, contre 0,09 $ par 1 000 jetons pour un LLM comme GPT-4 pour une seule requête.² Cette différence peut entraîner des économies de 10 à 100 fois supérieures dans les environnements de production.
Empreinte énergétique réduite : Les SLM offrent également un avantage décisif en matière de durabilité, car ils consomment beaucoup moins d’énergie par jeton lors de l’inférence. Cela permet non seulement de réduire les dépenses opérationnelles, mais aussi de répondre aux objectifs environnementaux des entreprises, une préoccupation croissante étant donné que les opérations d’IA représentent environ 1,5 % de la consommation mondiale d’électricité.³

2. Précision spécifique à un domaine plutôt que connaissances générales

Les LLM sont polyvalents, formés sur l’ensemble de l’Internet public. Si cela leur permet d’écrire de la poésie ou de déboguer du code, cela les rend inefficaces pour des tâches commerciales spécifiques.

Les SLM, en revanche, sont spécialement conçus et affinés à partir de données hyperprécises et de haute qualité. Il en résulte un modèle doté d’une expertise plus approfondie dans ce domaine restreint, ce qui lui permet :

Atteindre une plus grande précision et réduire les hallucinations : Les SLM affinés pour des tâches spécialisées peuvent souvent égaler ou surpasser les performances des LLM dans ces domaines restreints. Par exemple, dans les secteurs réglementés, les entreprises qui utilisent des SLM auraient réduit de 35 % les erreurs critiques de résultats de l’IA par rapport à celles qui s’appuient sur des LLM à usage général.⁴ Cette spécialisation est essentielle pour réduire les « hallucinations » (le modèle inventant de fausses informations), car sa base de connaissances est strictement limitée aux données vérifiées et factuelles sur lesquelles il a été formé.
Excellence spécialisée : L’écart de performance entre les SLM et les LLM serait passé de 20 % à seulement 2 % ces dernières années pour les tâches précises à un domaine, ce qui prouve la viabilité des SLM pour des résultats de haute précision dans des cas d’utilisation ciblés.⁵

3. Faible latence pour les opérations en temps réel

Les applications d’entreprise nécessitent souvent des réponses en temps réel. Pensez à un agent conversationnel qui trie les billets d’assistance ou à un système automatisé qui rapproche les transactions. Chaque milliseconde compte.

En raison de leur taille, les LLM introduisent une latence notable, car ils doivent traiter une charge de calcul massive. Les SLM, de taille plus réduite, offrent une inférence ultrarapide. Cette faible latence est essentielle pour :

Réponse en temps réel : Les SLM peuvent fournir 150 à 300 jetons par seconde, contre 50 à 100 jetons par seconde pour les LLM, offrant ainsi des capacités de réponse en temps quasi réel essentielles pour les applications interactives.⁶
Agilité opérationnelle : Une entreprise de services financiers, par exemple, a déclaré avoir réduit son temps de réponse de 67 % (de 280 ms à 92 ms) après être passée de LLM auto-hébergés à des SLM spécialisés, adaptés à ses flux de travaux logistiques.⁷

4. Confidentialité et gouvernance des données améliorées

La confidentialité et la conformité des données sont des éléments non négociables pour les grandes entreprises, en particulier dans les secteurs hautement réglementés tels que les services financiers et les soins de santé.

Les SLM étant compacts, ils peuvent être déployés en grand nombre sur site ou dans l’environnement cloud privé et sécurisé d’une entreprise (l’approche « jardin clos » privilégiée par le secteur). L’analyse de ce modèle de déploiement suggère que les déploiements sur site utilisant des SLM peuvent devenir économiquement viables, avec des périodes de rentabilité généralement de quelques mois pour les organisations ayant des besoins de traitement à haut volume. Cela contraste avec les années qu’il faut parfois à des LLM de taille moyenne ou grande pour atteindre le seuil de rentabilité, ce qui fait des SLM un choix pratique pour le contrôle interne. Ce niveau de contrôle :

Réduit au minimum les risques de sécurité et les risques de violation de la confidentialité des données en garantissant que les données sensibles et exclusives ne quittent jamais le pare-feu de l’entreprise.
Simplifie la conformité aux réglementations telles que le RGPD, l’HIPAA et le CCPA.
Réduit la dépendance vis-à-vis des API externes, diminuant ainsi l’exposition aux risques liés aux tiers.

Tirer parti des SLM pour l’hyperautomatisation

Les avantages des SLM sont exploités pour favoriser l'hyperautomatisation dans les flux de travail complexes. Démontrer le principe que l’outil adapté à une tâche d’entreprise est celui qui est le plus efficace, le plus précis et le plus sûr.

Au lieu d’un seul LLM monolithique, Alithya Rapid Suite utilise plusieurs SLM spécialisés qui fonctionnent ensemble. Par exemple, dans un flux de travaux de traitement des demandes d’indemnisation, un SLM gère l’analyse intelligente des documents afin d’atteindre une précision de 99 % dans l’extraction de données à partir de documents complexes et non structurés (tels que les relevés des prestations ou les dossiers médicaux).

Cette approche SLM fédérée garantit :

Résultats de haute précision : Chaque modèle est le meilleur au monde dans son domaine précis.
Résilience opérationnelle : Si un modèle tombe en panne ou doit être mis à jour, le système peut s’adapter de manière dynamique, contrairement à un déploiement LLM à point de défaillance unique.
Rendement du capital investi mesurable : Le faible coût prévisible et la grande rapidité de l’inférence SLM garantissent un rendement du capital investi clair et quantifiable des efforts d’automatisation.

La voie à suivre : adapter votre stratégie en matière d’IA

L’idée selon laquelle « plus c’est gros, mieux c’est » en matière d’IA est une illusion, en particulier lorsqu’il s’agit de passer de la recherche au déploiement dans le monde réel des entreprises. Les LLM restent inestimables pour la recherche générale, la création d’idées et les tâches complexes et ouvertes. Ils sont les généralistes du monde de l’IA.

Cependant, les SLM sont des spécialistes hautement qualifiés. Ils constituent le choix pragmatique pour les entreprises qui ont besoin de performances prévisibles, d’une gouvernance solide des données, d’une inférence IA en temps réel et d’une voie viable et rentable vers l’extensibilité.

Une stratégie d’IA doit inclure des modèles adaptés à des tâches commerciales spécifiques. En choisissant la puissance ciblée des SLM, on accède à une IA de niveau entreprise : une IA qui est non seulement puissante, mais aussi abordable, sécurisée et durable.

Profitez des économies et de la précision des SLM. Ne payez plus le prix fort pour un LLM généraliste. Chez Alithya, nous sommes spécialisés dans la conception de stratégies d’IA qui offrent un rendement du capital investi mesurable, une vitesse en temps réel et une gouvernance des données garantie. Contactez-nous dès maintenant pour planifier votre consultation et créer une pile d’IA spécialisée pour les flux de travaux uniques de votre entreprise.

Références: