Applications & Données 28 : comment maîtriser ses projets IA

L’IA accélère. En particulier la production de code. Les dépôts open source sont là pour en témoigner. Un des revers de la médaille est néanmoins que la consommation de tokens ne cesse de grossir.

La problématique touche tous les éditeurs, jusqu’aux plus gros, qui n’ont pas attendu que le prix unitaire de ces jetons baisse pour prendre des mesures et contenir leurs factures. Personnalité ô combien au fait de ces sujets, le CTO de SAP s’est entretenu avec Applications & Données pour expliquer sa méthode. L’éditeur allemand utilise désormais les « agents » pour coder ses logiciels, mais sans « brûler les tokens » et sans sous-estimer le rôle de l’expertise humaine. Passionnant et très instructif.

Une partie de la réponse à l’inflation de l’IA passe par l’IA frugale, par la compression des modèles (comme ce que propose l’éditeur espagnol Multivers Computing), par des techniques de « harness » comme le routage des requêtes (et donc par la supervision) ou encore par l’utilisation de plus petits modèles, et de LLM open source, ou plus exactement open-weight.

Dans ce domaine, comme dans beaucoup d’autres, la Chine s’est fait une place majeure, en toute discrétion. Qwen, DeepSeek, GLM, Kimi s’affirment « comme des alternatives », constate Stéphane Roder, partner IA chez Wavestone. Parmi ces modèles, GLM s’impose comme le fer de lance (plus que DeepSeek) et, ainsi que le résume notre journaliste Gaétan Raoul, comme « un gros caillou dans le jardin des LLMs propriétaires ».

Un autre angle d’attaque est de commencer par les données, en structurant correctement son RAG. Pas si simple, rappelaient récemment dans nos colonnes deux pépites françaises spécialistes du sujet, LightOn et LinkUp. Mais pas impossible non plus, surtout si l’on suit la dizaine de conseils que l’experte Virginie Mathivet, fondatrice et dirigeante du cabinet Hemelopse, a partagés avec nous lors d’un évènement AWS.

Et aussi dans ce numéro

La « success story » de Databricks, les tous premiers kilomètres de Renault sur la route de l’informatique quantique et les coulisses du Green IT dans les projets logiciels de Decathlon.

Bonne lecture et bons projets d’IA… maîtrisée évidemment !

Téléchargez gratuitement
Applications & Données 28