Pourquoi EcoLLM existe

Une société née de la mesure de l’impact environnemental de l’IA, devenue cabinet d’assistance à maîtrise d’ouvrage au contact du terrain.

EcoLLM est né de la mesure de l’impact environnemental de l’intelligence artificielle : compter ce qu’un usage consomme réellement, en énergie et en euros, plutôt que d’en parler au conditionnel. Cette origine a laissé deux habitudes dont nous ne nous sommes pas départis. Chiffrer avant d’affirmer. Et se méfier d’une démonstration qui ne dit pas ce qu’elle coûterait une fois généralisée.

Au contact des collectivités, nous avons constaté un décalage. Les équipes qui déploient n’ont pas besoin d’un discours de plus sur l’IA responsable. Elles ont besoin de quelqu’un qui sache lire un contrat, instruire un dossier auprès d’un délégué à la protection des données, comparer deux solutions sans avoir intérêt à l’une d’elles, et obtenir une expérimentation en quelques semaines plutôt qu’en quelques trimestres.

Une collectivité n’a pas de problème d’idées sur l’IA : elle a un problème d’accès, de cadre et de preuve. Les idées, les agents en ont déjà, et ils les mettent en œuvre avec ou sans leur direction. Ce qui manque, c’est un canal d’achat praticable, une charte qui autorise au lieu de seulement interdire, et un premier cas d’usage documenté qui permette d’arbitrer la suite sur des faits.

C’est cet écart que nous comblons. Nous ne sommes ni une agence de communication sur l’IA, ni un intégrateur déguisé en conseil : nous nous plaçons du côté de l’acheteur public, et nous y restons pendant toute la mission.

Le parcours de Jérémie Zarka

Quinze ans passés de l’autre côté de la table, à construire des offres et à vendre des systèmes aux grandes organisations.

Jérémie Zarka, fondateur et président d’EcoLLM, a d’abord exercé le bid management chez Thales, sur des réponses à appels d’offres menées sur quatre continents. Ce métier consiste à lire un dossier de consultation, à décider ce que l’entreprise promet, puis à articuler une offre technique, un prix et des engagements qui devront tenir à l’exécution. Il a ensuite vendu chez Google, puis chez Hewlett Packard Enterprise, auprès de grands comptes.

Nous avons écrit assez d’offres pour savoir ce qu’un prestataire ne dit pas dans la sienne. Quand une collectivité nous confie la rédaction d’un cahier des charges ou l’analyse des offres reçues, nous lisons ces documents depuis l’endroit où ils sont fabriqués. Nous savons quelles clauses engagent réellement le titulaire et lesquelles sont décoratives, où se logent les coûts qui n’apparaissent pas la première année — reprise des données, montée de version, dépendance à un format, licences payées et jamais utilisées — et à quelles conditions une promesse de démonstration devient une obligation de résultat.

À ce parcours commercial s’ajoute une formation en management, un MBA à HEC Paris, dont un travail sur la découverte des besoins sert encore de colonne vertébrale à notre méthode de qualification des cas d’usage. EcoLLM reste une structure de conseil de taille réduite, qui s’associe en groupement lorsqu’une mission demande des compétences que nous n’avons pas : c’est un choix, et nous le disons plutôt que de laisser croire à une agence de trente personnes.

Ce que nous faisons, et ce que nous ne faisons pas

Une assistance à maîtrise d’ouvrage cadre le besoin, arbitre, pilote les prestataires et sécurise la conformité. Elle ne construit pas ce qu’elle a fait choisir.

Notre métier tient en cinq verbes : cadrer le besoin du côté du commanditaire public, arbitrer les choix, piloter les prestataires, sécuriser la conformité — protection des données, règlement européen sur l’intelligence artificielle, doctrine de souveraineté — et vérifier la soutenabilité économique et environnementale de ce qui est décidé. L’assistance à maîtrise d’ouvrage est une position autant qu’une prestation : elle n’a de valeur que si elle n’a rien à gagner à l’issue de l’arbitrage.

Deux engagements découlent de cette position, et nous les écrivons dans nos propositions : notre rémunération ne varie pas avec la solution retenue, et nous n’intervenons pas comme intégrateur de la solution que nous avons aidé à choisir. Sur les licences, nous nous en tenons à une formule prudente tant que le cadre juridique n’est pas tranché : nous vous aidons à identifier le canal d’achat adapté à votre situation.

Notre manière de travailler

Instruire d’abord, exiger ensuite : une AMO fait expérimenter vite, puis fait progresser les usages vers le bon niveau de conformité.

Une assistance à maîtrise d’ouvrage ne recommande pas une solution plutôt qu’une autre au premier jour, et elle n’écarte pas une solution parce qu’elle ne serait pas conforme, pas souveraine ou pas frugale. Elle identifie les cas d’usage, évalue leur potentiel, les fait expérimenter rapidement, puis les fait progresser vers des solutions qui embarquent le niveau de conformité que ces usages exigent. La conformité, la souveraineté et la frugalité ne sont pas des filtres appliqués à un catalogue : ce sont des exigences portées par un cas d’usage qualifié, qui deviennent ensuite des critères dans les pièces de marché.

Une expérimentation à cinq agents ne prouve rien : elle occupe. C’est notre principal désaccord avec la façon dont beaucoup de programmes démarrent. Nous avons accompagné une intercommunalité d’Île-de-France sur une expérimentation portée à une centaine d’agents, quand la plupart de celles que nous observons sur le même territoire plafonnent à quelques utilisateurs : à cette échelle seulement, les questions qui comptent apparaissent — la charge de support, la qualité inégale selon les métiers, le coût par agent et par an, la maintenance des outils nés de l’expérimentation.

Nous relayons aussi les retours d’expérience d’organisations qui ne sont pas nos clientes, lorsqu’elles acceptent d’être citées sous forme anonyme. C’est le cas d’un Département d’environ deux cents utilisateurs, dont le modèle de déploiement — un compte par direction pendant l’expérimentation, des référents dans chaque direction, une charte négociée avec le DPO, une cellule opérationnelle de deux ou trois personnes — nous sert de point de comparaison dans nos missions. Nous le présentons pour ce qu’il est : un témoignage utile, pas une référence commerciale.

La frugalité, grille d’arbitrage et non motif d’exclusion

Piloter les coûts et le carbone sur l’ensemble du programme IA, plutôt que solution par solution.

Une solution par cas d’usage, c’est plusieurs éditeurs, plusieurs facturations, plusieurs empreintes et un coût par agent et par an que personne ne consolide. Nous tenons ce pilotage au niveau du programme : prioriser les usages qui le méritent, dimensionner chaque solution au besoin réel, et éliminer les licences dormantes. Une licence payée et jamais utilisée est un gaspillage économique et environnemental ; maximiser l’usage de ce qui a déjà été acheté est un argument de frugalité avant d’être un argument d’adoption.

Nous formons les référents à la comparaison des modèles, nous appliquons le référentiel général pour l’IA frugale publié par l’AFNOR — dont nous avons documenté les trente et une bonnes pratiques dans un guide en accès libre — et nous proposons de le reprendre comme critère d’attribution dans les pièces de marché, où il produit plus d’effet que dans une charte. La frugalité est une grille d’arbitrage, jamais un motif d’exclusion.

L’entreprise

Une société par actions simplifiée indépendante, installée à Paris, sans lien capitalistique avec un éditeur.

EcoLLM est une société par actions simplifiée dont le siège est au 295 rue Saint-Jacques, 75005 Paris, immatriculée sous le numéro SIREN 929 012 979 et présidée par Jérémie Zarka. Nous n’avons de lien capitalistique avec aucun éditeur de solution d’intelligence artificielle, et aucun de nos revenus ne dépend du choix qu’une collectivité fait à l’issue d’une mission d’assistance à maîtrise d’ouvrage.

Nous intervenons seuls sur les missions de cadrage, et en groupement lorsque la commande couvre toute la chaîne : un cabinet de conseil spécialisé dans l’accompagnement des organisations publiques pour l’achat et l’AMO, un partenaire spécialisé dans l’accessibilité numérique et la formation des agents. Ces partenaires seront nommés sur ce site dès que leur accord de citation sera formalisé.

EcoLLM est soutenu par Bpifrance, Paris&Co, Hub France Incubation et France 2030. Ces soutiens ne sont ni des clients, ni des labels de qualité : ils disent d’où nous venons, pas ce que nous valons.

Ce que nous publions

Un cabinet d’AMO se juge aussi sur ce qu’il écrit. Nos travaux sont en accès libre, sans formulaire préalable.

Questions fréquentes