Experiential — Un endpoint, tous les modèles

État des lieux

Experiential Labs (YC S26, San Francisco, équipe de deux) se présente comme « l'OpenRouter open source » : une seule API compatible OpenAI et Anthropic Messages devant tous les modèles — providers hébergés, clés BYOK, modèles locaux et GPU privés — avec 0 % de marge sur les tokens routés. Les fondateurs ont le CV qui va avec : Kion Fallah, ex-Staff Research Scientist chez Waabi (simulation de conduite autonome), et Silen Naihin, qui a porté AutoGPT à 160 000 étoiles. Le dépôt affiche 1 364 étoiles le 6 septembre, un Show HN à 222 points le 27 août, et des releases quasi quotidiennes (v0.7.41 le jour de la consultation).

Mais la vraie différence revendiquée n'est pas le proxy. C'est une couche « intelligence » qui transforme votre trafic de production en actif possédé : collecte de traces OpenTelemetry, simulation de vos tâches et edge cases, fitting d'un routeur projet, puis fine-tuning d'un modèle open source que vous possédez — avec une garantie contractuelle de « 50 % de coût en moins à qualité égale ou supérieure ».

La carte des menus

Côté cloud : un plan Free à 0 dollar (500 crédits par mois), un plan Pro à 20 dollars par mois pour 2 000 crédits à un cent pièce (extensible jusqu'à 500 000), et un plan Enterprise sur devis (SSO SAML, résidence des données). Le self-hosted, lui, est gratuit et open source — pip install experiential, un gateway local sur 127.0.0.1:8000. Pas de marge sur les tokens routés, BYOK réservé au Pro et au-delà.

Ce que la bête sait vraiment faire

Un endpoint pour tout : base URL unique devant OpenAI, Anthropic, Gemini, Meta, Qwen, DeepSeek, Mistral, Bedrock, OpenRouter et les GPU privés. Le provider waterfall résout chaque slug de modèle via une liste ordonnée de « rungs » — BYOK d'abord, crédits ensuite, failover automatique sur erreur. Les budgets et hard caps coupent la requête avant débordement, et l'attribution de chaque token est tracée par agent, personne et modèle.

Le différenciateur est la couche intelligence. exp build <projet> construit une simulation de vos tâches et échecs à partir des traces ; un routeur projet est fité contre cette simulation ; exp optimize model fine-tune un modèle open source que vous possédez, en gardant les requêtes faciles sur votre petit modèle et en envoyant les « hard requests » au frontier. Le tout est pilotable par API, et les prompts de setup couvrent Claude Code, Cursor, Codex, Aider et OpenCode.

Les couleuvres à avaler

Première couleuvre : la télémétrie. Le README déclare une télémétrie PostHog anonyme agrégée activée par défaut (désactivable par exp config telemetry disable). Mais sur Hacker News, le fondateur a d'abord affirmé qu'elle était « off by default » avant de se faire contredire par le texte même du README. Pour un gateway par lequel transite tout le trafic LLM d'une entreprise, la maladresse laisse un goût amer, même si la déclaration d'anonymisation est là.

Deuxième : l'« open source » est partiel. Le core est Apache-2.0, mais la couche enterprise (optimisation, caching, modèle entraîné) vit dans un repo fermé. Les features qui font rêver sont dans le plan payant — la pricing page l'assume, mais le « open OpenRouter » du Show HN est trompeur.

Troisième : les chiffres ronflants du pitch YC (« jusqu'à -97 % de coût, +50 % de qualité », « < 1 ms ») ne sont étayés par aucun benchmark indépendant ni cas client nommé. Enfin, l'équipe est de deux personnes, le produit a deux mois et demi, et la pérennité du « vous possédez le modèle » reste à prouver.

Verdict

Experiential ferme une boucle que personne d'autre ne boucle : usage, données d'entraînement, modèle possédé. C'est la seule proposition open source du segment gateway à transformer votre trafic en actif, et le duo de fondateurs est crédible. Mais entre la télémétrie mal défendue, l'enterprise fermé et des chiffres non vérifiés, la confiance est à établir. À surveiller de près pour les CTO français à grosse facture d'inférence — et à tester sur son propre trafic avant de croire le pitch.

★★★☆☆