Chargement...
aiSelectorAoû 2025 → Présent
9 mois — en cours
Outils
aiSelector — Aujourd'hui vous payez OpenAI. Demain Claude est 3× moins cher.
Comment basculer d'un fournisseur LLM à un autre en une ligne de code, et détecter quand un modèle commence à débloquer alors que le serveur répond OK ?
Le piège numéro un quand on intègre l'IA en production : le vendor lock-in. Vous codez votre app pour OpenAI, puis Claude devient meilleur. Vous voulez basculer ? Refactoring de tout l'app. aiSelector retourne le problème : 1 interface, 5 providers déjà supportés (OpenAI, Anthropic, Gemini, Mistral, DeepSeek). Changer de fournisseur = changer une variable d'environnement. Mais l'innovation principale est ailleurs : un healthcheck double. Tout le monde teste 'le serveur répond' (TCP 200). Personne ne teste 'le modèle est encore cohérent'. aiSelector le fait — il détecte les dégradations silencieuses (modèle qui devient générique, refuse trop de prompts, hallucine plus). Et il tracke les coûts en temps réel par client, avec un compteur de tokens vendor-agnostic.
Après avoir intégré des LLMs dans 4 projets, j'en avais marre d'écrire le même code wrapper. Et marre que personne ne mesure si un modèle est devenu mauvais après une mise à jour. J'ai construit la couche que je voulais utiliser.
.NET 10ASP.NET CorePollySharpTokenSerilogSwagger
1 interface
Ajout provider
Double
Healthcheck
Temps réel
Coûts
Automatique
Configuration
Fonctionnalités
01Un fournisseur = une interface : ajouter GPT, Claude ou un modèle local sans changer le code applicatif
02Healthcheck double : vérifie que le serveur répond ET que le modèle produit du cohérent
03Suivi des coûts : comptage de tokens par requête et par client, en temps réel
04Auto-configuration : détection des services au démarrage, zéro configuration manuelle
05Retry intelligent : backoff exponentiel et disjoncteur automatique par fournisseur
Architecture
Clean architecture avec un pattern de stratégie pour les fournisseurs. Healthcheck double : réseau + inférence. Auto-découverte des services au démarrage.
Impact & Résultats
1
interface à implémenter par nouveau provider
2
niveaux de healthcheck (réseau + IA)
3
projets utilisent ce pattern
Leçon clé
Le healthcheck double — distinguer 'le serveur répond' de 'le modèle est cohérent' — est une idée forte que j'ai intégrée dans tous mes projets utilisant des LLMs.