Lors du Dev Day d’OpenAI, le PDG Sam Altman a annoncé une nouveauté qui a immédiatement fait réagir la communauté des développeurs : l’API Decisions. Ce service, présenté comme un « super‑classificateur » basé sur le modèle Luna, permet de fournir à une intelligence artificielle un ensemble d’options pré‑définies entre lesquelles elle doit choisir. L’objectif affiché est d’allier vitesse, précision et économies, en s’inspirant du modèle Jev lancé quelques semaines auparavant par la start‑up TypeSafe AI.
OpenAI dévoile l’API Decisions
L’API Decisions se positionne comme un outil de prise de décision ultra‑rapide. Selon Altman, le modèle Luna, lorsqu’il est limité à un choix parmi plusieurs catégories – par exemple la classification d’une image ou la sélection d’un comportement d’agent – gagne en rapidité tout en conservant les capacités de compréhension d’image, de traitement du langage et les protections de sécurité intégrées. Cette approche « focus‑first » permet de réduire le temps de calcul et le coût d’utilisation, deux critères cruciaux pour les développeurs qui intègrent des IA dans des flux de travail à grande échelle.
Le modèle Jev de TypeSafe : un concurrent déjà établi
Jev, développé par TypeSafe AI, est un modèle spécialement conçu pour l’automatisation logicielle. Il fonctionne comme un classificateur à haute vitesse, renvoyant des probabilités pour chaque option proposée. Le modèle se distingue par son coût très faible et sa capacité à traiter des millions de décisions en quelques secondes. Diogo Almeida, PDG de TypeSafe et ancien ingénieur d’OpenAI, a réagi sur X en qualifiant l’arrivée de l’API Decisions de « début des clone wars », soulignant que la concurrence était désormais inévitable.
Le terme « System One » utilisé par TypeSafe décrit une forme de pensée rapide et intuitive, à l’opposé du « System 2 » plus lent et analytique. Almeida estime que la capacité à offrir des réponses « System One » à faible coût constitue un avantage stratégique majeur, et il voit l’intérêt d’OpenAI comme une validation du modèle économique de TypeSafe.
Implications pour le développement logiciel et la sécurité des agents IA
Les développeurs ont rapidement constaté que les modèles comme Jev, et potentiellement l’API Decisions, permettent de réduire les dépenses liées à l’utilisation d’IA de type « frontier ». Deux cas d’usage se démarquent :
- Automatisation des décisions : en intégrant un modèle de décision rapide, les équipes peuvent automatiser la classification d’images, la sélection de réponses ou la priorisation de tickets sans recourir à des modèles lourds.
- Surveillance des agents IA : la capacité à vérifier chaque action d’un agent en temps réel ouvre la porte à une couche de sécurité supplémentaire. Un développeur a présenté lors d’un hackathon une démonstration où Jev analyse chaque action d’un agent, bloque les comportements jugés à haut risque et signale les cas ambigus pour révision humaine.
Cette approche de « monitoring » a un impact économique notable. Selon les chiffres présentés, le coût d’une vérification avec Jev s’élève à 2,94 $, contre 372 $ pour un modèle de pointe. Cette différence de prix rend viable le contrôle de chaque décision d’un agent, même dans des environnements à forte charge.
Perspectives et défis futurs
Plusieurs questions restent en suspens quant à la manière dont l’API Decisions se différenciera réellement de Jev. OpenAI a lancé le service en version pré‑visualisation limitée, et aucune utilisation à grande échelle n’a encore été observée. La calibration des sorties – c’est‑à‑dire la correspondance entre les probabilités renvoyées et la réalité – constitue un enjeu majeur. TypeSafe mise sur la génération de données synthétiques pour améliorer la pertinence statistique de ses modèles, tandis qu’OpenAI devra prouver que son approche reste fiable dans des contextes variés.
Enfin, l’émergence de plusieurs acteurs proposant des API de décision indique que le marché se diversifie rapidement. Les entreprises devront choisir entre des solutions propriétaires, comme celle d’OpenAI, et des offres spécialisées, comme Jev, en fonction de leurs exigences de vitesse, de coût et de précision.
En résumé, l’API Decisions d’OpenAI représente une étape importante vers des IA plus rapides et moins onéreuses, tout en ouvrant la voie à des mécanismes de contrôle plus fins pour les agents autonomes. Le véritable test sera de voir comment les développeurs adopteront ces outils dans leurs pipelines quotidiens et si la promesse de « fast, cheap, intelligent » pourra être tenue à grande échelle.