OpenAI élargit l’accès à son Decisions API. L’entreprise a rendu cette interface de programmation largement disponible pour ses clients, après l’avoir annoncée lors de sa journée développeurs du 29 septembre. Cette mise à disposition place OpenAI sur le terrain des modèles de décision, une catégorie récemment popularisée par Jev, le modèle de TypeSafe.
Ces systèmes ne sont pas présentés comme des assistants généralistes classiques. À partir d’un ensemble d’options, ils sélectionnent rapidement une réponse et peuvent lui associer un niveau de confiance. D’après les éléments rapportés par TechCrunch, des développeurs les utilisent pour remplacer certains appels à des grands modèles de langage lorsque la rapidité, le débit ou le coût sont prioritaires.
Un modèle ChatGPT reconfiguré pour réduire la latence
Nikunj Handa, responsable produit des API chez OpenAI, a expliqué à TechCrunch que l’équipe avait reconfiguré ChatGPT Luna pour accélérer l’inférence et réduire son coût. OpenAI n’a donc pas présenté le Decisions API comme un modèle spécifiquement entraîné et calibré dès l’origine pour la prise de décision. Handa a indiqué qu’un entraînement dédié pourrait intervenir à l’avenir, mais que la version actuelle repose sur Luna.
Selon cette déclaration, le gain recherché concerne d’abord le temps de réponse. Handa a évoqué un passage d’une durée comprise entre une et trois secondes à environ 100, 120 ou 180 millisecondes. Ces valeurs sont citées comme des ordres de grandeur associés au travail de l’équipe, et non comme une garantie uniforme pour chaque application ou chaque région.
Une disponibilité accompagnée de nouvelles modalités
La version publique du Decisions API ajoute des modalités vocales et visuelles. OpenAI indique également avoir cherché à réduire la latence dans différentes régions du monde en répartissant géographiquement ses ressources d’inférence. La source ne précise pas la liste des régions concernées ni les conditions techniques détaillées de cette répartition.
Les premiers essais mentionnés par OpenAI ont impliqué Box, Datadog, Ramp et Speak. Les ingénieurs de ces entreprises ont utilisé l’API pour remplacer des modèles de langage d’OpenAI et obtenir un débit supérieur. Andrew Hsu, directeur technique de Speak, a déclaré que le délai entre deux actions était passé de 1,4 seconde à 0,13 seconde pour son entreprise. OpenAI a aussi utilisé le produit pour améliorer la réactivité de son assistant vocal Dots.
Une compétition encore difficile à mesurer
La valeur d’un modèle de décision ne se résume pas à sa vitesse. Les critères évoqués dans la source incluent l’intelligence, le coût, le calibrage et la rapidité, avec des arbitrages qui peuvent varier selon les tâches. Diogo Almeida, directeur général de TypeSafe, recommande aux utilisateurs de tester les modèles dans leurs propres environnements et se montre méfiant envers les classements généraux.
Cette prudence n’empêche pas la publication de comparaisons. TypeSafe a diffusé son propre classement en même temps que la dernière version de Jev, qui ajoute notamment la prise en charge des images et des expressions conditionnelles. Les indices publics AIM System One et Artificial Analysis Decision Index cités par TechCrunch placent D1 Ultra, de Liquid, et Elephant-1, de Base Lab, devant plusieurs concurrents dans leurs dernières évaluations. Jev y reste compétitif, tandis que le modèle de décision d’OpenAI apparaît plus loin dans ces deux classements. Les positions mentionnées sont respectivement la huitième et la quatorzième pour OpenAI, et la septième et la troisième pour Jev selon les indices cités.
La popularité d’usage constitue un autre indicateur. Les offres de TypeSafe étaient, au moment de la publication, les plus interrogées sur OpenRouter. Un autre test, JevMan, met les modèles à l’épreuve dans une partie de Pac-Man. Felix Wunderlich, directeur de la croissance d’Opper AI, estime que ce format mesure leur capacité à prendre des décisions rapides et répétées. Ce benchmark ne permet toutefois pas, à lui seul, de conclure sur la pertinence de ces modèles pour tous les logiciels.
La multimodalité comme axe de différenciation
OpenAI estime disposer d’un avantage potentiel lorsque les décisions portent sur des images. Handa a affirmé à TechCrunch que Luna était très performant dans la classification d’images et affichait un meilleur calibrage dans ce contexte. Il a aussi indiqué que les clients souhaitaient pouvoir utiliser plus librement des images comme sorties de l’API.
Le responsable produit a enfin évoqué une réduction supplémentaire de la latence, jusqu’à environ 60 millisecondes, pour imaginer des appels à l’API sur chaque image d’une vidéo. Il s’agit d’une possibilité envisagée, pas d’une fonctionnalité annoncée comme disponible dans la source.
Ce que cette ouverture change pour les développeurs
Concrètement, le Decisions API donne aux clients d’OpenAI une option supplémentaire pour les tâches où chaque délai compte : classification, sélection entre plusieurs actions ou automatisation de flux à fort volume. Les performances observées chez Speak montrent le potentiel d’une réduction du temps entre deux actions, mais elles ne remplacent pas une évaluation dans chaque cas d’usage.
L’enjeu immédiat est donc moins de désigner un vainqueur que de comparer les compromis entre coût, vitesse, confiance et qualité. En rendant son API largement accessible, OpenAI transforme cette comparaison en choix opérationnel pour les développeurs, tandis que TypeSafe, Liquid et Base Lab occupent déjà le terrain des modèles de décision spécialisés ou concurrents.
Source : OpenAI makes its Jev competitor widely available as decision model competition heats up
