L’industrie de l’intelligence artificielle (IA) est en pleine mutation, avec des utilisateurs de plus en plus conscients des coûts élevés liés à la mise en œuvre de ces technologies. Pour répondre à ce défi, les entreprises cherchent des solutions pour réduire les coûts sans compromettre la performance. C’est dans ce contexte que Writer, une société spécialisée dans les outils et les agents d’IA pour les marketeurs, a lancé un nouveau modèle appelé Palmyra X6, conçu pour résoudre ce problème.
Le défi de la réduction des coûts
Les modèles d’IA open source offrent des coûts par token significativement plus bas que les modèles propriétaires, mais il peut être difficile de trouver le modèle approprié pour un travail donné. Writer a compris que les entreprises ont besoin de solutions de déploiement prêtes à l’emploi et abordables. Le nouveau modèle Palmyra X6, basé sur le modèle open source GLM-5.2 de Z.ai, vise à fournir des capacités de déploiement prêtes à l’emploi à un coût nettement inférieur. La société estime que le nouveau modèle, combiné avec des changements dans l’infrastructure de harnais de l’entreprise, réduira les coûts pour ses clients de jusqu’à 50 % pour les tâches de base.
Les avantages de la nouvelle approche
La nouvelle approche de Writer met l’accent sur les tâches complexes et multétapes, exécutées plus rapidement et avec moins de tokens. L’optimisation du harnais est considérée comme un facteur clé pour atteindre cet objectif. Une récente étude de chercheurs de Writer a montré que de petites modifications dans l’efficacité du harnais peuvent entraîner des réductions de coûts significatives, avec une moyenne de 40 % de réduction des coûts dans leurs tests. Cette approche permet aux entreprises de bénéficier de la puissance de l’IA sans avoir à supporter des coûts prohibitifs. De plus, la nouvelle approche de Writer est conçue pour être agnostique en termes de modèle, ce qui signifie que les clients peuvent utiliser Palmyra X6 aux côtés d’autres modèles Writer ou d’autres modèles importés via Azure ou Amazon Bedrock.
Les implications pour l’industrie de l’IA
La recherche de solutions pour réduire les coûts de déploiement de l’IA est en train de changer la donne pour les entreprises et les laboratoires d’IA. Les laboratoires d’IA traditionnels ont une incitation financière à augmenter l’utilisation de tokens, ce qui peut entraîner des coûts élevés pour les clients. La nouvelle approche de Writer et d’autres entreprises similaires pourrait conduire à une méfiance accrue envers les grands laboratoires d’IA, qui pourraient être perçus comme ne comprenant pas suffisamment les besoins des entreprises en termes de déploiement de l’IA. Dans ce contexte, les entreprises comme Writer sont en train de réinventer la façon dont l’IA est déployée et utilisée, en mettant l’accent sur la réduction des coûts et l’augmentation de la performance.