L’industrie de l’intelligence artificielle (IA) est en pleine mutation, avec des utilisateurs de plus en plus conscients des coûts élevés liés aux déploiements. Cependant, les modèles open source offrent une alternative intéressante, avec des coûts par jeton significativement inférieurs. Mais comment trouver le modèle adéquat pour un travail donné ? C’est là que Writer, une entreprise spécialisée dans les outils et les agents d’IA pour les marketeurs, intervient avec son nouveau modèle phare, Palmyra X6.
## Le Modèle Palmyra X6 : Une Solution pour Réduire les Coûts
Le modèle Palmyra X6, basé sur le modèle open source GLM-5.2 de Z.ai, vise à fournir des capacités de déploiement prêtes à l’emploi à un coût nettement inférieur. Selon Writer, ce nouveau système, combiné aux changements apportés à l’infrastructure de la société, devrait permettre de réduire les coûts pour les clients de jusqu’à 50 % pour les tâches de base. Le PDG de Writer, May Habib, estime que les entreprises sont « malades de courir après les nouveaux benchmarks » et préfèrent des coûts plats, ce que personne ne semble capable de leur offrir. Le modèle Palmyra X6 met l’accent sur les tâches complexes et multitâches, exécutées plus rapidement et avec moins de jetons.
## L’Optimisation de l’Infrastructure : Un Facteur Clé pour Réduire les Coûts
L’optimisation de l’infrastructure est un facteur crucial pour réduire les coûts, selon les chercheurs de Writer. Une récente étude a montré que de petits changements dans l’efficacité de l’infrastructure pouvaient entraîner des réductions de coûts significatives, avec une moyenne de 40 % de réduction des coûts dans les tests. Le modèle Palmyra X6 sera disponible aux clients de Writer, aux côtés d’autres modèles de la société ou de modèles externes importés via Azure ou Amazon Bedrock. Cependant, May Habib estime que la course à la réduction des coûts est également motivée par une méfiance croissante envers les grands laboratoires d’IA, qui ont un intérêt financier à augmenter l’utilisation des jetons.
## Les Défis de l’Adoption de l’IA : Coûts et Complexité
L’adoption de l’IA est souvent freinée par les coûts élevés et la complexité des déploiements. Les modèles open source offrent une alternative prometteuse, mais la recherche du modèle adéquat pour un travail donné peut être un défi. Writer espère que son nouveau modèle Palmyra X6 et les améliorations apportées à son infrastructure aideront les entreprises à surmonter ces obstacles et à bénéficier des avantages de l’IA. Avec la réduction des coûts et l’optimisation de l’infrastructure, les entreprises pourront peut-être enfin atteindre les bénéfices escomptés de l’IA, sans se ruiner.