L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, mais son développement et son déploiement nécessitent des infrastructures coûteuses et complexes. Pour répondre à ces besoins, General Compute, une startup spécialisée dans l’inférence cloud, vient de lever 400 millions de dollars auprès d’Upper90, une société d’investissement technologique. Ce financement innovant utilise des puces d’inférence spécifiques comme garantie, ce qui pourrait marquer un tournant dans le développement de l’IA.
##
Le défi de l’inférence
L’inférence est le processus par lequel les modèles d’IA sont exécutés pour générer des résultats. Les puces d’inférence sont conçues pour exécuter ces modèles de manière rapide et efficace, contrairement aux puces utilisées pour les entraîner. Cependant, ces puces sont coûteuses et difficiles à obtenir, notamment pour les nouvelles entreprises. General Compute a résolu ce problème en s’associant à Upper90, qui a fourni un prêt de 400 millions de dollars en utilisant les puces d’inférence comme garantie. Cette approche innovante permet à General Compute de développer son cloud IA sans avoir à supporter les coûts élevés associés à l’acquisition de ces puces.
##
Les avantages de l’inférence cloud
Le cloud IA de General Compute est conçu pour fournir une inférence 16 fois plus rapide que les nuages basés sur les GPU. Les puces d’inférence utilisées par General Compute sont également plus économes en énergie et ne nécessitent pas de systèmes de refroidissement coûteux, ce qui les rend plus faciles à déployer dans une variété de centres de données. Cette approche permet à General Compute de proposer des services d’inférence plus abordables et plus efficaces, ce qui est essentiel pour les entreprises qui cherchent à intégrer l’IA dans leurs opérations.
##
Le marché de l’inférence en pleine croissance
Le marché de l’inférence est en pleine croissance, avec de nombreuses entreprises qui cherchent à développer des solutions d’IA plus abordables et plus efficaces. Les puces d’inférence spécifiques, comme celles utilisées par General Compute, sont de plus en plus populaires, car elles offrent une alternative aux GPU traditionnels. Les entreprises comme OpenRouter et Fireworks, qui proposent des modèles d’IA open source, obtiennent des valorisations élevées, tandis que les nouveaux fabricants de puces, comme Groq et Cerebras, attirent l’attention des acquéreurs et des marchés publics. Le financement de General Compute par Upper90 est un signal clair que le marché de l’inférence est prêt à prendre son essor, et que les entreprises qui investissent dans cette technologie seront bien positionnées pour profiter de cette croissance.