NVIDIA, le leader mondial des processeurs graphiques, a récemment lancé une application de démonstration qui permet à quiconque possède une carte graphique RTX de créer son propre chatbot d’IA. Il s’agit de RTX Chat, une application gratuite qui utilise la génération augmentée par récupération (RAG), le logiciel TensorRT-LLM et l’accélération RTX pour connecter un grand modèle de langage (LLM) GPT à votre propre contenu : documents, notes, vidéos ou autres données.
Avec RTX Chat, vous pouvez personnaliser votre chatbot en lui fournissant le dossier qui contient vos fichiers de différents formats (.txt, .pdf, .doc/.docx, .xml) ou l’URL d’une playlist YouTube. L’application chargera alors automatiquement votre contenu dans sa bibliothèque et vous pourrez interroger votre chatbot pour obtenir des réponses rapides, pertinentes et adaptées au contexte. Par exemple, vous pouvez lui demander le nom du restaurant que votre partenaire vous a recommandé à Las Vegas, ou les meilleures astuces pour apprendre une nouvelle langue.
L’avantage de RTX Chat est qu’il fonctionne en local sur votre PC ou votre station de travail RTX sous Windows, ce qui vous garantit une vitesse et une sécurité optimales. Vous n’avez pas besoin de partager vos données sensibles avec un tiers ou d’avoir une connexion internet. Vous avez juste besoin d’une carte graphique GeForce RTX série 30 ou 40 ou d’une carte graphique NVIDIA RTX de génération Ampere/Ada avec au moins 8 Go de mémoire graphique, de Windows 10 ou 11 et du dernier pilote NVIDIA.
RTX Chat est basé sur le projet de référence TensorRT-LLM RAG, disponible sur GitHub, qui permet aux développeurs de créer et de déployer leurs propres applications RAG pour RTX et accélérées par TensorRT-LLM. RTX Chat montre le potentiel des LLM accélérés par les GPU RTX, qui offrent des performances d’IA incomparables pour la créativité, la productivité et le divertissement.
Si vous voulez essayer RTX Chat, vous pouvez le télécharger gratuitement sur le site de NVIDIA1 ou sur le blog NVIDIA2. Vous pourrez ainsi découvrir comment l’IA générative peut vous aider à exploiter votre contenu de manière plus efficace et plus amusante.
Découvrez d’autres actualités de l’IA sur EspritIA.fr