Le nouveau chatbot de NVIDIA s'exécute localement sur votre ordinateur

NVIDIA vient de publier un Du chatbot C’est très intéressant, car cela permet au chatbot d’accéder à vos fichiers et documents. Vous pouvez alimenter Chat with RTX avec une sélection de données personnelles et lui demander de créer des résumés basés sur ces informations. Vous pouvez également lui poser des questions, comme n’importe quel chatbot, et il approfondira vos données pour trouver des réponses.

La société affirme qu'elle permet aux utilisateurs de « lier rapidement et facilement des fichiers locaux sur un ordinateur sous forme d'ensemble de données à un grand modèle de langage open source tel que Mistral ou Llama 2 ». NVIDIA fournit l'exemple d'un utilisateur interrogeant un chatbot sur un restaurant recommandé par son partenaire à Las Vegas. Le programme analyse les fichiers locaux pour trouver la réponse. Il prend en charge une gamme complète de formats de fichiers, notamment .txt, .pdf, .doc/.docx et .xml. La société affirme qu'elle téléchargera les fichiers pertinents dans son ensemble de données « en quelques secondes ».

Le chat avec RTX intègre également des vidéos et des listes de lecture YouTube. Vous pouvez ajouter l'URL de la vidéo à l'ensemble de données et celle-ci combinera les connaissances du clip pour les requêtes contextuelles. NVIDIA affirme que cela sera utile lors de la demande de recommandations de voyage « basées sur le contenu des vidéos d'influenceurs préférés » ou lors de la recherche de didacticiels et de résumés tirés de ressources éducatives.

le bord En utilisant un chatbot, ils sont repartis impressionnés, écrivant qu’ils pourraient le considérer comme « un élément de recherche de données précieux pour les journalistes ou toute personne ayant besoin d’analyser un ensemble de documents ».

Cela semble être un grand pas vers quelque chose qui ressemble à un véritable assistant numérique qui fonctionne dans le cadre contextuel de vos données personnelles. Avec la plupart des chatbots, les données sont envoyées vers le cloud, mais discuter avec RTX « permet aux utilisateurs de traiter des données sensibles sur un ordinateur local sans avoir à les partager avec un tiers ou à se connecter à Internet ». C'est donc plus sûr Et Plus conscient du contexte.

Il existe certaines restrictions. Il s'agit d'un produit bêta, vous devez donc vous attendre à beaucoup de bugs, même si NVIDIA devrait commencer à les éliminer une fois que les utilisateurs commenceront à publier des rapports de bugs, etc. Il existe également ici des restrictions matérielles strictes. Chat avec RTX ne fonctionne que sur les PC Windows équipés de GPU NVIDIA GeForce RTX série 30 ou supérieur et d'au moins 8 Go de VRAM.

NVIDIA a vraiment montré ses prouesses en matière d'IA récemment, puisque la société vient de lancer sa prochaine génération. Cela est principalement dû aux segments de l’IA et des centres de données de l’entreprise.

Cet article contient des liens d'affiliation ; Si vous cliquez sur ce lien et effectuez un achat, nous pouvons gagner une commission.