NVIDIA netop udgivet en gratis chatbot-demo, der kører lokalt på din pc. Dette er meget praktisk, fordi det giver chatbotten adgang til dine filer og dokumenter. Du kan yde Chat med RTX visse personlige data og bede ham om at oprette et CV baseret på disse oplysninger. Du kan også stille spørgsmål til den, ligesom du ville gøre med enhver chatbot, og den vil dykke ned i dine data for at få svar.
Virksomheden siger, at det giver brugerne mulighed for "hurtigt og nemt at forbinde lokale pc-filer som et datasæt til en stor open source-sprogmodel såsom Mistral eller Llama 2." NVIDIA giver et eksempel på en bruger, der spørger en chatbot om en restaurant anbefalet af en partner, mens han var i Las Vegas. Softwaren scanner lokale filer for at finde svaret. Det understøtter en række filformater, herunder .txt, .pdf, .doc, .docx og .xml. Virksomheden siger, at det uploader relevante filer til sit datasæt "på få sekunder."
Chat med RTX integrerer også videoer og afspilningslister YouTube. Du kan tilføje videoens URL til datasættet, og det vil integrere viden indeholdt i videoen til kontekstuelle forespørgsler. NVIDIA siger, at det vil være nyttigt, når du anmoder om rejseanbefalinger "baseret på indhold fra yndlingsvideoer fra influencers", eller når du søger efter tutorials og resuméer afledt af uddannelsesressourcer.
Dette lyder som et stort skridt mod noget som en ægte digital assistent, der arbejder i sammenhæng med dine personlige data. De fleste chatbots sender data til skyen, men Chat med RTX "giver brugerne mulighed for at behandle følsomme data på en lokal computer uden at skulle dele dem med en tredjepart eller have en internetforbindelse." Så det er mere sikker og mere kontekstorienteret kommunikation.
Der er nogle begrænsninger. Dette er et demoprodukt, så forvent dog en masse fejl NVIDIA bør begynde at rette dem, så snart brugere begynder at skrive fejlrapporter og sådan. Der er også nogle strenge hardwarebegrænsninger her. Chat med RTX fungerer kun på Windows 11-computere med GPU'er NVIDIA GeForce RTX 30-serien eller højere og mindst 8 GB VRAM.
For nylig NVIDIA viser virkelig sin AI-evne, da virksomheden netop har lanceret sin næste generation af AI-supercomputerchips. Det svømmer simpelthen i overskud, primært på grund af dets AI og datacentersegmenter.
Læs også: