W ręce użytkowników kart graficznych Nvidia RTX serii 30 i 40 trafiła sztuczna inteligencja, działająca bez konieczności połączenia z Internetem.
Chatbot działający bez konieczności połączenia z Internetem? Brzmi ciekawie i takie narzędzie jest dostępne dla wszystkich użytkowników kart graficznych od Nvidia, będących w posiadaniu przynajmniej RTX serii 30 lub 40 oraz RTX Ampere albo Ada Generation. Chat With RTX to sztuczna inteligencja, działająca lokalnie na komputerze. Oprócz wymagań, w postaci wskazanych przez producenta kart graficznych, aby móc skorzystać z AI, trzeba być w posiadaniu PC z systemem Windows 10 lub 11, natomiast GPU musi działać z przynajmniej 8 GB VRAM. Należy też pamiętać, że sztuczna inteligencja obecnie działa w wersji beta.

Chat With RTX wykorzystuje technologie TensorRT-LLM, czyli model językowy, działający lokalnie z poziomu urządzenia, bez konieczności połączenia z Internetem. Dodatkowo w tym rozwiązaniu jest wykorzystywana technologia RAG (Retrieval Augamanted Generation).
Dzięki temu, że Chat With RTX działa lokalnie, a nie w chmurze, sztuczna inteligencja jest szkolona w zakresie naszych zachowań, co skutkuje lepszymi odpowiedziami AI. Ciekawą funkcjonalnością jest to, że użytkownik może przesłać zapytanie, zawierające link do filmu na YouTube i zadać chatbotowi pytanie, dotyczące treści nagrania. Ta opcja działa nie tylko z adresami URL, ale też z filmami przesłanymi z komputera. Dodatkowo, program wspiera obsługę plików o rozszerzeniach .txt, .pdf, .doc/.docx oraz .xml. Producent twierdzi, że odpowiedzi są generowane szybko, ze względu na brak połączenia z chmurą, a wszystkie dane zostają na urządzeniu użytkownika.
Firmy co raz częściej implementują w swoich rozwiązaniach sztuczną inteligencję. Chat With RTX to kolejne narzędzie wykorzystujące AI – zobaczymy, jak chatbot poradzi sobie w przyszłości.
Więcej:„Kto jeszcze przeżył piekło złącza?”. Spalony RTX 4090 działał do samego końca
0

Autor: Anita Zych
Zainteresowanie technologią oraz światem gier komputerowych rozwijała od najmłodszych lat, rozpoczynając ją od największych klasyków w branży. Zafascynowana rozgrywką w Diablo II, przygodami Bezimiennego w Górniczej Dolinie oraz rozwijaniem cywilizacji w Age Of Empires, chciała kreować własne historie nieustraszonych bohaterów dzięki rysunkowi i pisaniu pierwszych komiksów. W późniejszych latach pogłębiała swoją wiedzę na temat technologii dzięki podjęciu studiów ściśle związanych z inżynierią oprogramowania. Dzięki temu poznała nowe możliwości, jeśli chodzi o gamedev – projektowanie modeli 3D, rysunki koncepcyjne oraz budowanie świata wirtualnego stały się dla niej bardziej przystępne dzięki zrozumieniu zasad programowania. W przyszłości chciałaby stworzyć własną grę.