Chat with RTX to aplikacja, która pozwala użytkownikom dostosowywać duże modele językowe (LLM) połączone z lokalnie przygotowanymi treściami (dokumentami, notatkami, filmami i innymi danymi) i używać ich jako konwersacyjnej generatywnej sztucznej inteligencji.

Chatbot AI Chat with RTX Wykorzystuje technologię Retrieval-Augmented Generation (RAG), oprogramowanie NVIDIA TensorRT-LLM i akcelerację NVIDIA RTX, aby zapewnić możliwości generatywnej sztucznej inteligencji na lokalnych komputerach z systemem Windows z procesorami GeForce. Użytkownicy mogą używać plików lokalnych na swoich komputerach jako zestawów danych i łatwo łączyć się z dużymi modelami językowymi typu open source, takimi jak Mistral i Llama 2, gdzie mogą wprowadzać zapytania i uzyskiwać szybkie, kontekstowe i dokładne odpowiedzi. Czat z RTX jest teraz dostępny do pobrania za darmo. Minimalne wymagania obejmują procesor graficzny NVIDIA GeForce RTX z serii 30 z co najmniej 8 GB pamięci VRAM, system Windows 10 lub 11 oraz najnowsze sterowniki procesora graficznego NVIDIA. Dane podane przez użytkownika obejmują domenę .txt, .pdf, .doc/.docx oraz obsługują różne formaty plików, w tym XML. Ponadto jako źródła danych można uwzględnić informacje z filmów i playlist w YouTube. Czat z RTX skanuje określone przez użytkownika pliki lokalne i zasoby online oraz zwraca kontekstowe odpowiedzi na zapytania użytkownika. Przykład zapytania może być np. określenie filmu z YouTube w Chat with RTX. Czat z RTX działa lokalnie na komputerze, więc dane użytkownika pozostają na urządzeniu.

Minimalne wymagania obejmują procesor graficzny NVIDIA GeForce RTX z serii 30 z co najmniej 8 GB pamięci VRAM, system Windows 10 lub 11 oraz najnowsze sterowniki procesora graficznego NVIDIA.

Czat z RTX jest teraz dostępny do pobrania za darmo.