Saltar al contenido
Alejandro ArandaAlejandro Aranda
Volver a proyectos
1 min de lecturaProyectos

API en TypeScript para NVIDIA ChatRTX

Código fuente

Un cliente hecho con React y TypeScript para conversar con NVIDIA ChatRTX: envías un mensaje al servidor y recibes la respuesta del modelo.

Chat con RTX en TypeScript

¿Qué es ChatRTX?

ChatRTX es una aplicación de NVIDIA que permite personalizar un modelo de lenguaje (LLM) conectándolo a tus propios contenidos —documentos, notas, vídeos u otros datos— usando retrieval-augmented generation (RAG), TensorRT-LLM y aceleración RTX. Como todo corre en local en tu PC con GPU RTX, las respuestas son rápidas y privadas.

La aportación

Este proyecto es un port a TypeScript de la API original en Python: una clase chatApi con un sendMessage(message) que devuelve una promesa con la respuesta del servidor, lista para integrarse en cualquier app React/TypeScript.

Más sobre ChatRTX en NVIDIA. Código en GitHub.