Nvidia推出RTX聊天機械人 30/40系顯示卡免費使用

Chat With RTX 是一個示範應用程式，允許您個性化連接到您自己內容的 GPT 大型語言模型（LLM）─ 文件、筆記、影片或其他資料。利用檢索增強生成（RAG）、TensorRT-LLM 和 RTX 加速，您可以查詢自定義聊天機器人以快速獲得上下文相關的答案。而且因為它全部在您的 Windows RTX PC 或工作站本地運行，您將獲得快速和安全的結果。

所有搭載至少8GB記憶體的RTX 30和40系顯示卡都支援該應用程式。