雖然現在AMD、Intel、Qualcomm高通開始在PC CPU執行AI大作文章，不過若談到PC AI，NVIDIA的GPU仍是最具豐沛資源與運算性能的選擇，而當前在AI領域喊水結凍的NVIDIA宣布針對個人應用推出免費客製化AI聊天機器人軟體Chat with RTX，讓一般大眾可使用家中帶有NVIDIA RTX顯示卡的個人電腦以自己的資料訓練個人化聊天機器人。
下載Chat with RTX：Chat with RTX
Chat with RTX為免費下載，需搭配基於Ampere架構的RTX 30系列顯示卡或是Ada Lovelace架構的RTX 40系列顯示卡，且需要具備8GBB VRAM，可導入的文件檔案包括txt.、.pdf、.doc/.docx、.xml等格式，亦可載入YouTube短片或播放清單作為資料庫，可指定自特定資料夾讀取資料夾內的文件。
▲Chat with RTX始對聊天機器人有興趣的個人用戶可在PC執行個人化聊天機器人，可讀取各類文件或自指定YouTube影片、播放清單作為資料庫
Chat with RTX是結合RAG(Retrieval-Augmented Generation)、NVIDIA TensorRT-LLM等技術的聊天AI，除了使對AI有興趣的大眾能利用電腦內的RTX顯示卡執行聊天機器人，還可將持有的個人化資料導入開源的LLM大型語言模型(如Mistral或Llama2)等進行訓練，使機器人能夠回答個人化內容。且由於是在本機執行，所有的文件都不需經過雲端也不須上船到任何第三方系統，確保個人隱私與資料安全。
