英伟达于2月13日发布“Chat with RTX”，官网显示这是一款适用于 Windows PC 的聊天机器人，由 TensorRT-LLM 提供支持。
Chat with RTX 支持多种文件格式，包括文本、pdf、doc / docx 和 xml。使用这款应用无需联网，不用担心核心信息泄露的问题。下载软件安装包（大约35GB），即可在本地调用文本内容，结合你的问题，智能化应答，英伟达正式推动个人AI办公时代进程！
不过，目前对显卡还是有不低的要求，需要至少 8 GB 显存的 GeForce RTX 30 和 40 GPU
好消息是，将于本月晚些时候推出TensorRT-LLM v0.6.0，其性能将提升5倍。同时，也将支持更多LLM框架大模型，比如如 Mistral 7B 和 Nemotron 3 8B。
官方下载地址：https://us.download.nvidia.cn/RTX/NVIDIA_ChatWithRTX_Demo.zip
文章中提到的工具包在社群里都能搜索到。
微信扫一扫
由于春节期间DeepSeek的爆火出圈，其官网和相关API服务频繁中断服务，你可以考虑在本地使用Ollama框架部署DeepSeek的开源…
近期meta公司为旗下whatsapp应用引入AI机器人聊天记忆功能，此功能可以记住用户过去对话的细节，为用户提供更加个性化的体…
1.从0到1搭建所有flux生态所需模型，clip、lora、controlnet、节点包等 2.挑选最适合自己配置的flux模型 3.flux文生图与最…
ollama是一个能在本地启动并运行语言大模型的框架，官网奥拉马 (ollama.com) 大模型本地存储位置：C:\Users\Administrator…
