NVIDIA发布免费聊天机器 Chat with RTX,可在电脑上本地运行

不少公司也对 AI Chatbot 的私隐感到忧虑,不会将一些文件上传到 ChatGPT 或 Poe 进行分析。NVIDIA 近日宣布推出了一款名为 Chat with RTX 的免费示范版聊天机器人,它能够在用户的个人电脑上本地运行,让聊天机器人可以访问到用户的档案和文件。通过将个人数据输入 Chat with RTX,用户能够让它基于该信息创建摘要。此外,用户还可以像使用其他聊天机器人一样提问,而 Chat with RTX 会深入用户的数据库中寻找答案。

NVIDIA 表示,这款软件允许用户「快速、轻松地将个人电脑上的本地档案作为数据集连接到开源的大型语言模型,如 Mistral 或 Llama 2」。NVIDIA 举例说明,一位用户可以询问聊天机器人在拉斯维加斯期间伴侣推荐的餐厅,该软件会扫描本地档案找到答案。它支持多种档案格式,包括 .txt、.pdf、.doc/.docx 和 .xml,并声称能够在「几秒内」将相关档案载入其数据集中。

NVIDIA发布免费聊天机器 Chat with RTX,可在电脑上本地运行

Chat with RTX 还整合了 YouTube 视频和播放列表功能。用户可以将视频 URL 添加到数据集中,从而让聊天机器人整合视频中的知识以回答情境查询。NVIDIA 表示,这在询问基于喜爱的影响者视频内容的旅游推荐或寻找教育资源摘要和教程时将非常有用。

NVIDIA发布免费聊天机器 Chat with RTX,可在电脑上本地运行

Chat with RTX 让用户能够在不需与第三方分享或连接互联网的情况下,于本地电脑上处理敏感数据,这不仅更安全,也使聊天机器人在处理个人数据时更具情境意识。

NVIDIA发布免费聊天机器 Chat with RTX,可在电脑上本地运行

尽管这是一款示范产品,用户应预期会有许多错误存在,但 NVIDIA 将开始修复这些错误,一旦用户开始报告错误等问题。此外,这款聊天机器人有严格的硬件限制,只能在配备 NVIDIA GeForce RTX 30 系列 GPU 或更高版本且至少有8GB运行内存RAM的Windows电脑上运行。

相关文章