privateGPT

PrivateGPT是一款开源的私有化文档AI助手，让你在完全离线的环境中与文档进行自然语言对话，所有数据不离开本地电脑。 一、快速开始 PrivateGPT需要本地部署，步骤如下： 1. 确保电脑已安装Python 3.11和Git 2. 打开终端，执行 git clone https://github.com/zylon-ai/private-gpt.git 3. 进入项目目录，执行 cd private-gpt 4. 运行脚本安装依赖：poetry install 或 pip install -r requirements.txt 5. 配置本地模型，推荐使用Ollama：先安装Ollama，然后执行 ollama pull llama3 下载模型 6. 复制配置文件：cp .env.example .env，编辑.env设置模型路径 7. 启动服务：make run 或 python -m private_gpt，浏览器访问 http://localhost:8080 即可使用 二、核心功能演示 功能1：上传文档 进入Web界面后，点击左侧Documents标签，选择Upload按钮，支持PDF、Word、TXT、Markdown等格式。上传后系统会自动进行文本提取和向量化索引，等待几秒即可完成。 功能2：文档问答 切换到Chat标签，在输入框中提出关于已上传文档的问题，例如这份报告的主要结论是什么？。系统会检索相关文档片段，结合本地LLM生成准确回答，并标注引用来源。 功能3：文档总结 在聊天窗口输入请总结这份文档的核心内容，AI会通读文档并生成结构化的摘要。你也可以要求按特定角度总结，比如总结文档中提到的所有技术方案。 三、实际使用案例 场景1：企业内部知识库问答 公司可以将内部政策文档、技术手册上传到PrivateGPT，员工通过对话方式快速查询信息，无需翻阅大量文件。由于完全本地运行，敏感数据不会外泄。 场景2：学术论文研究 研究人员上传多篇论文后，可以跨文档提问，例如这几篇论文在方法论上有什么异同？，快速梳理文献综述思路。 四、常见问题FAQ Q1：上传文档后一直显示处理中怎么办？ A1：检查本地模型是否正常运行，确认Ollama服务已启动。文档过大时处理时间较长，耐心等待即可。如仍失败，检查终端日志定位错误。 Q2：回答质量不高怎么改善？ A2：可以尝试更换更大的模型，如llama3:70b；也可以调整.env中的chunk_size和overlap参数，优化文档切分策略。 五、小贴士 1. 文档预处理很重要：上传前尽量将扫描版PDF转为文字版，图片类内容无法被正确索引。 2. 善用系统提示词：在设置中自定义System Prompt，可以让AI以特定角色或风格回答问题。 3. 定期重建索引：如果文档内容更新了，记得删除旧索引并重新上传，确保回答基于最新内容。