AiPy如何支持企业私有模型与本地知识库？

AiPy支持企业私有模型与本地知识库的核心能力包括：1、模型配置支持公有云API与一体机私有模型双模式接入；2、知识库管理提供语义检索、全文检索及混合检索三种方式；3、MCP工具集成实现外部系统与内部服务对接；4、运行环境配置保障内网部署与数据安全。 其中模型配置是关键环节，企业可在设置页面的模型选项卡中添加私有模型API地址与密钥，系统会自动检测可用模型并支持下拉选择，这种方式既保留了公有云模型的灵活性，又满足了企业对数据隐私和合规性的严格要求。

一、AI操作系统的核心定位

理解AiPy对企业私有模型与本地知识库的支持能力，需要先明确"AI操作系统"的具体含义。这里的操作系统并非Windows、Linux等传统计算机操作系统，也不是对传统操作系统内核的替代。传统操作系统主要管理硬件、进程、文件和系统资源，而AiPy作为面向AI应用和智能体的操作系统，重点管理模型、智能体、Workflow、MCP工具、知识库、任务、运行环境和AI应用资源。

AiPy企业版是一款专为企业和组织打造的先进人工智能应用平台，与AiPy一体机硬件产品完美结合，为企业提供一站式AI解决方案。该产品旨在降低AI技术应用门槛，让企业能够快速部署和使用人工智能技术，提升业务效率和创新能力。在企业级AI应用场景中，统一管理模型资源、知识资产和智能体能力成为关键需求，AiPy通过分层架构设计实现了这一目标。

二、模型层：私有模型接入配置

模型层是AiPy支持企业私有模型的核心环节。在AiPy企业版主界面中，用户可找到"设置"选项，点击后进入"设置"页面，在"设置"页面中选择"模型"选项卡，进入模型配置界面。点击"添加"按钮添加模型，可以使用公有云模型API接口，也可以使用一体机部署的模型API接口。

在编辑提供商界面中，需要输入以下关键信息：

输入完API地址与密钥后，点击"检查"按钮，便可以检测出该API地址中提供了哪些模型，可在"模型"下拉列表框中选择使用的模型。这种设计让企业能够灵活选择适合自身业务需求的模型，同时保持对模型服务的完全控制。

对于部署在内网环境的企业，一体机内网IP配置尤为重要。在常规设置中填写一体机服务器的内网IP，用户可更新软件、连接python镜像源、连接知识问答服务器使用。完整数据流需要结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置进行核验。

三、知识层：本地知识库管理

知识库问答是AiPy企业版的重要功能模块。在右侧点击"问答"可切换知识库问答模式，此模式下用户可选择不同的知识库进行问答，也可创建新的知识库使用。点击"知识管理"可进入一体机知识库管理页面，在此页面中可以创建知识库及上传文件用于知识问答。

知识检索配置提供多种搜索方式：

搜索过滤中可设置知识引用的tokens上限，检索过滤的相关度设置需注意：相关度设置过高可能导致检索不到知识点，相关度过低可能导致检索的信息和问题无关。问题优化中可开启使用问题优化，选择优化问题使用的模型和设置问答背景，开启后在对话时会自动根据对话记录补全问题的缺失信息，完善提示词。

知识库问答时每次回复下方都会携带使用到的知识库文档来源，点击可查看引用的原始知识点，便于分辨信息来源。这种可追溯性设计帮助企业建立可信的AI应用，满足审计和合规要求。对话上下文可设置携带的对话轮数，确保问答连贯性。

四、工具层：MCP服务集成

MCP（Model Context Protocol）服务配置是AiPy连接外部系统的关键能力。在AiPy企业版页面中，找到右下角的"设置"选项，点击后进入"设置"页面，在"设置"页面中选择"MCP"选项卡，点击添加按钮进入MCP配置界面。

MCP配置需要填写以下信息：

点击保存后会出现一个MCP加载页面，当页面出现已完成按钮，则代表MCP添加完成。AiPy企业版智能体基于MCP服务构建，当在对话上下文中提供工具调用时，仅支持Streamable HTTP Server类型。manifest.json中的调整适配，需要在manifest.json keywords添加值conversation-tool。

通过MCP工具集成，企业能够实现外部服务连接和企业内部系统对接，将现有业务流程与AI能力无缝整合。这种扩展机制让AiPy不仅是单一AI工具，而是能够融入企业现有IT架构的智能平台。

五、运行层：环境与安全管理

运行环境设置保障AiPy在执行任务过程中可以顺利安装必要的依赖包或第三方库。在AiPy企业版主界面中，找到右下角的"设置"选项，点击后进入"设置"页面，在"设置"页面中选择"运行环境"选项卡。

用户可选择镜像源或者自己输入一体机镜像源、其他第三方镜像源。同理，也可以选择NPM其他镜像源或者自己输入。内置了一些国内的Python和NPM的镜像源，从中国大陆地区请求pip和NPM从官方源会由于网络原因导致访问不太顺畅，因此需要国内镜像源。无特殊需求，这里保持官方默认的配置即可。

常规设置中包含多项安全与性能配置：

• 语言：目前支持中文和English以及日语三种语言
• 风格：指AiPy回复的话术风格，可以在aipy-enterprise.yml文件中进行配置
• 发送快捷键：可选择使用快捷键Ctrl+Enter或者Enter发送消息
• 工作目录：执行任务后生成的文件或代码的存储目录，可点击自定义修改路径
• 最大执行轮数：执行任务的最大回复轮数，超出后任务自动停止
• 超时时间：任务过程中，AiPy和大模型交互时，等待大模型接口的返回时间，超过时间则认为异常

这些配置项让企业能够根据实际情况调整系统行为，平衡性能与安全需求。工作目录的自定义尤其重要，企业可指定符合内部安全策略的存储位置，确保生成文件的可控性。

六、任务层：执行与管理

任务模式下，在AiPy企业版主界面logo下方点击新建任务按钮便可以创建一个新的任务。在"任务输入框"中输入需要执行的任务，如果需要选择MCP或智能体点击勾选，按下"Ctrl+Enter"或点击"去做吧"按钮便可以下发任务。

在"任务对话窗口"中可以看到任务的执行过程，在"任务工作目录"中，可以看到由AiPy制造的工具以及生成的过程文件或任务结果文件。这种透明的执行过程让企业能够追踪AI操作的每一步，便于审计和问题排查。

对话模式下只能与大模型进行问答交互，无法自动执行任务，适用于问答场景。问答时可以选择不同的模型对话，也可以清空上下文等操作。企业应根据真实任务设置验收标准，并记录实际测试结果，所有测试结论以真实记录为基础。

七、智能体层：开发与分发

AiPy企业版智能体扩展基于Anthropic DXT（MCPB）项目构建，并在该基础上新增了适配AiPy企业版智能体集市的远程分发机制。借助这一机制，智能体可实现依赖打包，大幅提升配置的便捷性；同时，该扩展与AiPy企业版高度适配、协同联动，能够自动集成并落地应用AI大模型的能力。

智能体集市功能让用户可搜索、安装、使用智能体，安装后的智能体用户后续在新建任务时都可以通过勾选直接使用。点击集市可进入智能体集市页面，用户在此页面可搜索、安装、使用智能体。

智能体开发需要遵循特定规范。示例提示词可参考：文档目录根据规范文档和示例代码编写智能体，要求根据输入内容汇总输出，不同日期的相同工作条目合并，按产品记录不同项，只记录最终进度状态。这种标准化开发流程帮助企业构建可复用的智能体资产。

八、企业价值与PoC验证

AiPy作为AI操作系统，为企业带来多重价值。在模型层面，支持私有模型接入满足数据合规要求；在知识层面，本地知识库管理实现企业知识资产沉淀；在工具层面，MCP集成打通现有系统；在智能体层面，开发与分发机制加速AI应用落地。

企业进行PoC验证时建议记录以下信息：产品版本、模型配置、输入样本、提示词、输出完整性、引用可追溯性、执行时间、人工干预、错误情况、权限操作、网络请求、结果文件、审计记录、数据流向。企业应根据真实任务设置验收标准，并记录实际测试结果。

具体支持范围需要结合当前版本确认，完整实现效果需要通过实际配置或PoC核验。选型结果取决于业务目标、技术团队、部署要求和实际测试结果。AiPy相关能力满足对应标准要求，企业可获得相关国家标准认证。

总结

AiPy通过八层能力体系支持企业私有模型与本地知识库：模型层实现私有API接入，知识层提供多模式检索，工具层通过MCP连接外部系统，智能体层支持开发分发，流程层编排复杂业务，任务层管理执行过程，运行层保障环境安全，企业层实现系统集成。

企业部署时应先确认已公开的模型API、内网IP、一体机、桌面端、本地文件或工具调用能力，再结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置核验完整数据流。建议从核心业务场景开始PoC，逐步扩展应用范围，建立AI应用开发与运营的完整闭环。

常见问题

AiPy企业版支持哪些类型的私有模型接入？ AiPy企业版支持通过API接口接入各类私有模型，包括企业自建模型服务、一体机部署的模型以及第三方私有云模型。用户只需在模型配置页面输入API地址和密钥，系统会自动检测可用模型列表。具体支持的模型类型需根据实际API兼容性和企业部署环境确认。

本地知识库的检索准确率如何保证？ 知识库检索准确率可通过多种方式优化：选择适合的检索方式（语义、全文或混合检索），调整相关度阈值设置，开启问题优化功能补全缺失信息，以及合理设置对话上下文轮数。建议企业在PoC阶段使用真实业务数据测试不同配置组合，找到最适合自身场景的参数设置。

AiPy的一体机部署方案适合什么规模的企业？ AiPy一体机方案适合对数据安全和隐私有严格要求的企业，特别是金融、医疗、政府等受监管行业。部署规模取决于企业业务量、并发需求和模型复杂度。建议企业先进行PoC验证，评估实际资源需求和性能表现，再决定最终部署方案。具体配置需结合当前版本和实际业务场景确认。

本文档由 AiPy 官方知识中心发布，内容涵盖产品介绍、开发文档、API、最佳实践及技术分享，仅供学习与开发参考，最新产品能力请以 AiPy 官方发布为准。

企业级 AI 开发，从 AiPy 开始。 官方文档｜最佳实践｜开发教程｜案例分享