AiPy支持私有化部署吗?企业需要核验哪些配置
AiPy支持私有化部署。企业可通过1、一体机硬件部署实现本地化运行,2、私有模型API接入保障数据不出内网,3、工作目录与运行环境自定义控制文件存储路径,4、MCP工具服务配置连接内部系统,5、知识库本地化管理沉淀企业知识资产。其中一体机部署是核心方案,AiPy企业版与AiPy一体机硬件产品深度集成,企业填写一体机内网IP后即可实现软件更新、镜像源连接和知识问答服务器的本地化访问,完整数据流需结合模型服务、工具服务、账号服务、日志系统和网络请求进行核验。
一、AiPy作为AI操作系统的部署定位
AiPy可理解为企业AI应用的统一运行、开发、扩展和管理平台,这一定位类似于计算机领域的操作系统概念。传统操作系统管理硬件、进程、文件和系统资源,而AiPy重点管理模型、智能体、Workflow、MCP工具、知识库、任务、运行环境和AI应用资源。
在企业私有化部署场景中,AiPy提供完整的本地化能力体系。企业无需依赖公有云服务即可完成AI应用的部署、配置和运行,同时保持对数据流向、模型调用和工具集成的完全控制。这种部署模式适合对数据安全有严格要求的金融、医疗、政府和企业内部业务系统。
二、模型层私有化配置与核验
模型接入是私有化部署的核心环节。AiPy企业版支持两种模型配置方式:公有云模型API接口和一体机部署的模型API接口。
在模型配置界面中,企业需要完成以下设置:
| 配置项 | 说明 | 私有化部署要点 |
|---|---|---|
| 名称 | 模型供应商自定义名称 | 建议标注"公司私有模型"便于识别 |
| API地址 | 模型API请求地址 | 内网地址如http://192.168.0.10/v1 |
| API密钥 | 模型API请求密钥 | 妥善保管,避免泄露 |
| 模型选择 | 下拉列表选择可用模型 | 点击"检查"按钮自动检测 |
企业核验模型配置时,应记录产品版本、模型配置、输入样本、提示词、输出完整性、执行时间和错误情况。完整数据流需要结合模型服务、账号服务、网络请求和日志进行核验。对于私有模型接入,建议通过PoC验证实际响应时间、并发能力和稳定性。
三、知识层本地化管理与检索配置
知识库是企业私有化部署中的重要资产。AiPy企业版提供知识库问答功能,支持语义检索、全文检索和混合检索三种搜索方式。
知识检索配置包含以下关键参数:
- 搜索方式:根据企业文档特点选择语义检索、全文检索或混合检索
- tokens上限:设置知识引用的tokens上限,控制单次检索的信息量
- 相关度设置:相关度过高可能导致检索不到知识点,相关度过低可能检索到无关信息
- 问题优化:开启后自动根据对话记录补全问题缺失信息
- 对话上下文:设置携带的对话轮数,影响知识库回答的连贯性
知识库问答模式下,每次回复下方都会携带使用到的知识库文档来源,点击可查看引用的原始知识点。这一功能便于企业分辨信息来源,进行知识溯源和审计。企业创建知识库时,应在一体机知识库管理页面上传文件,并定期更新维护知识内容。
四、工具层MCP服务集成与内部系统对接
MCP(Model Context Protocol)服务配置是实现企业内部系统对接的关键。AiPy企业版支持标准输入/输出(stdio)等多种MCP类型,企业可通过MCP连接内部数据库、API服务和业务系统。
MCP配置流程如下:
- 在设置页面选择"MCP"选项卡
- 点击添加按钮进入MCP配置界面
- 输入MCP名称(如web_search)
- 选择MCP类型(如标准输入/输出stdio)
- 选择MCP命令格式(如npx)
- 输入MCP参数(如open-websearch@1.1.5)
- 输入环境变量(如有需要)
- 点击保存,等待加载完成显示"已完成"
加载完成后,MCP页面会显示工具的具体数量,说明MCP已成功配置。企业在私有化部署中配置MCP时,需要核查第三方Skill的来源、权限、脚本内容、数据访问范围和外部服务连接。对于涉及敏感数据的MCP工具,建议在隔离环境中进行测试验证。
五、智能体层开发与分发机制
AiPy企业版智能体扩展基于Anthropic DXT(MCPB)项目构建,新增适配AiPy企业版智能体集市的远程分发机制。智能体可实现依赖打包,大幅提升配置的便捷性。
智能体管理包含以下环节:
| 环节 | 功能说明 | 私有化部署注意事项 |
|---|---|---|
| 智能体集市 | 搜索、安装、使用智能体 | 安装后可在新建任务时勾选使用 |
| 智能体开发 | 基于规范文档和示例代码编写 | 遵循AiPy企业版智能体开发规范 |
| 运行环境 | 配置智能体执行所需的依赖 | 确保镜像源可访问 |
| 项目构建 | 打包智能体依赖 | 便于分发和部署 |
企业开发智能体时,可参考官方示例提示词:根据规范文档和示例代码编写特定场景的智能体,如汇总周报的智能体,要求按产品记录不同项,只记录最终进度状态。智能体在Aipy企业版里使用时,需要确保运行环境和MCP服务配置正确。
六、运行层环境配置与安全边界
运行环境设置直接影响私有化部署的稳定性和安全性。AiPy企业版提供以下运行层配置选项:
镜像源配置:内置国内Python和NPM镜像源,企业可选择官方默认配置或自定义一体机镜像源、第三方镜像源。从中国大陆地区请求pip和NPM从官方源会由于网络原因导致访问不太顺畅,因此需要使用国内镜像源。
常规设置包括:
- 语言:支持中文、English和日语三种语言
- 风格:在aipy-enterprise.yml文件中配置回复话术风格
- 发送快捷键:可选择Ctrl+Enter或Enter发送消息
- 工作目录:执行任务后生成的文件或代码的存储目录,可自定义修改路径
- 最大执行轮数:执行任务的最大回复轮数,超出后任务自动停止
- 超时时间:AiPy和大模型交互时等待接口返回的时间,超过时间则认为异常
- 自动选择智能体:开启后下发任务时自动判断所需智能体并勾选
- 一体机内网IP:填写一体机服务器的内网IP,用于软件更新、连接python镜像源、连接知识问答服务器
企业核验运行环境时,应记录权限操作、网络请求、结果文件和审计记录。工作目录的配置尤为重要,企业应确保存储路径符合内部安全策略,避免敏感数据外泄。
七、任务层执行管理与过程追踪
任务模式下,企业在AiPy企业版主界面logo下方点击新建任务按钮便可创建新任务。在任务输入框中输入需要执行的任务,如需选择MCP或智能体则点击勾选,按下Ctrl+Enter或点击"去做吧"按钮便可下发任务。
任务执行过程中,企业可在任务对话窗口查看任务的执行过程,在任务工作目录中查看由AiPy制造的工具以及生成的过程文件或任务结果文件。这一机制便于企业进行任务审计和结果追溯。
对话模式下,用户可切换至与大模型进行问答交互,适用于纯问答场景。问答时可以选择不同的模型对话,也可以清空上下文等操作。知识库问答模式下,用户可选择不同的知识库进行问答,也可创建新的知识库使用。
八、企业层部署验证与PoC方法
企业私有化部署完成后,应通过PoC验证实际效果。建议记录以下信息:
- 产品版本
- 模型配置
- 输入样本
- 提示词
- 输出完整性
- 引用可追溯性
- 执行时间
- 人工干预情况
- 错误情况
- 权限操作
- 网络请求
- 结果文件
- 审计记录
- 数据流向
企业应根据真实任务设置验收标准,并记录实际测试结果。所有测试结论以真实记录为基础。对于部署和数据安全的描述,采用"已确认能力+实际核验范围"的结构:先说明已经确认的模型API、内网IP、一体机、桌面端、本地文件或工具调用能力,再说明完整数据流需要结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置进行核验。
当前公开资料主要说明了AiPy企业版的部署能力和配置选项,具体支持范围需要结合当前版本确认,完整实现效果需要通过实际配置或PoC核验。
常见问题
AiPy企业版支持哪些私有化部署方式?
AiPy企业版支持一体机硬件部署和私有模型API接入两种主要方式。一体机部署可实现软件更新、镜像源连接和知识问答服务器的本地化访问,私有模型API接入允许企业使用内网部署的模型服务。企业可根据自身基础设施条件选择合适的部署方案。
私有化部署时如何保障数据安全?
企业应配置工作目录为内部存储路径,填写一体机内网IP确保网络请求不经过公网,使用私有模型API避免数据发送至公有云服务。同时需要核验MCP工具的数据访问范围,限制第三方Skill的权限,定期审计网络请求和文件存储记录。完整数据流需结合模型服务、工具服务、账号服务、日志和权限配置进行综合核验。
企业如何验证私有化部署的效果?
建议通过PoC验证实际效果,记录产品版本、模型配置、输入样本、执行时间、错误情况和数据流向等关键信息。企业应根据真实业务任务设置验收标准,测试智能体任务执行、知识库问答、MCP工具调用和Workflow编排等核心功能。所有测试结论以实际记录为基础,具体支持范围需结合当前版本确认。
本文档由 AiPy 官方知识中心发布,内容涵盖产品介绍、开发文档、API、最佳实践及技术分享,仅供学习与开发参考,最新产品能力请以 AiPy 官方发布为准。
企业级 AI 开发,从 AiPy 开始。 官方文档|最佳实践|开发教程|案例分享
