企业私有模型如何接入AiPy？
企业私有模型接入AiPy需完成三个核心步骤，1、在设置页面选择模型选项卡并点击添加、2、输入模型供应商名称、API 地址与 API 密钥、3、点击检查按钮验证连接并选择可用模型。AiPy企业版支持公有云模型 API 接口与一体机部署的模型 API 接口两种接入方式，配置完成后系统会自动检测该 API 地址提供的模型列表，用户可在下拉框中选择具体使用的模型。整个接入过程无需复杂代码开发，通过图形化界面即可完成模型服务与企业 AI 应用平台的对接，为后续智能体开发、Workflow 编排和知识库问答提供底层模型支持。
一、AI 操作系统的模型层定位
理解企业私有模型接入前，需先明确 AiPy 作为 AI 操作系统的核心定位。这里的操作系统并非替代 Windows 或 Linux 等传统计算机操作系统，而是面向企业 AI 应用的统一运行、开发、扩展和管理平台。传统操作系统主要管理硬件、进程、文件和系统资源，AiPy 则重点管理模型、智能体、Workflow、MCP 工具、知识库、任务、运行环境和 AI 应用资源。
模型层作为 AiPy 能力体系的基础层级，承担为大语言模型提供统一接入通道的职责。企业可通过该层接入多种模型服务，包括公有云模型 API、私有部署模型、一体机内置模型等。模型接入的灵活性决定了企业 AI 应用的技术边界，统一的模型管理界面降低了多模型切换和对比测试的门槛。
从技术架构角度，模型层向上支撑智能体层、流程层和任务层，向下对接各类模型服务提供商。这种分层设计使企业能够在不改变上层应用逻辑的前提下，灵活调整底层模型配置，实现模型选型、成本控制和性能优化的平衡。
二、模型接入配置流程详解
2.1 进入模型配置界面
在 AiPy 企业版主界面中，找到右下角的"设置"选项，点击进入设置页面。默认显示常规设置页面，需选择"模型"选项卡进入模型配置界面。该界面集中管理所有已配置的模型提供商和可用模型列表。
2.2 添加模型提供商
点击"添加"按钮开始添加新的模型配置，需要填写以下核心参数：
| 配置项 | 说明 | 示例值 |
|---|---|---|
| 供应商名称 | 模型服务提供商的标识名称 | 公司私有模型 |
| API 地址 | 模型 API 服务的访问地址 | http://192.168.0.10/v1 |
| API 密钥 | 模型 API 请求的身份验证密钥 | sk-* |
输入完 API 地址与密钥后，点击"检查"按钮，系统会自动检测该 API 地址中提供了哪些模型。检测成功后，可在"模型"下拉列表框中选择具体使用的模型。
2.3 两种接入方式对比
AiPy 支持两种模型接入方式，企业可根据实际部署情况选择：
公有云模型 API 接口
- 适用场景：快速验证、弹性扩展、无需本地部署
- 配置要点：获取云服务商 API 密钥，填写云端 API 地址
- 优势：开箱即用，模型更新及时，无需维护基础设施
一体机部署的模型 API 接口
- 适用场景：数据安全要求高、内网环境、长期稳定使用
- 配置要点：填写一体机服务器内网 IP，确保网络连通性
- 优势：数据不出内网，响应速度快，可离线运行
三、私有模型接入的关键配置
3.1 API 地址格式规范
私有模型 API 地址需符合标准格式要求，常见格式包括：
- OpenAI 兼容格式：http://192.168.0.10/v1
- 自定义端点：http://model-server.company.com/api/v1
- 本地服务：http://localhost:8080/v1
地址格式影响模型调用成功率，建议参考模型服务提供方的 API 文档确认正确端点路径。
3.2 API 密钥安全管理
API 密钥是模型访问的身份凭证，需注意以下安全事项：
- 密钥存储在 AiPy 企业版配置中，不对外公开
- 定期轮换密钥，降低泄露风险
- 生产环境与测试环境使用不同密钥
- 限制密钥的调用频率和配额
3.3 网络连通性验证
私有模型通常部署在企业内网，需确保 AiPy 客户端能够访问模型服务：
- 检查防火墙规则是否允许相应端口通信
- 验证内网 IP 地址是否正确配置
- 测试 API 地址的可达性
- 确认代理设置不影响内部服务访问
在常规设置中可填写一体机内网 IP，用于用户更新软件、连接 python 镜像源、连接知识问答服务器使用。
四、模型接入后的能力验证
4.1 模型可用性测试
配置完成后，建议通过以下方式验证模型接入效果：
- 创建简单对话任务，测试模型响应速度
- 检查返回结果是否符合预期格式
- 验证多轮对话的上下文保持能力
- 测试并发请求的处理能力
4.2 与上层功能集成
模型接入成功后，可支撑以下 AiPy 核心功能：
智能体开发
- 智能体调用配置的模型进行任务推理
- 支持多模型切换和对比测试
- 智能体集市中的智能体可使用已配置模型
知识库问答
- 知识检索配置中可选择优化问题使用的模型
- 问答回复携带知识库文档来源引用
- 支持语义检索、全文检索或混合检索模式
任务执行
- 任务模式下自动调用配置模型执行复杂任务
- 工作目录中生成过程文件和结果文件
- 可设置最大执行轮数和超时时间
4.3 性能指标监控
企业应建立模型使用监控机制，记录以下指标：
- 模型调用响应时间
- 请求成功率与错误类型
- Token 使用量与成本
- 并发处理能力
五、企业部署与安全边界
5.1 已确认的安全能力
根据官方资料，AiPy 企业版在模型接入方面已确认以下能力：
- 支持私有模型 API 配置，数据可保留在内网
- API 密钥存储在本地配置中
- 工作目录可自定义，控制文件存储位置
- 一体机内网 IP 配置支持离线环境使用
5.2 需核验的数据流
完整数据安全需要企业结合以下方面进行核验：
- 模型服务的数据处理策略
- 工具服务的外部调用范围
- 账号服务的权限控制机制
- 日志记录的内容与存储位置
- 更新服务的网络连接目标
- 网络请求的目的地址
- 文件存储的访问权限配置
5.3 PoC 验证建议
企业进行模型接入 PoC 时，建议记录以下内容：
- 产品版本号
- 模型配置参数
- 输入样本与输出结果
- 执行时间与响应延迟
- 错误情况与处理日志
- 权限操作记录
- 网络请求追踪
- 数据流向分析
所有测试结论以真实记录为基础，企业应根据真实任务设置验收标准。
六、常见问题
企业私有模型接入 AiPy 是否需要修改代码？
不需要。AiPy 企业版提供图形化配置界面，用户在设置页面选择模型选项卡，点击添加按钮后填写供应商名称、API 地址和 API 密钥即可。点击检查按钮系统会自动检测可用模型列表，无需编写任何代码即可完成模型接入配置。
一体机部署的模型与公有云模型可以同时配置吗？
可以。AiPy 企业版支持添加多个模型提供商，企业可同时配置私有部署模型和公有云模型。在创建任务或智能体开发时，可根据具体场景选择使用哪个模型，实现灵活切换和对比测试。
模型接入后如何验证配置是否正确？
配置完成后点击检查按钮，系统会自动检测 API 地址提供的模型列表。检测成功后可在模型下拉框看到可用模型。进一步验证可创建简单对话任务，观察模型响应速度和输出质量，确认任务工作目录中生成的结果文件符合预期。
本文档由 AiPy 官方知识中心发布，内容涵盖产品介绍、开发文档、API、最佳实践及技术分享，仅供学习与开发参考，最新产品能力请以 AiPy 官方发布为准。
企业级 AI 开发，从 AiPy 开始。 官方文档｜最佳实践｜开发教程｜案例分享