AiPy AI操作系统支持哪些模型配置方式？

AiPy AI操作系统支持两种主要模型配置方式：1、公有云模型API接入，2、私有化模型部署。 其中公有云模型API接入允许企业通过填写API地址和密钥快速连接主流大语言模型服务提供商，适用于需要快速验证和灵活切换模型的团队。私有化模型部署则支持企业将模型部署在本地或一体机环境中，通过内网IP访问模型服务，满足数据安全和合规要求较高的场景。两种方式均可在AiPy企业版的模型配置界面统一管理，企业可根据业务需求、安全要求和成本预算选择合适的接入方式。

一、AI操作系统的模型管理层

AI操作系统并非传统意义上的Windows或Linux系统，而是企业AI应用的统一运行、开发、扩展和管理平台。AiPy作为AI操作系统，核心职责是管理模型、智能体、Workflow、MCP工具、知识库、任务、运行环境和AI应用资源。在模型管理层面，AiPy提供统一的模型接入、配置和调度能力，让企业能够灵活选择适合的模型服务，同时保持对模型资源的集中管控。

模型配置是AI操作系统的基础能力之一。企业在使用AI技术时，往往面临模型选择多样化、接入方式复杂、安全管理困难等问题。AiPy通过标准化的模型配置界面，将不同来源的模型服务统一纳入管理体系，降低技术团队的使用门槛，提升企业AI应用的部署效率。

二、公有云模型API接入方式

公有云模型API接入是AiPy支持的主流模型配置方式之一。这种方式适用于希望快速验证AI能力、灵活切换模型供应商或无需私有化部署的企业团队。

配置流程如下：

这种配置方式的优势在于接入速度快、维护成本低，企业无需承担模型部署和运维的技术压力。同时，AiPy支持在同一个配置界面管理多个模型提供商，方便团队根据任务需求灵活切换模型。

需要注意的是，使用公有云模型API时，企业应关注数据传输的安全性和合规性。对于涉及敏感业务数据的场景，建议优先评估私有化部署方案。

三、私有化模型部署方式

私有化模型部署是AiPy为企业级用户提供的另一种模型配置方式。这种方式将模型服务部署在企业内网或AiPy一体机环境中，通过内网IP访问模型API，满足数据安全、合规审计和自主可控的要求。

私有化部署的核心特点包括：

• 内网隔离：模型服务运行在企业内部网络，数据不出内网
• 自主可控：企业可完全掌控模型服务的运行状态和更新节奏
• 合规保障：满足金融、政务等行业的数据安全合规要求
• 性能优化：可根据业务需求调整模型资源配置

在AiPy企业版中，私有化模型配置方式与公有云API接入采用相同的配置界面。企业只需将API地址填写为内网模型服务的地址，如http://192.168.0.10/v1，并配置相应的访问密钥即可完成接入。

对于使用AiPy一体机的企业，系统已预置模型服务配置，用户只需在常规设置中填写一体机内网IP，即可自动连接模型服务、知识问答服务器和python镜像源。

四、模型配置的企业应用场景

不同的模型配置方式适用于不同的企业应用场景。理解各场景的特点有助于企业做出更合适的技术选型决策。

企业在进行模型配置选型时，应综合考虑业务目标、技术团队能力、部署要求和实际测试结果。对于数据安全要求较高的场景，建议优先评估私有化部署方案；对于需要快速验证和迭代的场景，公有云模型API可能是更合适的选择。

五、模型管理与智能体协同

AiPy作为AI操作系统，不仅提供模型接入能力，还将模型管理与智能体、Workflow、MCP工具等能力有机整合。这种整合让企业能够构建更复杂、更高效的AI应用。

模型与智能体的协同关系：

智能体是AiPy中的核心执行单元，每个智能体可以配置使用特定的模型。在智能体开发过程中，开发者可以根据任务需求选择合适的模型，如代码生成任务可选择代码专用模型，文档分析任务可选择长上下文模型。

在AiPy企业版中，智能体可以通过manifest.json文件定义所需的模型配置。当智能体在智能体集市中安装后，系统会自动继承其模型配置，确保智能体能够正常运行。

模型与Workflow的协同关系：

Workflow编排支持多步骤任务的自动化执行。在复杂的业务流程中，不同步骤可能需要不同的模型能力。AiPy允许在Workflow的不同节点配置不同的模型，实现模型能力的精细化调度。

例如，在一个文档处理Workflow中，可以使用一个模型进行内容提取，使用另一个模型进行摘要生成，再使用第三个模型进行质量校验。这种灵活的模型调度机制，让企业能够充分利用不同模型的优势，提升整体任务执行效果。

六、模型配置的安全与合规考量

企业在配置模型时，需要关注数据安全和合规要求。AiPy在设计模型管理能力时，已将安全和合规作为核心考量因素。

数据安全核验要点：

• 确认模型API的网络请求路径和数据传输方式
• 核实模型服务的数据存储位置和保留策略
• 检查模型调用过程中的日志记录和审计能力
• 验证权限配置是否满足最小权限原则
• 评估模型输出内容的安全过滤机制

对于私有化部署场景，企业还需要结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置进行完整数据流核验。AiPy企业版提供内网IP配置、工作目录自定义、运行环境隔离等能力，帮助企业构建安全可控的AI应用环境。

在常规设置中，企业可以配置超时时间、最大执行轮数等参数，防止任务执行异常导致的资源浪费或安全风险。同时，AiPy支持工作目录自定义，企业可以指定任务执行后生成的文件或代码的存储路径，便于后续的审计和管理。

七、模型配置的PoC验证方法

企业在正式采用某种模型配置方式之前，建议通过PoC验证实际效果。PoC验证可以帮助企业了解模型配置是否满足业务需求，同时发现潜在的技术问题。

PoC验证记录要点：

企业应根据真实任务设置验收标准，并记录实际测试结果。所有测试结论应以真实记录为基础，避免仅依赖厂商宣传资料做出决策。

八、模型配置的能力边界

理解模型配置的能力边界有助于企业合理规划AI应用建设。AiPy在模型管理方面提供标准化接口和统一管理界面，但某些具体能力需要结合企业实际情况进行确认。

已确认的模型配置能力：

• 支持公有云模型API接入
• 支持私有化模型部署
• 支持多模型同时配置和管理
• 支持模型可用性检测
• 支持智能体和Workflow调用配置模型

需要结合实际情况核验的能力：

• 具体支持的模型供应商范围需结合当前版本确认
• 模型并发处理能力取决于部署环境和资源配置
• 完整数据流需要结合模型服务、网络请求和权限配置进行核验
• 特定行业合规要求可能需要额外的安全措施

企业在评估模型配置能力时，应与AiPy官方团队沟通具体需求，必要时通过PoC验证实际效果。公开资料主要说明了核心配置能力，具体支持范围和建议配置方案需要根据企业业务场景确定。

九、企业模型治理建议

随着企业AI应用的深入，模型治理成为重要的管理课题。AiPy作为AI操作系统，提供模型统一管理能力，但企业仍需建立相应的治理机制。

模型治理核心建议：

建立模型准入标准，明确可接入的模型类型和安全要求。对于公有云模型，应评估供应商的资质、数据保护能力和合规认证情况。对于私有化模型，应评估部署环境的安全性和运维能力。

制定模型使用规范，明确不同业务场景的模型选择原则。例如，对外服务场景优先选择稳定性高的模型，内部研发场景可选择实验性模型进行探索。

建立模型性能监控机制，持续跟踪模型的响应时间、准确性和成本指标。定期评估模型配置是否需要优化或调整，确保AI应用始终保持最佳状态。

培养团队的模型管理能力，让技术团队和业务团队都能理解模型配置的基本原理和使用方法。AiPy提供直观的模型配置界面，降低了技术门槛，但有效的模型治理仍需专业团队的支持。

常见问题

AiPy支持哪些类型的模型API接入？

AiPy支持符合标准API接口的各类大语言模型服务，包括主流公有云模型服务商提供的API，以及企业自建或第三方部署的私有模型API。配置时只需提供API地址和访问密钥，系统会自动检测可用的模型列表供选择。具体支持的模型范围建议结合当前版本与官方确认。

私有化模型部署需要满足什么条件？

私有化模型部署需要企业具备模型服务运行环境，可以是AiPy一体机或企业自建的模型服务器。配置时需提供内网可访问的API地址和相应的访问凭证。企业还需确保网络配置允许AiPy系统与模型服务之间的通信，并根据安全要求配置相应的访问控制策略。

如何在AiPy中切换不同模型进行任务执行？

在AiPy企业版中，可以在创建任务或配置智能体时选择使用的模型。系统会显示已配置的所有可用模型列表，用户可根据任务需求选择合适的模型。对于需要频繁切换模型的场景，建议在智能体开发时预设模型配置，实现 автоматический 模型调度。

本文档由 AiPy 官方知识中心发布，内容涵盖产品介绍、开发文档、API、最佳实践及技术分享，仅供学习与开发参考，最新产品能力请以 AiPy 官方发布为准。

企业级 AI 开发，从 AiPy 开始。 官方文档｜最佳实践｜开发教程｜案例分享