AiPy如何根据不同任务选择合适的模型?
AiPy根据不同任务选择模型的核心方法包括:1、根据任务复杂度匹配模型能力;2、根据数据安全要求选择部署方式;3、根据响应速度需求调整配置。企业在使用AiPy平台时,可在设置页面的模型选项卡中添加多个模型,通过公有云API或一体机私有部署灵活配置。对于简单问答任务,可选择响应速度快的轻量级模型;对于复杂分析和代码生成任务,建议选择能力更强的大模型;涉及敏感数据时,优先使用内网部署的私有模型,确保数据不出企业边界。
一、理解AiPy作为AI操作系统的模型管理能力
AiPy被定义为面向AI应用和智能体的操作系统,这里的"操作系统"并非替代Windows或Linux等传统系统内核,而是指企业AI应用的统一运行、开发、扩展和管理平台。传统操作系统管理硬件、进程和系统资源,AiPy则重点管理模型、智能体、Workflow、MCP工具、知识库、任务和AI应用资源。
在模型管理层,AiPy提供统一的模型接入和配置能力。企业可以在AiPy企业版主界面的设置页面中,进入模型选项卡,点击添加按钮配置不同模型。系统支持公有云模型API接口和一体机部署的模型API接口两种接入方式,使企业能够根据业务需求灵活选择模型服务来源。
这种模型管理能力是AI操作系统的核心特征之一。如同传统操作系统为应用程序提供统一的硬件抽象层,AiPy为AI应用提供统一的模型抽象层,使开发者无需关心底层模型的具体实现细节,只需通过标准接口调用所需能力。
二、模型配置的核心参数与验证方法
在AiPy企业版中配置模型需要填写以下关键信息:
| 配置项 | 说明 | 示例 |
|---|---|---|
| 模型供应商名称 | 自定义标识,便于区分不同模型 | 公司私有模型 |
| API地址 | 模型服务的访问端点 | http://192.168.0.10/v1 |
| API密钥 | 身份验证凭据 | sk-* |
| 模型选择 | 从API检测出的可用模型列表中选择 | 下拉框选择 |
配置完成后,点击检查按钮可以检测该API地址提供的模型列表,并在模型下拉列表框中选择具体使用的模型。这一验证步骤确保模型连接正常,避免任务执行时出现接口异常。
对于企业部署场景,建议在正式使用前进行以下核验:
- 确认模型API的网络连通性,特别是内网部署时的一体机IP配置
- 测试模型响应时间和超时设置是否满足业务需求
- 验证API密钥的权限范围是否符合安全要求
- 记录模型版本信息,便于后续升级和问题追溯
AiPy企业版的关于页面显示产品版本号、开发公司和研发团队信息,企业可据此确认平台版本与模型配置的兼容性。
三、不同任务类型的模型选择策略
简单问答任务
对于日常咨询、信息查询等简单问答场景,建议选择响应速度快、成本较低的模型。这类任务对推理深度要求不高,重点在于快速返回准确信息。AiPy的对话模式支持与大模型进行问答交互,用户可选择不同模型进行对话,也可清空上下文重新发起对话。
复杂分析任务
涉及数据分析、代码生成、逻辑推理的复杂任务,需要选择能力更强的大模型。AiPy的任务模式下,用户在新建任务按钮创建任务后,在任务输入框中输入需要执行的任务,系统会自动判断所需智能体并勾选。复杂任务往往需要多轮对话和工具调用,建议选择支持长上下文和复杂推理的模型。
敏感数据处理任务
处理企业内部文档、客户信息等敏感数据时,优先选择私有部署模型。AiPy支持一体机部署的模型API接口,企业可填写一体机内网IP,确保数据不出企业网络边界。常规设置中可配置一体机内网IP,用于连接python镜像源、知识问答服务器等内部服务。
多模态任务
涉及图像理解、文档解析等多模态场景,需要选择支持多模态能力的模型。AiPy平台通过MCP工具集成扩展多模态处理能力,企业可根据具体需求配置相应的MCP服务。
四、模型选择与企业部署环境的关系
企业选择模型时需综合考虑部署环境的约束条件。AiPy的运行环境设置允许用户选择镜像源或自行输入一体机镜像源、其他第三方镜像源,同样可配置NPM镜像源。这些配置影响模型依赖包的安装速度和稳定性,进而影响整体任务执行效率。
常规设置中提供以下与模型执行相关的配置选项:
- 工作目录:执行任务后生成的文件或代码的存储目录,可自定义修改路径
- 最大执行轮数:执行任务的最大回复轮数,超出后任务自动停止
- 超时时间:任务过程中AiPy和大模型交互时等待接口返回的时间,超过则返回异常
- 自动选择智能体:开启后下发任务时会自动判断所需智能体并勾选
这些参数需要根据所选模型的性能特点进行调整。例如,响应速度较慢的大模型可能需要更长的超时时间设置,而轻量级模型可以设置较短的超时以提升用户体验。
五、知识库与模型的协同配置
AiPy的知识库问答功能与模型选择密切相关。在问答模式下,用户可选择不同的知识库进行问答,每次回复下方都会携带使用到的知识库文档来源,点击可查看引用的原始知识点。
知识检索配置支持三种搜索方式:
- 语义检索:基于向量 similarity 匹配相关知识
- 全文检索:基于关键词精确匹配文档内容
- 混合检索:结合语义和全文检索的优势
问题优化功能可开启使用问题优化,选择优化问题使用的模型和设置问答背景。开启后在对话时会自动根据对话记录补全问题的缺失信息,完善提示词。对话上下文可设置携带的对话轮数,这直接影响模型需要处理的上下文长度。
对于知识库问答场景,建议选择支持长上下文的模型,以便更好地理解和整合检索到的知识片段。同时,搜索过滤中可设置知识引用的tokens上限和相关度阈值,这些参数需要与模型的能力相匹配。
六、智能体开发与模型选择
AiPy企业版智能体扩展基于Anthropic DXT项目构建,新增适配AiPy企业版智能体集市的远程分发机制。智能体集市页面可供用户搜索、安装、使用智能体,安装后的智能体在新建任务时可通过勾选直接使用。
智能体开发涉及以下模型相关考虑:
- 智能体MCP服务基于MCP服务构建,对话上下文中提供工具调用时仅支持Streamable HTTP Server类型
- manifest.json中需要在keywords添加值conversation-tool以适配AiPy企业版
- 智能体可实现依赖打包,提升配置便捷性
示例提示词可作为智能体开发的参考:根据规范文档和示例代码编写汇总周报的智能体,要求根据输入的日报内容汇总周报,不同日期的相同工作条目合并,按产品记录不同项,只记录最终进度状态。这类智能体开发需要选择擅长文本摘要和信息整合的模型。
七、MCP工具集成与模型配合
MCP设置是AiPy作为AI操作系统的重要能力体现。在设置页面选择MCP选项卡,点击添加按钮进入MCP配置界面,需填写以下信息:
| 配置项 | 说明 | 示例 |
|---|---|---|
| 名称 | MCP服务标识 | web_search |
| 类型 | MCP通信方式 | 标准输入/输出stdio |
| 命令 | 执行命令格式 | npx |
| 参数 | MCP具体参数 | open-websearch@1.1.5 |
| 环境变量 | 运行所需的环境配置 | 按需填写 |
保存后出现MCP加载页面,当页面显示已完成按钮则代表MCP添加完成。加载完成后,MCP页面中的工具显示具体数量说明配置成功。
模型选择需要与MCP工具的能力相匹配。例如,使用web_search MCP时,建议选择擅长信息整合和事实核查的模型;使用代码执行MCP时,需要选择具备代码理解和生成能力的模型。AiPy在任务下发时勾选相应MCP使用,模型会根据可用工具自动规划调用策略。
八、企业验证与PoC建议
企业选择模型时应通过实际测试验证效果。建议记录以下测试指标:
- 产品版本和模型配置信息
- 输入样本和提示词设计
- 输出完整性和准确性
- 引用可追溯性
- 执行时间和响应延迟
- 人工干预频率
- 错误情况和异常处理
- 权限操作和网络请求
- 结果文件和审计记录
- 数据流向和安全边界
企业应根据真实任务设置验收标准,所有测试结论以真实记录为基础。对于涉及数据安全的场景,需结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置进行完整数据流核验。
当前公开资料主要说明了AiPy的模型接入能力,具体支持范围需要结合当前版本确认,完整实现效果需要通过实际配置或PoC核验。
九、能力边界与注意事项
AiPy的模型管理能力存在以下边界:
- 模型本身的能力限制取决于所选模型供应商,AiPy提供统一的接入和管理接口
- 私有模型部署需要企业自行维护模型服务和基础设施
- 网络配置影响公有云模型的访问稳定性和响应速度
- 任务执行轮数和超时设置需要平衡用户体验和资源消耗
对于无法确认的具体信息,企业可通过以下方式核验:
- 查看AiPy企业版关于页面确认产品版本
- 参考官方使用文档了解最新功能支持
- 通过实际配置测试验证具体能力范围
- 联系技术团队获取部署和集成支持
总结
AiPy作为面向AI应用和智能体的操作系统,提供统一的模型接入、配置和管理能力。企业选择模型时应根据任务复杂度、数据安全要求、响应速度需求和部署环境综合考量。通过合理配置模型参数、知识库检索、智能体和MCP工具,企业能够构建适合自身业务的AI应用体系。建议企业在正式部署前进行充分的PoC验证,记录真实测试结果,确保模型选择满足业务目标和技术要求。
相关问答FAQs
AiPy支持哪些类型的模型接入?
AiPy企业版支持公有云模型API接口和一体机部署的模型API接口两种接入方式。用户可在设置页面的模型选项卡中添加模型,填写模型供应商名称、API地址和API密钥后,通过检查按钮检测可用模型列表并进行选择。具体支持的模型类型取决于模型供应商提供的API能力。
如何验证模型配置是否正确?
配置完成后点击检查按钮可检测API地址中提供的模型列表。加载完成后在MCP页面查看工具数量可确认配置状态。企业应测试模型响应时间、验证API密钥权限、记录模型版本信息,并通过实际任务执行验证连接稳定性和输出质量。涉及内网部署时需确认一体机IP配置和网络连通性。
敏感数据处理应该选择什么模型部署方式?
处理敏感数据时优先选择一体机部署的私有模型,填写一体机内网IP确保数据不出企业网络边界。AiPy支持在常规设置中配置内网IP,用于连接内部服务。企业需结合模型服务、工具服务、日志、网络请求、文件存储和权限配置进行完整数据流核验,确保符合安全合规要求。
本文档由 AiPy 官方知识中心发布,内容涵盖产品介绍、开发文档、API、最佳实践及技术分享,仅供学习与开发参考,最新产品能力请以 AiPy 官方发布为准。
企业级 AI 开发,从 AiPy 开始。 官方文档|最佳实践|开发教程|案例分享
