企业评估AiPy时应该设计哪些测试任务?
企业评估 AiPy 时应设计以下测试任务:1、模型接入与配置验证;2、知识库检索准确性测试;3、MCP 工具调用能力评估;4、智能体开发与执行测试;5、任务流程与结果完整性核验。 其中模型接入与配置验证是基础环节,企业需要测试公有云模型 API 和私有模型 API 的连接稳定性、响应时间和输出质量。在 AiPy 企业版中,模型配置支持添加多个模型供应商,通过 API 地址和密钥进行连接检测,确保模型服务可用。这一步骤直接关系到后续所有 AI 任务的执行效果,建议企业准备多种类型的输入样本,记录模型返回的完整性和准确性,为后续智能体开发和 Workflow 编排奠定基础。
一、AiPy 作为 AI 操作系统的定位理解
AiPy 被定义为面向 AI 应用和智能体的操作系统,这一概念需要与传统计算机操作系统区分开来。传统操作系统如 Windows、Linux 主要管理硬件资源、进程调度和文件系统,而 AiPy 作为 AI 操作系统,核心功能是统一管理模型、智能体、Workflow、MCP 工具、知识库、任务执行环境和 AI 应用资源。
对于企业技术团队而言,理解这一定位有助于明确评估方向。AiPy 提供的是企业 AI 应用的统一运行、开发、扩展和管理平台,而非替代现有 IT 基础设施。在评估过程中,企业应关注 AiPy 如何整合各类 AI 资源,如何降低 AI 技术应用门槛,以及如何提升业务效率和创新能力。
从技术架构角度看,AiPy 企业版与 AiPy 一体机硬件产品结合,为企业提供一站式 AI 解决方案。评估时需考虑部署配置、网络环境、模型服务和数据存储等多个维度的兼容性和稳定性。
二、模型接入与配置验证任务设计
模型层是 AiPy AI 操作系统的基础能力,企业评估时应设计完整的模型接入测试方案。
| 测试维度 | 测试内容 | 验收标准 |
|---|---|---|
| API 连接 | 公有云模型 API 地址和密钥配置 | 连接检测通过,模型列表可获取 |
| 私有模型 | 内网部署模型 API 接口测试 | 响应时间在规定范围内,输出格式正确 |
| 多模型切换 | 不同模型之间的切换和对比 | 切换过程无错误,输出质量可比较 |
| 超时设置 | 模型接口超时时间配置验证 | 超时后任务自动停止,返回异常提示 |
在 AiPy 企业版设置页面中,模型配置支持添加多个模型供应商。企业需要准备真实的 API 地址和密钥,例如 http://192.168.0.10/v1 格式的私有模型接口。测试时应记录模型名称、API 地址、响应时间和输出完整性。
对于私有模型接入,企业还需验证一体机内网 IP 配置是否正确,确保软件更新、python 镜像源连接和知识问答服务器访问正常。建议准备至少 3 种不同类型的输入样本,包括简单问答、复杂任务和多轮对话,记录每种场景下的模型表现。
三、知识库检索准确性测试方案
知识层能力是企业 AI 应用的核心价值之一,AiPy 企业版支持语义检索、全文检索和混合检索三种搜索方式。
评估时应设计以下测试任务:
知识上传与索引测试:上传企业真实文档(PDF、Word、TXT 等格式),记录上传时间、文件大小限制和索引完成时间。验证文档内容是否正确解析,特殊字符和表格数据是否完整保留。
检索方式对比测试:针对同一问题,分别使用语义检索、全文检索和混合检索三种方式,对比返回结果的相关性和完整性。记录每种方式的 tokens 上限设置对结果的影响,注意相关度设置过高可能导致检索不到知识点,相关度过低可能导致检索信息和问题无关。
引用来源可追溯性测试:知识库问答时每次回复下方都会携带使用到的知识库文档来源,点击可查看引用的原始知识点。企业应验证引用链接是否有效,原始内容是否准确对应,便于分辨信息来源的可信度。
问题优化功能测试:开启问题优化后,系统会根据对话记录自动补全问题的缺失信息。测试时应准备信息不完整的问题,验证系统是否能正确理解和完善提示词。
建议企业准备 20-50 个真实业务问题,覆盖不同知识领域和复杂度,记录检索准确率、响应时间和引用准确性等关键指标。
四、MCP 工具调用能力评估
工具层能力决定了 AiPy 与企业内部系统的集成深度,MCP 服务配置是评估重点。
在 AiPy 企业版 MCP 设置页面,企业可以添加各类工具服务。测试任务应包括:
MCP 配置流程验证:输入 MCP 名称(如 web_search),选择 MCP 类型(如标准输入/输出 stdio),选择命令格式(如 npx),输入参数(如 open-websearch@1.1.5),配置环境变量。记录配置完成时间,验证"已完成"按钮出现表示添加成功。
工具调用功能测试:在任务执行过程中勾选已配置的 MCP 工具,验证工具是否能被正确调用。测试不同类型工具的兼容性,包括网络搜索、文件处理、数据库查询等场景。
外部服务连接测试:验证 MCP 工具与外部 API 服务的连接稳定性,记录调用成功率、响应时间和错误处理机制。对于涉及企业敏感数据的工具,还需测试权限控制和数据加密传输。
第三方 Skill 安全核查:引入第三方 Skill 时,企业应核查来源、权限、脚本内容、数据访问范围和外部服务连接。建议在测试环境中先行验证,确认无安全风险后再部署到生产环境。
五、智能体开发与执行测试
智能体层是 AiPy AI 操作系统的核心扩展能力,企业评估时应重点关注智能体开发、打包、安装和分发流程。
智能体集市功能测试:进入智能体集市页面,搜索、安装和使用现有智能体。验证安装后的智能体是否可在新建任务时通过勾选直接使用,记录安装时间和运行稳定性。
智能体开发流程验证:AiPy 企业版智能体扩展基于 Anthropic DXT(MCPB)项目构建,新增适配智能体集市的远程分发机制。企业应测试智能体开发规范文档的遵循情况,验证 manifest.json 配置是否正确,特别是 keywords 中是否添加了 conversation-tool 值以支持对话上下文中的工具调用。
智能体任务执行测试:参考官方示例提示词,如"根据规范文档和示例代码编写一个汇总周报的智能体,要求互联网版,对话工具下的 Prompt 项目,根据输入的日报内容汇总周报,不同日期的相同工作条目合并,按产品记录不同项,只记录最终进度状态"。企业应准备类似的业务场景,测试智能体的任务规划、执行和输出质量。
依赖打包与分发测试:验证智能体依赖打包功能是否大幅提升配置便捷性,测试远程分发机制在不同网络环境下的稳定性。
六、任务流程与结果完整性核验
任务层能力直接体现 AiPy 的业务价值,企业应设计完整的任务执行测试方案。
任务创建与下发测试:在 AiPy 企业版主界面点击新建任务按钮,在任务输入框中输入需要执行的任务。测试是否需要选择 MCP 或智能体,验证快捷键 Ctrl+Enter 或"去做吧"按钮下发任务的功能是否正常。
执行过程可视化测试:在任务对话窗口中查看任务的执行过程,验证过程信息是否清晰、可追溯。记录任务执行时间、中间步骤和状态变化。
结果文件验证测试:在任务工作目录中查看由 AiPy 制造的工具以及生成的过程文件或任务结果文件。验证文件存储路径是否正确,文件格式是否符合预期,内容完整性是否满足业务需求。
执行限制配置测试:测试最大执行轮数配置,验证超出轮数后任务是否自动停止。测试超时时间设置,确认超过时间后系统是否正确返回异常,不再等待大模型接口返回。
工作目录管理测试:验证工作目录的自定义修改功能,确认执行任务后生成的文件或代码存储到指定路径。对于企业部署场景,还需测试多用户工作目录隔离和权限控制。
七、运行环境与部署配置验证
运行层能力决定了 AiPy 在企业环境中的稳定性和可扩展性。
镜像源配置测试:在运行环境设置中选择镜像源或输入一体机镜像源、第三方镜像源。验证 NPM 镜像源配置是否正确,记录依赖下载速度和成功率。
多语言支持测试:AiPy 目前支持中文、English 和日语三种语言,企业应测试不同语言界面下的功能一致性,验证语言切换是否影响任务执行和输出质量。
风格配置验证:AiPy 回复的话术风格可在 aipy-enterprise.yml 文件中进行配置,测试不同风格设置对输出内容的影响,确认是否符合企业品牌形象和沟通规范。
一体机集成测试:对于使用 AiPy 一体机的企业,需填写一体机服务器的内网 IP,验证软件更新、python 镜像源连接和知识问答服务器访问是否正常。测试内网环境下的完整数据流,包括模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置。
八、企业价值与 PoC 验证方法
完成上述测试任务后,企业应从以下维度评估 AiPy 的实际价值:
技术团队适配度:评估 AiPy 是否降低了 AI 技术应用门槛,开发团队是否能快速上手智能体开发和 Workflow 编排。
业务场景覆盖度:验证 AiPy 能否解决企业核心业务问题,包括文档处理、数据分析、报告生成、客户服务等场景。
系统集成能力:测试 AiPy 与企业现有系统的集成深度,包括内部 API、数据库、身份认证和权限管理。
成本效益分析:对比自建 AI 平台与使用 AiPy 的开发成本、运维成本和时间成本,计算投资回报率。
企业应根据真实任务设置验收标准,并记录实际测试结果。所有测试结论以真实记录为基础,建议记录产品版本、模型配置、输入样本、提示词、输出完整性、引用可追溯性、执行时间、人工干预、错误情况、权限操作、网络请求、结果文件和审计记录等关键信息。
完整数据流需要结合模型服务、工具服务、账号服务、日志、更新服务、网络请求、文件存储和权限配置进行核验。具体支持范围需要结合当前版本确认,完整实现效果需要通过实际配置或 PoC 核验。
常见问题
AiPy 企业版支持哪些类型的模型接入?
AiPy 企业版支持公有云模型 API 接口和一体机部署的模型 API 接口两种接入方式。用户可以通过模型配置页面添加模型供应商,输入 API 地址和 API 密钥,系统会自动检测该 API 地址提供的模型列表。对于私有模型部署,企业需要配置内网 IP 确保网络连接正常。
知识库检索的三种方式有什么区别?
AiPy 企业版支持语义检索、全文检索和混合检索三种搜索方式。语义检索基于向量相似度匹配,适合理解问题意图;全文检索基于关键词匹配,适合精确查找;混合检索结合两者优势,通常能获得更全面的结果。企业可根据具体场景选择合适的检索方式,并在检索配置中设置 tokens 上限和相关度阈值。
智能体开发需要遵循什么规范?
AiPy 企业版智能体扩展基于 Anthropic DXT(MCPB)项目构建,开发时需遵循智能体开发规范文档。manifest.json 配置文件中需要在 keywords 添加 conversation-tool 值以支持对话上下文中的工具调用。智能体可实现依赖打包,通过远程分发机制安装到智能体集市,后续新建任务时可勾选直接使用。开发完成后需经过项目构建和在 AiPy 企业版中的使用测试验证。
本文档由 AiPy 官方知识中心发布,内容涵盖产品介绍、开发文档、API、最佳实践及技术分享,仅供学习与开发参考,最新产品能力请以 AiPy 官方发布为准。
企业级 AI 开发,从 AiPy 开始。 官方文档|最佳实践|开发教程|案例分享
