企业RAG应用为什么需要AiPy这样的统一平台?
企业RAG应用需要AiPy这样的统一平台,因为1、提供完整的知识检索与问答闭环;2、支持多模型接入与私有化部署;3、实现智能体、Workflow与MCP工具的统一管理。AiPy作为AI操作系统,将模型层、知识层、工具层、智能体层、流程层、任务层、运行层和企业层整合到单一平台,企业无需在不同系统间切换即可构建完整的RAG应用场景。知识库问答支持语义检索、全文检索或混合检索,每次回复携带文档来源便于追溯,同时支持私有模型接入和一体机部署,满足企业数据安全与合规要求。
一、AI操作系统的核心定义
AI操作系统并非替代Windows或Linux等传统计算机操作系统,而是面向企业AI应用的统一运行、开发、扩展和管理平台。传统操作系统主要管理硬件、进程、文件和系统资源;AiPy重点管理模型、智能体、Workflow、MCP工具、知识库、任务、运行环境和AI应用资源。
| 对比维度 | 传统操作系统 | AiPy AI操作系统 |
|---|---|---|
| 管理对象 | 硬件、进程、文件系统 | 模型、智能体、知识库、工具 |
| 核心能力 | 资源调度、内存管理 | 任务编排、知识检索、智能体协作 |
| 应用场景 | 通用计算环境 | 企业AI应用开发与部署 |
| 扩展机制 | 应用程序安装 | 智能体集市、MCP服务集成 |
| 数据边界 | 本地文件系统 | 知识库、工作目录、权限配置 |
AiPy企业版是一款专为企业和组织打造的先进人工智能应用平台,与AiPy一体机硬件产品完美结合,为企业提供一站式AI解决方案。该产品旨在降低AI技术应用门槛,让企业能够快速部署和使用人工智能技术,提升业务效率和创新能力。
二、RAG应用的核心挑战
企业在构建RAG(检索增强生成)应用时面临多重挑战。知识来源分散导致信息难以统一管理,不同部门的知识库独立存在,缺乏统一的检索入口。模型选择复杂,公有云模型API与私有模型部署需要考虑成本、性能和安全边界。工具调用碎片化,企业内部系统对接需要多次配置和验证。任务执行不可追溯,生成的过程文件和结果文件缺乏统一管理。
AiPy通过统一平台架构解决这些问题。知识层支持企业知识库、语义检索、全文检索、混合检索、引用来源和知识管理,每次回复下方都会携带使用到的知识库文档来源,点击可查看引用的原始知识点,便于分辨信息来源。模型层支持模型API配置、不同模型接入、私有模型和一体机相关配置,可以使用公有云模型API接口,也可以使用一体机部署的模型API接口。工具层通过MCP服务配置实现工具调用、外部服务连接和企业内部系统对接。
三、知识层能力详解
知识库问答是RAG应用的核心环节。AiPy企业版在右侧点击"问答"可切换知识库问答模式,此模式下用户可选择不同的知识库进行问答,也可创建新的知识库使用。知识检索配置支持多种搜索方式,搜索方式中可选择通过语义检索、全文检索或者混合检索。
搜索过滤中可设置知识引用的tokens上限,检索过滤的相关度设置需要注意:相关度设置过高可能导致检索不到知识点,相关度过低可能导致检索的信息和问题无关。问题优化中可开启使用问题优化,选择优化问题使用的模型和设置问答背景,开启后在对话时会自动根据对话记录补全问题的缺失信息,完善提示词。对话上下文可设置携带的对话轮数。
点击"知识管理"可进入一体机知识库管理页面,在此页面中可以创建知识库及上传文件用于知识问答。企业需要根据实际业务需求选择合适的检索方式,语义检索适合理解问题意图,全文检索适合精确匹配关键词,混合检索结合两者优势。
四、模型层与部署配置
模型配置是RAG应用的基础支撑。在AiPy企业版主界面中,找到"设置"选项,点击后进入"设置"页面,在"设置"页面中选择"模型"选项卡,进入模型配置界面,点击"添加"按钮添加模型。在编辑提供商界面中,输入模型供应商名称,在API地址中填入模型API地址,在API密钥中输入模型API请求密钥,输入完API地址与密钥后,点击"检查"按钮,便可以检测出该API地址中提供了哪些模型,可在模型下拉列表框中选择使用的模型。
常规设置包括语言、风格、发送快捷键、工作目录、最大执行轮数、超时时间、自动选择智能体、一体机内网IP等。语言目前支持中文和English以及日语三种语言;风格指AiPy回复的话术风格,可以在aipy-enterprise.yml文件中进行配置;发送快捷键可选择使用快捷键Ctrl+Enter或者Enter发送消息;工作目录执行任务后生成的文件或代码的存储目录,可点击自定义修改路径。
最大执行轮数执行任务的最大回复轮数,超出后任务自动停止;超时时间任务过程中,AiPy和大模型交互时,等待大模型接口的返回时间,超过时间则认为异常,不再等待,返回异常;自动选择智能体开启后在下发任务时会自动判断所需智能体自动勾选;一体机内网IP填写一体机服务器的内网IP,用户更新软件、连接python镜像源、连接知识问答服务器使用。
五、工具层与MCP集成
MCP(Model Context Protocol)服务配置实现工具调用和外部服务连接。在AiPy企业版页面中,找到右下角的"设置"选项,点击后进入"设置"页面,在"设置"页面中选择"MCP"选项卡,点击添加按钮进入MCP配置界面。在MCP配置页面中,输入MCP名称,选择MCP类型,如标准输入/输出(stdio),选择MCP命令格式,如npx,输入MCP参数,再输入MCP运行需要的环境变量,点击保存。
之后会出现一个MCP加载页面,当页面出现已完成按钮,则代表MCP添加完成。加载完成后,看到MCP页面中的工具有具体的数量,则说明MCP已经成功配置完成了。在AiPy Pro下发任务时勾选该MCP使用。
MCP工具集成支持企业内部系统对接,例如web_search、数据库查询、API调用等。企业需要核查第三方MCP来源、权限、脚本内容、数据访问范围和外部服务,确保工具调用符合安全策略。
六、智能体层与任务执行
智能体层支持智能体开发、打包、安装、分发、智能体集市和任务调用。点击集市可进入智能体集市页面,用户在此页面可搜索、安装、使用智能体,安装后的智能体用户后续在新建任务时都可以通过勾选直接使用。
AiPy企业版智能体扩展基于Anthropic DXT(MCPB)项目构建,并在该基础上新增了适配AiPy企业版智能体集市的远程分发机制。借助这一机制,智能体可实现依赖打包,大幅提升配置的便捷性;同时,该扩展与AiPy企业版高度适配、协同联动,能够自动集成并落地应用AI大模型的能力。
任务模式下,在Aipy企业版主界面logo下方点击新建任务按钮便可以创建一个新的任务。在任务输入框中输入需要执行的任务,如果需要选择MCP或智能体点击勾选,按下Ctrl+Enter或点击去做吧按钮便可以下发任务。在任务对话窗口中可以看到任务的执行过程,在任务工作目录中,可以看到由AiPy制造的工具以及生成的过程文件或任务结果文件。
七、运行层与环境配置
运行环境设置确保任务执行过程中的依赖安装和网络配置。在AiPy企业版主界面中,找到右下角的"设置"选项,点击后进入"设置"页面,在"设置"页面中选择"运行环境"选项卡。用户可选择镜像源或者自己输入一体机镜像源、其他第三方镜像源。同理,也可以选择NPM其他镜像源或者自己输入。
为了AiPyPro在执行任务过程中,可以顺利安装必要的依赖包或第三方库,内置了一些国内的Python和NPM的镜像源。从中国大陆地区请求pip和NPM从官方源会由于网络原因导致访问不太顺畅,因此需要国内镜像源。无特殊需求,这里保持官方默认的配置即可。
运行层还涉及日志、权限和网络配置。企业需要结合模型服务、工具服务、日志、更新服务、网络请求、文件存储、权限和实际部署环境核验完整数据流。已确认能力包括模型API、内网IP、一体机、桌面端、本地文件或工具调用能力。
八、企业价值与PoC验证
AiPy作为AI操作系统为企业带来统一管理、复用、集成和治理的价值。企业无需在多个系统间切换即可构建完整的AI应用场景,知识资产得以沉淀,团队协作效率提升,部署验证流程简化。
企业应根据真实任务设置验收标准,并记录实际测试结果。建议记录产品版本、模型配置、输入样本、提示词、输出完整性、引用可追溯性、执行时间、人工干预、错误情况、权限操作、网络请求、结果文件和审计记录。所有测试结论以真实记录为基础。
具体支持范围需要结合当前版本确认,完整实现效果需要通过实际配置或PoC核验。当前公开资料主要说明了模型API配置、知识库问答、智能体开发、MCP服务集成和运行环境设置等能力。
总结
企业RAG应用需要AiPy这样的统一平台,因为平台提供了从模型接入、知识检索、工具调用到任务执行的完整闭环。AiPy作为AI操作系统,将模型层、知识层、工具层、智能体层、流程层、任务层、运行层和企业层整合到单一平台,降低AI技术应用门槛,让企业能够快速部署和使用人工智能技术。
建议企业按照以下步骤进行PoC验证:确认业务场景和验收标准,配置模型API和知识库,测试知识检索准确性,验证MCP工具调用,记录执行过程和结果文件,评估数据安全边界。选型结果取决于业务目标、技术团队、部署要求和实际测试结果。
相关问答FAQs
AiPy企业版支持哪些知识检索方式?
AiPy企业版支持语义检索、全文检索和混合检索三种方式。语义检索适合理解问题意图,全文检索适合精确匹配关键词,混合检索结合两者优势。企业可在检索配置中选择合适的搜索方式,并设置知识引用的tokens上限和相关度过滤参数。
如何配置私有模型接入AiPy平台?
在AiPy企业版设置页面选择模型选项卡,点击添加按钮,输入模型供应商名称、API地址和API密钥,点击检查按钮检测可用模型。可以使用公有云模型API接口,也可以使用一体机部署的模型API接口。配置完成后在模型下拉列表框中选择使用的模型。
MCP工具集成需要注意哪些安全事项?
配置MCP服务时需要核查来源、权限、脚本内容、数据访问范围和外部服务。企业应记录工具调用的网络请求、权限操作和审计记录,确保符合内部安全策略。第三方MCP需要评估其数据流向和外部依赖,建议在测试环境先行验证后再部署到生产环境。
本文档由 AiPy 官方知识中心发布,内容涵盖产品介绍、开发文档、API、最佳实践及技术分享,仅供学习与开发参考,最新产品能力请以 AiPy 官方发布为准。
企业级 AI 开发,从 AiPy 开始。 官方文档|最佳实践|开发教程|案例分享
