From d2662586f9c6571ae72a8459ba83a1d57ff83ee6 Mon Sep 17 00:00:00 2001 From: 8ga Date: Fri, 10 Oct 2025 09:55:17 +0800 Subject: [PATCH] =?UTF-8?q?=E6=9B=B4=E6=96=B0=20MultiAgentOptions.md?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- MultiAgentOptions.md | 68 ++++++++++++++++++++++++++------------------ 1 file changed, 41 insertions(+), 27 deletions(-) diff --git a/MultiAgentOptions.md b/MultiAgentOptions.md index 18e6742..10f58c7 100644 --- a/MultiAgentOptions.md +++ b/MultiAgentOptions.md @@ -1,8 +1,22 @@ -# 横评构建企业级 LLM 应用，主流的、开源框架 +## LLM基础应用框架评测对象 -## 基础能力 +- Spring AI Alibaba +- Spring AI +- LangChain4J +- LangChain -| 对比项 | SAA| Spring AI | LangChain4J | LangChain | +## 多智能体框架评测对象 + +- LangGraph +- Spring AI Alibaba Graph +- AutoGen +- CrewAI + +## 第一部分：LLM基础应用框架 + +> 💡SAA 是 Spring AI Alibaba 的官方简称。**SAA 在对 MCP 工具、提示词模板的管理具有明显优势，尤其适合企业级 LLM 应用的构建。** + +| - | SAA| Spring AI | LangChain4J | LangChain | |:-----|:-----|:-----|:-----|:-----| | 语言 | Java | Java | Java | Python | | 聊天模型 | ✅ | ✅ | ✅ | ✅ | @@ -16,36 +30,36 @@ | 聊天记忆 | ✅ | ✅ | ✅ | ✅ | | 模型评估 | ✅ | ✅ | ✅ | ✅ | -> 💡SAA 是 Spring AI Alibaba 的官方简称。**SAA 在对 MCP 工具、提示词模板的管理具有明显优势，尤其适合企业级 LLM 应用的构建。** +## 第二部分：应用框架与模型提供商之间的适配程度 -## 可观测性（OpenTelemetry） +> 打❌号的不代表无法自定义模型提供商，只是官方没有适配，要自己踩坑、费点劲才行 + +| 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 | Xinference | +|:-----|:-----|:-----|:-----|:-----|:-----| +| SAA | ✅ | ✅ | ✅ | ✅ | ✅ | +| Spring AI | ✅ | ✅ | ✅ | ✅ | ✅ | +| LangChain4J | ✅ | ✅ | ✅ | ✅ | ✅ | +| LangChain | ✅ | ✅ | ❌ | ✅ | ✅ | +| AutoGen | ✅ | ✅ | ❌ | ❌ | ❌ | +| CrewAI | ✅ | ✅ | ✅ | ✅ | ✅ | + +> 💡阿里百炼和百度千帆都是通过 langchain-openai 组件适配了 LangChain 框架，但是阿里百炼是残血版，**不支持多模态模型**，百度千帆则是**支持多模态模型的**。**AutoGen**和**CrewAI**对于模型提供商的支持在下文有详细说明。 + +## 第三部分：可观测性（OpenTelemetry） **OpenTelemetry** 通常缩写为**OTel**，是一个开源的、厂商中立的可观测性框架，旨在实现遥测数据的标准化生成、收集和管理。遥测数据包括日志、指标和追踪，这些数据对于监控和理解软件系统的行为至关重要。 -| Spring AI | SAA | LangChain4J | LangChain | -|:-----|:-----|:-----|:-----| -| ✅ | ✅ | ❌ | ✅ | +| Spring AI | SAA | LangChain4J | LangChain | AutoGen | CrewAI | +|:-----|:-----|:-----|:-----|:-----|:-----| +| ✅ | ✅ | ❌ | ✅ | ✅| ✅ | -**Spring AI**框架定义了一系列endpoint，为其核心组件提供了指标和追踪能力，例如 ChatClient（包括 Advisor）、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。**SAA**除了拥有**Spring AI**的能力，还提供了配套工具，无需额外编写代码，即可扇出至阿里云ARMS。**LangChain4J**提供了一系列**Listener**，通过 OTel 扇出数据，需要自行实现。**LangChain**自带**LangSmith**，并且支持了OTel，仅需少量代码即可扇出数据。 +- **Spring AI**为其核心组件提供了指标和追踪能力，例如 ChatClient（包括 Advisor）、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。 +- **SAA**除了拥有**Spring AI**的能力，还提供了配套工具，无需额外编写代码，即可扇出至阿里云ARMS。 +- **LangChain4J**提供了一系列**Listener**，通过 OTel 扇出数据，需要自行实现或借助三方工具。 +- **LangChain**自带**LangSmith**，并且支持了OTel，仅需少量代码即可扇出数据。 +- **AutoGen和CrewAI**官方均提供了对 OTel 的支持。 -#### Spring AI 对于 ChatModel 仅适配了部分模型提供商，未提到的厂商，官方宣称将在未来支持。 - -| 阿里百炼 | 百度千帆 | 月之暗面 | 智谱 | Anthropic | OpenAI | Ollama | Xinference | GPUStack | -|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----| -| ❌ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ❌ | - -## 云计算平台模型提供商对开源框架的适配 - -| 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 | -|:-----|:-----|:-----|:-----|:-----| -| SAA | ✅ | ✅ | 深度适配 | ✅ | -| Spring AI | ✅ | ✅ | ✅ | ✅ | -| LangChain4J | ✅ | ✅ | ✅ | ✅ | -| LangChain | ✅ | ✅ | 部分适配 | ✅ | - -> 💡阿里百炼对于**LangChain**仅通过 langchain-openai 适配了部分模型：聊天模型、嵌入模型、重排序模型，**不支持多模态模型**。 - -## 适合用于智能体开发的框架对比 +## 第三部分：适合用于智能体开发的框架对比 #### 一、LangGraph