From f709d898fa031132c96a15022a953a717b724866 Mon Sep 17 00:00:00 2001 From: liushuang Date: Tue, 30 Sep 2025 15:41:26 +0800 Subject: [PATCH] add --- MultiAgentOptions.md | 31 ++++++++++++++++++++++++++----- 1 file changed, 26 insertions(+), 5 deletions(-) diff --git a/MultiAgentOptions.md b/MultiAgentOptions.md index d3de86a..93cf67a 100644 --- a/MultiAgentOptions.md +++ b/MultiAgentOptions.md @@ -1,4 +1,4 @@ -# 横评构建企业级 LLM 应用，主流的、开源的 SDK 或框架 +# 横评构建企业级 LLM 应用，主流的、开源框架 ## 基础能力 @@ -18,6 +18,12 @@ > 💡SAA 是 Spring AI Alibaba 的官方简称。**SAA 在对 MCP 工具、提示词模板的管理具有明显优势，尤其适合企业级 LLM 应用的构建。** +参考自： +- SAA 官网：https://java2ai.com +- Spring AI 官网：https://docs.springframework.org.cn/spring-ai/reference/index.html +- LangChain4J 官网：https://docs.langchain4j.info/get-started +- LangChain 官网：https://python.langchain.ac.cn/docs/introduction/ + ## 可观测性（OpenTelemetry） **OpenTelemetry** 通常缩写为**OTel**，是一个开源的、厂商中立的可观测性框架，旨在实现遥测数据的标准化生成、收集和管理。遥测数据包括日志、指标和追踪，这些数据对于监控和理解软件系统的行为至关重要。 @@ -28,9 +34,21 @@ **Spring AI**框架定义了一系列endpoint，为其核心组件提供了指标和追踪能力，例如 ChatClient（包括 Advisor）、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。**SAA**除了拥有**Spring AI**的能力，还提供了配套工具，无需额外编写代码，即可扇出至阿里云ARMS。**LangChain4J**提供了一系列**Listener**，通过 OTel 扇出数据，需要自行实现。**LangChain**自带**LangSmith**，并且支持了OTel，仅需少量代码即可扇出数据。 -> 💡需要注意的是，Spring AI 对于 ChatModel 的可观测性，目前仅支持以下提供商：Anthropic, Azure OpenAI, Mistral AI, Ollama, OpenAI, Vertex AI, MiniMax, Moonshot, QianFan, ZhiPu AI。**未提到的厂商，例如阿里百炼，可能会在未来支持。** +- 使用 OpenTelemetry 跟踪 LangChain：https://langsmith.langchain.ac.cn/observability/how_to_guides/trace_langchain_with_otel +- 使用 OpenTelemetry 客户端将记录到 LangSmith：https://langsmith.langchain.ac.cn/observability/how_to_guides/trace_with_opentelemetry +- Spring AI 可观测性：https://docs.springframework.org.cn/spring-ai/reference/observability/index.html -## 与云计算平台模型提供商之间的适配 +#### Spring AI 对于 ChatModel 仅适配了部分模型提供商 + +| 阿里百炼 | 百度千帆 | 月之暗面 | 智谱 | Anthropic | OpenAI | Ollama | Xinference | GPUStack | +|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----| +| ❌ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ❌ | + +> 💡未提到的厂商，官方宣称将在未来支持。 + +- Spring AI 官网对于聊天模型的支持说明：https://docs.springframework.org.cn/spring-ai/reference/observability/index.html#_chat_model + +## 云计算平台模型提供商对开源框架的适配 | 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 | |:-----|:-----|:-----|:-----|:-----| @@ -41,6 +59,9 @@ > 💡阿里百炼对于**LangChain**仅通过 langchain-openai 适配了部分模型：聊天模型、嵌入模型、重排序模型，**不支持多模态模型**。 -## 与私有化模型部署平台的适配 +- 阿里百炼对于langchain的适配：https://help.aliyun.com/zh/model-studio/use-bailian-in-langchain +- 百度千帆对于langchain的适配：https://cloud.baidu.com/doc/qianfan-docs/s/Mm9cr5bs6 -## 智能体开发 \ No newline at end of file +## 适合用于智能体开发的框架对比 + +| 对比项 | SAA | LangGraph | AutoGen | Crew AI | Manus |