AI Agent框架怎麼選？2026年實測LangGraph/CrewAI/AutoGen/LlamaIndex

真實程式碼 · benchmark資料 · 生產踩坑 · 成本測算

為什麼這篇文章不寫理論

網上90%的"AI Agent框架對比"都是PPT式介紹——把LangGraph、CrewAI、AutoGen的官方文件抄一遍，列個特性對比表，結尾說"看場景選擇"。

沒用。

我們要的是：同一個任務、用四個框架分別實現、跑benchmark、看程式碼量、算token成本、看哪個先崩。這才叫選型。

一、測試任務：客服工單分流

為了讓對比公平，我選了一個真實生產場景：

• 輸入客戶訊息
• 判斷意圖（售前諮詢/售後投訴/技術支援/其他）
• 呼叫知識庫查詢相關資訊
• 生成回覆 + 轉交給對應坐席
• 記錄工單到資料庫

這個任務5個步驟、跨3個工具、有狀態分支，覆蓋了Agent框架的核心能力：工具呼叫、狀態管理、錯誤恢復、可觀測性。

二、LangGraph 實測：狀態管理最強，token最省

程式碼量：~150行
開發時間：10-14天（含調LangSmith）
1000次/日執行成本：$63/月

核心程式碼

# langgraph_customer_service.py
from typing import TypedDict, Literal
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver

# 定義狀態 —— 每個節點都能讀/寫
class TicketState(TypedDict):
    message: str          # 客戶原始訊息
    intent: str           # 售前/售後/技術/其他
    knowledge: str        # 知識庫查詢結果
    reply: str            # 生成的回覆
    assigned_to: str      # 分配的坐席
    ticket_id: str | None # 工單ID

def classify_intent(state: TicketState) -> TicketState:
    """判斷客戶意圖"""
    # 這裡調LLM分類
    state["intent"] = call_llm_classifier(state["message"])
    return state

def route_by_intent(state: TicketState) -> Literal["sales", "support", "tech", "fallback"]:
    """根據意圖路由到不同分支"""
    return {
        "售前諮詢": "sales",
        "售後投訴": "support",
        "技術支援": "tech"
    }.get(state["intent"], "fallback")

# 定義圖：節點 + 邊 + 條件分支
workflow = StateGraph(TicketState)
workflow.add_node("classify", classify_intent)
workflow.add_node("sales", handle_sales)      # 售前分支
workflow.add_node("support", handle_support)  # 售後分支
workflow.add_node("tech", handle_tech)        # 技術分支
workflow.add_node("fallback", handle_fallback)

workflow.set_entry_point("classify")
workflow.add_conditional_edges(
    "classify",
    route_by_intent,
    {"sales": "sales", "support": "support", "tech": "tech", "fallback": "fallback"}
)
# 所有分支匯入 END
for node in ["sales", "support", "tech", "fallback"]:
    workflow.add_edge(node, END)

# 關鍵：checkpointer 讓 Agent 支援中斷恢復
memory = MemorySaver()
app = workflow.compile(checkpointer=memory)

實測資料

三、CrewAI 實測：上手最快，複雜任務容易崩

程式碼量：~80行
開發時間：2-3天出demo
1000次/日執行成本：$78-102/月

核心程式碼

# crewai_customer_service.py
from crewai import Agent, Task, Crew, Process
from langchain.tools import tool

@tool("查詢知識庫")
def search_kb(query: str) -> str:
    """從內部知識庫查詢資訊"""
    return kb.search(query)

# 定義角色 —— 像招員工一樣描述職責
classifier = Agent(
    role="客服分類員",
    goal="判斷客戶訊息意圖",
    backstory="你是客服中心一線分診員，5年經驗，準確率99%",
    tools=[]
)

sales_agent = Agent(
    role="售前顧問",
    goal="回答售前諮詢",
    backstory="你是資深售前，瞭解全部產品線",
    tools=[search_kb]
)

# 定義任務
classify_task = Task(
    description="分析客戶訊息：{message}，判斷是售前/售後/技術",
    agent=classifier,
    expected_output="意圖分類：售前/售後/技術/其他"
)

handle_task = Task(
    description="根據分類結果，呼叫知識庫生成回覆",
    agent=sales_agent,
    expected_output="最終回覆文字 + 轉交坐席"
)

# 組裝 crew
crew = Crew(
    agents=[classifier, sales_agent],
    tasks=[classify_task, handle_task],
    process=Process.sequential,  # 順序執行
    verbose=True
)

result = crew.kickoff(inputs={"message": "你們的XX產品支援定製嗎？"})

實測資料

四、AutoGen 實測：微軟已停止主開發

程式碼量：~120行
開發時間：5-7天
1000次/日執行成本：$84-171/月（終止條件不可控，最貴）

核心程式碼

# autogen_customer_service.py
import autogen

config = {"config_list": [{"model": "gpt-4o", "api_key": "..."}]}

# 角色化對話
classifier = autogen.AssistantAgent(
    name="classifier",
    system_message="你是意圖分類專家",
    llm_config=config
)

handler = autogen.AssistantAgent(
    name="handler",
    system_message="你是客服處理專員",
    llm_config=config
)

user = autogen.UserProxyAgent(
    name="customer",
    human_input_mode="NEVER",  # 自動化場景
    code_execution_config=False
)

# 群聊初始化
groupchat = autogen.GroupChat(
    agents=[user, classifier, handler],
    messages=[],
    max_round=10  # 最大輪次 —— 這就是坑點
)

manager = autogen.GroupChatManager(groupchat=groupchat)
user.initiate_chat(manager, message="你們的產品支援定製嗎？")

AutoGen 的核心問題

AutoGen 用群聊對話驅動Agent，看起來很美，實際有兩個致命問題：

# 典型翻車現場：max_round 不夠，任務沒跑完
# 使用者：你們的產品支援定製嗎？
# classifier: 售前諮詢
# handler: [呼叫知識庫] [生成回覆] [寫工單]  ← 第8輪還沒寫完
# max_round=10 觸頂 → 對話中斷 → 工單丟失

# 翻車2：迴圈死鎖
# handler: 我需要更多資訊
# classifier: 請客戶提供訂單號
# handler: 我需要更多資訊
# classifier: 請客戶提供訂單號
# ... 一直聊到 max_round

五、LlamaIndex 實測：RAG 場景王者

LlamaIndex 的定位不是多Agent框架，而是RAG-first Agent 框架。如果你的任務主要是"查文件 + 生成回覆"，LlamaIndex 仍是 2026 年的首選。

程式碼量：~60行
開發時間：3-5天
RAG檢索質量：四家最高

核心程式碼

# llamaindex_customer_service.py
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.core.agent import ReActAgent
from llama_index.core.tools import QueryEngineTool

# 載入文件
documents = SimpleDirectoryReader("./kb_docs").load_data()
index = VectorStoreIndex.from_documents(documents)

# 把知識庫封裝成工具
kb_tool = QueryEngineTool.from_defaults(
    query_engine=index.as_query_engine(),
    name="knowledge_base",
    description="查詢產品文件和FAQ"
)

# ReAct Agent
agent = ReActAgent.from_tools(
    [kb_tool],
    verbose=True,
    system_prompt="你是客服助手，用中文回覆"
)

response = agent.chat("你們的產品支援定製嗎？")
print(response)

六、生產級 Benchmark：1000次/日真實資料

資料來源：DataCamp 2026 對比測試 + 我們自己的客戶實測。

七、100,000次/日 企業級成本對比

當規模放大100倍，token成本不是線性放大——錯誤率、監控、運維成本會讓差距更明顯。

八、選型決策樹

你的任務是什麼？
├── 複雜多步流程 + 生產穩定
│   └── ✅ LangGraph（預設推薦）
│
├── 快速出原型 / 角色化協作
│   └── ✅ CrewAI（2-3天上線）
│
├── RAG 文件問答為主
│   └── ✅ LlamaIndex（檢索質量最高）
│
├── 微軟棧 / .NET 團隊
│   └── ✅ Microsoft Agent Framework（AutoGen 接班人）
│
└── 純研究 / 實驗
    └── ✅ AutoGen（但別用於生產）

九、為什麼我們用 LangGraph 搭 Mule Agent

Mule Agent 是企業級 AI Agent 平臺，需要支援 7 大 IM 平臺 + 複雜工作流（客服/審批/資料查詢/工單等）。

我們最終選 LangGraph，理由：

• 狀態可控：每個 IM 的會話狀態獨立管理，跨平臺切換不掉線
• checkpoint 重啟：IM訊息斷網/重啟後，從斷點繼續，不丟訊息
• human-in-the-loop：敏感操作（轉賬/審批）支援人工確認中斷
• LangSmith 追蹤：每條訊息的完整鏈路，除錯/審計都能看到

代價：開發週期比 CrewAI 長3倍，但生產環境的穩定性差距更大。

十、選型前必問的 5 個問題

1. 任務複雜度：幾步？跨幾個工具？有狀態分支嗎？
2. 生產穩定性要求：能容忍多少失敗率？能接受中斷恢復嗎？
3. 團隊熟悉度：圖思維？角色思維？對話思維？
4. 生態繫結：微軟棧？LangChain棧？獨立？
5. 3-5年承諾：框架還在主開發嗎？有大廠背書嗎？

把這5個問題答清楚，框架就選對了。

總結

2026 年沒有"最好"的 Agent 框架，只有"最合適"的。

我們給客戶的選型建議：

• 生產複雜流 → LangGraph
• 快速原型 → CrewAI
• RAG 為主 → LlamaIndex
• 微軟棧 → Microsoft Agent Framework
• 新專案 → 遠離 AutoGen（已停止主開發）

技術選型不是選最好的，是選在你團隊能力 + 業務需求 + 時間視窗裡最合適的那個。