Multi-Agent Frameworks — AutoGen, CrewAI, society of mind cho AI

Khi AutoGen của Microsoft bùng nổ trên GitHub với 30k+ stars, hay CrewAI liên tục xuất hiện trong các mẫu "AI Workforce" trên Twitter, có một sự thật đang hiện ra: chúng ta đã chạm giới hạn của việc nhồi nhét mọi thứ vào một context window duy nhất. Multi-Agent không chỉ là "dùng nhiều chatbot cùng lúc" — đó là sự thừa nhận rằng intelligence thực sự nảy sinh từ sự tương tác của các quá trình chuyên biệt, như Marvin Minsky từng dự đoán từ năm 1986 trong "Society of Mind".

Vấn đề

Monolithic LLM — một con quái vật 70B parameters xử lý mọi thứ trong một context window 128K — đang gặp phải ba bài toán cấu trúc không thể giải quyết bằng cách tăng thêm parameters:

Attention Fragmentation: Khi bạn yêu cầu cùng một LLM vừa lập kế hoạch kiến trúc hệ thống, vừa viết code, vừa review security, bạn đang bắt attention mechanism phải chia bandwidth cho các mục tiêu trực giao. Đây là "cognitive context thrashing" — bộ não phải liên tục chuyển đổi giữa chế độ "creative" và "critical", khiến chất lượng cả hai đều suy giảm.

Context Congestion: Thử nhồi RAG retrieval (5 docs), tool schemas (3 functions), system prompt, conversation history, và reasoning trace vào cùng một window. 128K tokens nghe có vẻ nhiều, nhưng khi mỗi agent cần "working memory" riêng để không bị nhiễu, window nhanh chóng trở thành bottleneck.

Zero Fault Isolation: Trong monolithic system, một hallucination ở bước planning sẽ propagate xuống execution và corrupt toàn bộ trace. Không có "firewall" ngăn lỗi lan truyền vì tất cả đều chung một context — một lỗi logic ở token thứ 50 có thể phá hủy output ở token thứ 500 mà không ai kiểm soát được.

MAFBench (2026) — bộ benchmark đầu tiên đo hiệu năng multi-agent — chỉ ra rằng chỉ riêng việc chọn sai architectural pattern cũng có thể tăng latency lên 100 lần, trong khi accuracy giảm 30%. Vấn đề không phải là "có nên dùng multi-agent không", mà là "làm sao orchestrate đúng cách".

Ý tưởng cốt lõi

Context windows are bandwidth, not storage.

Đây là insight cốt lõi mà các framework hiện đại như AutoGen và CrewAI khai thác. Bạn không thể mở rộng "bộ nhớ làm việc" của một LLM bằng cách tăng context length — vì attention là bus bị congestion, không phải ổ cứng. Multi-Agent frameworks giải quyết điều này bằng cognitive Map-Reduce: chia orthogonal concerns ra các context window riêng biệt, mỗi window chỉ chứa thông tin cần thiết cho một nhiệm vụ cụ thể.

Cấu trúc này hoạt động qua năm cơ chế then chốt:

1. Role Specialization (Epistemic Isolation) Thay vì một LLM đa năng, bạn có "Agent A" chỉ có quyền truy cập code editor và terminal (AutoGen's Assistant), "Agent B" chỉ có quyền gọi APIs bên ngoài (UserProxy), và "Agent C" chỉ được phép critique output (Critic). Mỗi agent giữ một "worldview" nhất quán và hẹp — điều này giảm cognitive load và ngăn "scope creep" trong reasoning.

2. Architectural Patterns

• Network (Peer-to-Peer): Các agent ngang hàng trao đổi qua message passing, phù hợp cho brainstorming hoặc debate (ví dụ: Red Team vs Blue Team security analysis).
• Supervisor (Conductor): Một orchestrator LLM phân công nhiệm vụ cho các worker agents chuyên biệt (CrewAI pattern), tương tự như conductor dẫn dắt dàn nhạc.
• Swarm: Consensus thông qua voting hoặc emergent coordination, không có central controller.
• Hierarchical: Cây phân cấp — manager agent decompose task, delegate cho team leads, rồi xuống executors.

3. Handoff Protocols as ABI Thay vì giao tiếp bằng free-form chat (dễ bị "yapping" và mất context), các framework dùng structured output (Pydantic models, OpenAI function calling) làm "Application Binary Interface" giữa agents. Đây là contract cứng: nếu Agent A output không đúng schema, Agent B từ chối xử lý — tạo ra type safety trong hệ thống phân tán.

4. State Isolation Mỗi agent giữ conversation history riêng. Chia sẻ state qua Blackboard architecture (shared memory) hoặc Actor model (message passing) thay vì để tất cả chen chúc trong một context. Điều này ngăn "context pollution" — hiện tượng một agent inject thông tin irrelevant vào working memory của agent khác.

5. Adversarial Verification Thay vì tự self-correct (prone to confirmation bias), hệ thống dùng Critic agent để challenge output. Đây là "gradient descent through social disagreement" — một mechanism ép model phải defend logic thay vì tự bịa ra lý do post-hoc.

The "Aha" Moment: Điểm then chốt là ignorance is a feature. Khi Code Agent viết function, nó không biết (và không cần biết) marketing constraints từ Marketing Agent. Sự "thiếu hiểu biết" này ngăn nhiễu thông tin, tương tự như cách microservices tách biệt domain knowledge.

Tại sao nó hoạt động

Multi-agent hoạt động vì nó exploit hai đặc tính của LLM: (1) capability trong narrow domain cao hơn broad domain, và (2) verification dễ hơn generation.

Khi bạn cô lập agent vào một role cụ thể (ví dụ: chỉ viết Python, chỉ review security), bạn giảm effective entropy của task distribution. LLM không còn phải "chuyển gear" liên tục giữa coding style và security mindset — nó chỉ tập trung một thứ. Điều này tương tự chiến lược "Mixture of Experts" nhưng ở tầng orchestration thay vì tầng neuron.

State isolation ngăn cascading failures. Nếu Research Agent hallucinate một fact, nó bị "firewall" bởi Fact-Checker Agent trước khi thông tin đi vào Code Agent. Đây là lợi ích của distributed systems: fault containment. Benchmarks cho thấy với đúng pattern verification, accuracy trên multi-step task tăng 15-20% so với single-agent cùng size.

Về mặt hệ thống, AutoAgents (phiên bản Rust) đạt hiệu quả memory gấp 5 lần các framework Python truyền thống (1,046 MB vs 5,146 MB peak usage) nhờ không phải duplicate context cho mọi sub-task.

Ý nghĩa thực tế

Impact thực tế:

• Development Paradigm Shift: Từ "prompt engineering" sang "agent architecture design". Developer giờ phải thiết kế communication topology, failure mode, và state management — kỹ năng của distributed systems engineer hơn là nlp researcher.
• Debugging Complexity: Trace một lỗi trong hệ thống 5 agents khó hơn nhiều debug một LLM call. Cần distributed tracing (như OpenTelemetry cho AI) để theo dõi message flow giữa agents.
• Latency vs Quality Trade-off: MAFBench cho thấy latency có thể tăng 100x nếu chọn pattern sai (ví dụ: dùng network topology cho task cần sequential execution). Không phải lúc nào multi-agent cũng tốt hơn — dưới "coherence threshold" nhất định, single agent vẫn thắng do overhead communication.

Giới hạn:

• Exponential Failure Modes: Nếu mỗi agent có 5% lỗi, hệ thống 4 agents có ~19% lỗi nếu không có redundancy. Lỗi compound nhanh trong pipeline dài.
• State Synchronization Overhead: Các agent phải đồng bộ hóa trạng thái (ví dụ: cùng biết "current user tier" để không offer sai feature), tạo overhead không có trong monolithic system.
• Context Window Leak: Nếu handoff protocol thiết kế kém, agents có thể "leak" thông tin irrelevant vào nhau, phá vỡ isolation benefit.

Ai đang dùng:

• Microsoft Research (AutoGen cho conversational coding)
• CrewAI (business process automation với role-based agents)
• MetaGPT (multi-agent software engineering simulation)
• Enterprise RAG pipelines (Credal's "digital teams" cho CRM/ERP integration)

Đào sâu hơn

Paper gốc:

• MAFBench: Understanding Multi-Agent LLM Frameworks (2026) — Benchmark hệ thống cho thấy architectural choices gây ra 100× variance trong latency và 30% drop accuracy.
• Multi-Agent Collaboration Mechanisms: A Survey (2025) — Taxonomy chi tiết về coordination strategies.

Bài liên quan TroiSinh:

Cùng cụm (Multi-Agent & Compound Systems):

• Mixture of Agents — Ensemble nhiều LLM như ensemble classifier, khác biệt với multi-agent ở chỗ MoA là parallel voting còn multi-agent là sequential workflow.
• Agentic AI & Tool Use — Nền tảng Perceive-Reason-Act-Learn loop mà multi-agent frameworks xây dựng trên đó.
• LLM-as-Judge — Cơ chế đánh giá chất lượng output giữa các agents hoặc làm Critic agent trong hệ thống adversarial verification.

Đọc tiếp:

• RAG & Retrieval — Multi-agent thường kết hợp RAG để mỗi agent truy cập knowledge base riêng.
• RLVR & Reasoning — Cách train agent để học cách phối hợp và reasoning trong môi trường có reward verifiable.
• Evaluation & Safety — Metrics và phương pháp đánh giá hệ thống multi-agent phức tạp.