Trong Prompt Chaining, ta hướng dẫn AI đi theo chuỗi bước cố định.
Nhưng thế giới thực thì… không có kịch bản cố định.
Một câu hỏi của khách hàng có thể là vấn đề kỹ thuật, câu hỏi bán hàng, hoặc khiếu nại — và hệ thống thông minh phải tự biết chọn hướng xử lý phù hợp.
Đó chính là lúc Routing Pattern xuất hiện:
“Thay vì chạy một đường thẳng, agent biết rẽ nhánh thông minh tùy theo tình huống.”
⚙️ At a Glance
| Thành phần | Mô tả ngắn gọn |
|---|---|
| What | Routing Pattern cho phép agent phân tích đầu vào và điều hướng luồng xử lý đến công cụ, workflow hoặc sub-agent phù hợp nhất. |
| Why | Giúp hệ thống linh hoạt, ngữ cảnh hóa và có khả năng ra quyết định động – thay vì chỉ thực thi tuần tự. |
| How | Áp dụng cơ chế conditional logic (if-else, embedding similarity, LLM-based classifier) để chọn nhánh hành động hoặc agent con thích hợp. |
🧠 Why Routing Is Essential
Trong thế giới Agentic, “một lệnh đầu vào không đồng nghĩa một đường xử lý”.
Agent cần khả năng:
- Hiểu ý định người dùng (intent detection)
- Phân loại loại nhiệm vụ (task classification)
- Chọn đúng công cụ hoặc agent con để xử lý
Routing chính là bộ não điều phối — như “traffic controller” của hệ thống Agentic.
🧩 How It Works
Một Router Agent thường hoạt động qua 3 giai đoạn:
1️⃣ Phân tích đầu vào
→ Xác định intent hoặc context type.
(VD: “tư vấn sản phẩm” hay “vấn đề thanh toán”).
2️⃣ Ra quyết định điều hướng
→ So khớp với danh sách hành động hoặc agent con có sẵn.
Cơ chế có thể là:
- LLM-based routing: mô hình sinh ra nhãn (“sales”, “support”, “tech”).
- Embedding similarity: so sánh vector ngữ nghĩa với route mẫu.
- Rule-based routing: điều kiện tĩnh bằng từ khóa hoặc pattern.
3️⃣ Kích hoạt nhánh xử lý phù hợp
→ Gọi sub-agent, tool, hay chain tương ứng để thực thi nhiệm vụ.
🧮 Ví dụ cụ thể
Ngữ cảnh: Agent tổng hợp yêu cầu khách hàng.
Khi nhận input “Tôi muốn đặt phòng ở Paris tuần tới”
- Router xác định intent = “Booking”
- → Gọi
BookingAgentvới công cụHotel API.
Khi nhận “Thủ đô của Ý là gì?”
- Router phân loại intent = “Information”
- → Gọi
KnowledgeAgentdùng RAG/Google Search.
Nếu input “Bạn nghĩ sao về lượng tử học?”
- Router thấy không thuộc luồng nào → Gọi
FallbackAgentyêu cầu làm rõ.
💼 Practical Applications & Use Cases
1️⃣ Virtual Assistants / Chatbots
Routing phân loại ý định người dùng:
- Sales, Support, Account, Technical issue
→ Mỗi loại route đến agent chuyên trách.
Giúp trải nghiệm hội thoại mượt và đúng ngữ cảnh.
2️⃣ Multi-Agent Coordination
Một Coordinator Agent đóng vai trò router:
- Phân tách nhiệm vụ phức tạp thành các sub-task.
- Giao cho agent phù hợp (như Research, Writer, Reviewer).
Ứng dụng trong CrewAI, LangGraph, hoặc Google ADK (Auto-Flow).
3️⃣ Data Processing Pipelines
Routing dựa trên định dạng hoặc loại dữ liệu đầu vào:
- JSON → đi pipeline xử lý dữ liệu.
- PDF → OCR và trích xuất text.
- Audio → Speech-to-Text trước khi phân tích.
4️⃣ Dynamic Tool Selection
Agent quyết định nên dùng tool nào tùy bối cảnh:
- Nếu cần thông tin mới → gọi Search Tool.
- Nếu cần tính toán → gọi Calculator.
- Nếu cần truy xuất dữ liệu → gọi Database API.
Routing chính là “bridge logic” giữa reasoning và hành động.
5️⃣ Adaptive Learning Systems
Trong hệ thống đào tạo, routing giúp:
- Phân loại cấp độ người học (beginner / advanced).
- Điều hướng đến bài học hoặc quiz tương ứng.
- Cập nhật lộ trình cá nhân hóa theo phản hồi.
6️⃣ Document & Ticket Classification
Khi hệ thống nhận luồng email/ticket:
- Router agent tự phân loại loại yêu cầu.
- Gửi sang team/agent chuyên biệt để xử lý.
Ứng dụng rộng trong customer service automation.
7️⃣ Hybrid AI-Orchestration Systems
Routing là nền tảng của AI Workflow Orchestration:
- Gắn nhiều agent hoặc mô hình (LLM, API, ML) lại thành hệ thống thống nhất.
- Router chọn đúng mô hình hoặc route phù hợp với tác vụ hiện tại.
💡 Key Takeaways
- Routing = bộ não điều phối của Agentic System.
- Giúp chuyển từ “pipeline cố định” → “luồng động thông minh”.
- Có thể thực thi bằng LLM router, rule engine, hoặc semantic similarity.
- Frameworks phổ biến: LangGraph, CrewAI, Google ADK Auto-Flow.
- Là nền tảng cho multi-agent orchestration và context-aware reasoning.
🧭 Nếu Prompt Chaining là cách dạy agent đi từng bước, thì Routing là cách giúp agent biết rẽ đúng hướng khi gặp ngã ba.
Transforming Leadership 