Đổi model ngon hơn có cứu được con AI Agent lúc đúng lúc sai không?
bởi Võ Quốc Cường
“Con bot demo ngon lắm anh, mà chạy thật thì lúc đúng lúc sai.”
“Vậy đổi model ngon hơn đi anh.”
Câu này tôi nghe không dưới chục lần rồi. Và lần nào cũng vậy, đổi xong thì được vài hôm, rồi lại sai. Tới lúc đó thì có câu chốt hạ quen thuộc:
AI mà anh chị, cũng có lúc này lúc kia, con người còn thế huống chi AI.
Nghe xuôi tai ghê, nhưng thực ra là câu nguỵ biện để bỏ cuộc trá hình thôi.
Hôm qua ông Việt Trần có viết một bài về đúng chuyện này, ngồi ngoài sân bay gõ tay trong 30 phút đồ đó. Đọc xong tôi thấy đã ngứa quá, mà cũng thấy.. anh chị doanh chủ non-tech đọc chắc rớt từ đoạn thứ ba, vì bài viết cho dân kỹ thuật hơi nặng rồi.
Nên tôi xin phép “dịch từ tiếng Việt sang tiếng Việt” tiếp, còn link bài gốc tôi để cuối bài, anh chị nào rành kỹ thuật thì đọc thẳng bản của Việt sẽ đã hơn.
Nói trước cho rõ: Việt là Founder 200Lab, và cũng là CTO NextLevelBuilder. Công ty này do tôi, ông Duy Nguyễn và Việt cùng sáng lập, tôi giữ vai COO. Nên đọc bài này anh chị cứ trừ hao giùm tôi một phần, tôi khen bạn cùng công ty thì khó mà khách quan tuyệt đối được hehe.. ^^
Câu chuyện cái quán và ông đầu bếp
Tôi hình dung một con AI Agent giống một cái bếp trong quán ăn.
Nhiều anh chị nghĩ model (GPT-5, Claude, Gemini..) là cả cái bếp. Không phải đâu. Model chỉ là ông đầu bếp.
Mà ông đầu bếp thì làm đúng một việc: nhìn phiếu order rồi quyết định “món này nấu kiểu gì, lấy nguyên liệu nào”.
Ông không tự đi mở tủ lạnh, không tự bật bếp, không tự bưng ra bàn.
Khách hỏi “cho tôi kiểm tra đơn ORD-01”, ông đầu bếp cùng lắm chỉ nói: “lấy sổ đơn hàng ra, tra mã ORD-01”. Chấm hết. Còn việc mở sổ ra tra là việc của người khác.
Nên khi con bot chạy sai, câu hỏi đầu tiên không phải là “đầu bếp cùi bắp ghê”, mà là “sai ở khâu nào trong bếp”.
Ông Việt viết một câu tôi thích:
Khen chê gì cũng lôi model ra chửi thì tội nó quá.
Trong cái bếp đó còn ba thứ nữa, và ba thứ đó mới là chỗ anh chị kiểm soát được.
(Tiện đây nói luôn, cái nhầm lẫn “model là cả con Agent” nó cùng kiểu với nhầm lẫn tôi từng viết trong bài Cắm AI được vô ô chat Telegram/Zalo/Bitrix thì mới được gọi là AI Agent?. Nhìn thấy phần nào thì tưởng phần đó là tất cả.)
Cái bếp và cái kho (dân kỹ thuật gọi là environment, hay tool executor). Là chỗ thật sự đi mở sổ, gọi API, truy vấn dữ liệu. Chỗ này mà tạch thì như ông Việt có nói:
Nếu environment còn lỗi (VD như API trả sai kết quả hoặc bất định) thì thôi đi làm Agent hay Harness gì nữa!
Nghĩa là dữ liệu công ty anh chị còn sai, API còn trả tầm bậy, thì đừng đụng tới Agent, đi dọn cái kho trước đã.
Anh bếp phó (cái này gọi là Harness đi heng). Anh này là người chuẩn bị đúng nguyên liệu đặt lên thớt cho đầu bếp, nhớ giùm cái đơn đang làm tới đâu, và kiểm xem người gọi món có phải chủ đơn hàng đó không. Ông đầu bếp thực ra không làm mấy việc này.
Người kiểm món trước khi bưng ra (guardrails). Món nào sai tiêu chuẩn hoặc quy định thì chặn lại, không cho ra bàn. Không thôi là ăn chửi sấp mặt.
Ý hay trong bài ông Việt thật ra là “nhiều khi anh chị không cần Agent”
Đây là đoạn tôi nghĩ tiết kiệm tiền nhất cho doanh nghiệp, mà lại là đoạn ít ai nói.
Việt chia ra ba trường hợp. Tôi kể lại bằng hình cầu thang cho dễ:
Một, anh chị biết trước phải đi bao nhiêu bậc, mỗi bậc bước thế nào. Ví dụ: khách bấm đặt hàng thì trừ tồn kho, gửi mail xác nhận, đẩy đơn qua kho. Rõ mồn một rồi heng.
Trường hợp này viết phần mềm thường là xong. Chạy chắc, rẻ, không cần model, không sai được (trừ khi hệ thống tạch). Ai tư vấn anh chị làm Agent cho việc này thì.. hỏi lại người ta đi :))
Hai, biết trước số bậc, nhưng có một bậc mà tự động hoá không làm nổi. Ví dụ: quy trình xử lý khiếu nại thì rõ rồi, chỉ có bước “đọc cái mail này coi khách đang bực hay chỉ hỏi thăm” thì code tự động hoá thua.
Trường hợp này vẫn viết phần mềm thường, chỉ nhét đúng một chỗ gọi AI vào cái bậc mờ đó để đánh giá tình huống này có khả năng là khiếu nại, bực dọc hay vui vẻ..v.v… Gọi một phát trả lời xong thôi, không cho nó lòng vòng.
Ba, không biết cả số bậc lẫn cách đi. Tới đây Agent mới có giá nè.
Chỗ này không phải quan điểm riêng của Việt, mà Anthropic có nguyên một bài hướng dẫn, phân biệt rạch ròi hai thứ: workflow là “LLM và công cụ được điều phối theo các đường code định sẵn”, còn agent là “LLM tự điều hướng quy trình và cách dùng công cụ của chính nó”. Và họ khuyên thẳng: chỉ thêm hệ thống agent nhiều bước khi giải pháp đơn giản hơn đã không đủ.
Họ còn cảnh báo cái giá phải trả: bản chất tự chủ của agent kéo theo chi phí cao hơn, và lỗi cộng dồn.
Lỗi cộng dồn nghĩa là bước 1 sai một chút, bước 2 lấy cái sai đó làm đầu vào, tới bước 5 thì trớt quớt. Đúng cái ý “gần đúng thì vẫn là sai” mà anh Thế Anh nói ở buổi offline GearVN tuần rồi.
Anh bếp phó mới là người quyết
Quay lại chuyện tại sao đổi model “vẫn không” cứu được.
Ông đầu bếp giỏi tới đâu, mà anh bếp phó đưa lên thớt một mớ nguyên liệu lộn xộn, thiếu cái này thừa cái kia, thì món vẫn toi thôi.
Cái “mớ nguyên liệu đưa lên thớt” đó dân kỹ thuật gọi là context. Và có hai chuyện anh chị nên biết, Anthropic viết hẳn một bài riêng:
Thứ nhất, model có attention budget có hạn, y như người. Đưa một lúc 200 thứ thì nó không tập trung nổi.
Thứ hai, có hiện tượng gọi là context rot: càng nhồi nhiều chữ vào, khả năng nhớ chính xác của model càng rơi rụng. Nhồi cho lắm không làm nó thông minh hơn, làm nó lú hơn thôi.
Nên “đưa đủ và gọn” mới là cái nghề, và nó nằm ở anh bếp phó, không nằm ở ông đầu bếp.
Mà điểm hay nhất của anh bếp phó: anh ta là code. Code thì test được, đo được, sai chỗ nào sửa chỗ đó. Còn ông đầu bếp thì.. chịu, không ai bắt ông ấy đúng 100% được.
Nói vậy chứ tôi phải nói lại cho công bằng: Anthropic cũng viết rằng model càng giỏi thì càng đỡ phải chỉnh tay, agent càng chạy tự chủ được. Nên đổi model có giúp được mình thiệt chứ không phải không nhe, tôi không phủ nhận. Chỉ là nó không phải chỗ nên đổ tiền vào đầu tiên, và nó không gỡ được bài toán này.
Ranh giới: được đề xuất, không được ký
Người kiểm món trước khi bưng ra, đó là guardrails.
Cách dễ hiểu nhất mà tôi thấy dân làm hệ thống doanh nghiệp đang dùng là vẽ một cái ranh giới:
AI được phép: đọc, tóm tắt, soạn nháp, đề xuất, phân loại, chuyển việc cho đúng người.
AI không được phép: duyệt, chi tiền, cấp quyền, hay ghi thẳng vào sổ sách của công ty, nếu chưa qua một lớp kiểm tra bằng code hoặc một chữ ký của người.
Vẽ được cái vạch này rồi thì tự nhiên hết lo. Con Agent có ảo giác cỡ nào thì nó cũng chỉ ảo giác trong phần “đề xuất”, còn tay nó dừng ở mép quầy.
Còn cái ý “trao quá nhiều quyền tự chủ thì loạn”, Việt ghi rõ là quan điểm cá nhân của anh ấy, tôi giữ nguyên thôi:
khi có quá nhiều sự lựa chọn, ranh giới của các lựa chọn càng không rõ ràng, càng khó biết đúng sai thì… thường là chọn đại, chọn sai và ảo giác với sự lựa chọn đó.
Tôi thấy đúng với cả người, không riêng gì AI đâu.
Mà nói vậy thôi..
Có một chỗ trong bài của Việt mà tôi phải thêm vào cho đủ ý.
Việt viết, đại ý: cái cảm giác dùng một model bé bé 3-4 tỷ tham số mà ngon như model 32 tỷ, 72 tỷ, nó mới phê, mới sướng, mới giảm được chi phí.
Đúng là cũng có thiệt, nhưng model bé ngon được là nhờ có mấy ông đằng sau như ông Việt ứng dụng thử sai tè lè tét lét, cũng như tập trung vào những nhiệm vụ nhất định, chứ không phải cứ dựng harness ngon là model bé tự khá lên đâu.
Còn tôi thì.. thú thiệt là tôi cũng từng ham. Có giai đoạn tôi ngồi canh model nào vừa ra, đổi qua đổi lại, tưởng đổi là xong. Đổi chán rồi mới chịu quay về ngồi dọn dữ liệu, cái việc chán nhất mà lại là việc phải làm ^^
Túm lại
Con Agent chạy lúc đúng lúc sai thì đừng vội đổ cho model, cũng đừng vội đổi model.
Đi theo thứ tự này rẻ hơn nhiều: dữ liệu và API của mình có sạch chưa, việc này có thật sự cần Agent hay viết phần mềm thường là xong, đưa cho model đủ và gọn chưa, và cuối cùng là đã vẽ cái vạch “được đề xuất, không được ký” chưa.
Bốn câu đó trả lời xong mà vẫn sai thì hẵng tính chuyện đổi model. Lúc đó đổi mới có ý nghĩa.
Còn anh chị, công ty mình có con Agent nào đang chạy lúc đúng lúc sai không? Kể tôi nghe coi nó sai ở khâu nào, biết đâu tôi đoán được :3
#voquoccuong #aiagent #harness #guardrails #nextlevelbuilder
Nguồn tham khảo:
- Bài gốc của Việt Trần (Founder 200Lab, CTO NextLevelBuilder), “Làm sao để AI Agents chạy tất định, nhất quán và ổn định?!”: https://www.facebook.com/viettranx/posts/pfbid02Xh4QGkRvxt9yM1Lh9cKvi8XF7rdE3NMurBLYz7FBjNYdDbksausE89GmciApJKDKl
- Anthropic, “Building Effective Agents” (phân biệt workflow và agent, khuyến nghị chỉ dùng agent khi giải pháp đơn giản không đủ, cảnh báo lỗi cộng dồn): https://www.anthropic.com/engineering/building-effective-agents
- Anthropic, “Effective context engineering for AI agents” (attention budget, context rot): https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- Anthropic, “Effective harnesses for long-running agents”: https://www.anthropic.com/engineering/effective-harnesses-for-long-running-agents
- “Small Language Models for Efficient Agentic Tool Calling: Outperforming Large Models with Targeted Fine-tuning”, arXiv 2512.15943 (model nhỏ huấn luyện lại cho gọi công cụ thì đè được model to): https://arxiv.org/abs/2512.15943
- “Why Small LLMs Fail at Tool Calling: The Shocking Discovery from Our Llama 3B Benchmark” (mặt trái: model nhỏ chưa huấn luyện lại thì gọi công cụ gần như không nổi): https://dev.to/anak_wannaphaschaiyong_11/why-small-llms-fail-at-tool-calling-the-shocking-discovery-from-our-llama-3b-benchmark-5lg
