TokenEconomizer: Giúp Claude Code, Codex bớt “đốt” token

Dùng Claude Code, Codex hay Copilot CLI một thời gian, có một chuyện khá dễ nhận ra: AI đôi khi rất… mau quên.

Hôm nay nó vừa phát hiện project phải chạy python -m pytest thay vì pytest, ngày mai mở session mới lại thử từ đầu. Nó cũng có thể mang theo cả đống tool nhưng chẳng bao giờ dùng tới, hoặc tệ hơn là mắc kẹt trong vòng lặp sửa lỗi → test fail → sửa tiếp → vẫn fail.

TokenEconomizer là dự án mã nguồn mở của Microsoft và các cộng tác viên, được tạo ra để giảm những phần lãng phí như vậy.

Thay vì làm model thông minh hơn, ý tưởng của TokenEconomizer đơn giản hơn nhiều: giúp coding agent tận dụng kinh nghiệm từ những lần làm việc trước để bớt tốn token ở những lần sau.

Theo benchmark được nhóm phát triển công bố, TokenEconomizer giúp giảm chi phí trung bình khoảng 18,4–30,9% trên các tổ hợp agent và model mà họ thử nghiệm.

TokenEconomizer làm gì?

Có ba thứ chính mà TokenEconomizer cố gắng tối ưu.

Đầu tiên là Micro-skills. Trong quá trình làm việc, plugin ghi nhận những điều hữu ích về project, chẳng hạn command nào chạy đúng, cần biến môi trường nào, phải build trước khi test hay file generated nằm ở đâu.

Khi một thông tin được xác nhận đủ nhiều lần, TokenEconomizer có thể đưa nó vào session sau. Nhờ vậy agent không phải mất token để khám phá lại cùng một thứ.

Tiếp theo là Tool Pruning.

Coding agent ngày càng có nhiều tool, plugin và MCP. Nhưng không phải project nào cũng dùng hết chúng. Trong khi đó, định nghĩa của những tool này vẫn có thể chiếm context.

TokenEconomizer theo dõi tool nào thực sự được sử dụng. Nếu một tool gần như không bao giờ xuất hiện trong nhiều session, nó có thể được loại khỏi những session tiếp theo. Khi cần, bạn vẫn có thể bật lại.

Cuối cùng là tính năng mình thấy thú vị nhất: Loop Guard.

Ví dụ agent đang sửa một bug:

sửa code → chạy test → lỗi → sửa → chạy lại → vẫn lỗi → quay lại cách cũ…

Nếu TokenEconomizer nhận thấy agent có dấu hiệu mắc kẹt, nó có thể kiểm tra tình huống và nhắc agent thử một hướng khác.

Nó không tự dừng công việc của bạn mà chỉ cố gắng ngăn AI tiếp tục đốt token vào một vòng lặp vô ích.

Cài đặt TokenEconomizer

Hiện TokenEconomizer hỗ trợ Claude Code, Codex, GitHub Copilot CLI và Pi. Cursor Agent và opencode cũng đã được hỗ trợ nhưng vẫn đang ở mức thử nghiệm. Bạn cần Python 3.10 trở lên.

Nếu dùng Claude Code, cài bằng:

git clone https://github.com/microsoft/TokenEconomizer.git
claude plugin marketplace add "$PWD/TokenEconomizer"
claude plugin install tokeneconomizer@tokeneconomizer

Sau đó mở Claude Code và kiểm tra:

/tokeneconomizer:status

Nếu dùng Codex:

git clone https://github.com/microsoft/TokenEconomizer.git
codex plugin marketplace add "$PWD/TokenEconomizer"
codex plugin add tokeneconomizer@tokeneconomizer

Restart Codex rồi kiểm tra:

$tokeneconomizer:status

Còn với Pi thì ngắn gọn hơn:

pi install git:github.com/microsoft/TokenEconomizer

Sau khi cài xong, về cơ bản bạn vẫn code như bình thường. TokenEconomizer chạy phía sau và học dần qua những session bạn làm việc với project.

Dữ liệu mà nó học được được lưu local tại:

~/.tokeneconomizer

Plugin cũng không yêu cầu API key riêng.

Có đáng cài TokenEconomizer không?

TokenEconomizer sẽ không quá ý nghĩa nếu bạn chỉ mở một repository, hỏi AI vài câu rồi thôi.

Điểm mạnh của nó xuất hiện khi bạn làm việc lâu dài trên cùng một codebase.

Ví dụ bạn đang vibe coding một app trong vài tuần, mỗi ngày đều mở Claude Code hoặc Codex để tiếp tục phát triển. Qua thời gian, agent sẽ liên tục gặp lại cùng cấu trúc project, command, tool và những kiểu lỗi quen thuộc.

Đó chính là lúc việc “nhớ kinh nghiệm” bắt đầu có giá trị.

Tất nhiên con số tiết kiệm 18–30% là kết quả benchmark của nhóm phát triển, không có nghĩa project nào cài vào cũng giảm được đúng mức đó. TokenEconomizer cũng cần một số session để học trước khi phát huy tác dụng.

Cursor Agent và opencode hiện vẫn ở trạng thái thử nghiệm, vì vậy nếu muốn trải nghiệm ổn định hơn thì mình sẽ ưu tiên Claude Code hoặc Codex trước.

Kết

Mình thích TokenEconomizer ở chỗ nó giải quyết một vấn đề khá thực tế của AI coding.

Chúng ta thường nghĩ muốn AI code tốt hơn thì phải dùng model mạnh hơn, context lớn hơn hay reasoning nhiều hơn. Nhưng context càng lớn và agent càng phức tạp thì chi phí cũng càng tăng.

TokenEconomizer đi theo hướng ngược lại:

Không nhất thiết phải cho AI nhiều token hơn. Hãy giúp nó bớt lãng phí những token đang có.

Nếu bạn đang dùng Claude Code, Codex hoặc Copilot CLI mỗi ngày trên cùng một project, TokenEconomizer là một repo khá đáng để thử.

GitHub: https://github.com/microsoft/TokenEconomizer