Vì sao 94% token khi code bằng AI là đọc cache, và tận dụng nó thế nào

Nhìn vào Lịch sử dùng sau một phiên Claude Code, bạn sẽ thấy cột "đọc cache" lớn hơn hẳn mọi cột khác. Đo trên nhiều phiên thật: 93,9% token là đọc cache, 3,7% ghi cache, 2,4% token ra. Đây là lý do.

Model không có trí nhớ, công cụ phải gửi lại tất cả

Model AI không nhớ gì giữa hai lượt gọi. Mỗi lượt, Claude Code (hay Cline, Cursor) gửi lại toàn bộ: system prompt, mô tả công cụ, mọi file đã đọc, mọi câu đã nói. Phiên càng dài, mỗi lượt gửi càng nhiều.

Cache cho phép máy chủ model nhớ phần đầu giống hệt lượt trước. Phần đó tính giá đọc cache, rẻ hơn giá vào thường rất nhiều. Theo Bảng giá, với Claude Sonnet 5.5, một triệu token đọc cache rẻ hơn khoảng 10 lần token vào thường, và rẻ hơn khoảng 50 lần token ra.

Ba quy tắc của cache

1. Chỉ phần đầu giống hệt mới trúng cache. Đổi một ký tự ở system prompt, CLAUDE.md hay danh sách công cụ là phần sau đó phải ghi lại từ đầu.
2. Cache sống 5 phút, mỗi lần trúng lại được gia hạn. Để yên quá 5 phút là mất.
3. Ghi cache đắt hơn token vào thường (khoảng 1,25 lần). Cache chỉ có lợi khi được đọc lại.

Năm thói quen giữ cache

• Đừng sửa CLAUDE.md, settings, danh sách MCP giữa phiên. Muốn đổi thì đổi xong rồi mở phiên mới.
• Làm liền tay. Đi họp 15 phút giữa một tác vụ dài thì lượt kế tiếp ghi lại cả ngữ cảnh. Việc dài nên chia thành phiên ngắn, mỗi phiên làm trọn một việc.
• Model Claude thì dùng kiểu Anthropic. Trong Cline hay Roo Code, chọn API Provider "Anthropic" với model Claude sẽ trúng cache; kiểu OpenAI vẫn chạy nhưng thường không trúng, tốn hơn nhiều.
• /compact có giá của nó. Sau khi tóm gọn, phần ngữ cảnh mới phải ghi cache lại. Dùng khi phiên thật sự đã quá dài, không phải sau mỗi vài lượt.
• Đổi model giữa phiên là bắt đầu lại. Cache gắn với từng model: chuyển Sonnet sang Opus thì lượt đầu của Opus ghi lại toàn bộ.

Kiểm tra bằng số

Mở Lịch sử dùng, xem một phiên gần nhất: nếu cột ghi cache lớn bất thường ở giữa phiên, đó là chỗ cache bị vỡ (nghỉ quá 5 phút, đổi cấu hình, đổi model). Sửa đúng thói quen đó thường giảm được 20-40% chi phí cho cùng khối lượng việc.