AI-FAMING STORE
Tin tức và kiến thức

Bài học tuần: prompt injection ra tòa, backdoor trong extension, token agent và giá model

Kiến thức04/11/2026

Tổng hợp kinh nghiệm thực tế từ dev/devops: từ vụ luật sư bị phạt vì prompt injection, backdoor trong extension Claude Code, đến cách cắt token agent, giá model mới và cảnh báo khi dùng AI để huấn luyện.

Tuần này có vài chuyện đáng để dừng lại: một vụ prompt injection bị tòa án xử lý, backdoor lọt vào chợ extension của công cụ lập trình, và những con số token agent khiến ai đang xây pipeline cũng phải nhìn lại. Dưới đây là các bài học tôi rút ra được từ những chia sẻ thực tế trong tuần, kèm cách áp dụng cụ thể.

Prompt injection không còn là chuyện đùa — hậu quả pháp lý có thật

Một tòa lao động ở Brazil đã phạt 10% giá trị vụ kiện, khoảng 16.000 USD, đối với hai luật sư vì họ nhét chỉ dẫn ẩn — chữ trắng trên nền trắng — để lừa công cụ AI của tòa trả lời qua loa và không phản biện tài liệu. Đây có thể là phán quyết đầu tiên trên thế giới xử lý việc cố tình thao túng hệ thống AI của tòa bằng prompt injection, theo Hacker News.

Bài học cho dev: nếu bạn xây hệ thống đọc tài liệu do người dùng gửi lên, đừng giả định nội dung là vô hại. Cần có bước tách nội dung khỏi chỉ dẫn, kiểm tra các đoạn văn bản ẩn hoặc định dạng bất thường trước khi đưa vào prompt. Và quan trọng hơn: đừng bao giờ để mô hình tự quyết định những việc có hậu quả pháp lý hay tài chính mà không có bước xác minh của con người.

Kiểm tra extension trước khi cài — backdoor đã lọt vào chợ

Một extension giả mạo Claude Code phát hành trên chợ Cursor đã cài cửa hậu vào máy người dùng, theo Hacker News. Không dừng ở đó, Phorion phát hiện bundle Claude Code for VS Code phiên bản 2.1.313 trên Cursor Marketplace cài SSH backdoor và cơ chế duy trì trên macOS, Linux, Windows; Cursor sau đó đã gỡ bản này, rút luôn bản NPM và VSCode của 2.1.313, theo Hacker News.

Áp dụng ngay: rà lại danh sách extension đã cài, đặc biệt là những thứ có tên Claude Code nhưng không phải từ nhà phát hành gốc. Với team, nên pin phiên bản, kiểm tra nguồn phát hành và có quy trình duyệt extension trước khi cho phép cài trên máy dev.

Token agent: cắt trước khi thấy câu hỏi mới là tối ưu thật

Một agent BI tốn 17.000 token cho instruction và 36 khai báo tool trước cả khi thấy câu hỏi; replay offline ba câu hỏi ngốn 286.522 input token cho 10 lần gọi model. Tác giả trên dev.to chỉ ra cách rẻ nhất là cắt tool không dùng, rút gọn kết quả tool cũ tiết kiệm 21–26%, và giảm số lần gọi model cho kết quả lớn nhất: −41% ở một câu hỏi.

Áp dụng: đo token đầu vào theo từng phần (instruction, tool declaration, lịch sử) trước khi tối ưu mô hình. Tool nào không dùng thì bỏ; kết quả tool cũ nên tóm tắt thay vì nhét nguyên vào context; và cân nhắc gộp các bước gọi model nếu có thể.

Giá model đang rẻ đi, nhưng chọn theo bài toán chứ không theo bảng xếp hạng

GPT-6.1 Terra có giá 1 USD/triệu token vào và 5 USD/triệu token ra, gần nửa GPT-5.6 Terra, mạnh về đọc hình và điều khiển máy tính, theo Simon Willison. Gemini 4 Carbon đứng đầu Intelligence Index v5 với 59 điểm nhưng trên Coding Agent Index chỉ đứng thứ hai sau Claude Opus 5.5, giá chuẩn 4/20 USD mỗi triệu token vào/ra, tốn 7,76 USD mỗi task index, theo Artificial Analysis. Bản thân Carbon cũng mạnh ở dò lỗ hổng với 88,2% SEC-bench Pro, theo blog Google. Mistral Large 4 mở weight, 1.000 tỷ tham số, dẫn đầu nhóm open-weight về code theo Mistral.

Áp dụng: đừng chọn model theo một chỉ số duy nhất. Với tác vụ code, xem Coding Agent Index; với tác vụ an ninh, xem benchmark chuyên biệt; với chi phí, tính cả token vào/ra và số lần gọi. Nếu cần tự host, open-weight là lựa chọn đáng cân nhắc nhưng phải kiểm tra dung lượng và hạ tầng.

Dùng AI để huấn luyện có thể bị khóa tài khoản

Một nghiên cứu sinh bị gắn cờ "training a competitor" dù nói chỉ dùng Claude để gửi job và phân tích kết quả, còn rollout đến từ model mã nguồn mở khác; hậu quả là mọi thao tác RFT, SFT hay huấn luyện model lớn đều bị chặn, tài khoản bị hạ cấp hoặc cắt phiên giữa chừng, theo Hacker News.

Áp dụng: nếu làm RFT/SFT, đọc kỹ điều khoản sử dụng và tách biệt môi trường huấn luyện khỏi tài khoản dùng hằng ngày. Đừng dùng cùng một tài khoản cho việc thử nghiệm huấn luyện và công việc sản xuất.

Benchmark cũ có thể sai — hãy làm lại khi nghi ngờ

Tác giả trên dev.to làm lại benchmark MoE offloading trên laptop GPU 16GB với llama.cpp, lần này giữ quantization đồng nhất, chạy lặp và xen kẽ cấu hình. Kết quả: vài kết luận cũ đổi, một phần do trước đó mỗi model dùng mức lượng tử hóa khác nhau và nhiệt độ máy ảnh hưởng.

Áp dụng: khi so sánh model hoặc cấu hình, giữ các biến kiểm soát đồng nhất, chạy lặp và ghi lại điều kiện môi trường. Đừng tin kết quả một lần chạy, nhất là khi liên quan đến phần cứng và nhiệt độ.

Áp dụng ngay

  • Rà lại toàn bộ extension trong IDE, gỡ bất kỳ extension nào không rõ nguồn gốc hoặc không phải nhà phát hành gốc.
  • Pin phiên bản extension và thêm bước kiểm tra nguồn phát hành vào quy trình onboarding dev.
  • Đo token đầu vào của agent theo từng phần: instruction, tool declaration, lịch sử; cắt tool không dùng trước tiên.
  • Với pipeline đọc tài liệu người dùng, thêm bước phát hiện văn bản ẩn hoặc định dạng bất thường trước khi đưa vào prompt.
  • Kiểm tra lại benchmark nội bộ nếu điều kiện chạy khác nhau; ghi lại quantization, nhiệt độ và số lần lặp.
  • Đọc lại điều khoản sử dụng nếu có ý định dùng API cho RFT/SFT; tách tài khoản thử nghiệm khỏi tài khoản sản xuất.

Nguồn tham khảo

Bài khác