Giảm 98% context AI với sandbox và tìm kiếm FTS5

TL;DR

Context Mode là MCP server giúp AI coding assistant (Claude Code, Gemini CLI, VS Code Copilot…) tiết kiệm context window bằng cách chạy lệnh trong sandbox thay vì đổ raw data vào. Một Playwright snapshot 56 KB giờ chỉ còn 299 B. Session kéo dài từ ~30 phút lên ~3 giờ.

→ Giảm 315 KB raw output xuống còn 5.4 KB trong một phiên làm việc.

Bài này dành cho ai?

1. Người dùng AI coding assistant (Claude Code, Gemini CLI…)

Vấn đề: Mỗi lần chạy lệnh, AI đổ toàn bộ output vào context. Playwright snapshot 56 KB, 20 GitHub issues 59 KB, 1 access log 45 KB. Sau 30 phút, 40% context biến mất. Khi agent compact conversation, nó quên mình đang làm gì.

Khi nào cần: Khi bạn dùng AI để code, debug, hoặc research mà thấy nó hay “quên” task đang làm dở, hoặc session kết thúc quá nhanh.

Được gì: Session kéo dài gấp 6 lần (30 phút → 3 giờ), AI nhớ task đang làm dở sau khi context compact.

2. Dev muốn build AI-powered product

Vấn đề: Muốn tích hợp AI nhưng sợ context window limit, khó handle long-running task.

Khi nào cần: Khi build feature cần AI maintain state qua nhiều tool calls.

Được gì: Có sẵn infrastructure để track session state, sandbox routing, và context optimization.

3. Người quan tâm đến AI efficiency

Vấn đề: Thắc mắc làm sao để AI xài context hiệu quả hơn.

Khi nào cần: Khi đọc về AI optimization hoặc muốn hiểu cách context window hoạt động.

Được gì: Hiểu rõ cơ chế context saving, session continuity, và FTS5 search.

Các điểm chính

1. Raw data là kẻ thù của context window Một Playwright snapshot tốn 56 KB. 20 GitHub issues tốn 59 KB. Access log 45 KB. Sau 30 phút, 40% context biến mất. Khi agent compact, nó quên task đang làm. → Dùng sandbox tools (ctx_execute, ctx_execute_file) thay vì Bash/Read trực tiếp.

2. Sandbox giữ raw data ở ngoài, chỉ đưa kết quả vào context ctx_execute chạy code trong subprocess riêng biệt, chỉ stdout (kết quả in ra màn hình) mới vào context. Raw data — log files, API responses, snapshots — không bao giờ rời sandbox. 56 KB → 299 B (giảm 99%). → Cài đặt plugin để AI tự động ưu tiên sandbox tools.

3. Hooks là enforcement layer, không chỉ là hint Không có hooks, model chỉ tuân theo instructions ~60% thời gian. Nó vẫn chạy raw curl, đọc file lớn trực tiếp, hoặc đổ unprocessed output vào context. Với hooks, mọi tool call bị intercept trước khi chạy — dangerous commands bị chặn, routing được inject real-time. Đây là sự khác biệt giữa ~60% và ~98% context savings. → Bật hooks trên mọi platform nếu được support.

4. Session continuity = capture + snapshot + restore Khi context đầy, agent compact (xóa messages cũ để chừa chỗ). Không có tracking, model quên: file nào đang edit, task nào đang làm, lỗi nào đã fix, user yêu cầu gì. Context Mode capture mọi event (file edits, git ops, tasks, errors, user decisions) vào SQLite. Trước khi compact, nó build snapshot 2 KB. Sau compact hoặc khi resume với --continue, model nhận Session Guide — narrative với 15 categories: Last Request, Tasks, Key Decisions, Files Modified, Unresolved Errors, Git ops… → Dùng --continue khi resume session để AI nhớ task đang làm.

5. BM25 + FTS5 cho search thông minh Content được chunk theo headings, lưu vào SQLite FTS5 virtual table. Search dùng BM25 ranking — tính relevance dựa trên term frequency, inverse document frequency, và document length. Ba lớp fallback: Porter stemming (“caching” match “cached”), Trigram substring (“useEff” match “useEffect”), Fuzzy correction (Levenshtein distance cho typos). Smart snippets trả về content xung quanh query terms, không phải N ký tự đầu tiên. → Dùng ctx_search thay vì đọc toàn bộ file.

6. Platform khác nhau = mức độ support khác nhau

→ Claude Code cho experience tốt nhất. Codex CLI không có session continuity.

7. Security: deny always wins Context Mode extend permission rules bạn đã có. Nếu block sudo trong settings, nó cũng bị block trong sandbox. Commands chạy qua &&, ;, | bị split và check từng phần. Project-level rules override global. → Thêm rules vào .claude/settings.json nếu cần.

Quick Start

1. Thêm plugin vào Claude Code:

   /plugin marketplace add mksglu/context-mode
   /plugin install context-mode@context-mode

   Restart. Plugin tự cài MCP server, hooks, và tạo CLAUDE.md.

2. Chạy thử để xem savings:

   Fetch the Hacker News front page, extract all posts with titles, scores,
   and domains. Group by domain. Then run /context-mode:ctx-stats.

3. Kiểm tra context savings:

   /context-mode:ctx-stats