Prompt / Context / Harness / Loop Engineering: bốn tầng, mỗi tầng zoom ra xa hơn tầng trước
Model chỉ là hàng hóa. Cái loop bọc quanh nó mới là kỹ thuật. Một bản đồ trực quan về bốn tầng đòn bẩy khi làm việc với AI: từ câu prompt, tới cửa sổ context, tới cỗ máy harness, tới hệ thống loop tự chạy.
Có một cách nhìn giúp mình gỡ rối rất nhiều khi làm việc với AI: đừng coi tất cả là “prompting”. Thực ra có bốn tầng kỹ thuật xếp chồng lên nhau, mỗi tầng bọc lấy tầng bên trong và zoom ống kính ra xa hơn một chút.
- Prompt engineering — thông điệp. Đơn vị công việc là một input.
- Context engineering — bộ nhớ. Đơn vị công việc là những gì còn nằm trong cửa sổ context.
- Harness engineering — cỗ máy. Đơn vị công việc là một vòng gather → act → verify.
- Loop engineering — hệ thống. Đơn vị công việc là toàn bộ vòng lặp, và quyết định có chạy lại hay không.
Dưới đây là bản đồ trực quan của cả bốn tầng.
Prompt / Context / Harness / Loop Engineering
bốn tầng, mỗi tầng zoom ra xa hơn tầng trước
Prompt engineering
thông điệp
- 1 Soạn (Compose)
"Bạn là senior engineer, đọc các docs này, trả lời dạng JSON" — gói lại thành một input duy nhất.
- 2 Gửi (Send)
- 3 Sinh kết quả (Generate)
output thô
Context engineering
bộ nhớ
- 1 Gom (Gather)
chọn · nén · bỏ bớt
- 2 Curate
[chunk] + [chunk] + dropped
một cái nén lại, một cái bị bỏ · ngân sách hữu hạn
- 3 Feed
Harness engineering
cỗ máy
Chỉ vẽ vòng lõi — lược bớt state, guardrail, xử lý lỗi.
- 1 Act
- 2
exec & fetch
chuyên biệt
test & judge
trả cho người dùng
Loop engineering
hệ thống
Bọc luôn cả ban nhạc phía trên và quyết định có chạy lại hay không.
định nghĩa trước, không phải "cảm giác"
- 1 Run
một pass gather → act → verify · có thể tự nhận "xong" nhưng chưa được kiểm.
- 2 Check
chặn cứng
token · tiền · giây
lặp lại call & args
test pass
phanh bị kích hoạt, hay thật sự đã xong?
completion check xác nhận đã xong
Tầng 1 — Prompt engineering: thông điệp
Đây là tầng gần nhất với mặt đất: bạn soạn một input (role, instructions, examples, format), gửi cho model để nó suy luận, rồi nhận về output thô. Vòng cải thiện ở đây là Refine — chỉnh lại thành phần yếu nhất trong câu prompt. Đơn vị công việc gói gọn trong một input.
Tầng 2 — Context engineering: bộ nhớ
Zoom ra một bậc: giờ bạn không chỉ lo một câu prompt, mà lo cả cửa sổ context — query, docs, memory, output của tool, các lượt hội thoại trước. Ba bước là Gather → Curate → Feed: gom lại, rồi curate (chọn / nén / bỏ bớt vì ngân sách token là hữu hạn), rồi đưa vào model. Output của bước này lại trở thành context cho bước sau. Đơn vị công việc là những gì được giữ lại trong cửa sổ.
Tầng 3 — Harness engineering: cỗ máy
Zoom tiếp: bạn dựng một cỗ máy bọc lấy cả hai tầng trên. Vòng lõi là Gather → Act → Verify: gom context + prompt, cho model chạy inference, gọi tools và sub-agents, rồi verifier (test + judge) kiểm lại trước khi trả kết quả cho người dùng. Nếu fail thì Retry — chạy lại gather rồi act, lần này với context đã cập nhật. Đơn vị công việc là một vòng của cỗ máy.
Tầng 4 — Loop engineering: hệ thống
Tầng xa nhất: nó bọc luôn cả cỗ máy, và quyết định có chạy lại toàn bộ ban nhạc phía trên hay không. Mục tiêu và tiêu chí thành công được định nghĩa trước, không phải “cảm giác”. Sau mỗi lần Run (một pass của harness — nó có thể tự nhận là “xong” nhưng chưa được verify), có bước Check với các gate: max iterations (chặn cứng), budget & thời gian, phát hiện không tiến triển, và completion check (test pass). Rồi mới Decide: phanh đã bị kích hoạt, hay thật sự đã xong? Nếu chưa xong, context + kết quả được feed ngược lại và vòng lặp lặp lại.
Điều mình thích nhất ở bản đồ này là câu kết ở dưới cùng:
Mỗi tầng bọc lấy tầng trước nó. Model chỉ là hàng hóa. Cái loop bọc quanh nó mới là kỹ thuật.
Phần lớn người dùng AI hiện nay vẫn đang ở tầng 1 hoặc tầng 2. Điều đó hoàn toàn ổn — không phải việc gì cũng cần leo lên tầng 4. Nhưng biết rằng có bốn tầng, và mình đang đứng ở tầng nào, là bước đầu để biết khi nào nên leo cao hơn.