Prompt / Context / Harness / Loop Engineering: bốn tầng, mỗi tầng zoom ra xa hơn tầng trước

Có một cách nhìn giúp mình gỡ rối rất nhiều khi làm việc với AI: đừng coi tất cả là “prompting”. Thực ra có bốn tầng kỹ thuật xếp chồng lên nhau, mỗi tầng bọc lấy tầng bên trong và zoom ống kính ra xa hơn một chút.

• Prompt engineering — thông điệp. Đơn vị công việc là một input.
• Context engineering — bộ nhớ. Đơn vị công việc là những gì còn nằm trong cửa sổ context.
• Harness engineering — cỗ máy. Đơn vị công việc là một vòng gather → act → verify.
• Loop engineering — hệ thống. Đơn vị công việc là toàn bộ vòng lặp, và quyết định có chạy lại hay không.

Dưới đây là bản đồ trực quan của cả bốn tầng.

Tầng 1 — Prompt engineering: thông điệp

Đây là tầng gần nhất với mặt đất: bạn soạn một input (role, instructions, examples, format), gửi cho model để nó suy luận, rồi nhận về output thô. Vòng cải thiện ở đây là Refine — chỉnh lại thành phần yếu nhất trong câu prompt. Đơn vị công việc gói gọn trong một input.

Tầng 2 — Context engineering: bộ nhớ

Zoom ra một bậc: giờ bạn không chỉ lo một câu prompt, mà lo cả cửa sổ context — query, docs, memory, output của tool, các lượt hội thoại trước. Ba bước là Gather → Curate → Feed: gom lại, rồi curate (chọn / nén / bỏ bớt vì ngân sách token là hữu hạn), rồi đưa vào model. Output của bước này lại trở thành context cho bước sau. Đơn vị công việc là những gì được giữ lại trong cửa sổ.

Tầng 3 — Harness engineering: cỗ máy

Zoom tiếp: bạn dựng một cỗ máy bọc lấy cả hai tầng trên. Vòng lõi là Gather → Act → Verify: gom context + prompt, cho model chạy inference, gọi tools và sub-agents, rồi verifier (test + judge) kiểm lại trước khi trả kết quả cho người dùng. Nếu fail thì Retry — chạy lại gather rồi act, lần này với context đã cập nhật. Đơn vị công việc là một vòng của cỗ máy.

Tầng 4 — Loop engineering: hệ thống

Tầng xa nhất: nó bọc luôn cả cỗ máy, và quyết định có chạy lại toàn bộ ban nhạc phía trên hay không. Mục tiêu và tiêu chí thành công được định nghĩa trước, không phải “cảm giác”. Sau mỗi lần Run (một pass của harness — nó có thể tự nhận là “xong” nhưng chưa được verify), có bước Check với các gate: max iterations (chặn cứng), budget & thời gian, phát hiện không tiến triển, và completion check (test pass). Rồi mới Decide: phanh đã bị kích hoạt, hay thật sự đã xong? Nếu chưa xong, context + kết quả được feed ngược lại và vòng lặp lặp lại.

Điều mình thích nhất ở bản đồ này là câu kết ở dưới cùng:

Mỗi tầng bọc lấy tầng trước nó. Model chỉ là hàng hóa. Cái loop bọc quanh nó mới là kỹ thuật.

Phần lớn người dùng AI hiện nay vẫn đang ở tầng 1 hoặc tầng 2. Điều đó hoàn toàn ổn — không phải việc gì cũng cần leo lên tầng 4. Nhưng biết rằng có bốn tầng, và mình đang đứng ở tầng nào, là bước đầu để biết khi nào nên leo cao hơn.

#ai#agent#prompt-engineering#context-engineering#harness#loop-engineering