Your harness, your memory

TL;DR

Agent harnesses là xương sống để xây dựng các AI agent, và chúng gắn liền với bộ nhớ. Nếu bạn dùng harness đóng (proprietary API), bạn đang giao quyền kiểm soát bộ nhớ agent cho bên thứ ba, dễ bị lock-in và mất đi lợi thế cạnh tranh.

Nói đơn giản: Như việc bạn giao “ký ức” của nhân viên AI cho công ty khác giữ, muốn đổi việc là mất hết.

Tổng quan

Agent harnesses là cách chính để xây dựng các AI agent hiện nay, và chúng sẽ hông biến mất đâu. Hiểu đơn giản, đây là các framework hay scaffolding giúp LLM tương tác với tools và dữ liệu bên ngoài.

Từ những ngày đầu với LangChain, LangGraph đến các giải pháp phức tạp hơn như Claude Code, Deep Agents, Pi, OpenCode… đều là ví dụ về agent harnesses. Ngay cả các nhà phát triển model lớn nhất thế giới cũng đang đầu tư rất mạnh vào harness, chứng tỏ nó là một phần cốt lõi hông thể thiếu.

Mặc dù có ý kiến cho rằng model sẽ “nuốt” hết scaffolding, thực tế là scaffolding chỉ thay đổi hình thức thôi. Một agent, theo định nghĩa, là một LLM tương tác với tools và dữ liệu. Luôn cần một hệ thống (harness) để điều phối những tương tác đó. Bằng chứng là Claude Code bị leak ra có đến 512k dòng code – đó chính là harness đó.

Điểm mấu chốt: Harness gắn liền với bộ nhớ (memory) của agent. Bộ nhớ hông phải là một plugin độc lập, mà là một khả năng cốt lõi và trách nhiệm của harness trong việc quản lý context (ngữ cảnh) của agent. Nó quyết định cách agent tải file, hiển thị skill metadata, hay lưu trữ tương tác.

Xài vào việc gì?

Bạn đang xây dựng một AI agent cá nhân hóa cho khách hàng Thay vì dùng closed harness và mất quyền kiểm soát dữ liệu tương tác, bạn nên chọn open harness để tự quản lý bộ nhớ. Điều này giúp bạn xây dựng dataset độc quyền, làm agent thông minh hơn theo thời gian và hông bị phụ thuộc vào một vendor duy nhất. Kết quả là agent của bạn sẽ ngày càng “hiểu” khách hàng hơn, tạo ra trải nghiệm độc đáo và khó sao chép.

CTO/Tech Lead đang đánh giá các nền tảng AI agent cho dự án dài hạn Nếu chọn harness đóng, bạn có nguy cơ bị lock-in khi muốn chuyển đổi model hoặc nền tảng sau này. Hiểu rõ mối liên hệ giữa harness và memory giúp bạn đưa ra quyết định chiến lược, ưu tiên các giải pháp open-source để đảm bảo tính linh hoạt và sở hữu dữ liệu. Bạn sẽ tránh được rủi ro phải “đập đi xây lại” toàn bộ hệ thống khi cần thay đổi.

Dev đang gặp khó khăn khi chuyển đổi AI agent giữa các model provider Nếu agent của bạn có bộ nhớ (lịch sử trò chuyện, sở thích người dùng) được lưu trên API của một provider, việc chuyển đổi sang model khác sẽ rất phức tạp vì bạn mất quyền truy cập vào bộ nhớ đó. Sử dụng open harness cho phép bạn lưu trữ và di chuyển bộ nhớ một cách độc lập, giúp việc chuyển đổi model dễ dàng hơn nhiều.

Các điểm chính

• Agent Harness là xương sống của AI agent: Harness hông phải là thứ tạm thời, mà là thành phần cốt lõi để LLM tương tác với tools và dữ liệu. Dù model có giỏi đến mấy, vẫn cần harness để hoạt động hiệu quả.
• Harness và Memory gắn liền với nhau: Bộ nhớ hông phải là một plugin riêng biệt, mà là một phần trách nhiệm chính của harness trong việc quản lý context (ngữ cảnh) của agent. Nó quản lý mọi thứ từ short-term đến long-term memory.
• Dùng Closed Harness = Mất quyền sở hữu Memory: Nếu harness là proprietary (độc quyền) hoặc nằm sau API của vendor, bạn đang giao quyền kiểm soát bộ nhớ agent cho họ. Điều này gây ra lock-in nghiêm trọng.
• Lock-in Memory rất nguy hiểm: Khác với việc dễ dàng chuyển đổi model khi chúng stateless, khi có state (bộ nhớ), việc chuyển đổi rất khó vì bạn sẽ mất hết dữ liệu tương tác và cá nhân hóa. Mình từng bị mất agent có memory và phải “dạy” lại từ đầu, rất bực mình.
• Memory là lợi thế cạnh tranh của AI agent: Bộ nhớ giúp agent học hỏi, cá nhân hóa theo người dùng, và tạo ra trải nghiệm độc đáo. Nếu hông có memory, agent của bạn dễ dàng bị sao chép và hông có gì đặc biệt.
• Open Harness để làm chủ Memory: Để sở hữu dataset độc quyền và có quyền linh hoạt chọn model, bạn cần dùng harness mã nguồn mở, độc lập với nhà cung cấp model.
• Deep Agents là một lựa chọn Open Harness: Deep Agents của LangChain là một ví dụ về open-source, model-agnostic harness. Nó cho phép bạn tự quản lý bộ nhớ với nhiều database khác nhau (Mongo, Postgres, Redis) và dễ dàng deploy.

Quick Start

1. Đánh giá lại các AI agent đang dùng tuần này: Kiểm tra xem chúng đang dùng harness đóng hay mở, và bộ nhớ được lưu trữ ở đâu. Bạn có đang bị phụ thuộc vào một vendor nào hông?
2. Ưu tiên Open Harness cho dự án mới: Khi xây dựng agent mới, hãy chọn các giải pháp open-source, model-agnostic để đảm bảo quyền sở hữu dữ liệu và linh hoạt trong tương lai.
3. Tìm hiểu Deep Agents: Nếu đang tìm kiếm một giải pháp, hãy thử Deep Agents của LangChain để hiểu cách một open harness hoạt động và quản lý memory.

FAQ

Agent harness là gì? Là framework hay scaffolding giúp LLM tương tác với tools và dữ liệu bên ngoài để tạo ra AI agent. Nó là bộ khung điều phối hoạt động của agent.

Tại sao harness lại gắn với memory? Vì harness chịu trách nhiệm quản lý context (ngữ cảnh) của agent, bao gồm cả short-term (tin nhắn hội thoại) và long-term memory (thông tin qua các phiên làm việc). Bộ nhớ hông phải là một plugin mà là một phần cốt lõi của harness.

Dùng closed harness có rủi ro gì? Bạn mất quyền kiểm soát bộ nhớ của agent, dễ bị lock-in vào một vendor, và rất khó chuyển đổi sang model hay nền tảng khác mà hông mất đi các dữ liệu quan trọng đã được cá nhân hóa.

Làm sao để sở hữu bộ nhớ của agent? Bạn cần dùng open harness, độc lập với nhà cung cấp model, và tự quản lý việc lưu trữ bộ nhớ của mình trên các database mà bạn kiểm soát.