Vercel Knowledge Agent: AI Chatbot không cần Vector DB
TL;DR
Template của Vercel để build AI chatbot trả lời về docs/codebase. Không cần vector DB hay embeddings — agent search trực tiếp trên file. Deploy một lần, chạy trên web, GitHub Issues, Discord.
Nói đơn giản: Fork repo, deploy lên Vercel, có ngay AI assistant cho tài liệu của bạn.
Bài này dành cho ai?
1. Dev muốn build AI chatbot cho tài liệu nội bộ
Vấn đề: Thường phải setup embeddings, vector DB, chunking pipeline — phức tạp, tốn infra.
Khi nào cần: Khi cần AI trả lời về codebase, docs, hoặc knowledge base có sẵn.
Được gì: Không cần vector DB, search nhanh, deterministic, có thể explain được kết quả.
2. Team cần AI agent trả lời trên GitHub/Discord
Vấn đề: Phải build riêng bot cho từng nền tảng, code lại logic.
Khi nào cần: Khi muốn team hỏi AI trực tiếp trên GitHub Issues hoặc Discord channel.
Được gì: Một agent code một lần, deploy lên cả web, GitHub, Discord.
3. Người muốn tự host AI agent với chi phí thấp
Vấn đề: Các giải pháp SaaS AI agent thường đắt đỏ, khó tùy chỉnh.
Khi nào cần: Khi muốn kiểm soát data, tùy chỉnh prompts, tự host trên Vercel.
Được gì: Template có sẵn auth, admin panel, sync workflow — chỉ việc fork và deploy.
Các điểm chính
1. File-Based Search — Không cần Embeddings Agent dùng grep, find, cat trong sandbox để search trực tiếp trên file system. Không vector DB, không chunking pipeline, không embedding model. Kết quả deterministic và có thể explain được. → Làm gì: Thêm nguồn (GitHub repos, YouTube transcripts) qua admin UI, AI sẽ search trực tiếp.
2. Multi-Platform từ Một Codebase Viết agent một lần, deploy lên web chat, GitHub Issues, Discord. Thêm platform mới chỉ cần một adapter file. → Làm gì: Dùng Chat SDK của Vercel để thêm Slack, Linear nếu cần.
3. Smart Complexity Router Mỗi câu hỏi được classify độ phức tạp và route tới model phù hợp. Câu đơn giản dùng model rẻ, câu khó dùng model mạnh. Tự động tối ưu chi phí. → Làm gì: Không cần viết rule thủ công, cứ hỏi đi, hệ thống tự chọn model.
4. Shared Sandbox Pool Sandbox được pool chung giữa các users. Khi chat bắt đầu, connect tới sandbox đang chạy sẵn — startup dưới 100ms. Nếu không có, dùng pre-built snapshot khởi động trong 1-3s. → Làm gì: Tận dụng infrastructure có sẵn, không phải tạo mới mỗi lần.
5. AI-Powered Admin Agent Hỏi app về chính nó bằng ngôn ngữ tự nhiên: “Có lỗi gì trong 24h?”, “Model nào tốn token nhất?”. Admin agent có tools như query_stats, query_errors, run_sql, chart. → Làm gì: Truy cập /admin, hỏi AI để debug hoặc xem analytics.
6. Real-Time Tool Visualization Chat UI hiển thị agent đang làm gì: đọc file nào, chạy command gì, mất bao lâu. Không phải black box. → Làm gì: Debug dễ hơn, biết AI đang nghĩ gì.
Quick Start
1. Deploy lên Vercel ngay
Click button “Deploy with Vercel” trong README, điền:
- BETTER_AUTH_SECRET: chạy
openssl rand -hex 32 - Tạo GitHub App tại github.com/settings/apps/new, lấy Client ID + Secret
2. Thêm content sources
Vào /admin → Add source → GitHub repo hoặc YouTube channel → Trigger sync.
3. Test thử
Mở chat UI, hỏi gì đó về source vừa thêm.
4. (Tuỳ chọn) Thêm bot
Vào docs/CUSTOMIZATION.md xem cách thêm Discord bot hoặc GitHub bot.
Đang tải nội dung...