Video chỉ tải từ YouTube khi bạn bấm phát. Mở trên YouTube

Agentic RAG Thám Tử Tự Sửa Sai – Xây Từ Đầu Bằng Python Thuần Túy

18:2724 lượt xem

Nội dung video

Buổi thảo luận phân tích chi tiết cách xây dựng hệ thống Agentic RAG bằng Python thuần túy theo thiết kế của Dave Ebeler – nơi AI hoạt động như một thám tử tự điều tra, thay vì người thủ thư chỉ tìm kiếm một lần rồi dừng. Ba công cụ cốt lõi (ListFiles, GrepAI, ReadFiles) được trang bị cơ chế bảo mật và tối ưu token, kết nối với PydanticAI để tạo vòng lặp tự sửa sai. Phần nâng cấp production bao gồm RipGrep thay Regex, giới hạn vòng lặp, và xử lý lỗi bằng ngôn ngữ tự nhiên để AI tự chuyển hướng mà không làm sập hệ thống.

Ý chính

  • Ba công cụ Python cốt lõi: ListFiles (glob + relative path tiết kiệm token), GrepAI (regex + đánh số dòng từ 1 cho thân thiện con người), ReadFiles (bảo mật IsRelative2 ngăn prompt injection truy cập file ngoài vùng cho phép)
  • PydanticAI kết nối Python tools với OpenAI GPT – docstrings tiếng Anh là "sách hướng dẫn" cho LLM, biến ngôn ngữ tự nhiên thành lớp lập trình mới
  • Structured output ép buộc trích dẫn tên file + số dòng nguyên văn, tiêu diệt hallucination; hệ thống thực hiện 5+ tool calls trong 10–15 giây
  • Nâng cấp production: thay Regex bằng RipGrep (Rust) tăng tốc theo cấp số nhân, giới hạn Agent Request Limit + Read Max Lines bảo vệ context window
  • Xử lý lỗi mềm dẻo: thay vì raise Exception làm sập luồng, trả về thông báo ngôn ngữ tự nhiên để AI tự chuyển hướng mà không cần admin khởi động lại dịch vụ

Các phần trong video

Bấm vào mốc thời gian để phát từ đoạn đó.

  1. 0:00Vấn Đề: Người Thủ Thư Lười
  2. 2:18Ba Công Cụ Cốt Lõi
  3. 6:54Agentic Loop & Pydantic AI
  4. 9:12Docstrings Là Giao Diện LLM
  5. 12:05Kết Quả Có Trích Dẫn & Context Window
  6. 14:58Tự Phục Hồi: AI Đọc Lỗi và Tự Chuyển Hướng
  7. 16:42Outro: Kỹ Sư Thiết Lập Luật, AI Tự Cầm Lái