HIỂU CONTEXT VÀ KNOWLEDGE BASE

Context là gì?

Context là toàn bộ thông tin AI đang có tại thời điểm xử lý một yêu cầu.

Context có thể đến từ:

• System Prompt;
• cuộc trò chuyện;
• Knowledge Base;
• file người dùng tải lên;
• dữ liệu từ Tools;
• dữ liệu của nhiệm vụ hiện tại.

Có thể hiểu đơn giản:

Model = năng lực chung. Context = những gì AI đang biết về bài toán hiện tại.

Cùng một model nhưng context khác nhau có thể tạo ra kết quả rất khác nhau.

Knowledge Base là gì?

Knowledge Base là tập hợp tri thức được chuẩn bị để Agent sử dụng lặp lại.

Ví dụ:

• phương pháp;
• nguyên tắc;
• quy trình;
• tiêu chuẩn;
• kiến thức chuyên môn;
• glossary;
• tài liệu nội bộ;
• kinh nghiệm đã được hệ thống hóa.

KB không phải kho chứa tất cả file của bạn.

Nó chỉ nên chứa những gì Agent thực sự cần biết để làm công việc của mình.

KB dài hơn không có nghĩa tốt hơn

Đưa nhiều tài liệu hơn không tự động làm Agent thông minh hơn.

KB quá lớn có thể gây:

• retrieval sai;
• thông tin trùng lặp;
• mâu thuẫn;
• tăng context;
• tăng chi phí;
• làm loãng các nguyên tắc quan trọng.

Mục tiêu là:

đủ kiến thức cần thiết, không phải nhiều kiến thức nhất.