Kiểm soát Context Hội thoại

Biết AI đang mang theo bao nhiêu thông tin

Một cuộc hội thoại càng dài, lượng thông tin AI phải xử lý trong mỗi lượt càng lớn.

F68 hiển thị thanh đo token ngay trên từng cuộc hội thoại, giúp người dùng biết context hiện tại đang lớn đến đâu và chủ động kiểm soát trước khi nó trở nên quá nặng.

Ba vùng khuyến nghị

Xanh — 0 đến 150.000 token
Context ở vùng sử dụng hiệu quả.

Vàng — 150.000 đến 250.000 token
Context đã lớn. Nên kiểm tra và loại bỏ những nội dung không còn cần thiết.

Đỏ — trên 250.000 token
Context rất lớn. Nên cân nhắc nén, xóa bớt dữ liệu hoặc phân nhánh cuộc hội thoại.

Đây là ngưỡng khuyến nghị sử dụng của F68, không phải giới hạn context cứng của model.

Context gồm những gì?

Khi chạm vào thanh token, người dùng có thể xem lượng context đang được hình thành từ bốn thành phần:

System Prompt · Ngữ Cảnh · Tool · Lịch sử

System Prompt
Các nguyên tắc và hướng dẫn định hình cách AI làm việc.

Ngữ Cảnh
Tài liệu, Knowledge Base, file và thông tin được cung cấp để AI hiểu công việc.

Tool
Dữ liệu được đưa vào cuộc hội thoại từ các Tool đã sử dụng.

Lịch sử
Nội dung trao đổi tích lũy trong quá trình trò chuyện.

Nhờ đó, người dùng không chỉ biết tổng context đang lớn bao nhiêu mà còn biết phần nào đang chiếm dung lượng.

Mở các công cụ kiểm soát Context

1. Ở phía dưới ô chat, bấm Tính năng.
2. Menu hiển thị các thao tác:
   • Đính kèm;
   • Nén hội thoại;
   • Xóa Ngữ Cảnh;
   • Xóa dữ liệu Tool;
   • Phân nhánh Chat.
3. Chọn đúng thao tác theo phần Context bạn muốn xử lý.

4 công cụ kiểm soát Context

1. Nén hội thoại

Tóm tắt phần lịch sử đã trao đổi, giữ lại nội dung quan trọng nhưng giảm lượng token phải mang theo.

2. Xóa Ngữ Cảnh

Loại bỏ file, tài liệu hoặc Ngữ Cảnh đã đưa vào cuộc hội thoại khi chúng không còn cần thiết.

3. Xóa dữ liệu Tool

Loại bỏ dữ liệu được tạo ra từ các Tool đã gọi khi phần dữ liệu đó không còn cần cho các bước tiếp theo.

4. Phân nhánh Chat

Tạo một cuộc hội thoại mới từ một điểm đã chọn trong chat hiện tại. Nhánh mới tiếp tục từ context tại thời điểm đó, trong khi cuộc hội thoại gốc vẫn được giữ nguyên.

Context ảnh hưởng cả chất lượng và chi phí

Context càng lớn, lượng thông tin AI phải xử lý trong mỗi tác vụ càng nhiều. Điều này có thể làm tăng token và Credit sử dụng, đồng thời khiến những nội dung không còn liên quan tiếp tục đi theo cuộc hội thoại.

Kiểm soát context giúp AI tập trung hơn và giúp người dùng chủ động hơn với lượng Credit đang sử dụng.

Bạn không chỉ kiểm soát AI nào đang làm việc. Bạn còn kiểm soát những gì AI đang mang theo để làm việc.