Công nghệ nền tảng

Vì sao chọn: Đây là quyết định gốc kéo theo mọi thứ còn lại. Đổi lại việc phải đầu tư GPU, đơn vị có được điều mà không dịch vụ đám mây nào cho được: tài liệu không rời khỏi phòng máy chủ, và hệ thống chạy được cả khi không có Internet.

Vì sao chọn: Đây là lý do mọi câu trả lời đều dẫn được về tên văn bản và số trang. Nó cũng là cách kiểm soát chuyện mô hình bịa: khi không tìm được đoạn nào đủ căn cứ, hệ thống báo là không đủ thay vì tự nghĩ ra.

Vì sao chọn: Tìm theo từ khóa chỉ ra kết quả khi gõ đúng chữ. Tìm theo ngữ nghĩa thì hỏi "hỗ trợ hộ nghèo" vẫn ra được văn bản viết "trợ cấp cho hộ có hoàn cảnh khó khăn" — vốn là cách văn bản hành chính thường diễn đạt.

Vì sao chọn: Cắt tốt thì tìm ra đúng đoạn cần và trích dẫn được đến trang. Cắt ẩu thì câu trả lời đúng nhưng nguồn dẫn sai chỗ, và cán bộ mất niềm tin ngay lần kiểm chứng đầu tiên.

Vì sao chọn: Đưa quá nhiều đoạn vào thì mô hình bị nhiễu và dễ trả lời lệch. Bước xếp hạng lại tốn thêm chút thời gian nhưng cải thiện độ chính xác rõ rệt, nhất là với kho tài liệu lớn.

Vì sao chọn: Phần lớn kho tài liệu của cơ quan vẫn là giấy hoặc scan dạng ảnh. Không có bước này thì mọi công nghệ phía sau không có gì để làm việc. Hệ thống chấm điểm tin cậy từng trang và đánh dấu trang đọc không chắc để cán bộ kiểm tra lại.

Vì sao chọn: Nội dung cuộc họp thường nhạy cảm hơn cả văn bản, nên mô hình nhận dạng cũng chạy trên máy chủ của đơn vị. Có mốc thời gian thì nghe lại một đoạn cụ thể chỉ mất vài giây thay vì tua cả băng.

Vì sao chọn: Đây là thứ biến mô hình từ "chatbot trả lời" thành "trợ lý làm việc". Nó cũng là chỗ nguy hiểm nhất, nên mọi hàm có thể thay đổi dữ liệu đều đi qua chốt xác nhận của người dùng.

Vì sao chọn: Không có lớp này thì mô hình càng giỏi càng nguy hiểm: nó viết một câu sai nghe rất thuyết phục, và không ai phát hiện ra cho tới khi câu đó đã nằm trong báo cáo đã ban hành.