Vì sao không nên đưa văn bản nội bộ lên các nền tảng AI công cộng
Dán một đoạn văn bản vào ChatGPT để nhờ tóm tắt là thao tác vô hại với tài liệu thường, nhưng với văn bản nội bộ của cơ quan nhà nước thì đó là một quyết định có hậu quả.
- bảo mật
- chuyển đổi số
- AI nội bộ
Chuyện này xảy ra thường xuyên hơn ta tưởng. Một cán bộ cần tóm tắt bản báo cáo dài bốn mươi trang trước cuộc họp chiều. Anh mở trình duyệt, dán toàn bộ nội dung vào một công cụ AI miễn phí, và có bản tóm tắt trong ba mươi giây. Việc được giải quyết, không ai phàn nàn, và thao tác ấy trở thành thói quen.
Vấn đề là bản báo cáo vừa rời khỏi phạm vi kiểm soát của cơ quan, và không ai trong cơ quan biết điều đó đã xảy ra.
Chuyện gì thực sự xảy ra khi bạn dán văn bản vào một dịch vụ AI
Nội dung bạn dán vào được truyền qua Internet tới máy chủ của nhà cung cấp, thường đặt ở nước ngoài. Tại đó nó được xử lý, lưu lại trong lịch sử hội thoại của tài khoản, và tùy theo điều khoản dịch vụ, có thể được giữ lại một thời gian cho mục đích vận hành hoặc cải thiện hệ thống.
Ba hệ quả đáng chú ý:
Bạn không kiểm soát được bản sao. Sau khi dữ liệu rời khỏi mạng của cơ quan, việc nó được lưu ở đâu, trong bao lâu và ai truy cập được nằm ngoài thẩm quyền của bạn.
Không có nhật ký phía cơ quan. Nếu sau này cần trả lời câu hỏi “tài liệu này đã từng được đưa ra ngoài chưa”, hệ thống của cơ quan không có gì để tra. Thao tác diễn ra trên trình duyệt cá nhân, không đi qua bất kỳ lớp kiểm soát nào.
Tài khoản cá nhân, trách nhiệm tổ chức. Cán bộ dùng tài khoản riêng, nhưng dữ liệu là của cơ quan. Khi có sự cố, ranh giới trách nhiệm rất khó phân định.
Đây không phải chuyện giả định
Nhiều tổ chức lớn trên thế giới đã ban hành lệnh cấm nội bộ sau khi phát hiện nhân viên dán mã nguồn hoặc tài liệu nội bộ vào công cụ AI công cộng. Trong khu vực công, ràng buộc còn chặt hơn: dữ liệu nghiệp vụ thường gắn với thông tin cá nhân của công dân, và việc chuyển dữ liệu cá nhân ra ngoài chịu điều chỉnh của Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân.
Điểm quan trọng: hầu hết các trường hợp đều không xuất phát từ ý xấu. Cán bộ chỉ đang cố làm xong việc nhanh hơn. Đó chính là lý do vì sao cấm đoán đơn thuần không hiệu quả.
Vì sao cấm không giải quyết được vấn đề
Ban hành văn bản cấm dùng AI công cộng là bước cần thiết, nhưng nếu chỉ dừng ở đó thì kết quả thường là một trong hai:
Thứ nhất, cán bộ tuân thủ và quay lại làm thủ công. Cơ quan mất đi phần hiệu quả mà công nghệ có thể mang lại, trong khi khối lượng công việc không giảm.
Thứ hai — phổ biến hơn — cán bộ vẫn dùng, nhưng dùng kín đáo hơn. Lệnh cấm không loại bỏ nhu cầu, nó chỉ đẩy hành vi vào chỗ khuất, nơi không còn ai quan sát được.
Nhu cầu tóm tắt một văn bản dài, tìm nhanh một quy định, hay soạn nháp một báo cáo là nhu cầu có thật. Nó sẽ không biến mất vì một văn bản chỉ đạo.
Hướng xử lý: đưa công cụ vào trong, thay vì đẩy dữ liệu ra ngoài
Cách bền vững là cung cấp cho cán bộ một công cụ AI hợp lệ để dùng, đặt ngay trong hạ tầng của cơ quan. Khi mô hình chạy trên máy chủ đặt tại đơn vị:
- Tài liệu không rời khỏi mạng nội bộ, kể cả mạng chuyên dùng không có Internet.
- Mọi truy vấn đều đi qua hệ thống phân quyền của cơ quan — cán bộ chỉ khai thác được phần dữ liệu mình được phép xem.
- Mọi thao tác được ghi nhật ký, nên câu hỏi “ai đã xem tài liệu nào, lúc nào” luôn có câu trả lời.
- Cán bộ không còn động cơ dùng công cụ bên ngoài, vì công cụ bên trong đã đủ dùng.
Điểm cuối cùng là quan trọng nhất và cũng hay bị bỏ qua: giải pháp kỹ thuật chỉ hiệu quả khi nó đủ tiện để cán bộ chọn nó một cách tự nhiên. Một hệ thống nội bộ chậm chạp và khó dùng sẽ bị bỏ qua, và mọi người quay lại thói quen cũ.
Vài câu hỏi nên đặt ra trước khi quyết định
Nếu cơ quan bạn đang cân nhắc hướng đi này, đây là những câu đáng hỏi nhà cung cấp:
- Mô hình chạy ở đâu? Nếu câu trả lời có chữ “API”, hãy hỏi tiếp API đó đặt ở đâu.
- Có chức năng nào bắt buộc phải có Internet mới chạy được không?
- Hệ thống ghi nhật ký những gì, và nhật ký lưu ở đâu?
- Phân quyền theo mấy tầng, và có kiểm soát được theo mức độ nhạy cảm của tài liệu không?
- Nếu nhà cung cấp ngừng hoạt động, cơ quan có tiếp tục vận hành hệ thống được không?
Câu cuối cùng thường bị bỏ qua, nhưng với hệ thống dự kiến dùng nhiều năm thì đó là câu quan trọng.
Insightech xây dựng phần mềm AI cài đặt trên máy chủ của chính đơn vị sử dụng, vận hành được trong mạng LAN hoặc mạng chuyên dùng. Nếu cơ quan bạn đang cân nhắc hướng này, chúng tôi sẵn sàng trao đổi về hiện trạng cụ thể trước khi đề xuất bất cứ điều gì.