Dùng AI trong cơ quan nhà nước: sáu ranh giới không được vượt
Bảo mật, dữ liệu cá nhân, trách nhiệm người ký: sáu ranh giới khi đưa AI vào cơ quan nhà nước và cách giữ từng ranh giới mà không phải lúc nào cũng cần mua thêm.
Ranh giới đầu tiên và tuyệt đối: không dùng hệ thống AI để soạn thảo hay xử lý tài liệu có độ mật. Không có ngoại lệ, không phụ thuộc vào việc hệ thống đặt ở đâu.
Năm ranh giới còn lại mềm hơn nhưng vẫn phải làm rõ trước khi đưa AI vào dùng — dù cơ quan mua phần mềm, thuê dịch vụ, hay chỉ cho cán bộ dùng thử một công cụ sẵn có.
Và không phải ranh giới nào cũng giữ bằng công nghệ. Phần lớn giữ được bằng quy chế và thói quen làm việc; công cụ chỉ giúp giữ dễ hơn.
Tôi viết bài này vì trong các buổi trao đổi, phần lớn thời gian dành cho câu hỏi “AI làm được gì”, còn phần “được phép làm tới đâu” thì thường chỉ lướt qua. Trong khi với cơ quan nhà nước, phần thứ hai mới là phần quyết định dự án có ký được hay không.
Nếu anh chị chưa đọc Ứng dụng AI trong cơ quan nhà nước: thực tế đến đâu, nên đọc trước để có bối cảnh.
- 1Tài liệu có độ mậtTuyệt đối không, không có ngoại lệ
- 2Trách nhiệm người kýRà soát bắt buộc, có ghi nhận
- 3Thẩm định theo thẩm quyềnNgười quyết định, không phải máy
- 4Dữ liệu cá nhân công dânẨn danh khi trao đổi tình huống
- 5Dữ liệu đi đâuTên hệ thống và nơi lưu cụ thể
- 6Dấu vết để truy lạiBiết ai đã làm gì, lúc nào
Ranh giới 1 — Tài liệu có độ mật
Hệ thống trợ lý AI không được dùng để soạn thảo, xử lý, tóm tắt hay tra cứu nội dung thuộc phạm vi bí mật nhà nước.
Điều này đúng kể cả khi hệ thống đặt hoàn toàn trong hạ tầng của cơ quan. Lý do không chỉ nằm ở chỗ dữ liệu đi đâu, mà ở chỗ quy định về bảo vệ bí mật nhà nước đặt ra yêu cầu riêng về phương tiện xử lý, và một hệ thống AI thông thường không được thiết kế để đáp ứng các yêu cầu đó.
Cách giữ: có hai lớp, và lớp quan trọng hơn không cần mua gì.
Lớp thứ nhất là quy chế sử dụng do chính cơ quan ban hành: loại nội dung nào không được đưa vào, ai chịu trách nhiệm, xử lý thế nào khi lỡ đưa vào — kèm tập huấn cho người dùng. Đơn vị nhỏ, mới thử nghiệm, có thể chỉ cần lớp này.
Lớp thứ hai là kiểm soát kỹ thuật, ví dụ cảnh báo khi nội dung có dấu hiệu độ mật. Lớp này có ích nhưng tốn thêm chi phí, và vẫn bỏ sót.
Cần nói thẳng: mọi cơ chế kỹ thuật đều chỉ giảm rủi ro chứ không loại bỏ được. Trách nhiệm cuối cùng vẫn thuộc về người sử dụng.
Ranh giới 2 — Trách nhiệm của người ký
Bản thảo do hệ thống tạo ra không mang theo trách nhiệm. Người ký vẫn chịu trách nhiệm đầy đủ về nội dung, kể cả phần do máy soạn.
Nghe hiển nhiên, nhưng trong thực tế nó bị bào mòn dần. Tuần đầu ai cũng đọc kỹ. Tháng thứ ba, khi thấy hệ thống thường xuyên đúng, người ta bắt đầu đọc lướt. Và lỗi xuất hiện đúng vào lúc đó.
Hai chỗ hệ thống hay sai nhất là số liệu và tên riêng — cũng là hai chỗ mà người đọc lướt dễ bỏ qua nhất.
Soạn thảo văn bản là việc tôi đề nghị thử trước (xem Trợ lý AI cho cán bộ: bốn tiêu chí chọn việc làm trước), nên đây cũng là ranh giới cơ quan sẽ gặp sớm nhất.
Cách giữ: quy trình phải có bước rà soát bắt buộc, và bước đó phải được ghi nhận. Không nhất thiết phải là một chức năng phần mềm — có thể đơn giản là người soạn ký nháy trên phiếu trình như với mọi bản thảo khác, kèm ghi chú văn bản có dùng AI hỗ trợ. Nếu bản thảo đi thẳng tới trình ký mà không ai biết ai đã rà, quy trình đang thiếu một lớp.
Ranh giới 3 — Thẩm định theo thẩm quyền
Tra cứu nhanh không phải là thẩm định. Kiểm tra đủ giấy tờ không phải là xác định hợp lệ. Gợi ý phương án không phải là quyết định.
Ba cặp này khác nhau về bản chất pháp lý, và một hệ thống được thiết kế cẩu thả sẽ làm mờ ranh giới giữa chúng — không phải bằng cách tuyên bố, mà bằng cách đặt nút “Đồng ý” ngay dưới đề xuất của máy. Ở bộ phận một cửa, ranh giới này hiện ra rõ nhất; tôi đã viết riêng trong bài AI ở bộ phận một cửa: chọn nhóm thủ tục nào làm trước?.
- Tra cứu nhanh
- Kiểm tra đủ giấy tờ
- Gợi ý phương án
- Thẩm định
- Xác định hợp lệ
- Quyết định
Cách giữ: xem bước quyết định diễn ra thế nào. Nếu công chức chỉ cần bấm một nút để chấp nhận đề xuất, thiết kế đó đang đẩy người dùng về phía làm theo máy. Nếu công cụ đang dùng không tách được bước này, hãy tách bằng quy trình: kết quả tra cứu của AI chỉ là tài liệu tham khảo, còn ý kiến thẩm định vẫn do công chức tự viết và ký như trước.
Ranh giới 4 — Dữ liệu cá nhân của công dân
Khi cán bộ trao đổi một tình huống cụ thể với trợ lý AI, thông tin định danh của công dân phải được ẩn danh.
Trong thực tế đây là ranh giới hay bị vượt nhất, và thường là vô ý. Cán bộ gõ nguyên họ tên, số giấy tờ, địa chỉ vào ô hỏi vì đó là cách tự nhiên nhất để mô tả tình huống.
Cách giữ: có ba mức, chi phí tăng dần.
| Cách | Ưu | Nhược |
|---|---|---|
| Quy định cán bộ thay thông tin định danh bằng ký hiệu (ông A, hộ B) | Không tốn tiền, làm được ngay | Phụ thuộc ý thức từng người |
| Chọn công cụ không lưu, hoặc lưu có thời hạn, lịch sử hội thoại | Giảm lượng dữ liệu tích tụ | Người dùng mất khả năng xem lại |
| Công cụ tự phát hiện và che thông tin định danh | Đỡ phụ thuộc vào ý thức | Tốn thêm chi phí, vẫn có lúc bỏ sót |
Dù chọn cách nào, cơ quan vẫn phải trả lời được một câu: lịch sử hội thoại được lưu ở đâu, bao lâu, ai đọc được?
Câu này quan trọng hơn mọi tính năng. Một hệ thống lưu toàn bộ lịch sử trao đổi mà không giới hạn thời gian và không phân quyền đọc là một kho dữ liệu cá nhân không ai chủ ý tạo ra.
Ranh giới 5 — Dữ liệu đi đâu
Đây là câu hỏi mà mọi cơ quan đều hỏi, và cũng là câu mà nhiều nhà cung cấp trả lời chung chung nhất.
Có ba nhóm phương án, mỗi nhóm đánh đổi khác nhau:
| Phương án | Ưu | Nhược |
|---|---|---|
| Đặt trong hạ tầng của cơ quan | Kiểm soát cao nhất, dễ giải trình | Chi phí đầu tư và vận hành lớn, cần nhân lực kỹ thuật |
| Dùng hạ tầng dùng chung của nhà nước | Chi phí thấp hơn, đã có cơ chế bảo đảm an toàn | Phụ thuộc vào lộ trình và năng lực của hạ tầng đó |
| Thuê dịch vụ bên ngoài | Triển khai nhanh nhất, chi phí ban đầu thấp | Kiểm soát thấp nhất, phải làm rất rõ điều khoản về dữ liệu |
Tôi nêu cả ba vì không có phương án đúng cho mọi trường hợp. Một đơn vị cấp xã với vài chục người dùng và một sở ngành với nghìn người dùng sẽ chọn khác nhau, và chọn khác nhau là đúng.
Cách kiểm tra: yêu cầu nhà cung cấp trả lời bằng tên hệ thống và vị trí lưu trữ cụ thể, không bằng cam kết. “Dữ liệu được bảo mật tuyệt đối” không phải là câu trả lời.
Ranh giới 6 — Dấu vết để truy lại
Khi AI đã tham gia vào công việc, phải truy lại được ai đã làm gì, lúc nào. Nhật ký càng khó sửa thì càng có giá trị chứng minh.
Đây là ranh giới ít được nói tới nhất nhưng lại là thứ bảo vệ chính cán bộ. Khi có tranh chấp về một văn bản hay một quyết định, câu hỏi đầu tiên sẽ là ai đã làm gì, lúc nào. Không có nhật ký thì không ai chứng minh được điều gì — kể cả chứng minh mình làm đúng.
Cách giữ: nếu công cụ có nhật ký, hỏi nó ghi những gì, lưu bao lâu, ai xem được, và quản trị viên có sửa được không — sửa được thì nhật ký mất giá trị chứng minh.
Nếu đang thử nghiệm nhỏ với công cụ phổ thông, nhật ký thường chỉ có ở mức tài khoản. Khi đó có thể bù bằng cách đơn giản: văn bản nào có dùng AI hỗ trợ thì ghi chú trong hồ sơ trình. Không đầy đủ bằng nhật ký hệ thống, nhưng đủ để trả lời khi có người hỏi.
Kiểm tra sáu ranh giới lúc nào?
Trước khi đưa vào dùng, không phải sau khi đã dùng quen.
Không phải điểm nào cũng giải bằng phần mềm. Độ mật, trách nhiệm người ký, ẩn danh thông tin công dân chủ yếu giữ bằng quy chế và thói quen làm việc. Dữ liệu đi đâu và nhật ký thì phụ thuộc nhiều hơn vào công cụ được chọn.
Mức yêu cầu cũng nên tương xứng với quy mô. Một xã thử nghiệm với vài người dùng không cần đòi hỏi như một hệ thống dùng chung cả tỉnh — đòi hỏi quá mức chỉ làm dự án đắt lên mà không an toàn hơn bao nhiêu.
Và có một điều nên nói rõ với chính đơn vị mình: công cụ không thay thế được quy chế. Hệ thống tốt đến đâu cũng chỉ giảm rủi ro. Cơ quan vẫn cần ban hành quy định về việc ai được dùng, dùng cho việc gì, không được đưa nội dung nào vào — và phổ biến quy định đó cho người dùng.
Ba câu nên hỏi nhà cung cấp — kể cả chúng tôi
Trong sáu ranh giới này, công cụ của anh chị không giúp được ở ranh giới nào? Nhà cung cấp trung thực sẽ chỉ ra được ngay, và nói phần đó cơ quan phải tự giữ bằng quy chế.
Lịch sử hội thoại của cán bộ lưu ở đâu, bao lâu, ai đọc được? Đây là chỗ dữ liệu cá nhân tích tụ mà ít ai để ý.
Quản trị viên của các anh có đọc được nội dung trao đổi của cán bộ chúng tôi không? Câu này nên hỏi thẳng, và nên yêu cầu ghi vào hợp đồng.
Câu hỏi thường gặp
Có quy định pháp luật nào cấm dùng AI trong cơ quan nhà nước không?
Không có quy định cấm dùng AI nói chung. Nhưng các quy định hiện hành về bảo vệ bí mật nhà nước, an toàn thông tin mạng, an ninh mạng và bảo vệ dữ liệu cá nhân đều áp dụng cho hệ thống AI như với mọi hệ thống thông tin khác. Nghĩa là không phải hỏi “có được dùng không” mà hỏi “dùng thế nào cho đúng các quy định đang có”. Với dự án cụ thể, nên có ý kiến của bộ phận phụ trách an toàn thông tin ngay từ giai đoạn đề xuất.
Nếu đặt toàn bộ hệ thống trong cơ quan thì có yên tâm tuyệt đối không?
Không. Đặt trong cơ quan giải quyết được câu hỏi dữ liệu đi đâu, nhưng năm ranh giới còn lại vẫn nguyên. Trách nhiệm người ký, ranh giới thẩm định, ẩn danh dữ liệu công dân, nhật ký kiểm toán — những thứ này không phụ thuộc vào vị trí đặt máy chủ.
Cán bộ lỡ đưa thông tin nhạy cảm vào rồi thì xử lý thế nào?
Phải có quy trình xử lý sự cố được chuẩn bị trước: xoá bản ghi, ghi nhận sự việc, báo cáo theo quy định của cơ quan. Nên chuẩn bị quy trình này ngay từ khi triển khai chứ không đợi tới lúc xảy ra. Và nên coi đây là việc sẽ xảy ra chứ không phải có thể xảy ra.
Sáu ranh giới này áp dụng cho camera AI có giống không?
Phần lớn là giống, nhưng camera AI có thêm nhóm ranh giới riêng về hình ảnh cá nhân và phạm vi giám sát. Tôi sẽ viết riêng một bài về nhóm đó.
Tôi có một bảng 20 câu hỏi nên đặt ra cho nhà cung cấp giải pháp AI, bao gồm cả sáu ranh giới trong bài này, dùng được khi lập đề án hoặc khi tự rà soát công cụ đơn vị đang dùng.
Anh chị muốn nhận, hoặc muốn trao đổi về trường hợp cụ thể của đơn vị mình, gửi email cho tôi:
Tôi trả lời tất cả, và không gửi tài liệu quảng cáo.