AI làm được gì và không làm được gì

AI (Artificial Intelligence) làm tốt ba loại việc: việc lặp lại nhiều lần, việc có đáp án rõ ràng, và việc mà khi sai thì người dùng nhận ra được.

Nó làm không tốt những việc cần chịu trách nhiệm, cần thông tin không có trong dữ liệu, hoặc cần đúng tuyệt đối.

Bài này nói cả hai phía, và phần thứ hai dài hơn — vì đó là phần hiếm ai viết.

Đây là câu hỏi tôi nhận nhiều nhất khi làm việc với khách hàng, thường đi kèm câu hỏi về độ chính xác.

AI làm được gì?

Điểm chung của cả năm nhóm: con người vẫn ở cuối quy trình để kiểm. Đó không phải hạn chế tạm thời — đó là cách dùng đúng.

AI không làm được gì?

Không chịu trách nhiệm. Đây là ranh giới cứng nhất. Một bản thảo do máy soạn vẫn do người ký chịu trách nhiệm. Một đề xuất do máy đưa ra vẫn do người có thẩm quyền quyết định. Trách nhiệm không chuyển sang máy được, và không có điều khoản hợp đồng nào chuyển được.

Không biết những gì không có trong dữ liệu. Hệ thống chỉ biết những gì đã được nạp vào. Quy định mới ban hành tuần trước mà chưa cập nhật thì nó không biết — nhưng nó vẫn trả lời, bằng quy định cũ, với vẻ tự tin y như khi đúng.

Không đúng tuyệt đối. Không có hệ thống nào đạt 100% trong điều kiện thực tế. Việc nào mà một lần sai gây hậu quả không đảo ngược được thì không nên để máy quyết định.

Không tự biết mình đang sai. Đây là điểm khác biệt lớn nhất so với con người. Một người không biết sẽ nói “để tôi kiểm lại”. Mô hình ngôn ngữ thì thường sinh ra một câu trả lời trông rất hợp lý. Bài Vì sao AI trả lời sai mà vẫn tự tin nói riêng về chuyện này.

Không thay được cơ sở dữ liệu nghiệp vụ. Số liệu về một thửa đất, một hồ sơ, một khách hàng phải tra từ hệ thống nghiệp vụ. Trợ lý AI trả lời về quy định và quy trình. Trộn hai loại thông tin này là nguồn gốc của những sai sót khó phát hiện nhất.

Không hiểu bối cảnh chưa ai nói cho nó. Quan hệ nội bộ, thông lệ chưa thành văn, lý do lịch sử của một quy trình — những thứ đó không có trong tài liệu, nên không có trong câu trả lời.

Không tự vận hành. Hệ thống cần người cập nhật tài liệu, người theo dõi chất lượng, người xử lý khi sai. Nếu không phân công những việc đó thì sau vài tháng hệ thống sẽ lệch dần mà không ai biết.

Vì sao nhiều nơi thất vọng?

Nguyên nhân thứ nhất: chọn việc mà sai không phát hiện được.

Một hệ thống tổng hợp số liệu từ nhiều nguồn rồi đưa ra một con số — nếu con số đó sai, gần như không ai biết cho tới khi đã dùng nó để báo cáo. Ngược lại, một công cụ soạn công văn sai thể thức thì người ký đọc là thấy.

Nên tiêu chí “sai thì phát hiện được ngay” quan trọng hơn tiêu chí “ấn tượng”.

Nguyên nhân thứ hai: đặt kỳ vọng vào việc giảm người.

Nếu mục tiêu là giảm nhân sự, phần lớn dự án sẽ thất bại — vì khối lượng việc không giảm, chỉ có tốc độ thay đổi. Mục tiêu khả thi là cùng số người đó làm được nhiều hơn, hoặc làm ít việc lặp lại hơn.

Nguyên nhân thứ ba: không ai được giao việc duy trì.

Dự án nghiệm thu xong, không ai cập nhật tài liệu, không ai theo dõi chất lượng. Sau vài tháng hệ thống bắt đầu trả lời sai, người dùng mất niềm tin, và bỏ. Kết luận rút ra thường là “AI không hiệu quả”, trong khi vấn đề nằm ở chỗ khác.

Mất bao lâu để dùng được thật?

Không có mốc chung, nhưng có một điều đúng với hầu hết dự án: phần phần mềm không phải phần lâu nhất.

Lâu nhất thường là chuẩn hoá tài liệu, thống nhất cách gọi tên, và tập cho người dùng quen. Ba việc này không tăng tốc được bằng cách trả thêm tiền cho phần mềm.

Nên khi đọc một tiến độ triển khai mà phần chuẩn bị dữ liệu chỉ có một hai tuần, đó là tiến độ chưa thực tế.

Nên bắt đầu từ việc gì?

Bốn tiêu chí, và một việc nên đạt cả bốn:

1. Tần suất cao — làm hàng ngày, nhiều người làm
2. Quy trình đã chuẩn hoá — mô tả được bằng các bước
3. Tài liệu đã có ở dạng số — nếu còn trong tủ giấy thì phải tính thời gian số hoá
4. Sai thì phát hiện được ngay — tiêu chí quan trọng nhất

Nếu chỉ chọn được một việc để thử, nên chọn việc dễ thấy kết quả nhất, không phải việc nghe hay nhất. Với cơ quan nhà nước, bài Ứng dụng AI trong cơ quan nhà nước: thực tế đến đâu nói kỹ hơn về bối cảnh cụ thể.

Ba câu nên hỏi nhà cung cấp — kể cả chúng tôi

Hệ thống này làm gì, và không làm gì? Nếu câu trả lời chỉ có phần đầu, họ chưa nói hết.

Khi hệ thống không chắc chắn, nó làm gì? Câu trả lời đúng là từ chối trả lời và nói rõ lý do. Một hệ thống luôn đưa ra được câu trả lời là hệ thống không biết mình đang sai.

Ai chịu trách nhiệm cập nhật khi tài liệu hoặc quy định thay đổi, và chi phí đó nằm ở đâu? Nếu câu trả lời mơ hồ, hệ thống sẽ hỏng sau vài tháng.

Câu hỏi thường gặp

AI có thay thế công việc của tôi không?

Nó thay thế được những phần việc lặp lại và có khuôn. Nó không thay thế được phần cần chịu trách nhiệm, phần cần hiểu bối cảnh, và phần cần quyết định. Trong hầu hết công việc, hai loại này đan vào nhau.

Đơn vị nhỏ thì có nên làm không?

Có, và thường dễ hơn. Ít người thì quy trình đơn giản hơn, dễ chuẩn hoá hơn, đào tạo lại nhanh hơn. Điều kiện vẫn như nhau: một việc cụ thể, đo được, tài liệu đã số hoá.

Nên đợi công nghệ tốt hơn rồi làm không?

Phần khó nhất của một dự án AI không phải mô hình mà là chuẩn hoá dữ liệu và quy trình — và phần đó phải làm dù đợi bao lâu. Nên làm sớm phần chuẩn bị, và chọn mô hình sau, vì đó là quyết định dễ đổi.

Làm sao biết một đề xuất là thật hay chỉ là tiếp thị?

Xem nó có nói về giới hạn không, có nêu cách nghiệm thu không, và có trả lời được “nếu không đạt thì sao” không. Một đề xuất chỉ có danh sách tính năng là đề xuất chưa tìm hiểu đơn vị.

Nếu anh chị đang cân nhắc một dự án AI và muốn trao đổi xem bài toán của mình có hợp hay chưa, gửi email cho tôi:

son.pm@nguoibanrong.com

Tôi trả lời tất cả, và không gửi tài liệu quảng cáo.