Để AI không trở thành rủi ro mới

Đây là chia sẻ của ông Vũ Thanh Thắng, Chủ tịch công ty cổ phần AIZ - Đồng sáng lập Công ty cổ phần An ninh mạng SCS với Diễn đàn Doanh nghiệp.

- Theo ông, thực tế hiện nay, các doanh nghiệp đang gặp những rủi ro, sai sót nào khi ứng dụng trí tuệ nhân tạo AI và đâu là giải pháp để hạn chế những vấn đề này?

Tác nhân trí tuệ nhân tạo AI Agents đang được ứng dụng ngày càng rộng rãi trong doanh nghiệp, từ chăm sóc khách hàng, bán hàng, marketing đến kế toán, nhân sự, quản lý sản xuất và hỗ trợ điều hành. Hiệu quả lớn nhất không chỉ nằm ở việc tiết kiệm chi phí mà còn ở khả năng nâng cao năng suất và mở rộng quy mô vận hành mà không cần tăng tương ứng nguồn lực nhân sự.

Thực tế, tại một doanh nghiệp thương mại điện tử mà chúng tôi triển khai giải pháp, công việc đối soát đơn hàng trước đây mất gần một ngày nay đã được rút xuống dưới 5 phút. Số lượng kế toán bán hàng giảm từ 5 người xuống còn 1 người. Tổng nhân sự vận hành giảm từ 20 người xuống còn hơn 10 người, tương đương mức giảm khoảng 50% nhân sự và quỹ lương, trong khi khối lượng công việc xử lý tăng gấp 4 lần.

Tuy nhiên, trong quá trình triển khai, AI Agents vẫn có thể đưa ra thông tin sai nhưng có vẻ rất thuyết phục, xử lý nhầm dữ liệu hoặc thực hiện các tác vụ vượt quá thẩm quyền được giao. Đặc biệt, khi AI không chỉ dừng ở việc tư vấn mà trực tiếp thực hiện công việc, một sai sót nhỏ cũng có thể dẫn đến những hệ quả lớn về tài chính, vận hành và uy tín của doanh nghiệp.

Theo tôi, để AI thực sự trở thành nguồn lực giúp doanh nghiệp tăng năng suất, việc triển khai công nghệ phải đi cùng cơ chế quản trị rủi ro ngay từ đầu. Mỗi AI Agent cần được phân định rõ phạm vi công việc, quyền truy cập dữ liệu và giới hạn thẩm quyền, thay vì được phép xử lý mọi tác vụ một cách tự do. Với những nghiệp vụ có thể gây ra rủi ro tài chính hoặc ảnh hưởng đến tính chính xác của thông tin, như xuất hóa đơn, doanh nghiệp vẫn cần duy trì bước kiểm tra, phê duyệt của con người.

Khi có những cơ chế này, AI Agents mới có thể vận hành hiệu quả, đáng tin cậy và tạo ra giá trị bền vững thay vì trở thành một nguồn rủi ro mới cho doanh nghiệp.

- Nếu AI đưa ra thông tin sai lệch, xử lý nhầm dữ liệu khách hàng hoặc tạo ra quyết định gây thiệt hại cho đối tác, khách hàng, theo ông, trách nhiệm nên được xác định như thế nào?

Theo tôi, nguyên tắc quan trọng nhất là không thể lấy lý do “AI tự quyết định” để né tránh trách nhiệm khi xảy ra sự cố. Doanh nghiệp trực tiếp sử dụng AI để cung cấp sản phẩm, dịch vụ phải có trách nhiệm tiếp nhận phản ánh, khắc phục hậu quả và bảo vệ quyền lợi khách hàng. Trong khi đó, nhà cung cấp giải pháp và đơn vị phát triển công nghệ cần chịu trách nhiệm tương ứng với lỗi phát sinh, nghĩa vụ và cam kết của mình. Việc phân định trách nhiệm cần căn cứ vào nguyên nhân gây thiệt hại, vai trò của từng bên và các quy định pháp luật có liên quan.

Thực tế, tháng 11/2022, Air Canada từng phải bồi thường cho một khách hàng sau khi chatbot của hãng cung cấp thông tin sai về chính sách giá vé dành cho người có tang. Vụ việc cho thấy, dù thông tin sai được tạo ra bởi AI, doanh nghiệp vẫn không thể mặc nhiên phủ nhận trách nhiệm đối với thông tin mà mình cung cấp cho khách hàng.

Tại Việt Nam, Điều 29 Luật Trí tuệ nhân tạo của Việt Nam đã đặt ra quy định về trách nhiệm bồi thường đối với thiệt hại do hệ thống AI rủi ro cao gây ra, kể cả trong trường hợp hệ thống được vận hành đúng quy định, trừ các trường hợp được pháp luật miễn trừ. Quy định này cho thấy việc xác định trách nhiệm không thể chỉ căn cứ vào lỗi kỹ thuật của AI, mà còn phải xem xét vai trò của bên triển khai và các chủ thể liên quan theo quy định pháp luật.

- Trong bối cảnh khung pháp lý về AI đang tiếp tục được hoàn thiện, theo ông, doanh nghiệp thường gặp khó khăn gì trong việc xác định nghĩa vụ tuân thủ?

Khó khăn lớn nhất hiện nay là xác định rõ nghĩa vụ và ranh giới trách nhiệm của các bên trong một hệ thống AI, từ đơn vị phát triển công nghệ, nhà cung cấp nền tảng đến doanh nghiệp trực tiếp sử dụng. Mỗi bên nắm giữ một phần công nghệ, dữ liệu và quyền kiểm soát khác nhau, nên khi xảy ra sự cố, việc xác định trách nhiệm không phải lúc nào cũng đơn giản.

Việt Nam đang từng bước hoàn thiện khung pháp lý về AI, bảo vệ dữ liệu cá nhân và an toàn thông tin. Tuy nhiên, trong thực tế, doanh nghiệp vẫn có nhiều câu hỏi như dữ liệu khách hàng được phép đưa vào AI đến đâu, ai chịu trách nhiệm nếu dữ liệu bị rò rỉ qua nền tảng bên thứ ba, quyền sở hữu nội dung do AI tạo ra được xác định thế nào và làm sao truy vết khi AI đưa ra quyết định sai.

Theo tôi, thách thức không chỉ nằm ở việc có quy định pháp luật hay chưa, mà còn ở khả năng chuyển hóa các quy định thành hướng dẫn cụ thể, dễ áp dụng. Doanh nghiệp cần biết rõ mình phải thực hiện nghĩa vụ gì, kiểm soát dữ liệu ra sao và chịu trách nhiệm đến đâu. Vì vậy, cần tiếp tục hoàn thiện khung pháp lý theo hướng rõ ràng, thống nhất, đồng thời có hướng dẫn thực thi phù hợp để doanh nghiệp vừa tuân thủ pháp luật, vừa chủ động ứng dụng AI mà không phải đối mặt với những rủi ro pháp lý khó lường.

- Ông kiến nghị cơ quan quản lý cần ưu tiên hoàn thiện những quy định hoặc cơ chế hướng dẫn nào để vừa kiểm soát rủi ro, bảo vệ quyền lợi của khách hàng, vừa tạo không gian cho doanh nghiệp thử nghiệm và đổi mới sáng tạo?

Tôi cho rằng cần ưu tiên ba vấn đề.

Thứ nhất, xây dựng tiêu chuẩn quản lý AI theo mức độ rủi ro, phân biệt rõ hệ thống hỗ trợ con người với hệ thống tự động ra quyết định.

Thứ hai, hướng dẫn rõ cơ chế phân định trách nhiệm, truy vết hoạt động, bảo vệ dữ liệu và bồi thường thiệt hại giữa các bên tham gia cung cấp, sử dụng AI.

Thứ ba, đẩy mạnh cơ chế thử nghiệm có kiểm soát (sandbox) đã được pháp luật quy định, giúp doanh nghiệp có điều kiện kiểm chứng công nghệ và quản trị rủi ro trước khi triển khai rộng rãi.

Theo tôi, không nên quản lý AI theo hướng hạn chế công nghệ, mà cần kiểm soát dựa trên mức độ rủi ro và khả năng kiểm soát thực tế. Pháp luật phải đủ chặt để bảo vệ khách hàng, nhưng cũng đủ linh hoạt để doanh nghiệp mạnh dạn đổi mới sáng tạo. Quan trọng nhất, AI có thể thay con người thực hiện nhiều công việc, nhưng không thể thay thế trách nhiệm của các tổ chức, cá nhân sử dụng công nghệ này.

- Trân trọng cảm ơn ông!