Phải làm gì nếu AI rơi vào tay kẻ xấu?

Diendandoanhnghiep.vn Trí tuệ nhân tạo (AI) có thể vượt tầm kiểm soát của con người và “nổi loạn” như trong các bộ phim viễn tưởng?

Câu hỏi này được các nhà khoa học hàng đầu về AI thảo luận tại Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” do Quỹ VinFuture tổ chức chiều 19/12/2023.

>> Người đầu tiên trên thế giới tìm ra tế bào “T điều hòa” sẽ có bài phát biểu đặc biệt tại VinFuture 2023

Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” là phiên cuối cùng trong chuỗi hội thảo “Khoa học vì Cuộc sống” thuộc khuôn khổ Tuần lễ khoa học công nghệ VinFuture 2023. Toạ đàm cho thấy vai trò cầu nối khoa học giữa thế giới và Việt Nam của VinFuture khi quy tụ các tên tuổi lớn trong lĩnh vực trí tuệ nhân tạo, cùng bàn về những vấn đề nóng của thế giới.

TS. Xuedong David Huang - Thành viên Hội đồng Giải thưởng VinFuture và Giám đốc Công nghệ của Tập đoàn Zoom (Hoa Kỳ) cùng bàn luận với các diễn giả trong toạ đàm Trí tuệ nhân tạo được tổ chức vào ngày 19/12 .

TS. Xuedong David Huang - Thành viên Hội đồng Giải thưởng VinFuture và Giám đốc Công nghệ của Tập đoàn Zoom (Hoa Kỳ) cùng bàn luận với các diễn giả trong toạ đàm Trí tuệ nhân tạo được tổ chức vào ngày 19/12 .

AI là thực tế hay ảo tưởng?

Đó là câu hỏi được Giám đốc Công nghệ của Tập đoàn Zoom Hoa Kỳ Xuedong Huang đặt ra với các diễn giả trong toạ đàm. 

GS. Leslie Gabriel Valiant thẳng thắn, AI là thực tế. “Chúng ta thường trấn an nhau rằng, có những điều máy móc không thể thay thế con người. Nhưng tôi không trấn an như vậy. Tất cả mọi thứ chúng ta thực hiện trong thế giới thực này máy tính đều có thể làm được. Đây là khoa học, không có gì để bàn cãi. Máy móc có năng lực vô hạn, vấn đề là thời điểm nào”, ông nói.

Chính TS. Xuedong Huang cũng đưa ra dẫn chứng về kết quả các bài thi trong trường luật. Theo đó, điểm thi trung bình của các sinh viên là 68%, trong khi điểm thi của GPT-4 đạt 75%, vượt trội so với con người. “Ngày nay máy tính chiến thắng con người trong các bài thi, bao gồm cả toán, bài thi chuẩn hoá năng lực SAT và khó như bài thi môn luật học”, TS. Xuedong Huang phân tích.

Giám đốc Công nghệ của Tập đoàn Zoom cũng kể câu chuyện về một người mẹ có con mắc bệnh hiểm nghèo. Bà đưa con mình đi khám rất nhiều bác sĩ nhưng chưa tìm ra nguyên nhân. Trong lúc bế tắc, bà đã hỏi ChatGPT. ChatGPT trả lời bà rằng con bà mắc một loại bệnh hiếm gặp. Người mẹ mang chẩn đoán của ChatGPT đi hỏi ngược lại bác sĩ và bác sĩ xác nhận đây đúng là bệnh mà con bà mắc phải. 

GS. Leslie Gabriel Valiant chia sẻ về lịch sử thuật toán học máy và trí tuệ nhân tạo

GS. Leslie Gabriel Valiant chia sẻ về lịch sử thuật toán học máy và trí tuệ nhân tạo.

“Sự thật là, AI có khả năng đọc một khối lượng tài liệu y văn nhiều gấp hàng chục triệu lần một bác sĩ. Những gì chúng ta đọc dù khổng lồ vẫn chỉ là rất nhỏ trong mô hình ngôn ngữ lớn của AI. Cá nhân con người chỉ giỏi trong phạm vi nhất định, còn AI đứng trên vai của những người khổng lồ. AI có thể là tập hợp của rất nhiều bộ não lớn trong y khoa”, TS. Xuedong Huang cho hay.

Ông Trương Quốc Hùng - Nhà sáng lập và Giám đốc điều hành VinBrain - chia sẻ thêm với các diễn giả tại tọa đàm về sự phát triển của công nghệ AI tạo sinh và ứng dụng nó trong y khoa để chứng minh AI là thực tế, không phải ảo tưởng.

Ông Hùng cho hay công nghệ AI tạo sinh mô phỏng cách làm việc của bác sĩ, nghiên cứu kết quả xét nghiệm, tổng hợp tài liệu y văn với khối lượng tài liệu tham khảo rất lớn, từ đó chọn ra phác đồ điều trị tối ưu. Trong một số kỹ thuật y khoa hiện nay như chụp cộng hưởng từ và chụp Xquang, AI đọc kết quả chính xác hơn bác sĩ. Do đó, AI có thể được bác sĩ sử dụng như một cộng sự đắc lực.

Cần cơ chế kiểm soát đảm bảo AI được sử dụng cho mục đích tốt đẹp

Trước thách thức về an ninh khi AI đang ngày càng mạnh hơn và nguy cơ rơi vào tay kẻ xấu, TS. Padmanabhan Anandan cho rằng nỗi lo lắng này có phần cường điệu.

Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” cho thấy vai trò cầu nối khoa học giữa thế giới và Việt Nam của VinFuture khi quy tụ các tên tuổi lớn trong lĩnh vực trí tuệ nhân tạo, cùng bàn về những vấn đề nóng của thế giới.

Tọa đàm “Trí tuệ nhân tạo: Tiềm năng đột phá và thách thức” cho thấy vai trò cầu nối khoa học giữa thế giới và Việt Nam của VinFuture khi quy tụ các tên tuổi lớn trong lĩnh vực trí tuệ nhân tạo, cùng bàn về những vấn đề nóng của thế giới.

“Giống như con dao, có thể dùng cho cả mục đích tốt lẫn xấu. AI cũng vậy. Vấn đề là cơ chế kiểm soát”, TS. Padmanabhan Anandan nhận định.

Ông đưa ra cơ chế kiểm soát ba bước đối với AI. Một là kiểm soát kiểm soát quá trình sản xuất. Hai là kiểm soát quá trình ứng dụng, cho phép dùng AI trong những lĩnh vực nào. Ba là, đến một mức độ nào đó, cần kiểm soát ai được quyền phát triển AI, ai được sử dụng AI và và sử dụng vì mục đích gì.

Đồng quan điểm, TS. Bùi Hải Hưng, Tổng Giám đốc của VinAI, cho rằng các nhà hoạch định chính sách cần cân nhắc nghiêm túc về vấn đề này. AI có thể là cộng sự hữu ích nhất, người bạn đồng hành tuyệt vời để con người nâng cao năng lực cũng như năng suất làm việc. Tuy nhiên, trong mọi trường hợp, con người cần giữ quyền kiểm soát.

Một vấn đề khác được GS. Vũ Hà Văn - Giáo sư Đại học Yale, Hoa Kỳ, đồng thời là Giám đốc khoa học của CTCP VinBigdata - đặt ra, đó là việc một ngày máy tính kiểm soát các thuật toán về AI hoặc các mô hình ngôn ngữ lớn sẽ dùng chính những văn bản do AI tạo ra để đào tạo ngược lại cho chính nó.

GS. Leslie Gabriel Valiant đồng tình đây là một nguy cơ. Nếu dữ liệu đầu vào là dữ liệu do máy tạo ra, AI sẽ bị giảm năng lực đi kèm các nguy cơ khác. Con người cần phải kiểm soát tốt hơn và cần nghiên cứu một cách thấu đáo vấn đề này.

“Chung sức Toàn cầu” là chủ điểm của Giải thưởng VinFuture mùa 3, phản ánh rõ nét sự khác biệt và tầm nhìn toàn diện của VinFuture so với những giải thưởng quốc tế khác khi đề cao tầm quan trọng của sự hợp tác toàn cầu để làm nên những công nghệ đột phá có tác động trên diện rộng. 

Năm nay, Giải thưởng VinFuture thu hút 1389 đề cử, tăng gấp 3 lần so với năm đầu tiên (599 đề cử của mùa 1 và 970 đề cử của mùa 2), cho thấy uy tín và tầm vóc của Giải thưởng cũng như sự quan tâm của các nhà khoa học thế giới dành cho Giải thưởng này. 

Tuần lễ khoa học công nghệ VinFuture và chuỗi toạ đàm “Khoa học vì cuộc sống” đã trở thành diễn đàn uy tín của giới khoa học, công nghệ toàn cầu. Các hoạt động trong Tuần lễ khoa học công nghệ VinFuture quy tụ những tên tuổi nhà khoa học hàng đầu thế giới, mang tới cho cộng đồng các nhà khoa học Việt Nam cơ hội trao đổi, thảo luận về những xu hướng nghiên cứu mới, công nghệ mới đang dẫn dắt sự phát triển và các nhân tố đột phá sẽ thay đổi thế giới.

Tâm điểm được giới khoa học mong chờ là Lễ trao giải VinFuture 2023 sẽ được tổ chức vào 20h10 ngày 20/12 tại Nhà hát Hồ Gươm (Hà Nội) và được truyền hình trực tiếp trên sóng VTV1.

Đánh giá của bạn:

Mời các bạn tham gia vào group Diễn đàn Doanh nghiệp để thảo luận và cập nhật tin tức.

Bạn đang đọc bài viết Phải làm gì nếu AI rơi vào tay kẻ xấu? tại chuyên mục Doanh nhân của Tạp chí Diễn đàn doanh nghiệp. Liên hệ cung cấp thông tin và gửi tin bài cộng tác: email toasoan@dddn.com.vn, hotline: 0985698786,
Bình luận
Bạn còn /500 ký tự
Xếp theo: Thời gian | Số người thích
SELECT id,type,category_id,title,description,alias,image,related_layout,publish_day FROM cms_post WHERE `status` = 1 AND publish_day <= 1716534700 AND in_feed = 1 AND top_home <> 1 AND status = 1 AND publish_day <= 1716534700 ORDER BY publish_day DESC, id DESC LIMIT 0,11
1 2 3 4 5 6 7 8 9 10