OpenAI tìm cách ngăn chặn lạm dụng AI

CẨM ANH• 10/02/2024 02:09

Để tiên phong trong lĩnh vực ngăn chặn trẻ em lạm dụng AI, OpenAI đã phát triển nhóm an toàn riêng về vấn đề này.

>Giám đốc OpenAI bị sa thải: Liệu có bàn tay của Microsoft?

OpenAI đang nỗ lực tìm cách thức bảo vệ trẻ em khỏi sự lạm dụng công nghệ

Sam Altman, Giám đốc OpenAI, hiện đang đàm phán với các nhà đầu tư, bao gồm cả Các Tiểu Vương quốc Arab Thống Nhất (UAE), để gây quỹ cho một sáng kiến công nghệ nhằm tăng cường năng lực chế tạo chip của thế giới và mở rộng khả năng cung cấp năng lượng cho AI, cùng nhiều mảng khác.

Đặc biệt, để giải quyết mối lo ngại ngày càng tăng từ các nhà hoạt động và phụ huynh về việc trẻ em có thể lạm dụng các công cụ AI của mình, OpenAI đã thành lập một nhóm An toàn Trẻ em mới chuyên nghiên cứu cách thức ngăn chặn việc lạm dụng AI.

Hiện nay ngày càng có nhiều lo ngại về việc trẻ vị thành niên sử dụng các công cụ AI, đồng thời công ty cũng tuân thủ các quy định như Quy tắc bảo vệ quyền riêng tư trực tuyến của trẻ em Hoa Kỳ, áp đặt các biện pháp kiểm soát chặt chẽ đối với các hoạt động và thu thập dữ liệu trực tuyến của trẻ em.

>>Đằng sau việc OpenAI tài trợ nâng cao kỹ năng người viết

Sự tồn tại của nhóm An toàn Trẻ em đã được tiết lộ thông qua một danh sách việc làm gần đây trên trang tuyển dụng của OpenAI, nơi công ty đã thông báo tìm kiếm Chuyên gia Thực thi An toàn Trẻ em.

Trong một động thái thể hiện cam kết đảm bảo an toàn cho trẻ em và sử dụng AI có trách nhiệm, công ty khởi nghiệp này đã thành lập nhóm An toàn Trẻ em mới. Nhóm chuyên gia này sẽ phát triển và thực thi các chiến lược nhằm ngăn chặn việc lạm dụng AI của người dùng chưa đủ tuổi vị thành niên.

Số lượng trẻ em và thanh thiếu niên sử dụng các công cụ AI ngày càng nhiều vào mục đích giáo dục và cá nhân, nhu cầu giải quyết các rủi ro tiềm ẩn ngày càng tăng.

Việc OpenAI đang thuê các chuyên gia về an toàn trẻ em không có gì đáng ngạc nhiên, đặc biệt nếu công ty kỳ vọng sẽ có một lượng lớn người dùng chưa đủ tuổi vị thành niên. (Điều khoản sử dụng hiện tại của OpenAI yêu cầu có sự đồng ý của phụ huynh đối với trẻ em từ 13 đến 18 tuổi và cấm trẻ em dưới 13 tuổi sử dụng.)

Hiện có nhiều lo ngại trẻ em và trẻ vị thành niên lạm dụng công nghệ AI

Hiện có nhiều lo ngại trẻ em và trẻ vị thành niên lạm dụng công nghệ AI

Sự hợp tác của OpenAI với Common Sense Media và những nỗ lực chung trong việc phát triển các nguyên tắc AI thân thiện với trẻ em nhằm nỗ lực thúc đẩy việc sử dụng AI có trách nhiệm và an toàn ở trẻ vị thành niên.

Được biết, công ty khởi nghiệp nghiên cứu về Trí tuệ Nhân tạo được Microsoft hậu thuẫn này đã đạt cột mốc doanh thu 2 tỷ USD vào tháng 12/2023.

>>OpenAI và ván cược tỷ đô của Microsoft

Trong báo cáo của The Financial Times cho biết, OpenAI tin rằng họ có thể tăng hơn gấp đôi mức doanh thu này vào năm 2025, dựa trên sự quan tâm mạnh mẽ từ các khách hàng doanh nghiệp đang tìm cách sử dụng công nghệ của họ để áp dụng các công cụ AI sáng tạo tại nơi làm việc.

Trước đó Information cũng từng đưa tin rằng doanh thu hàng năm của OpenAI đạt 1,6 tỷ USD trong tháng 12/2023, nhờ sự tăng trưởng mạnh mẽ từ sản phẩm ChatGPT, tăng từ mức 1,3 tỷ USD vào giữa tháng 10/2023.

Các nhà đầu tư đã định giá công ty khởi nghiệp có trụ sở tại San Francisco này ở mức hơn 80 tỷ USD.