21 bài học cho thế kỷ XXI
Nhà sử học Yuval Noah Harari cho rằng, nếu như từ vài trăm năm nay con người thay đổi thế giới bằng công nghệ thì gần đây, con người đang thay đổi chính con người bằng công nghệ.
Nhà sử học Yuval Noah Harari. Nguồn: The Guardian.
Qua lịch sử xuyên suốt từ khi con người nhân sinh xuất hiện hơn 80.000 năm trước đây, Yuval Noah Harari đã tổng hợp các vấn đề sát sườn mà mỗi người dân, tổ chức, chính phủ khắp nơi trên thế giới đang phải đối mặt hằng ngày.
Các cuộc cách mạng công nghiệp trước đây đã đẩy vọt năng suất lao động của con người và là động lực chính của mọi cấu trúc chính trị, xã hội trên toàn thế giới trong hơn 300 năm trở lại đây. Các cuộc cách mạng đó là cách con người tác động ra bên ngoài, biến đổi thiên nhiên phục vụ cho mình. Nhưng cuộc cách mạng 4.0 lần này rất khác bởi con người đang thay đổi chính mình. Từ bản năng lao động của con người có thể mất đi cho đến cấu trúc sinh học của cơ thể có thể được máy móc thay thế. Cho nên chúng ta sẽ nhìn thấy những thách thức rất to lớn có thể làm biến đổi cấu trúc xã hội, đe dọa tương lai, thậm chí diệt vong nền văn minh nhân loại.
Sự vỡ mộng về chủ nghĩa tự do và mối đe dọa từ công nghệ
Những câu chuyện đã dẫn dắt nhân loại suốt cả thế kỷ 20 giờ đây đã tan vỡ hết cả. Từ chủ nghĩa phát xít hay toàn trị, đến cả câu chuyện cuối cùng là chủ nghĩa dân chủ tự do vốn vẫn được cho là xu thế tất yếu của nhân loại vào đầu thế kỷ 21 này, giờ đã không còn đủ lôi cuốn thêm ai. Người ta đang thực sự hoài nghi về nó, đúng hơn là về khả năng mở rộng và phổ quát của nó ra toàn cầu, đặc biệt là sau cuộc khủng hoảng tài chính toàn cầu năm 2008. Nhiều mô hình chính trị khác đang được phát triển và có những thành công đáng kể ở nhiều nơi. Giờ đây nhiều người ở Kentucky hay Yorkshire có khi còn bất an về cuộc sống, về tự do hơn nhiều người ở Thượng Hải hay Singapore. Trong khi những người theo chủ nghĩa tự do còn đang hoang mang chưa hiểu vì sao những cái tưởng như chắc chắn lại không thành sự thật, thì sự hạn chế tự do, từ cá nhân đến quốc gia, bởi những trật tự mới như tăng thuế hay trật tự cũ được thiết lập lại như Anh rời khỏi châu Âu, lại đang xuất hiện và khiến nhiều người hoài nghi về tương lai của văn minh nhân loại.
Mối đe dọa đó thực ra đến từ công nghệ, từ những đứt gãy công nghệ quá nhanh mà các cơ cấu chính quyền hiện nay trên thế giới, vốn được định hình trong thời đại công nghiệp 1.0-2.0 với các máy hơi nước, nhà máy lọc dầu và màn hình tivi, chưa đáp ứng được. Nhiều chính trị gia còn chưa hiểu được nguyên lý hoạt động của các công nghệ mới nhất thì nói gì đến việc quản lý chúng. Mà nói gì thì nói, công nghệ hay đúng hơn là năng suất của người lao động là cái cốt lõi chi phối xã hội.
Theo chủ nghĩa tự do còn đang hoang mang chưa hiểu vì sao những cái tưởng như chắc chắn lại không thành sự thật, thì sự hạn chế tự do, từ cá nhân đến quốc gia, bởi những trật tự mới như tăng thuế hay trật tự cũ được thiết lập lại như Anh rời khỏi châu Âu, lại đang xuất hiện và khiến nhiều người hoài nghi về tương lai của văn minh nhân loại.
Nhà sử học Yuval Noah Harari cho rằng, nếu như từ vài trăm năm nay con người thay đổi thế giới bằng công nghệ thì gần đây, con người đang thay đổi chính con người bằng công nghệ, ở hai khía cạnh: thứ nhất là những con người ảo, thông minh như người mà không phải người; thứ hai là cơ thể người sắp tới sẽ không hoàn toàn là con người nguyên thủy mà sẽ gắn theo nhiều thiết bị vô cơ để thực hiện các chức năng sinh học.
Cái thứ nhất đang tạo ra một cảm giác bị bỏ rơi cho một số đông không theo kịp công nghệ. Trước đây người ta bị máy móc bóc lột thì nay bị máy móc bỏ rơi. Cảm giác bị bỏ rơi khó đấu tranh hơn bị bóc lột rất nhiều. Cái thứ hai đang đi sau một chút, và hệ quả của nó cũng sẽ không hề nhỏ. Các máy móc giờ đã đọc được những dòng suy nghĩ từ bộ não thì chẳng bao lâu nữa chúng cũng có thể phát các xung điện kích thích bộ não chúng ta có những cảm giác, suy nghĩ, và mong muốn do máy móc đưa ra. Không ai tưởng tượng được hậu quả sẽ thế nào. Một số nhỏ các kỹ sư có thể điều khiển suy nghĩ của hàng tỷ người? Dù chủ ý hay một sai lầm vô ý cũng sẽ dẫn đến một sự sụp đổ văn minh nhân loại. Đây là một nguy cơ đang thành hiện thực mà ít chính trị gia nào đang suy nghĩ một cách nghiêm túc. Họ, có khi còn chỉ nghĩ đến một cuộc sụp đổ sinh thái (do biến đổi khí hậu chẳng hạn) mà đã đủ đau đầu vì chưa có giải pháp rồi.
Có lẽ chính vì vậy mà cảm giác bất an và mất lòng tin đang tăng lên vì người dân hằng ngày đang sử dụng trí tuệ nhân tạo (AI), bị AI điều khiển và cảm nhận được rõ hơn cả nguy cơ này. Đó là nguy cơ họ sẽ bị đào thải và trở thành người thừa trong xã hội, bị AI điều khiển, chi phối.
Nhìn lại lịch sử thì chủ nghĩa tự do đã nhiều lần gặp khủng hoảng nhưng nó đều vượt lên và chiến thắng. Đó là Thế chiến thứ nhất, cuộc chiến để kết thúc các cuộc chiến và đối thủ là chủ nghĩa đế quốc; đó là Thế chiến thứ hai với chủ nghĩa chủng tộc phân biệt bị đánh bại; tiếp theo là cuộc Chiến tranh Lạnh với chủ nghĩa tập thể trên hết. Giờ đây chủ nghĩa tự do không còn đối thủ nào nữa thì nó lại rơi vào trạng thái hư vô. Thực ra thì nó không thể tiến thêm trên quy mô toàn cầu nhưng ở mỗi quốc gia, mỗi dân tộc lại dần tìm được những giá trị tự do đặc thù của mình. Các tài sản văn hóa, tôn giáo và lịch sử vốn bị lu mờ bởi những câu chuyện trong thế kỷ 20 giờ lại tìm được hào quang. Nhưng tương lai rốt cuộc sẽ là gì thì chúng ta cần nhìn lại căn nguyên của những biến đổi trên, công nghệ AI và sinh học, những thứ đang và sẽ chi phối tất cả chúng ta.
Chúng ta đã có cảm giác mình là một khối dữ liệu bị xô đẩy trong cái biển mây dữ liệu thì một ngày nào đó, người điều khiển cái biển dữ liệu đó có thể là AI, hoặc một mạng lưới AI cũng nên.
Mối đe dọa việc làm
Với mỗi cuộc cách mạng công nghiệp trước đây khi máy móc thay thế lao động thì con người lại tạo ra những việc làm mới tốt hơn và luôn có đủ việc làm. Nhưng đó là khi máy móc thay thế các công việc trong ngành nông nghiệp, công nghiệp và con người phần lớn chuyển dịch sang các ngành dịch vụ vốn đòi hỏi tri thức và giao tiếp con người. Nhưng lần này máy móc đã có thể lấn sang ngành dịch vụ: chúng thông minh hơn rõ rệt và bắt đầu có khả năng giao tiếp với người: nghe hiểu, nhìn và nhận biết, nói, học, sáng tác,…
Đó mới là các tiến bộ của công nghệ thông tin hay AI, còn với những tiến bộ của công nghệ sinh học thì những dòng suy nghĩ chi tiết trong não bộ vốn là những dòng điện sinh hóa, cũng có thể bị máy bắt chước và điều khiển. Khi kết hợp hai công nghệ này lại thì cái gọi là “trực giác” cũng không còn là lợi thế của riêng con người: tài xế nên lái cách nào, luật sư nên cãi ra sao, việc đàm phán nên theo hướng nào, bác sỹ phẫu thuật nên cắt đường nào,… tất cả đều có thể đo được từ dòng điện não và máy sẽ học theo nó.
Và không chỉ mỗi máy học theo cách của một người, nhiều máy có thể kết nối tốt hơn sự hợp tác của nhiều người. Ví dụ một chiếc xe tự lái vốn sẽ có thể lái tốt hơn một người bình thường, thì hàng vạn xe tự lái trong một thành phố sẽ được kết nối với nhau và phối hợp nhịp nhàng hơn hàng vạn con người bình thường. Và như thế là không chỉ tai nạn giao thông giảm đi do bớt sai lầm của mỗi con người, mà kẹt xe cũng giảm, luồng giao thông cải thiện do tăng sự phối hợp chung. Tương tự như vậy là hàng ngàn bác sỹ AI có thể phối hợp với nhau cho một ca phẫu thuật, hay cùng tìm kiếm một vaccine mới. Điều này thực sự rất có ý nghĩa với người dùng. Bạn sẽ được tiếp cận tri thức của không chỉ một hay một số người mà là hàng triệu, hàng tỷ chuyên gia cùng đang giúp bạn. Trong thuật toán của phác đồ điều trị của bạn là tổng hợp tri thức học từ hàng vạn bác sỹ chuyên khoa trên thế giới về căn bệnh của bạn, điều mà không con người nào cung cấp được. Viễn cảnh đó đã rất gần và điều ngược đời này có thể xảy ra: một bệnh nhân sau khi được thuyết phục sẽ dễ dàng chấp nhận để bác sỹ AI chuẩn đoán và ra quyết định điều trị, nhưng lại nhất định cần một y tá thực hiện việc điều trị như tiêm cho mình. Trong tương lai công việc tri thức lại dễ bị thay thế hơn công việc cần đến chân tay.
Nhà sử học Yuval Noah Harari cho rằng, nếu như từ vài trăm năm nay con người thay đổi thế giới bằng công nghệ thì gần đây, con người đang thay đổi chính con người bằng công nghệ, ở hai khía cạnh: thứ nhất là những con người ảo, thông minh như người mà không phải người; thứ hai là cơ thể người sắp tới sẽ không hoàn toàn là con người nguyên thủy mà sẽ gắn theo nhiều thiết bị vô cơ để thực hiện các chức năng sinh học.
Cái thứ nhất đang tạo ra một cảm giác bị bỏ rơi cho một số đông không theo kịp công nghệ. Trước đây người ta bị máy móc bóc lột thì nay bị máy móc bỏ rơi. Cảm giác bị bỏ rơi khó đấu tranh hơn bị bóc lột rất nhiều. Cái thứ hai đang đi sau một chút, và hệ quả của nó cũng sẽ không hề nhỏ. Các máy móc giờ đã đọc được những dòng suy nghĩ từ bộ não thì chẳng bao lâu nữa chúng cũng có thể phát các xung điện kích thích bộ não chúng ta có những cảm giác, suy nghĩ, và mong muốn do máy móc đưa ra. Không ai tưởng tượng được hậu quả sẽ thế nào. Một số nhỏ các kỹ sư có thể điều khiển suy nghĩ của hàng tỷ người? Dù chủ ý hay một sai lầm vô ý cũng sẽ dẫn đến một sự sụp đổ văn minh nhân loại. Đây là một nguy cơ đang thành hiện thực mà ít chính trị gia nào đang suy nghĩ một cách nghiêm túc. Họ, có khi còn chỉ nghĩ đến một cuộc sụp đổ sinh thái (do biến đổi khí hậu chẳng hạn) mà đã đủ đau đầu vì chưa có giải pháp rồi.
Có lẽ chính vì vậy mà cảm giác bất an và mất lòng tin đang tăng lên vì người dân hằng ngày đang sử dụng trí tuệ nhân tạo (AI), bị AI điều khiển và cảm nhận được rõ hơn cả nguy cơ này. Đó là nguy cơ họ sẽ bị đào thải và trở thành người thừa trong xã hội, bị AI điều khiển, chi phối.
Nhìn lại lịch sử thì chủ nghĩa tự do đã nhiều lần gặp khủng hoảng nhưng nó đều vượt lên và chiến thắng. Đó là Thế chiến thứ nhất, cuộc chiến để kết thúc các cuộc chiến và đối thủ là chủ nghĩa đế quốc; đó là Thế chiến thứ hai với chủ nghĩa chủng tộc phân biệt bị đánh bại; tiếp theo là cuộc Chiến tranh Lạnh với chủ nghĩa tập thể trên hết. Giờ đây chủ nghĩa tự do không còn đối thủ nào nữa thì nó lại rơi vào trạng thái hư vô. Thực ra thì nó không thể tiến thêm trên quy mô toàn cầu nhưng ở mỗi quốc gia, mỗi dân tộc lại dần tìm được những giá trị tự do đặc thù của mình. Các tài sản văn hóa, tôn giáo và lịch sử vốn bị lu mờ bởi những câu chuyện trong thế kỷ 20 giờ lại tìm được hào quang. Nhưng tương lai rốt cuộc sẽ là gì thì chúng ta cần nhìn lại căn nguyên của những biến đổi trên, công nghệ AI và sinh học, những thứ đang và sẽ chi phối tất cả chúng ta.
Mối đe dọa việc làm
Với mỗi cuộc cách mạng công nghiệp trước đây khi máy móc thay thế lao động thì con người lại tạo ra những việc làm mới tốt hơn và luôn có đủ việc làm. Nhưng đó là khi máy móc thay thế các công việc trong ngành nông nghiệp, công nghiệp và con người phần lớn chuyển dịch sang các ngành dịch vụ vốn đòi hỏi tri thức và giao tiếp con người. Nhưng lần này máy móc đã có thể lấn sang ngành dịch vụ: chúng thông minh hơn rõ rệt và bắt đầu có khả năng giao tiếp với người: nghe hiểu, nhìn và nhận biết, nói, học, sáng tác,…
Đó mới là các tiến bộ của công nghệ thông tin hay AI, còn với những tiến bộ của công nghệ sinh học thì những dòng suy nghĩ chi tiết trong não bộ vốn là những dòng điện sinh hóa, cũng có thể bị máy bắt chước và điều khiển. Khi kết hợp hai công nghệ này lại thì cái gọi là “trực giác” cũng không còn là lợi thế của riêng con người: tài xế nên lái cách nào, luật sư nên cãi ra sao, việc đàm phán nên theo hướng nào, bác sỹ phẫu thuật nên cắt đường nào,… tất cả đều có thể đo được từ dòng điện não và máy sẽ học theo nó.
Và không chỉ mỗi máy học theo cách của một người, nhiều máy có thể kết nối tốt hơn sự hợp tác của nhiều người. Ví dụ một chiếc xe tự lái vốn sẽ có thể lái tốt hơn một người bình thường, thì hàng vạn xe tự lái trong một thành phố sẽ được kết nối với nhau và phối hợp nhịp nhàng hơn hàng vạn con người bình thường. Và như thế là không chỉ tai nạn giao thông giảm đi do bớt sai lầm của mỗi con người, mà kẹt xe cũng giảm, luồng giao thông cải thiện do tăng sự phối hợp chung. Tương tự như vậy là hàng ngàn bác sỹ AI có thể phối hợp với nhau cho một ca phẫu thuật, hay cùng tìm kiếm một vaccine mới. Điều này thực sự rất có ý nghĩa với người dùng. Bạn sẽ được tiếp cận tri thức của không chỉ một hay một số người mà là hàng triệu, hàng tỷ chuyên gia cùng đang giúp bạn. Trong thuật toán của phác đồ điều trị của bạn là tổng hợp tri thức học từ hàng vạn bác sỹ chuyên khoa trên thế giới về căn bệnh của bạn, điều mà không con người nào cung cấp được. Viễn cảnh đó đã rất gần và điều ngược đời này có thể xảy ra: một bệnh nhân sau khi được thuyết phục sẽ dễ dàng chấp nhận để bác sỹ AI chuẩn đoán và ra quyết định điều trị, nhưng lại nhất định cần một y tá thực hiện việc điều trị như tiêm cho mình. Trong tương lai công việc tri thức lại dễ bị thay thế hơn công việc cần đến chân tay.
Trước đây người ta bị máy móc bóc lột thì nay sợ bị máy móc bỏ rơi. Nguồn: developermedia.com
Viễn cảnh đó khiến cho công việc chịu rất nhiều sức ép. Có hai lối thoát:
Thứ nhất là tìm hiểu và nghiên cứu những thứ mới, ví dụ các bệnh truyền nhiễm mới, các cách điều trị mới… Cái mới thì chưa có (nhiều) dữ liệu nên AI chưa học giỏi được nhưng cách đi này không có nhiều, khó vì phải liên tục tìm các mới khác thay thế.
Thứ hai là học cách chế tạo và vận hành các hệ thống AI. Cách này khả thi hơn vì các hệ thống AI sẽ rất nhiều, nhu cầu sẽ cao nhưng cũng không có gì đảm bảo. Bởi trong tương lai các hệ thống AI sẽ có thể tự vận hành, tự học với sự can thiệp rất ít của con người. Ví dụ như ngày nay để vận hành một máy bay không người lái cần đến vài chục kỹ sư AI nhưng tương lai các hệ thống sẽ tích hợp hết và chuyển thành Auto-AI.
Nhưng đến đây đã đủ để chúng ta nhìn thấy nguy cơ cho việc làm trong xã hội. Cả hai nhóm người trên, người sáng chế và người vận hành AI, đều đòi hỏi kiến thức cao không thuộc về số đông. Hơn nữa các công việc trên còn cần phải trau dồi và đòi hỏi kiến thức mới trong thời gian rất ngắn. Điều này trái với thực tế công việc hiện tại khi đa số chúng ta học một kỹ năng và làm cả đời. Nếu như trong các cuộc cách mạng công nghiệp trước thì lực lượng lao động đông luôn là một lợi thế của một quốc gia thì trong tương lai đơn giản là sẽ không cần lao động. Hàng trăm triệu công nhân may mặc sẽ bị thay thế bằng robot in 3D, những chuyên viên ngân hàng, tổng đài viên chăm sóc khách hàng qua điện thoại, kỹ sư chế tạo và điều khiển,… sẽ sớm bị mất việc. Không có nghề nghiệp trọn đời, cũng không còn ngành nghề nào tồn tại mãi mãi.
Có thể cảm nhận thấy một viễn cảnh số đông lao động không có việc làm đúng nghĩa, hoặc do AI bị trì hoãn, hoặc do trợ cấp của chính phủ, hoặc do sự chia nhỏ công việc ra,… thậm chí là không làm việc mà chỉ tiêu thụ. Con người có thể rơi vào một trạng thái vô dụng, bất mãn và mất kiểm soát. Điều đó có thể tạo thành một nguy cơ to lớn gây xáo trộn các hệ thống chính trị xã hội đương thời.
Bên cạnh nguy cơ mất ổn định xã hội còn có một nguy cơ khác có thể dẫn đến hủy diệt nền văn minh nhân loại, khi mà sự vận động của con người đang bị thu hẹp lại, con người bị lệ thuộc và chi phối bởi máy móc và thuật toán, rốt cuộc mất đi giá trị nhân văn và trở thành những cỗ máy người.
Mối đe dọa nhân tính
Hơn 300 năm trở lại đây, chúng ta đã chứng kiến sự chuyển giao quyền lực từ thần thánh, hoàng gia,… vốn tồn tại hàng ngàn năm sang nền dân chủ, tự do của mỗi con người, công dân thì chỉ trong vài chục năm nữa chúng ta sẽ chứng kiến quyền lực từ con người sang thuật toán.
Thuật toán ở đây không chỉ là các thuật toán máy tính mà chính là những thuật toán chạy trong toàn bộ cơ thể chúng ta. Khi mà các nhà khoa học nhận biết ra được các cảm giác, trực giác mà con người có quy lại chỉ là những thuật toán chạy qua hàng triệu nơ-ron thần kinh thì sự tự do của mỗi con người sẽ bị đe dọa nghiêm trọng.
Ai đó sẽ nhận biết được mọi cảm giác trong tôi. Nếu tôi sợ hãi, dù có cố không biểu hiện trên khuôn mặt thì điện vẫn chạy trong não qua các dây thần kinh và nơ-ron kích hoạt, thì người ta sẽ đo được ngay thôi. Mọi cảm giác, mọi suy nghĩ hay quan điểm, nhận thức hay giác ngộ bây giờ không chỉ là của mình mà rất dễ bị đánh cắp. Và khi trước đây chúng ta cố bảo hộ quyền tự do dân chủ vì mỗi người là riêng biệt, là thiêng liêng và bất khả xâm phạm thì ngày nay mỗi con người có thể không còn là của riêng mình.
Một mặt thì nó rất tốt. Các cảm biến sẽ đo đến từng hoạt động tế bào và điện trong cơ thể để tìm ra, dự báo bạn “có thể” bị mắc virus cúm hay không? Xin nhắc lại là có thể tức là chúng sẽ dự đoán được trước khi bạn mắc bệnh, điều mà các xét nghiệm hiện nay không làm được. Nhưng mặt khác thì các cảm biến hay cảnh báo luôn luôn hoạt động, kiểu gì thì cũng có vấn đề trong cơ thể và chúng ta sẽ phải luôn chạy theo các thuật toán cảnh báo kia. Các hệ thống dữ liệu và AI bây giờ hiểu rõ bản thân mỗi người hơn ai hết, hơn cả chính họ. Và từ việc hiểu đến điều khiển chỉ còn là một bước nhỏ.
Không chỉ trong lĩnh vực y tế, việc chúng ta đang bị điều khiển đã diễn ra ở rất nhiều lĩnh vực khác rồi. Mỗi khi xem phim hay Youtube, các thuật toán khuyến nghị dẫn dắt chúng ta đi từ clip này qua clip khác. Mua hàng hay lướt web, gọi điện hay vay tiền, tất cả các dữ liệu đó đều được thu thập và các nhà cung cấp còn có thể chia sẻ dữ liệu cho nhau để ban đầu đưa ra các dịch vụ tốt hơn, còn chúng ta bị dẫn dắt trong mê cung các sản phẩm và dịch vụ khiến cho năng lực ra quyết định và lựa chọn của mình mất dần.
Hãy để ý đến việc Google maps tiện dụng thế nào nhưng cũng làm cho con người mất đi khả năng định hướng và tìm đường. Bộ máy tìm kiếm của Google rõ ràng hoạt động thay cho não bộ của chúng ta trong rất nhiều trường hợp. Chúng ta dần dần dựa vào máy móc và không tự ra quyết định cho mình nữa, nhưng như thế thì những mối quan hệ, quan niệm của chúng ta về nhân tính và về cuộc đời sẽ thay đổi. Bạn sẽ làm quen cô gái kia không? Có nên ký hợp đồng với đối tác này không? Có nên tuyển ứng viên kia không? Nên cư xử với đứa bạn này thế nào? Có nên làm từ thiện chỗ kia không? Chúng ta sẽ giải thích quyết định của mình với đối tác bằng câu “AI bảo thế” hay sao?
Và trong những cỗ máy AI đó thì vẫn cần một chuyên gia về triết học và đạo đức để thiết lập các tham số. Chuyên gia sẽ thẩm định lại mô hình tuyển dụng để nó không vi phạm phân biệt giới tính hay chủng tộc, sẽ phán xét các cơ chế xử lý tai nạn của chiếc xe tự lái, hay đưa ra lập luận cho một quyết định phẫu thuật với xác suất thất bại nào đó. Có lẽ đây là một nghề sẽ còn phát triển trong thời đại AI này.
Mối đe dọa độc tài
Điều này đang ngày một rõ hơn. Vài trăm kỹ sư của Facebook đang điều khiển hành vi tương tác của vài tỷ người trên Trái đất. Nếu họ thay đổi các chức năng mà chúng ta đăng bài, share hay like, giới thiệu bạn mới, khuyến nghị status mới,… thì cả tỷ người sẽ nháo nhào. Vào cuối thế kỷ trước người ta nhận thấy việc quyết định tập trung là không thể và phải để cho thị trường tự do và phân tán quyết định, thì ngày nay việc quyết định tập trung lại khả thi. Chỉ cần quy tụ dữ liệu về hết một nơi thì máy tính đủ công suất và mô hình thông minh để tính toán ra giải pháp tối ưu. Các mô hình đó phần lớn sẽ dựa trên mạng nơron, hay nói cách khác là họ sẽ tạo ra những bộ não khổng lồ.
Ai sở hữu khối dữ liệu và bộ não đó sẽ có quyền lực tối thượng. Hiện nay là các tập đoàn công nghệ đang chi phối cả thế giới, sau này cũng có thể là các chính phủ. Chắc chắn là một chính phủ như thế có thể kiểm soát mọi công dân của mình còn hơn cả thời Đức Quốc xã. Cùng với việc làm sẽ bị thu hẹp lại và cả một tầng lớp đông đảo trở thành vô dụng như nói ở trên, quyền lực chính trị sẽ có thể bị thu hẹp lại cho một nhóm nhỏ người và quyền lực của mỗi công dân sẽ trở nên mơ hồ.
Cho đến hiện nay thì chúng ta cảm thấy lo sợ vì khả năng của AI có thể bắt chước con người và thay thế con người trong công việc nhiều hơn. Nhưng trong tương lai liệu AI có thể thông minh hơn con người không? Câu trả lời là bất định vì hiện nay chính con người chúng ta cũng chưa hiểu rõ trí thông minh của mình là gì, vì sao mà có. Nếu khả năng sáng tác, khám phá, phát minh cũng chỉ là những dòng điện hóa chạy qua các dây thần kinh và nơron thì sớm hay muộn người ta cũng đọc và mã hóa được chúng, để rồi tạo ra những cỗ máy AI biết phát triển trí thông minh, khi đó năng lực của AI sẽ đáng sợ và không ngờ được. Ngay cả giờ đây chúng ta đã có cảm giác mình là một khối dữ liệu bị xô đẩy trong cái biển mây dữ liệu thì một ngày nào đó, người điều khiển cái biển dữ liệu đó có thể là AI, hoặc một mạng lưới AI cũng nên.
Mối đe dọa bất bình đẳng
Ngay trong góc độ việc làm chúng ta đã thấy có những nhóm người sở hữu dữ liệu, tạo ra AI, điều khiển AI sẽ có lợi ích lớn và phần đông còn lại là người sử dụng AI hay đúng hơn là bị AI điều khiển. Các công ty công nghệ ngày nay chiếm đầu bảng các doanh nghiệp lớn nhất, khác xa so với 50 năm trước đây. Và tương tự là các tỷ phú công nghệ rồi sẽ là những người giàu nhất. Khoảng cách giàu nghèo đang tăng lên kinh khủng với tốc độ của phát kiến công nghệ.
Sự bất bình đẳng đó còn tăng nhanh hơn nữa khi mà công nghệ sinh học kết hợp thêm vào. Người có điều kiện không chỉ sẽ đẹp hơn, khỏe hơn, sống thọ hơn mà còn thông minh hơn do các máy móc hỗ trợ não bộ được gắn trực tiếp hoặc truyền gián tiếp. Đó là một tương lai nguy hiểm khi mà khác so với trước đây, tầng lớp tinh hoa vẫn cần số đông lao động để thực hiện nhiệm vụ kinh tế và thị trường tiêu thụ, ngày nay họ có thể sẽ chả cần. Họ có thể xây bức tường đóng kín và tận hưởng trong đó, thực phẩm và hàng hóa được máy móc và AI chế tạo tự động, AI sinh học sẽ chăm sóc sức khỏe, giải trí và cả tinh thần cho họ. AI chiến binh sẽ bảo vệ vòng ngoài khỏi những kẻ xâm chiếm hay rủi ro thiên tai,… Sự bất bình đẳng đó tạo ra số đông dư thừa chả biết làm gì. Họ bị đẩy xuống tầng dưới không vì một lý do cụ thể nào cả. Không phải chủng tộc, giới tính, giai cấp, mà mỗi người bị phân biệt vì dữ liệu của anh ta cho kết quả như thế, không giải thích được. Và do vậy người ta cũng không thể liên kết với nhau do có cùng đặc điểm bị đối xử mà đấu tranh cho được. Nền độc tài số nói trên và hệ quả là sự bất bình đẳng số sẽ là những thách thức chính trị lớn nhất hiện nay.