Quản lý đô thị thông minh trước yêu cầu mới từ AI

Ngày 10/10, trong khuôn khổ chuỗi sự kiện chào mừng Ngày Chuyển đổi số quốc gia 2026, Diễn đàn Đô thị Thông minh Tương lai - The Smart Agent City diễn ra với sự phối hợp của Cục Chuyển đổi số quốc gia, Viện Sáng tạo và Chuyển đổi số (VIDTI) và Stamford Global Leadership Center (SGLC), dưới sự chỉ đạo và bảo trợ của Bộ Khoa học và Công nghệ, Liên hiệp các Hội Khoa học và Kỹ thuật Việt Nam và UBND TP Hà Nội.

Từ số hóa đến vận hành chủ động

Phát biểu tại Diễn đàn, GS.TS. Trương Xuân Lam - Phó Chủ tịch Liên hiệp các Hội Khoa học và Kỹ thuật Việt Nam cho rằng, dữ liệu và trí tuệ nhân tạo (AI) ngày càng giữ vai trò quan trọng trong quản lý, vận hành đô thị và nâng cao chất lượng cuộc sống.

Theo đó, đô thị thông minh thế hệ mới cần vượt ra khỏi việc số hóa các quy trình hiện có, hướng tới kết nối dữ liệu, nâng cao năng lực dự báo và chuyển từ quản lý phản ứng sang chủ động. AI có thể hỗ trợ dự báo ùn tắc giao thông, phát hiện nguy cơ ngập lụt, ô nhiễm, tối ưu hóa sử dụng năng lượng và nguồn nước.

Từ góc độ chuyển đổi số, PGS.TS. Hoàng Hữu Hạnh - Phó Cục trưởng Cục Chuyển đổi số quốc gia (Bộ Khoa học và Công nghệ) cho biết, chủ đề Diễn đàn đặt ra hai vấn đề trọng tâm là chiến lược phát triển trí tuệ nhân tạo và thúc đẩy đô thị thông minh. Trong đó, mô hình đô thị vận hành bằng các tác nhân AI (Agent City) được đề cập như một định hướng phát triển trong tương lai, với triển vọng ngày càng gần thực tiễn.

Theo PGS.TS. Hoàng Hữu Hạnh, quá trình phát triển đô thị có thể nhìn qua ba giai đoạn gồm đô thị số, đô thị thông minh và đô thị vận hành bằng các tác nhân AI. Nếu hai giai đoạn đầu tập trung số hóa, khai thác dữ liệu phục vụ giám sát, điều hành và ra quyết định, giai đoạn tiếp theo hướng tới khả năng phối hợp giữa các hệ thống để chuyển thông tin thành hành động.

Thực tế, nhiều hệ thống đã có thể phát hiện, cảnh báo nhưng chưa phối hợp hiệu quả trong xử lý các vấn đề liên ngành. Chẳng hạn, ứng phó ngập lụt cần sự phối hợp giữa các ngành giao thông, giáo dục, y tế và lực lượng phòng, chống thiên tai. Vì vậy, việc kết nối dữ liệu và xây dựng quy tắc phối hợp rõ ràng là yêu cầu cần thiết để sử dụng hiệu quả các nguồn lực.

Để tiến tới mô hình đô thị vận hành bằng AI, dữ liệu cần được chuẩn hóa theo nguyên tắc “đúng, đủ, sạch, sống, thống nhất, dùng chung”, có định dạng để máy đọc và xử lý, đồng thời bảo đảm quyền riêng tư và an toàn thông tin.

Ông Hạnh nhấn mạnh, khi AI thực hiện nhiệm vụ thay mặt cá nhân, tổ chức, cần xác định rõ danh tính, phạm vi quyền hạn và trách nhiệm. Con người vẫn phải có khả năng giám sát, phê duyệt hoặc can thiệp khi cần thiết.

Cũng tại Diễn đàn, trong tham luận “Agent City – Đô thị thông minh thế hệ AI-Native: Xu thế, đề xuất ý tưởng thí điểm”, TS. Bangdao Chen – Đồng sáng lập Tyr, Đồng sáng lập Trung tâm Nghiên cứu Blockchain (Đại học Oxford), thành viên Hội đồng Cố vấn SGLC đã đề cập xu hướng chuyển dịch của AI từ các ứng dụng riêng lẻ sang hệ sinh thái các tác nhân có khả năng phối hợp thực hiện nhiệm vụ trong đời sống, doanh nghiệp và quản trị đô thị.

Tương tự cơ chế kết nối con người, tổ chức và dịch vụ của một thành phố truyền thống, sự phát triển của các tác nhân AI đòi hỏi một môi trường vận hành thống nhất. Khi AI gia tăng khả năng xử lý công việc thay mặt cá nhân, hỗ trợ doanh nghiệp và tương tác liên hệ thống, các quy định về quyền hạn, trách nhiệm cùng an toàn vận hành trở thành yếu tố bắt buộc.

“Agent City mở ra hướng tiếp cận mới cho đô thị thông minh: chuyển từ việc dùng AI để phân tích dữ liệu hay hỗ trợ ra quyết định sang cho phép các tác nhân AI thực hiện công việc và phối hợp xuyên hệ thống một cách an toàn, minh bạch và có trách nhiệm”, TS. Bangdao Chen chia sẻ.

Theo ông, vấn đề cốt lõi không chỉ dừng lại ở năng lực của AI, mà nằm ở phương thức con người trao quyền và kiểm soát khi các tác nhân này tham gia vào các hoạt động thực tế.

Bài toán dữ liệu và kiểm soát AI

Từ những yêu cầu đặt ra trong vận hành đô thị, Sáng kiến Agent City được giới thiệu tại Diễn đàn với ba nhóm ưu tiên gồm bảo đảm chủ quyền dữ liệu và quyền tự chủ, bảo đảm an ninh trong vận hành tác nhân AI và thu hẹp khoảng cách số.

Trong bối cảnh các tác nhân AI ngày càng có khả năng tự chủ thực hiện nhiệm vụ, việc quản lý dữ liệu, xác định quyền hạn và trách nhiệm trở thành những vấn đề cần được kiểm soát.

Theo nội dung sáng kiến, mỗi cá nhân, tổ chức cần giữ quyền kiểm soát đối với dữ liệu, các quy định nội bộ và đại diện số của mình. Việc giao nhiệm vụ cho tác nhân AI phải đi kèm cơ chế xác định trách nhiệm giải trình của đơn vị vận hành và khả năng can thiệp khi cần thiết.

Dữ liệu thử nghiệm từ các hệ thống tác nhân có thể được sử dụng để cải thiện những mô hình AI riêng trong phạm vi quyền hạn được phép, trong khi tri thức do con người truyền dạy cho tác nhân AI tiếp tục thuộc quyền sở hữu của chính họ.

Đối với vấn đề an ninh, rủi ro có thể phát sinh khi tác nhân AI thực hiện thanh toán, truy cập hồ sơ hoặc điều khiển thiết bị nếu xảy ra lỗi, nhận chỉ dẫn độc hại hay vượt quá phạm vi được ủy quyền. Trong các hệ thống liên thông, sự cố từ một tác nhân còn có nguy cơ ảnh hưởng đến nhiều bên.

Chẳng hạn, một tác nhân AI chỉ cần quyền đọc dữ liệu để kiểm tra hóa đơn, nhưng nếu được cấp thêm quyền truy cập hệ thống thanh toán, các giao dịch ngoài ý muốn có thể tự động diễn ra. Rủi ro trong trường hợp này không nằm ở năng lực của AI mà ở phạm vi quyền hạn được cấp.

Để kiểm soát, sáng kiến đề xuất kết hợp kiểm thử an ninh, xác thực danh tính, kiểm soát quyền truy cập, giám sát liên tục và cơ chế can thiệp của con người. Hệ thống được thiết kế để có thể ngắt hoạt động khi tác nhân AI có dấu hiệu vượt quá phạm vi được ủy quyền.

Đồng thời, mọi tương tác liên hệ thống phải trải qua cơ chế xác minh chủ thể đại diện và phân quyền tối thiểu trước khi hành động được thực hiện.

Nguyên tắc nền tảng được đặt ra là “Thông tin không phải là mệnh lệnh”, nghĩa là nội dung tác nhân AI tiếp nhận không tự động trở thành chỉ thị mới, còn các giới hạn quyền hạn phải được thực thi ngay tại thời điểm hành động.

Một phương thức giám sát khác được đề cập là trực quan hóa hoạt động của các tác nhân AI trên bản đồ thành phố theo nguyên tắc “Seeing Is Believing” (Trực quan để tạo dựng niềm tin).

Theo đó, mỗi tác nhân được hiển thị dưới danh tính của cá nhân hoặc tổ chức đại diện, giúp người dân và cơ quan quản lý nhận biết tác nhân nào đã hành động, đại diện cho ai và tại vị trí nào để có thể can thiệp trực tiếp mà không cần truy xuất mã lập trình hay nhật ký hệ thống. Bản đồ chỉ hiển thị chủ thể hành động, không tiết lộ nội dung trao đổi, yêu cầu hoặc giao dịch riêng tư.

Bên cạnh yêu cầu an toàn, khả năng tiếp cận công nghệ cũng được đặt ra đối với những nhóm cá nhân và doanh nghiệp còn hạn chế về nguồn lực. Theo mô hình được giới thiệu, người cao tuổi có thể sử dụng tác nhân AI để thanh toán hóa đơn với hạn mức chi tiêu được thiết lập cùng gia đình nhằm hạn chế rủi ro lừa đảo. Chủ cửa hàng có thể giao tác nhân thực hiện đặt hàng bổ sung nhưng không cấp quyền truy cập hệ thống trả lương.

Đối với những người không sở hữu tác nhân AI riêng, mô hình cho phép sử dụng các dịch vụ dùng chung. Thông qua những tình huống này, cơ quan quản lý có thể đánh giá mức độ thụ hưởng công nghệ thực tế của từng nhóm đối tượng.

Tại phiên thảo luận về năng lực, thể chế và cơ chế thử nghiệm có kiểm soát (sandbox), các chuyên gia cho rằng việc ứng dụng AI trong quản lý, vận hành đô thị cần được xem xét đồng thời trên ba phương diện: hạ tầng công nghệ, cơ chế quản trị và mức độ sẵn sàng của doanh nghiệp, người dân.

Theo ông Timothy Ngo - đồng sáng lập kiêm CEO Iozera.ai Inc., bên cạnh đầu tư trung tâm dữ liệu và hạ tầng tính toán, cần chú trọng truyền thông minh bạch, đào tạo nhân lực và tạo sự đồng thuận của cộng đồng.

Ở góc độ doanh nghiệp, ông Ashish Arvind Thukral - đồng sáng lập kiêm CEO NeuGenM.ai, nhấn mạnh yêu cầu chuẩn hóa thông tin sản phẩm, dịch vụ để AI có thể nhận diện, đồng thời thiết lập các quy tắc an toàn cho giao dịch giữa những tác nhân AI.

Trong khi đó, bà Kaylene Wong - CEO John Ethans International, khuyến nghị doanh nghiệp bắt đầu từ những bài toán cụ thể, lựa chọn nhiệm vụ phù hợp để tự động hóa và xác định rõ trách nhiệm của con người trong quá trình vận hành.

Liên quan đến cơ chế thử nghiệm, TS. Bangdao Chen đề xuất tăng cường mô phỏng, kiểm thử nhằm nhận diện rủi ro, kiểm chứng các biện pháp kiểm soát và hoàn thiện chính sách quản trị AI. Các chương trình sandbox cần bảo đảm sự giám sát của con người, trách nhiệm giải trình, đồng thời tạo điều kiện để người dân trực tiếp trải nghiệm và phản hồi.

Theo các chuyên gia, quá trình phát triển đô thị ứng dụng AI cần đặt yêu cầu an toàn, quyền kiểm soát và lợi ích thiết thực của người dân, doanh nghiệp song hành với việc đầu tư, ứng dụng công nghệ.