Xu hướng “AI tại biên”

Điện toán đám mây đang rất phổ biến trong lĩnh vực dịch vụ công nghệ, bao gồm cả AI. Thế nhưng giờ đây, theo Tiến sĩ Hoàng Lê Minh, Giám đốc Trung tâm Ứng dụng Công nghệ và Trí tuệ nhân tạo, Trường Đại học Văn Lang, một làn sóng mới đang âm thầm lan tỏa trong cuộc chơi công nghệ toàn cầu: AI tại biên (Edge AI). Công nghệ này phát triển nhanh chóng vì khả năng giải quyết tốt ba vấn đề thường xảy ra trong quá trình sử dụng AI, bao gồm bảo mật, tốc độ và chi phí.

Cuộc dịch chuyển kiến trúc AI

Nhiều năm qua, mô hình AI thống trị là Cloud AI, tức là dữ liệu từ thiết bị được gửi lên trung tâm dữ liệu trên đám mây để xử lý, rồi kết quả mới phản hồi về. Mô hình này hiệu quả trong điều kiện kết nối ổn định, nhưng bộc lộ điểm yếu nghiêm trọng khi yêu cầu xử lý tức thì, độ trễ thấp hoặc bảo mật dữ liệu cao.

Trong khi đó, theo ông Francis Foo, Phó Chủ tịch Infineon Technologies Asia Pacific, AI tại biên có thể giải quyết những vấn đề này bằng cách tích hợp trực tiếp các bộ xử lý thần kinh (NPU - Neural Processing Unit) vào chip và vi điều khiển, cho phép thiết bị tự thực thi các tác vụ AI ngay tại chỗ mà không cần kết nối Cloud.

Đây không còn là khái niệm trên giấy tờ, mà đã thành hình và có những sản phẩm thực tế.

Chẳng hạn Infineon Technologies, tập đoàn bán dẫn hàng đầu Đức, đã chính thức chuyển hướng chiến lược từ bán phần cứng thuần túy sang cung cấp "Giải pháp tổng thể" (Total Solution), kết hợp chip NPU với phần mềm AI nhúng như Imagimob Studio để khách hàng có thể đưa mô hình AI lên thiết bị IoT mà không cần đội ngũ kỹ sư AI chuyên sâu.

Hoặc GIGABYTE ra mắt dòng máy tính AI cục bộ (on-premise) AITOP Atom và AITOP 500, đưa năng lực tính toán vốn chỉ có ở trung tâm dữ liệu về tận bàn làm việc của người dùng cuối. Họ từng triển khai dự án này tại các bệnh viện ở Đài Loan, sử dụng bộ máy AI AITOP 100 và AITOP Atom hỗ trợ bác sĩ chẩn đoán hình ảnh y khoa từ hàng nghìn ảnh scan mỗi ngày, giúp thời gian phân tích một ca giảm từ 10 phút xuống còn vài giây, trong khi dữ liệu bệnh nhân không bao giờ rời khỏi hệ thống nội bộ của bệnh viện.

Với mô hình AI tại biên, ông Foo nhận định rằng AI không còn là công cụ, mà nó trở thành “khách hàng”, tiêu thụ “sản phẩm” là dữ liệu tức thời để đưa ra những quyết định chính xác.

Về xu hướng này, bà Đoàn Thị Dung, Giám đốc Quốc gia GIGABYTE Việt Nam & Campuchia, dự đoán AI tại biên sẽ tăng tốc mạnh tại Việt Nam trong vòng 5 đến 10 năm tới, khi chi phí phần cứng tiếp tục giảm và hạ tầng viễn thông phủ rộng hơn.

Lợi ích của AI tại biên

Thứ nhất là bảo mật và quyền riêng tư về dữ liệu. Theo bà Đoàn Thị Dung, rất nhiều ngành ở Việt Nam, đặc biệt là tài chính, ngân hàng, hoặc y tế, có yêu cầu cao về bảo mật dữ liệu. Song song với đó là luật về bảo vệ dữ liệu cá nhân đặt ra khung pháp lý ngày càng khắt khe. Khi ấy, nếu sử dụng AI tại biên, dữ liệu sẽ được xử lý ngay tại thiết bị, không cần đi ra bên ngoài, tức là rủi ro rò rỉ thông tin bị giảm xuống ngay từ gốc. Đây không chỉ là ưu điểm kĩ thuật, mà còn là lợi thế pháp lý và thương mại rất lớn, đặc biệt trong bối cảnh các quy định ngày càng được siết chặt.

Thứ hai là tốc độ xử lý thời gian thực. Cả ông Foo và bà Dung đều chỉ ra rằng với Cloud AI, tốc độ xử lý sẽ phụ thuộc rất nhiều vào tốc độ truyền của mạng dữ liệu và của hạ tầng. Thế nhưng có một số thiết bị không thể chờ được thời gian xử lý này. Chẳng hạn robot trong dây chuyền sản xuất không thể chờ 300mili-giây để gửi dữ liệu lên Cloud, nhận phán đoạn rồi hành động. Hoặc camera an ninh không thể chờ vài giây để AI nhận diện mối đe dọa tích tắc.

So sánh với nhau, rõ ràng AI tại biên có thể loại bỏ hoàn toàn độ trễ do đường truyền mạng, cho phép các hệ thống vật lý phản ứng với tốc độ mà Cloud AI về mặt cơ học không thể đáp ứng được.

Thứ ba là tối ưu chi phí đầu tư dài hạn. Bà Dung chỉ ra rằng các giải pháp cục bộ có chi phí không quá đắt, rơi vào khoảng tầm 100 đến 300 triệu, tức bằng lương 1-2 năm của một nhân viên mới ra trường. Đó là con số rất phù hợp với doanh nghiệp SME khi bắt đầu triển khai AI, đặc biệt khi so sánh với chi phí thuê bao Cloud hằng tháng, chi phí customize cao hoặc rủi ro phụ thuộc vào một nhà cung cấp duy nhất.

Tầm nhìn chiến lược

Mặc dù các chuyên gia dự báo AI tại biên sẽ tăng tốc mạnh tại Việt Nam trong vòng năm đến mười năm tới, nhưng làn sóng công nghệ này không tự động mang đến lợi thế cho doanh nghiệp, mà doanh nghiệp cần phải chuẩn bị trước.

Bà Trang Nguyễn, Quản lý Tiếp thị của Zalo Business Solutions, chia sẻ rằng muốn xây dựng văn hóa “AI-First” thì phải khởi đầu từ “dữ liệu sạch”. Không có hệ thống AI nào, dù tại biên hay trên Cloud, có thể hoạt động hiệu quả nếu dữ liệu đầu vào hỗn loạn, thiếu chuẩn hóa.

Trong khi đó, bà Đoàn Thị Dung chỉ ra rằng mô hình kết hợp (Hybrid) giữa AI trên Cloud và AI tại biên sẽ là phương án phổ biến và kiến trúc nhất, trong đó Edge xử lý những gì cần tức thì và bảo mật, Cloud đảm nhiệm phân tích tổng hợp và lưu trữ quy mô lớn. “Tôi tin rằng là với hầu hết các doanh nghiệp ở Việt Nam đang ở tầm nhỏ và tầm trung thì giải pháp AI tại biên rất phù hợp”, bà Dung nói.