Đề xuất đưa hàng loạt hệ thống AI trong y tế, giao thông vào diện “rủi ro cao”

Theo Bộ Khoa học và Công nghệ, việc xây dựng Danh mục hệ thống AI rủi ro cao được thực hiện trên cơ sở Luật Trí tuệ nhân tạo năm 2025, trong đó Quốc hội giao Thủ tướng Chính phủ quy định cụ thể danh mục các hệ thống AI có rủi ro cao và các hệ thống phải thực hiện chứng nhận sự phù hợp trước khi đưa vào sử dụng.

Tờ trình cho biết, việc ban hành Danh mục không chỉ nhằm cụ thể hóa quy định pháp luật mà còn xuất phát từ yêu cầu kiểm soát các nguy cơ ngày càng lớn khi AI được triển khai trong những lĩnh vực thiết yếu của đời sống kinh tế - xã hội. Bộ Khoa học và Công nghệ nhấn mạnh các hệ thống AI hiện nay có khả năng tự học, tự thích nghi và đưa ra các kết quả đầu ra có thể tác động trực tiếp tới môi trường vật lý và môi trường số trên diện rộng.

Đáng chú ý, Tờ trình nêu rõ nhiều hệ thống AI nếu hoạt động hoàn toàn tự động, không có sự kiểm soát thực chất của con người có thể gây hậu quả đặc biệt nghiêm trọng đối với tính mạng, sức khỏe, quyền riêng tư hoặc an ninh quốc gia. Các lĩnh vực được nhắc tới gồm: y tế; giao thông; hạ tầng kỹ thuật trọng yếu; nhận diện sinh trắc học; thực thi pháp luật; tài chính – ngân hàng.

Bộ Khoa học và Công nghệ cho rằng, việc ban hành Danh mục sẽ tạo cơ sở pháp lý để doanh nghiệp, tổ chức và cơ quan quản lý xác định rõ hệ thống AI nào phải đánh giá sự phù hợp, phải thực hiện quản trị dữ liệu nghiêm ngặt hoặc áp dụng cơ chế quản lý rủi ro đặc thù.

Hàng loạt hệ thống AI trong y tế, giao thông được xếp vào nhóm rủi ro cao

Một trong những nội dung đáng chú ý nhất của dự thảo là việc lần đầu tiên Việt Nam đề xuất xác định cụ thể các nhóm hệ thống AI rủi ro cao theo từng lĩnh vực.

Trong lĩnh vực giáo dục, dự thảo đưa vào diện rủi ro cao các hệ thống AI: tự động cung cấp nội dung học tập cho quy mô lớn; tự động chấm điểm, xếp hạng người học; sử dụng dữ liệu sinh trắc học để giám sát hành vi, cảm xúc hoặc theo dõi người học.

Theo dự thảo, các hệ thống này có nguy cơ gây định kiến thuật toán, xâm phạm quyền riêng tư hoặc tạo áp lực tâm lý đối với người học nếu không được kiểm soát phù hợp.

Trong lĩnh vực y tế, nhiều hệ thống AI có khả năng tác động trực tiếp tới sức khỏe và tính mạng người bệnh được đưa vào diện kiểm soát chặt chẽ, gồm: hệ thống AI đưa ra quyết định phác đồ điều trị; hệ thống kê đơn thuốc; AI hỗ trợ phẫu thuật; rô-bốt phẫu thuật tự động; hệ thống AI can thiệp xâm lấn mà không có phê duyệt độc lập của bác sĩ.

Đáng chú ý, dự thảo xác định các hệ thống AI trong y tế sẽ thuộc nhóm phải chứng nhận sự phù hợp trước khi đưa vào sử dụng nếu: hệ thống trực tiếp ra quyết định điều trị; người hành nghề khó kiểm chứng kết quả đầu ra; AI trực tiếp thực hiện thao tác điều trị lên cơ thể người bệnh mà không cần xác nhận từng bước từ nhân viên y tế.

Lĩnh vực giao thông vận tải và hạ tầng kỹ thuật trọng yếu là nhóm có số lượng hệ thống AI rủi ro cao lớn nhất trong dự thảo.

Danh mục bao gồm hàng loạt hệ thống: AI điều khiển phương tiện tự hành; AI điều độ giao thông; AI điều khiển tín hiệu đường sắt; AI quản lý không lưu; AI điều phối slot cất hạ cánh; AI điều khiển drone/UAV; AI phân tích hành lý soi chiếu; AI nhận diện sinh trắc học tại sân bay; AI quản lý hạ tầng sân bay; AI điều khiển hệ thống điện, cấp thoát nước và công trình hạ tầng kỹ thuật trọng yếu.

Đặc biệt, nhiều hệ thống được xác định là rủi ro cao khi có khả năng: tự động phát lệnh; thay đổi trạng thái vận hành vật lý; quyết định điều hướng phương tiện; đóng đường băng; phân luồng giao thông; hoặc trực tiếp áp dụng biện pháp an ninh mà không có phê duyệt độc lập của con người.

Thiết lập cơ chế “tiền kiểm” với các hệ thống AI đặc biệt nguy hiểm

Một điểm rất đáng chú ý của dự thảo là việc phân chia hệ thống AI rủi ro cao thành hai nhóm quản lý khác nhau.

Nhóm thứ nhất là các hệ thống AI được xác định có rủi ro cao nhưng chủ yếu áp dụng cơ chế: tự đánh giá sự phù hợp; hậu kiểm; giám sát nội bộ; quản trị dữ liệu và báo cáo định kỳ.

Nhóm thứ hai là các hệ thống AI có rủi ro đặc biệt nghiêm trọng, phải: chứng nhận sự phù hợp trước khi đưa vào sử dụng.

Theo dự thảo, đây là những hệ thống: hoạt động hoàn toàn tự động; trực tiếp đưa ra quyết định pháp lý; hoặc tác động vật lý làm thay đổi quyền, lợi ích hợp pháp của tổ chức, cá nhân; ảnh hưởng tới sức khỏe, tính mạng con người hoặc an ninh quốc gia; không có sự kiểm tra, can thiệp độc lập của con người trước khi thực thi.

Các hệ thống thuộc diện “tiền kiểm” này bao gồm: AI tự động phê duyệt hoặc từ chối hồ sơ chính sách dân tộc; AI tự động dừng chi trả hoặc khóa quyền hưởng hỗ trợ; AI suy đoán thuộc tính nhạy cảm về dân tộc, tín ngưỡng; AI nhận dạng sinh trắc học diện rộng phục vụ thực thi pháp luật; AI tự động phân tích chứng cứ số để đưa ra kết luận về hành vi phạm tội; AI điều trị tự động và rô-bốt phẫu thuật tự động.

Bộ Khoa học và Công nghệ cho biết định hướng xuyên suốt của dự thảo là quản lý AI theo mức độ rủi ro, không tạo rào cản đối với các ứng dụng AI rủi ro thấp và không làm cản trở hệ sinh thái đổi mới sáng tạo.

Tờ trình nhấn mạnh việc xác định hệ thống AI rủi ro cao được xây dựng trên nhiều tiêu chí: mức độ tác động; mức độ tự động hóa; khả năng giám sát của con người; phạm vi người sử dụng; quy mô ảnh hưởng; lĩnh vực sử dụng thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng.

Đáng chú ý, dự thảo cũng quy định nguyên tắc loại trừ đối với các hệ thống AI chỉ có chức năng hỗ trợ kỹ thuật đơn thuần hoặc vẫn có sự giám sát thực chất của con người nhằm tránh tạo rào cản không cần thiết cho doanh nghiệp và hoạt động đổi mới sáng tạo.

Theo Bộ Khoa học và Công nghệ, việc ban hành Danh mục hệ thống AI rủi ro cao là bước cần thiết để đưa Luật Trí tuệ nhân tạo vào thực tiễn, đồng thời thiết lập cơ chế quản lý phù hợp đối với những công nghệ có khả năng tác động trực tiếp tới quyền con người, an ninh quốc gia và an toàn xã hội trong kỷ nguyên số.