An toàn trong thời kỳ bùng nổ trí tuệ nhân tạo

AI đang định hình lại mọi ngành công nghiệp

Phát biểu tại Hội thảo, ông Phạm Đức Long – Thứ trưởng Bộ Thông tin và Truyền thông nêu nhận định, trí tuệ nhân tạo (AI) đề cập đến khoa học mô phỏng trí thông minh của nhân loại trong máy móc với mục tiêu cho phép suy nghĩ và bắt chước các hành động của con người. AI đang thực hiện các nhiệm vụ mà trước đây chỉ con người mới có thể xử lý được, thậm chí vượt qua con người trong một số lĩnh vực. Thị trường công nghệ AI rộng lớn với quy mô khoảng 200 tỷ đô la Mỹ vào năm 2023 và dự kiến sẽ tăng trưởng vượt xa con số đó với hơn 1.800 tỷ đô la Mỹ vào năm 2030, đóng góp lớn vào không gian tăng trưởng của nền kinh tế toàn cầu.

Ông Phạm Đức Long – Thứ trưởng Bộ Thông tin và Truyền thông phát biểu tại Hội thảo

Theo ông Long, AI đang định hình lại gần như mọi ngành công nghiệp - và an toàn thông tin mạng cũng không ngoại lệ. AI đang góp phần cách mạng hóa lĩnh vực an toàn thông tin, trên cả hai chiến tuyến tấn công mạng và phòng thủ hệ thống. Theo một khảo sát, có tới 85% nhà lãnh đạo an toàn thông tin trên toàn cầu cho biết các cuộc tấn công gần đây được hỗ trợ bởi AI, nhưng cũng có tới 50% các tổ chức trên thế giới sẽ đẩy mạnh ứng dụng AI vào các công cụ an toàn thông tin mạng nhờ khả năng phân tích các tập dữ liệu lớn với tốc độ cực nhanh, các giải pháp được hỗ trợ bởi AI có thể sàng lọc lượng dữ liệu khổng lồ để xác định hành vi bất thường và phát hiện hoạt động độc hại mà công nghệ truyền thống chưa xử lý được, đặc biệt trong việc xác định kịp thời một cuộc tấn công zero-day mới.

Bên cạnh lợi ích mang lại, công nghệ AI đang được tội phạm mạng sử dụng để dễ dàng chế tạo ra các phần mềm độc hại mới, tạo ra các cuộc tấn công lừa đả mới, tinh vi, với nhiều kịch bản tấn công đa dạng, hay sử dụng công nghệ Deepfake để thực hiện các chiến dịch tấn công lừa đảo trực tuyến trên không gian mạng...

Toàn cảnh Hội thảo

Tại Hội thảo, Thượng tá Nguyễn Anh Tuấn Phó Giám đốc Trung tâm Dữ liệu Quốc gia về Dân cư cũng nêu ra những thách thức về an toàn thông tin khi AI phát triển. Đơn cử như tấn công thông qua tệp tin độc hại, những phần mềm độc hại được hỗ trợ bởi AI có thể được cài vào các file tài liệu, khi người dùng đăng tải file tài liệu có chứa mã độc có thể xâm nhập vào hệ thống. Tấn công mô phỏng, bằng cách sử dụng các công nghệ đặc biệt của AI, hacker có thể mô phỏng hệ thống để tìm điểm yếu tấn công, tăng khả năng tấn công vào các lỗ hổng bảo mật. Hay AI có thể tạo ra nhiều ứng dụng có hình ảnh, tên giả mạo các ứng dụng, trang web của Bộ Công an để người dân tải về, cài đặt và cung cấp các thông tin như số CCCD, mật khẩu đăng nhập…

An toàn thông tin mạng là yêu cầu bắt buộc

Chia sẻ tại Hội thảo, ông Trần Đăng Khoa, Phó Cục trưởng phụ trách Cục An toàn thông tin, Bộ Thông tin và Truyền thông cho rằng, an toàn thông tin mạng là yêu cầu “bắt buộc”, không phải là yếu tố để “lựa chọn”. Do đó, 100% bộ, ngành, địa phương cần tổ chức kiểm tra, đánh giá tuân thủ quy định của pháp luật về an toàn thông tin. Trong đó, ưu tiên, tập trung kiểm tra tuân thủ quy định pháp luật về bảo đảm an toàn hệ thống thông tin theo cấp độ và bảo vệ thông tin, dữ liệu cá nhân. Ưu tiên kiểm tra, đánh giá đối với các đơn vị, tổ chức, doanh nghiệp đang được giao quản lý, vận hành nhiều hệ thống thông tin hoặc hệ thống thông tin quan trọng, dùng chung.

Theo ông Khoa, trong thời gian qua, Cục An toàn thông tin đã ngăn chặn 11.554 website/blog, có 3.052 website lừa đảo trực tuyến, bảo vệ hơn 10,7 triệu người dân trước các tấn công lừa đảo trực tuyến, vi phạm pháp luật trên không gian mạng. Trong 04 tháng đầu năm 2024, đã chặn 2.418 website/blog, có 449 website lừa đảo trực tuyến, bảo vệ gần 700 nghìn người dân….

Ông Trần Đăng Khoa, Phó Cục trưởng phụ trách Cục An toàn thông tin, Bộ Thông tin và Truyền thông trao đổi tại Hội thảo

Để có thể đảm bảo an toàn thông tin trong bối cảnh công nghệ AI phát triển rất nhanh, Thượng tá Nguyễn Anh Tuấn khuyến nghị cần sớm hoàn thiện hành lang pháp lý về AI để đón đầu xu thế, ban hành văn bản quy định về đạo đức trong quá trình phát triển, sản xuất, ứng dụng, sử dụng AI (bảo vệ quyền riêng tư, dữ liệu cá nhân, quyền con người...) của các đơn vị trong và ngoài nước; văn bản quy định trách nhiệm của nhà cung cấp dịch vụ trong quá trình phát triển, sản xuất, ứng dụng, sử dụng AI (các hành vi lợi dụng AI để phạm tội); tiêu chuẩn kỹ thuật đối với các hệ thống có sử dụng, ứng dụng, kết nối, cung cấp dịch vụ AI; Quy chuẩn kỹ thuật về nền tảng kết nối, chia sẻ, ứng dụng, sử dụng AI.

Các đại biểu tham quan khu triển lãm công nghệ bên lề Hội thảo

Ngoài ra, nghiên cứu, ứng dụng các công trình trí tuệ nhân tạo để chống lại rủi ro về trí tuệ nhân tạo. Bởi lẽ AI được tạo ra bởi con người, là sản phẩm của tri thức, sẽ có những biến thể “AI tốt” và “AI xấu”. Do đó để ngăn cản sự phát triển của trí tuệ nhân tạo bằng chính trí tuệ nhân tạo. Phát triển AI phải được song hành với vấn đề an ninh mạng và an toàn thông tin để tránh việc bị tấn công, chiếm quyền điều khiển gây ra các hậu quả nghiêm trọng.