Những rủi ro từ ứng dụng Generative AI trong lĩnh vực dịch vụ tài chính

Triển vọng ngành ngân hàng và thị trường vốn năm 2024

Quan tâm về pháp lý và giám sát AI đang gia tăng

Trung tâm Chiến lược Pháp chế Deloitte Châu Á - Thái Bình Dương (ACRS) gần đây đã phát hành báo cáo “Generative AI: Ứng dụng và Quy định tại khu vực Châu Á - Thái Bình Dương”. Báo cáo chỉ ra những rủi ro phát sinh từ việc sử dụng GenAI trong lĩnh vực dịch vụ tài chính, bức tranh toàn cảnh về các quy định hiện nay tại Châu Á - Thái Bình Dương, cũng như đưa ra các hướng dẫn hỗ trợ các công ty chuẩn bị tốt nhằm đáp ứng những thay đổi về quy định và pháp chế sắp tới trong lĩnh vực tài chính đang phát triển nhanh chóng.

ACRS đã phỏng vấn 12 chuyên gia về công nghệ và pháp chế của Deloitte trên toàn khu vực Châu Á - Thái Bình Dương. Trong bối cảnh công nghệ GenAI ngày càng có nhiều bước tiến lớn, các nhà hoạch định chính sách và các cơ quan quản lý đang đánh giá lại các khuôn khổ AI hiện nay để giảm thiểu những rủi ro công nghệ mới phát sinh từ việc áp dụng GenAI, đồng thời đảm bảo những khuôn khổ này vẫn phù hợp với ngành dịch vụ tài chính.

Trong 12 tháng năm qua, lĩnh vực phát triển công nghệ trí tuệ nhân tạo (AI) đã có nhiều đột phá lớn như việc các công nghệ GenAI đã phổ biến hơn thông qua các công cụ như Chat GPT của OpenAI và Bard AI của Google. Tuy nhiên, những rủi ro phổ biến mà các cơ quan quản lý tại khu vực Châu Á - Thái Bình Dương đã giải quyết dựa trên các nguyên tắc về quy định liên quan AI nhanh chóng trở nên nghiêm trọng hơn.

Trong khi tính minh bạch, trách nhiệm giải trình, tính công bằng, phát triển lành mạnh, quyền riêng tư và bảo mật dữ liệu vẫn còn là những vấn đề cần xem xét, thì quan ngại với những thành kiến tiềm ẩn và quyền sở hữu trí tuệ tiếp tục đặt ra cho các cơ quan quản lý bài toán phải cân bằng lợi ích giữa việc đổi mới công nghệ và việc đảm bảo an toàn của người dùng.

Ngành dịch vụ tài chính đang trải qua thời kỳ thay đổi và gián đoạn sâu sắc. GenAI đang thay đổi cách thức cung cấp dịch vụ, nhưng mối quan tâm về mặt pháp lý và giám sát đối với AI vẫn đang gia tăng. Các công ty tài chính hiện đang phải đối mặt với những rủi ro mới và ngày càng trầm trọng hơn như công tác quản trị, trách nhiệm giải trình và bảo vệ dữ liệu trong chu kỳ ứng dụng AI, cũng như các rủi ro pháp lý và rủi ro chiến lược.

Quản trị các rủi ro liên quan đến AI

Báo cáo mới nhất của Deloitte đưa ra những khuyến nghị để hỗ trợ các công ty dịch vụ tài chính chuẩn bị sẵn sàng cho những thay đổi trong tương lai, sớm thiết lập khuôn khổ quản trị AI của riêng các doanh nghiệp, đồng thời có những động thái để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Theo đó, các công ty ngành dịch vụ tài chính nên chuẩn bị để đáp ứng các yêu cầu tuân thủ các quy định liên quan đến GenAI, ngay khi các quy định đang trong quá trình xây dựng.

Các công ty đã sử dụng hoặc đang cân nhắc sử dụng các ứng dụng AI nên bắt đầu phát triển khuôn khổ quản trị AI nhằm hỗ trợ quản trị rủi ro tốt hơn, cũng như tuân thủ các quy định trong tương lai liên quan lĩnh vực này. Các công ty dịch vụ tài chính phải có trách nhiệm và chịu trách nhiệm về kết quả đầu ra từ các ứng dụng GenAI.

Đồng thời, cần đánh giá các yếu tố có thể góp phần tạo ra những tổn thương (vulnerability) cho khách hàng như trình độ học vấn, thu nhập, hoặc tuổi tác và đảm bảo việc áp dụng các ứng dụng GenAI không kéo theo những thành kiến hoặc phân biệt đối xử với các khách hàng.

Các công ty dịch vụ tài chính nên xác định các bên liên quan trong việc thu thập, lưu trữ và xử lý thông tin cá nhân khách hàng và đảm bảo các bên hoặc bộ phận liên quan cũng tuân thủ các quy định liên quan đến bảo mật thông tin.

Do vấn đề bảo vệ bản quyền cho các yếu tố đầu vào và đầu ra của GenAI vẫn còn chưa rõ ràng, các công ty dịch vụ tài chính nên hiểu rằng bất kỳ dữ liệu hoặc truy vấn được nhập vào các ứng dụng GenAI có thể sẽ công khai, cần cân nhắc ban hành các biện pháp kiểm soát với mục đích ngăn chặn tình huống vô tình làm tiết lộ tài sản trí tuệ hoặc vi phạm bản quyền.

Các công ty ngành dịch vụ tài chính đang sử dụng hoặc có kế hoạch sử dụng các ứng dụng GenAI nên đầu tư vào việc thu hút nhân tài và cung cấp các chương trình đào tạo về công nghệ AI cho đội ngũ nhân sự hiện tại, bao gồm ban lãnh đạo và quản cấp cao, góp phần nâng cao hiểu biết về các rủi ro trọng yếu và trách nhiệm của họ trong việc giảm thiểu những rủi ro đó.

Khung quản lý các rủi ro liên quan đến AI đáng tin cậy của Deloitte

Nhận định và đề xuất từ các chuyên gia Deloitte

Nói thêm về báo cáo, ông Akihiro Matsuyama, Lãnh đạo dịch vụ Tư vấn Rủi ro tại Deloitte Châu Á - Thái Bình Dương cho biết: "Mặc dù các quy định và hành lang pháp lý về AI vẫn đang trong giai đoạn đầu xây dựng hoặc triển khai ở hầu hết các quốc gia, nhưng điều quan trọng với các công ty dịch vụ cần sớm thực hiện cách tiếp cận có thể đo lường thông qua việc thiết lập khuôn khổ AI của riêng doanh nghiệp càng sớm càng tốt và có kế hoạch hành động để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI. Khối tư nhân cần tham gia vào các cuộc đối thoại tích cực với các cơ quan quản lý và cơ quan lập pháp để chia sẻ những hiểu biết chuyên ngành và kinh nghiệm trong lĩnh vực này nhằm hỗ trợ quá trình xây dựng quy định phát luật và thúc đẩy sự đồng thuận về lộ trình tương lai của AI".

Theo ông Wong Nai Seng, lãnh đạo phụ trách Quy định chiến lược tại Deloitte Đông Nam Á, các công nghệ AI như GenAI mang lại tiềm năng lớn giúp gia tăng hiệu suất và đẩy nhanh tốc độ số hóa trong ngành dịch vụ tài chính. Tuy nhiên, những rủi ro phát sinh từ việc sử dụng công nghệ vẫn cần được đặc biệt lưu ý, với mức độ ưu tiên cao.

“Khi hành lang pháp lý liên quan đến công nghệ AI vẫn đang trong quá trình xây dựng và phát triển, các công ty ngành dịch vụ tài chính đang cân nhắc áp dụng các công nghệ AI nên thận trọng đánh giá mức độ tương thích của các rủi ro liên quan đến AI với khẩu vị rủi ro hiện tại và khuôn khổ quản trị rủi ro của mình”, ông Wong Nai Seng chia sẻ.

Ông Đỗ Danh Thanh, Phó Tổng giám đốc Dịch vụ Tư vấn Chuyển đổi số và An ninh mạng, Deloitte Việt Nam cho biết, tại Việt Nam, Luật Kinh doanh bảo hiểm được thông qua vào tháng 6/2022, cho phép ứng dụng công nghệ thông tin vào hoạt động kinh doanh bảo hiểm. Chính phủ cũng khuyến khích các công ty bảo hiểm áp dụng công nghệ, trong đó có AI để bán các sản phẩm và dịch vụ bảo hiểm mới.

“Bắt nhịp cùng xu thế trên thế giới, việc ứng dụng AI, trong đó có GenAI, chắc chắn sẽ mở rộng ra các mảng khác trong ngành dịch vụ tài chính tại Việt Nam. Tuy nhiên, bên cạnh việc hưởng lợi từ AI, các công ty trong ngành dịch vụ tài chính cũng sẽ phải đối mặt với những rủi ro mới như: rủi ro chiến lược, bảo vệ dữ liệu, quản trị, tính minh bạch và trách nhiệm giải trình. Để chuẩn bị sẵn sàng và giảm thiểu những rủi ro này, các công ty dịch vụ tài chính nên xây dựng cho mình một khung quản trị AI”, ông Đỗ Danh Thanh đề xuất.