Sự phát triển nhanh chóng của AI đang thu hút quan tâm lớn trên toàn cầu nói chung và Việt Nam nói riêng. Các chuyên gia đánh giá AI là nhân tố quan trọng nhất trong cuộc CMCN 4.0,ùngchínhtrítuệnhântạođểgiảmthiểurủirocủaAIxấkeo 88 mang lại lợi ích to lớn, đột phá cho sự phát triển kinh tế của quốc gia. Theo hãng tư vấn Exactitude Consultancy, tính đến tháng 2/2024, quy mô thị trường AI toàn cầu về an ninh, an toàn công cộng và an ninh quốc gia dự báo tăng từ 11,43 tỷ USD vào năm 2023 lên 47,32 tỷ USD vào năm 2030.

Khi AI được ứng dụng rộng rãi trong nhiều lĩnh vực, bên cạnh những lợi ích như cung cấp thông tin, dự báo thông minh về các tình huống liên quan đến cơ sở hạ tầng quan trọng hay dự báo tình huống khủng hoảng kịp thời, công nghệ này cũng tiềm ẩn nhiều rủi ro và thách thức.

Tất cả các hình thức tấn công mạng đều có thể ứng dụng AI

Những rủi ro và thách thức của AI đến xã hội, pháp lý, an ninh mạng được nêu cụ thể tại hội thảo và triển lãm An toàn không gian mạng Việt Nam - Vietnam Security Summit 2024 chủ đề“An toàn trong thời kỳ bùng nổ của trí tuệ nhân tạo”,được Cục An toàn thông tin (Bộ TT&TT) phối hợp cùng IEC tổ chức, dưới sự bảo trợ của Bộ TT&TT ngày 30/5.

Theo Thượng tá Nguyễn Anh Tuấn - Phó Giám đốc Trung tâm dữ liệu quốc gia về dân cư, Cục Cảnh sát quản lý hành chính về trật tự xã hội (Bộ Công an), về mặt xã hội, AI gây lo ngại xâm phạm quyền riêng tư; AI bị lợi dụng để phân biệt chủng tộc, giai cấp, giới tính, dân tộc, gây mâu thuẫn, xung đột gay gắt hơn; Cung cấp thông tin sai sự thật, đánh tráo khái niệm, thay đổi lịch sử, bóp méo sự thật gây xáo trộn dư luận, ảnh hưởng giáo dục và văn hóa.

Là người làm việc trực tiếp với dữ liệu, ông Nguyễn Tuấn Anh chia sẻ, "dù các Bộ, ban, ngành Việt Nam đã phát triển nguồn dữ liệu riêng cho công tác nghiệp vụ, việc tổng hợp, đưa vào phục vụ khai thác, đánh giá còn nhiều hạn chế, đặc biệt là tính chính xác và đầy đủ gần như chưa đảm bảo". Trong khi đó, hệ thống AI chỉ hoạt động tốt khi có dữ liệu đầu vào tốt, nếu dữ liệu đầu vào bị sai lệch hoặc không chính xác sẽ dẫn đến kết quả phân tích của AI không chính xác hoặc dẫn đến những dự báo mang tính “phân biệt đối xử”, thiếu công bằng.

Về mặt pháp lý, chính sách, theo thống kê tại legalnodes.com, có khoảng 33 quốc gia đã xây dựng dự thảo pháp lý về AI nhưng còn hạn chế, chưa có bộ quy chuẩn chung về AI mang tính tổng thể. Các nước chia thành hai trường phái: sửa đổi luật pháp hiện hành và lồng ghép AI vào từng lĩnh vực; Ban hành văn bản pháp luật quy định về AI mang tính tổng thể. Việt Nam đang ở mức tiếp cận và chưa có chính sách, văn bản pháp lý, thể chế cụ thể liên quan đến AI.

Về an ninh mạng, tất cả các hình thức tấn công mạng hiện nay đều có thể ứng dụng AI để tăng khả năng chủ động của kẻ tấn công, gây thiệt hại nặng hơn. Có những hình thức tấn công như qua tệp tin độc hại, mô phỏng, lừa đảo, tấn công từ chối dịch vụ quy mô lớn, qua học máy. Hiện nay, ngoài hệ thống mạng Internet, các Bộ, ban, ngành, địa phương đều có mạng riêng. Đã có những đợt tấn công, truy cập trái phép và AI có thể được ứng dụng để tăng quy mô, mức độ tấn công.

Dùng chính AI để giảm thiểu rủi ro của AI

Qua thực tế quản trị, triển khai CSDLQG về dân cư, đại diện Bộ Công an đề xuất ba giải pháp giảm thiểu rủi ro AI.

Một là, sớm hoàn thiện hành lang pháp lý về AI để đón đầu xu thế, ban hành văn bản quy định về đạo đức trong quá trình phát triển, sản xuất, ứng dụng AI như bảo vệ quyền riêng tư, dữ liệu cá nhân, quyền con người của các đơn vị trong và ngoài nước.

Theo ông Nguyễn Anh Tuấn, "Việt Nam đã có Nghị định bảo vệ dữ liệu cá nhân nhưng việc áp dụng thực tế chưa đáp ứng yêu cầu bảo đảm an ninh, an toàn dữ liệu". Do đó, ông đề xuất có luật dữ liệu hoặc luật bảo vệ dữ liệu cá nhân. Ngoài ra, nên quy định rõ ràng hơn các hành vi phạm tội bằng AI, có quy chuẩn cụ thể về nền tảng kết nối, chia sẻ, trao đổi liên quan đến AI.

Thứ hai, nghiên cứu, ứng dụng các công trình AI để chống lại rủi ro về AI. AI do con người tạo ra, là sản phẩm của tri thức nên sẽ có biến thể “AI tốt” và “AI xấu”. Để ngăn cản sự phát triển của AI có thể dùng chính AI.

Thứ ba, phát triển AI phải song hành với vấn đề an ninh mạng và an toàn thông tin để tránh việc bị tấn công, chiếm quyền điều khiển gây ra hậu quả nghiêm trọng. Mức độ quan tâm đến an toàn thông tin của các đơn vị chưa đúng mức.

Đối với Cục Cảnh sát quản lý hành chính về trật tự xã hội, cần duy trì bảo đảm an ninh an toàn đối với các hệ thống, thực hiện tốt khâu chuẩn bị, thường xuyên thực hiện sao lưu, phục hồi dữ liệu, định kỳ tổ chức diễn tập ứng cứu sự cố để sẵn sàng đối phó với các tình huống tấn công bằng AI có chủ đích.

Tăng cường theo dõi, giám sát quá trình kết nối, chia sẻ thông tin với các đơn vị để sớm phát hiện hành vi bất thường, vi phạm quy định về bảo vệ dữ liệu cá nhân trong quá trình khai thác thông tin, xử lý thông tin.

Cuối cùng, xây dựng và ứng dụng AI trong công tác giám sát log, phân tích lưu lượng mạng, kết hợp giữa học máy và ngôn ngữ tự nhiên để làm tăng độ chính xác khi đưa ra quyết định xử lý sự cố.