Nhờ AI, những video giả mạo khuôn mặt 'deepfake' nay đã có thể dễ dàng bị phát hiện_xếp hạng câu lạc bộ ý

Vào tháng 12/2017,ờAInhữngvideogiảmạokhuônmặtdeepfakenayđãcóthểdễdàngbịpháthiệxếp hạng câu lạc bộ ý một người dùng trên mạng xã hội Reddit đã tung ra một phần mềm dùng trí thông minh nhân tạo để hoán đổi gương mặt của người nổi tiếng vào trong các bộ phim khiêu dâm. Kết quả, AI đã giúp tạo nên những bộ phim khiêu dâm giả với độ "chân thật" cao mà không cần phải dùng quá nhiều kỹ xảo ghép theo kiểu truyền thống. Đây là một sự việc đáng báo động, khi mà công nghệ AI càng ngày càng phát triển, thì kéo theo những hệ lụy tiêu cực như trên, khi người dùng bình thường không biết đâu là video thật đâu là video giả mạo.

Thật may, gần đây các nhà nghiên cứu đến từ Đại học kỹ thuật Munich – Đức đã tung ra một công cụ, nhằm chiến đấu chống lại những video giả mạo trên. Họ đã phát triển một thuật toán, gọi là XceptionNet để nhanh chóng phát hiện ra các video hình ảnh bị ghép đang được phát tán trên internet.

"Mục tiêu của chúng tôi, đó là tích hợp công cụ XceptionNet vào thẳng trình duyệt trên thiết bị của bạn", giáo sư Matthias Niessner – thành viên nhóm nghiên cứu cho biết. "Về cơ bản, công cụ sẽ chạy ở chế độ nền, và sẽ theo dõi liên tục các video hình ảnh bạn đang xem. Nếu phát hiện ra những video hoặc hình ảnh nào bị ghép mặt, nó sẽ ngay lập tức thông báo cho bạn biết".

Nhóm nghiên cứu bắt đầu đào tạo, dạy cho AI của XceptionNet bằng cách cho nó xem hơn 1.000 video và 500.000 bức hình. Họ sẽ cho XceptionNet biết được hình hoặc video nào là giả mạo, hình video nào là thật. Dần dần XceptionNet đã nhận ra sự khác biệt giữa hai hình/video trên và sẽ xử lý chính xác.

"Đối với những video đã nén, những người tham gia trong nhóm nghiên cứu của chúng tôi cũng không thể phân biệt được đâu là video gốc, đâu là video đã bị thay đổi khuôn mặt, nhưng AI đã dễ dàng phân biệt hai video kia. Nếu như con người chỉ có khoảng 50% là chọn đúng, thì AI có tỉ lệ chọn đúng từ 87% đến 98%. Điều này rất ấn tượng vì những video và hình ảnh đã nén thường rất khó phân biệt hơn những video hình ảnh gốc".

Quả quýt dày có móng tay nhọn, những video giả mạo kia dù có chính xác đến đâu thì cũng sẽ có những công nghệ sẽ "lột trần" chúng. XceptionNet cũng đang minh chứng rằng, việc sử dụng AI vào đúng mục đích sẽ có lợi như thế nào. 

最新评论