Đi cùng với sự phát triển vượt trội của công nghệ thông tin, bên cạnh những lợi ích đến đời sống và xã hội, vẫn có những hiểm họa khôn lường từ những thủ đoạn lừa đảo tinh vi. Deepfake là một trong những công nghệ AI tiên tiến và có tính ứng dụng cao, tuy nhiên, đây cũng có thể là công cụ thực hiện các hành vi lừa đảo. Hãy cùng tìm hiểu về công nghệ Deepfake và những hình thức lừa đảo dùng Deepfake phổ biến để bảo vệ bản thân và gia đình.
Nội dung chính
1. Deepfake là gì?
Deepfake xuất hiện vào năm 2017 và nhanh chóng nhận được nhiều sự chú ý. Deep fake là viết tắt của “deep learning” (học sâu) và “fake” (giả mạo). Công nghệ Deepfake có thể tạo ra những hình ảnh, âm thanh, video giả mạo với độ sinh động và chân thực y hệt chủ thể thật. Những người nổi tiếng thường là đối tượng copy của deepfake nhằm mục đích giải trí hoặc nguy hiểm hơn là lừa đảo.
2. Công nghệ thực hiện Deepfake
Deepfake được tạo nên từ công nghệ deep learning (học sâu). Theo đó, dữ liệu gốc được phân tích kỹ lưỡng, ghi nhận lại các đặc nhưng như cấu trúc gương mặt, chất giọng, chuyển động của các bộ phận, cách phát âm,…Những dữ liệu đầu vào này sau đó được sử dụng kết hợp với các thuật toán deep learning và mô hình điều khiển để huấn luyện một mạng một mạng neural nhằm tái tạo lại một bản sao y hệt.
Quy trình hoạt động của Deepfake có thể tóm gọn một cách đơn giản như sau:
- Thu thập dữ liệu: Thu thập dữ liệu đầu vào gồm hình ảnh, video hoặc bản ghi âm của cả hai người tham gia: người cung cấp khuôn mặt/giọng nói và người được thay thế.
- Phân tích dữ liệu: Sử dụng AI để phân tích các đặc điểm khuôn mặt, giọng nói, cử chỉ của cả chủ thể.
- Tạo mô hình: Tạo ra mô hình AI có thể tổng hợp hình ảnh, video hoặc âm thanh mới dựa trên dữ liệu đã phân tích.
- Tổng hợp nội dung: Sử dụng mô hình AI để thay thế khuôn mặt/giọng nói của người được cung cấp vào video, hình ảnh hoặc bản ghi âm của người nhận.
3. Các công cụ tạo Deepfake phổ biến
Deepfake có thể là khái niệm khá lạ lẫm với nhiều người, tuy nhiên các công cụ tạo deepfake lại vô cùng phổ biến với rất nhiều website và ứng dụng miễn phí sử dụng. Dưới đây là một số phần mềm và trang web tạo deepfake được sử dụng rộng rãi:
Reface
Ứng dụng Reface cho phép ghép gương mặt của bạn hoặc của một người bất kì vào các video clip của người nổi tiếng. Tất cả những gì bạn cần cung cấp chỉ là một bức ảnh chân dung hoặc selfie có chụp rõ mặt. Ưu điểm của ứng dụng chính là thư viện clip đa dạng để bạn có thể lựa chọn theo nội dung hoặc sở thích. Bạn có thể lưu clip thành quả dưới dạng GIF hoặc video và chia sẻ lại qua các trang mạng xã hội cá nhân như Facebook, Instagram.
MyHeritage
MyHeritage là ứng dụng vô cùng trending trên mạng xã hội dạo gần đây, đặc biệt là nền tảng TikTok. Ứng dụng giúp người dùng phục chế những tấm ảnh cũ trở nên màu sắc hơn và thậm chí là có thể chuyển động với công nghệ Deepfake Deep Nostalgia. MyHeritage đã gây sốt mạng xã hội với những trào lưu từ người dùng như phục chế ảnh gia đình, những tác phẩm nghệ thuật cổ,…
Jiggy
Với Jiggy, người dùng có thể ghép bản thân vào những đoạn video nhảy múa hài hước. Bạn chỉ cần nhập ảnh của bản thân, hệ thống sẽ tự động hợp nhất khuôn mặt của bạn với các chuyển động của clip mẫu.
DeepFaceLab
DeepFaceLab là một trong những phần mềm Deepfake đầu tiên dành cho hệ điều hành Windows. Với DeepFaceLab, bạn có thể thay đổi độ tuổi, gương mặt của một người, thêm chuyển động cho gương mặt hoặc hoán đổi gương mặt vào nhiều ảnh khác nhau.
4. Deepfake sử dụng vào việc gì?
Lĩnh vực giải trí
Công nghệ Deepfake có tính ứng dụng vô cùng cao trong lĩnh vực giải trí. Chỉ với những thao tác vô cùng đơn giản, người dùng có thể tạo ra đa dạng những nội dung thú vị để chia sẻ với cộng đồng. Nhiều nội dung Deepfake đã tạo nên xu hướng mạng xã hội, được nhiều người dùng chia sẻ và hưởng ứng như phục chế hình ảnh người thân, biến hình theo meme nổi tiếng, parody các ca khúc phổ biến,…
Mặt khác, công nghệ Deepfake còn được sử nhiều trong lĩnh vực phim ảnh. Deepfake có thể giúp điều chỉnh ngoại hình, xử lý hình ảnh của một số diễn viên, hỗ trợ cho các cảnh quay nguy hiểm. Deepfake cũng có thể tạo ra những tựa game có nhân vật chính là người chơi hoặc những bản nhạc mang dấu ấn của nhiều ca sĩ nổi tiếng dù không trực tiếp thu âm.
Truyền thông và quảng cáo
Sự ra đời của Deepfake là một cuộc cải cách số hóa trong ngành truyền thông quảng cáo. Deepfake cho phép các thương hiệu triển khai đa dạng hình thức quảng cáo, cá nhân hóa nội dung quảng cáo cho từng đối tượng mục tiêu. Theo khảo sát của Dentsu Aegis Network vào năm 2020, khoảng 52% người tiêu dùng trên toàn thế giới cho biết họ cảm thấy hứng thú với việc xem các video quảng cáo được tạo ra bằng công nghệ Deepfake, nếu được sử dụng đúng cách và minh bạch.
Ngoài ra, sử dụng Deepfake trong truyền thông, quảng cáo cũng có thể giúp tiết kiệm chi phí của thương hiệu trong việc hợp tác sản xuất nội dung với người nổi tiếng. Công nghệ Deepfake cho phép tối ưu công đoạn quay chụp, tạo ra nhiều phiên bản khác nhau trên nội dung gốc chỉ cần thực hiện trong công đoạn hậu kỳ.
“Công cụ” tội phạm và lừa đảo
Deepfake có thể hỗ trợ công tác điều tra và truy bắt tội phạm trong việc tái hiện hiện trường giả lập, tạo nội dung làm mồi nhử tội phạm trực tuyến, làm tài liệu huấn luyện an ninh, phát triển kỹ năng đối phó tội phạm công nghệ cao,…Ngoài ra, công nghệ Deepfake cũng giúp bảo vệ danh tính nhân chứng và nạn nhân, đồng thời, hỗ trợ phát triển truyền thông số về an ninh và trật tự xã hội.
5. Mối hiểm họa từ Deepfake
Tổn hại danh dự và uy tín cá nhân
Deepfake có thể dễ dàng tạo ra nội dung sao chép hình ảnh của một cá nhân mà không cần bất kỳ hành động cho phép nào của chính chủ. Đây chính là lỗ hổng của công nghệ này, cho phép các hành vi xâm phạm hình ảnh và phạm tội. Nếu được sử dụng với mục đích xấu, Deepfake có thể tạo ra các nội dung sai lệch thông tin, xâm phạm hình ảnh cá nhân, đồi trụy hoặc lừa đảo, làm ảnh hưởng nghiêm trọng đến hình ảnh của nhân vật chính.
Theo một báo cáo từ Sensity AI vào năm 2020, số lượng video deepfake trên mạng đã tăng lên gấp đôi so với năm trước, với khoảng 85.000 video được phát hiện. Trong đó, hơn 96% là nội dung khiêu dâm giả mạo, chủ yếu nhằm vào phụ nữ, đây là thực trạng vô cùng báo động.
Nguy cơ trong chính trị và xã hội
Hành vi tạo và lan truyền những nội dung, phát ngôn sai lệch có sử dụng hình ảnh, giọng nói của các nguyên thủ quốc gia, chính trị gia cũng là một hiểm họa khôn lường từ Deepfake. Nếu không nâng cao cảnh giác, các thành phần chống phá rất dễ dàng sử dụng công nghệ này để xuyên tạc, chống phá nhà nước và chính trị, chia rẽ toàn dân. Đây cũng là một vấn đề chính trị và xã hội đặc thù, cần được ý thực đề phòng mạnh mẽ.
Những vấn đề pháp lý và bảo mật
Với một số hệ thống bảo mật hoặc thủ tục pháp lý yêu cầu xác minh bằng gương mặt và giọng nói, Deepfake vẫn có thể “lách” các bước kiểm duyệt một cách tinh vi, tạo nên lổ hổng trong thông tin và bảo mật. Vì vậy, hãy luôn chú trọng các bước bảo mật nhiều lớp cho các thiết bị, tài khoản cá nhân của bạn.
6. Câu hỏi thường gặp
Làm thế nào để bảo vệ bản thân khỏi Deepfake?
Bảo vệ bản thân khỏi Deepfake và việc nên làm trong bối cảnh các hành vi phạm tội diễn biến phức tạp. Để tránh bị ảnh hưởng bởi các hiểm họa từ Deepfake, cần đặc biệt lưu ý những việc sau;
- Hạn chế chia sẻ thông tin, hình ảnh cá nhân một cách rộng rãi.
- Luôn bảo mật thông tin và tài khoản cá nhân với nhiều lớp bảo mật và các phương pháp có độ tin cậy cao.
- Cập nhật và nắm bắt thông tin mới nhất về Deepfake
- Cảnh giác các hành vi chủ động tiếp cận, các video gửi từ người không xác định
- Rèn luyện kỹ năng đối phó với tội phạm Deepfake, xử lý khi gặp sự cố
Làm thế nào để phát hiện nhanh video Deepfake?
Mặc dù các nội dung Deepfake được thực hiện rất tinh vi, vẫn có một số dấu hiệu đặc biệt để nhận biết các video này:
- Bất thường trong chuyển động mí mắt, biểu cảm khuôn mặt
- Tính tự nhiên và rành mạch trong giọng nói
- Bối cảnh và tính xác thực của thông tin có trong clip
- Sử dụng kết hợp các công cụ phát hiện video Deepfake như Deepware Scanner, SensityAI
Deepfake có thể bị truy cứu trách nhiệm pháp lý không?
Tùy vào mức độ nghiêm trọng của sự việc và hình thức sử dụng Deepfake mà quyết định hành vi có thể bị truy cứu trách nhiệm pháp lý hay không. Đối với các hành vi lừa đảo, phát tán clip đồi trụy gây ảnh hưởng nghiêm trọng đến tập thể và cá nhân, có thể bị phạt hành chính hoặc truy tố hình sự.
Xem thêm:
