Video và bức ảnh trên đều là deepfake, một loại kỹ thuật sử dụng AI để tạo ra video/hình ảnh giả mạo. Những nội dung này bị phát hiện khi đang xuất hiện tràn lan trên mạng xã hội.
Trong bài đăng trên mạng xã hội X, ngôi sao Bollywood Rashmika Mandanna cho biết video mặc trang phục lycra bó sát “vô cùng đáng sợ”. Điều này phơi bày sự thật rằng ngày nay, con người dễ bị tổn hại nghiêm trọng vì các đối tượng xấu đang lạm dụng công nghệ. Nữ diễn viên nhấn mạnh rằng cộng đồng cần chung tay giải quyết vấn đề này một cách khẩn cấp trước khi nhiều người bị ảnh hưởng do hành vi giả mạo như vậy.
Mandanna không phải ngôi sao Bollywood duy nhất là nạn nhân của deepfake khi bị tung video giả mạo và bị tấn công trên mạng xã hội. Trong danh sách các ngôi sao hạng A của Ấn Độ còn có Katrina Kaif, Alia Bhatt và Deepika Padukone.
Sự bùng nổ của các công cụ AI tổng hợp như Midjourney, Stable Diffusion và DALL-E đã khiến việc tạo và nhân bản những hình ảnh hoặc video deepfake trở nên dễ dàng hơn, có tính chân thực cao hơn so với các hình ảnh hoặc video sử dụng kỹ thuật số trước đây.
Theo các chuyên gia công nghệ, hơn 90% video deepfake trực tuyến là nội dung khiêu dâm. Mặc dù không có dữ liệu thống kê riêng đối với khu vực Nam Á, nhưng các chuyên gia về quyền kỹ thuật số cho biết vấn đề này đặc biệt đầy thách thức tại các quốc gia, nơi mà phụ nữ từ lâu đã bị quấy rối trực tuyến và lạm dụng hầu nhưng hành vi đó hầu như không bị xử phạt.
Các công ty truyền thông xã hội đang tìm cách kiểm soát những nội dung xấu độc này. YouTube của Google, các nền tảng của Meta – công ty sở hữu Facebook, Instagram và WhatsApp – đã cập nhật chính sách của họ, yêu cầu các nhà sáng tạo nội dung và nhà quảng cáo gắn nhãn cho tất cả nội dung do AI tạo ra. Mặc dù vậy, các công ty này vẫn đang loay hoay tìm lời giải cho bài toán quản lý và giám sát công nghệ deepfake có khả năng tạo ra những bản sao như thật, tiềm ẩn nguy cơ làm đảo lộn cuộc sống thực.
