Kết án 15 học sinh tạo ảnh 18+ bằng AI

Một tòa án ở phía Tây Nam Tây Ban Nha đã tuyên án 15 học sinh một năm quản chế vì tội tạo và phát tán hình ảnh do AI tạo ra về các bạn nữ cùng trường, một trong những vụ án đã dấy lên tranh luận về việc sử dụng công nghệ deepfake có hại.

Cảnh sát bắt đầu điều tra sự cố này vào năm ngoái, sau khi các bậc phụ huynh ở thị trấn Almendralejo báo cáo rằng những bức ảnh khỏa thân giả của con gái họ đang được chia sẻ trên các nhóm chat WhatsApp .

Mẹ của một trong những nạn nhân cho biết, việc lan truyền những bức ảnh trên WhatsApp đã diễn ra từ tháng Bảy. “Nhiều em trở nên vô cùng lo sợ và kinh hãi , vì chúng phải chịu đựng điều này trong im lặng. Các em cảm thấy tồi tệ và không dám nói ra vì sợ bị đổ lỗi”, bà nói.

Vào thứ Ba (9/7), một tòa án dành cho thanh thiếu niên ở thành phố Badajoz cho biết, họ đã kết án những trẻ vị thành niên này 20 tội danh tạo ra hình ảnh lạm dụng trẻ em và 20 tội danh vi phạm danh dự người khác. Mỗi bị cáo sẽ hưởng án treo một năm và buộc phải tham gia các lớp học về nhận thức giới tính và bình đẳng, cũng như “sử dụng công nghệ có trách nhiệm”.

“Bản án lưu ý rằng đã có bằng chứng chứng minh rằng những trẻ vị thành niên đã sử dụng các ứng dụng trí tuệ nhân tạo để chỉnh sửa hình ảnh bằng cách lấy khuôn mặt nạn nhận từ trang mạng xã hội của họ và ghép hình ảnh đó lên cơ thể của những người phụ nữ khỏa thân”, tòa án cho biết trong một tuyên bố. “Những bức ảnh này sau đó đã được chia sẻ trên hai nhóm WhatsApp”.

Cảnh sát đã xác định danh tính một số thanh thiếu niên, từ 13 đến 15 tuổi, chịu trách nhiệm tạo ra và phát tán những hình ảnh này. Theo luật pháp Tây Ban Nha, trẻ vị thành niên dưới 14 tuổi không thể bị án phạt hình sự mà thay vào đó sẽ được chuyển sang các dịch vụ bảo vệ trẻ em, nơi có thể buộc các em phải tham gia các khóa học chấn chỉnh.

Trong một cuộc phỏng vấn với tờ Guardian cách đây năm tháng, mẹ của một trong những nạn nhân nhớ lại cơn sốc khi con gái bà cho xem một trong những hình ảnh giả. “Nó thật kinh khủng. Hình ảnh đó trông rất thật… Nếu tôi không biết con gái mình, tôi sẽ nghĩ rằng nó là thật”, người phụ nữ đến từ Almendralejo chia sẻ.

Hiệp hội Malvaluna, đơn vị thay mặt cho các gia đình bị ảnh hưởng, cho biết vụ việc là một hồi chuông cảnh tỉnh cho xã hội Tây Ban Nha. “Phiên tòa cụ thể này khiến chúng ta phải suy ngẫm về nhu cầu giáo dục mọi người về sự bình đẳng giữa nam và nữ”, hiệp hội nói. Theo họ, vụ án này nhấn mạnh sự cần thiết của giáo dục giới tính phù hợp ở trường học để trẻ em tránh xa nội dung khiêu dâm, thứ “có thể tạo ra nhiều hành vi phân biệt giới tính và bạo lực”.