Nội dung khiêu dâm ảo và những tai họa thật

Chuỗi bức ảnh khiêu dâm gây ồn ào dư luận gần đây với nhân vật chính là ngôi sao ca nhạc Taylor Swift lần nữa chứng minh công nghệ AI (trí tuệ nhân tạo) có thể gây hậu quả ra sao. Thực trạng lợi dụng công nghệ để tạo ảnh/video xúc phạm cá nhân đang là nỗi ám ảnh với nhiều phụ nữ và trẻ em gái.

Đã xuất hiện một vài vụ việc ở Mỹ và châu Âu, khi học sinh, sinh viên trở thành nạn nhân của deepfake (kỹ thuật sử dụng công cụ AI thay thế chân dung, làm giả hình ảnh và âm thanh nhằm đánh lừa thị giác). Nạn nhân bị một số bạn học phát tán ảnh, video 18+ giả mạo qua mạng xã hội. Tương tự, một nữ streamer nổi tiếng từ Twitch - nền tảng phát trực tiếp trò chơi điện tử tại Mỹ, từng vô tình thấy hình ảnh giả của cô trong một video "đen" lan truyền trên internet.     

Kỹ thuật làm giả hình ảnh người thật hoặc tạo chân dung không có thật - như trường hợp về Claudia (ảnh), một “cô gái” trẻ được tạo ra hoàn toàn bằng công nghệ AI nổi tiếng trên trang web giải trí Reddit gần đây - có thể khiến nhiều người bối rối vì trình độ giả mạo như thật - Ảnh: Reddit

"Hàng rào" bảo vệ nhân quyền lỏng lẻo

“Kẻ có ý đồ xấu không chỉ nhắm vào người nổi tiếng” - giáo sư Danielle Citron (Đại học Luật Virginia, Mỹ), nhận xét. “Bất kỳì ai cũng có thể thành nạn nhân: học sinh, giáo viên, công nhân, viên chức bình thường… Chúng tôi đã từng thấy một số hậu quả tồi tệ gây ra bởi những công cụ giả mạo hình ảnh, tác động tới các em học sinh non nớt lẫn người có uy tín làm việc trong quân đội”.

Thế nhưng, ví dụ mới nhất xảy ra với Taylor Swift có thể góp phần “đẩy mạnh” làn sóng thảo luận về chủ đề này. Loạt ảnh nóng của nữ ca sĩ người Mỹ chủ yếu bị phát tán trên mạng xã hội X (tên mới của Twitter). Những tấm ảnh giả khêu gợi thu hút đến 10 triệu lượt xem trước khi chính thức bị gỡ khỏi trang mạng. Tuy nhiên, trên internet, không dễ để loại trừ nội dung bẩn hoàn toàn. Ảnh rất có thể sẽ tiếp tục bị chia sẻ thông qua các kênh, diễn đàn khác khó kiểm soát hơn. 

“Vì Swift là một nhân vật rất được công chúng yêu mến, tôi tin sự việc lần này sẽ khiến mọi người chú tâm hơn, từ đó nâng cao cảnh giác” - giáo sư Citron bày tỏ. Trước đây, dẫu giới chức trách đã đưa ra cảnh báo nghiêm liên quan đến nạn tạo nội dung khiêu dâm giả mạo, không ít phụ nữ vẫn liên tục bị đe dọa bởi những công nghệ như deepfake.

Giao diện một trang web tạo video bằng công cụ AI. Nhóm “biên tập viên” sở hữu chất giọng lẫn biểu cảm giống thật đến mức khó phân biệt được đây là nhân vật ảo - Ảnh: Getty

“Revenge porn” hay hành vi đăng tải nội dung khiêu dâm giả mạo khi không có sự đồng thuận của nạn nhân, là một hình thức khác lợi dụng công cụ AI để phạm tội. Và với việc công nghệ không ngừng được cải tiến, đôi khi rất khó để nhận biết liệu một tấm ảnh hay video có bị làm giả.

Mặt khác, vì nội dung phản cảm truyền bá trên không gian mạng, nạn nhân thường lâm vào tình thế bất lực do chính sách bảo vệ người dùng không mấy chặt chẽ. X mất 17 tiếng để phát hiện và xử lý các tấm ảnh nóng giả mạo của Swift, nhưng rất nhiều người vướng phải hoàn cảnh tương tự không thể dễ dàng tháo gỡ hình ảnh sai sự thật về họ trên mạng xã hội. Theo Ben Decker, điều hành Memetica, một công ty tư vấn điều tra kỹ thuật số trụ sở tại Mỹ, các công ty truyền thông “chưa thật sự xây dựng được những chính sách hiệu quả để kiểm soát nội dung đăng tải”.

X đang bị chỉ trích vì quyết định cắt giảm phần lớn đội ngũ kiểm duyệt nội dung, thay vào đó lệ thuộc nhiều vào hệ thống rà soát tự động và báo cáo từ người dùng. Vấn đề tương tự cũng xảy ra với Meta - tập đoàn truyền thông đứng sau Facebook.

“Điều Swift vừa gặp phải là một ví dụ xác đáng cho thấy cách AI có thể bị lợi dụng cho lý do bất chính, trong khi chúng ta chưa thiết lập đủ hàng rào bảo vệ nhân quyền” - Decker chia sẻ.     

Làn sóng tội ác đáng quan ngại     

Năm ngoái, nữ sinh Francesca Mani học tại trường trung học Westfield, bang New Jersey (Mỹ) đã phát động chiến dịch kêu gọi xây dựng một bộ luật bảo vệ người bị hại trước deepfake.

Vô tình phát hiện bản thân và 30 bạn học nữ bị phát tán ảnh nóng tạo bởi deepfake, Mani tiết lộ rằng em thấy thất vọng khi nhận ra sự thiếu hụt cơ sở pháp lý để đảm bảo an toàn cho nữ giới trong tình huống này.   

Tháng 2/2023, một sự việc gây phẫn nộ khác có liên quan đến cộng đồng game thủ. Một streamer nam nổi danh trên Twitch khiến người hâm mộ bất bình vì xem video khiêu dâm giả mạo chân dung một số nữ game thủ. Một cô gái trẻ là nạn nhân trong vụ việc bày tỏ, “phải nhìn thấy một người giống hệt tôi làm những việc tôi không hề muốn làm, là một trải nghiệm cực kỳ khó chịu”.

“Đáng sợ hơn, còn có những mô hình AI hoàn toàn không được kiểm duyệt về mức độ an toàn, xuất hiện trên một số diễn đàn” - Decker nói.

Việc tháo gỡ mối nguy hại từ deepfake không đơn giản. Đến nay, nước Mỹ vẫn chưa có đạo luật cấp liên bang nào chống lại hành vi tạo và lan truyền nội dung khiêu dâm giả mạo.

“Giả sử nạn nhân là trẻ vị thành niên, bạn không thể trừng phạt kẻ phạm tội theo luật cấm nội dung khiêu dâm trẻ em. Lý do là vì không có hành vi xâm hại nào thật sự được tiến hành” - Citron lý giải. “Nhưng cảm giác bị sỉ nhục, bị đối xử như một thứ công cụ gợi dục có thể tạo nên tổn thương khó lường với lòng tự trọng của các nạn nhân”.

Vậy cần chủ động làm gì để bảo vệ mình tốt hơn trong thế giới ảo? David Jones, chuyên gia bảo mật máy tính của công ty dịch vụ công nghệ Firewall Technical (Canada), đưa ra lời khuyên: "Bạn không bao giờ biết ai đang tìm kiếm, nhìn vào những bức ảnh chân dung bạn đăng tải trên mạng. Vì vậy tốt nhất, hãy giữ các tài khoản cá nhân ở chế độ riêng tư và chỉ chia sẻ ảnh thật của bạn cho người thân, bạn bè đáng tin cậy".

Jones cũng cảnh báo, nhằm phòng ngừa tin tặc cố tình lấy cắp hình ảnh, “đừng sử dụng mật khẩu quá dễ đoán cho tài khoản riêng, cũng đừng viết chúng ra và lưu trong các thiết bị vì dễ bị đánh cắp. Quan trọng hơn hết, nên suy nghĩ cẩn thận trước khi đăng các nội dung mang tính cá nhân lên những trang mạng xã hội, nơi nhiều người có thể tiếp cận”.

Như Ý (theo CNN)