Tin giả kết hợp với AI đang đe dọa thế giới

Giả như thật

Ngày 22/3 tại Paris, một người dùng Twitter nổi tiếng đã đăng 3 tấm ảnh cho thấy Tổng thống Pháp Emmanuel Macron bị mắc kẹt giữa lực lượng cảnh sát chống bạo động và người biểu tình. Những hình ảnh giả mạo này được xem hơn 3 triệu lần và chúng trông rất thật. Các chuyên gia về mạng xã hội đã cảnh báo điều này trong nhiều năm. Họ nói nhiều về các video deepfake, khi bất kỳ ai có phần mềm chỉnh sửa đều có thể biến hình ảnh các chính trị gia thành những bức ảnh giả gây tranh cãi. 

Sự bùng nổ gần đây của các công cụ tạo hình ảnh ứng dụng AI cũng đặt các nền tảng như Twitter, Facebook và TikTok vào vị trí “tòng phạm” trong việc lan truyền tin tức giả mạo.

Deepfake hiện đang phổ biến trên mạng xã hội, với các tính năng và ứng dụng AI cho phép người dùng tạo hình đại diện của họ hoặc tạo một nhân vật ảo hoàn toàn mới. Những gì từng mất 30-60 phút để vẽ trên phần mềm Photoshop giờ đây chỉ mất khoảng 5 phút hoặc ít hơn trên một công cụ như Midjourney (miễn phí cho 25 hình ảnh đầu tiên) hoặc Stable Diffusion (hoàn toàn miễn phí).

Mặt khác, những tiến bộ trong công nghệ AI đã khiến việc phân biệt giữa hình ảnh thật và hình ảnh giả trở nên khó khăn hơn, làm mờ đi ranh giới giữa thực tế và hư cấu. Bên cạnh đó, Andy Taylor - Giám đốc điều hành công ty phát thanh TechTalk Radio (bang Arizona, Mỹ) - lưu ý: “Hiện có một mối đe dọa mới từ việc lừa đảo bằng giọng nói. Những kẻ xấu thu âm giọng của một người, sử dụng AI để làm giả giọng nói, ngữ điệu của họ và tạo ra các đoạn hội thoại nghe như thật”. Ông Taylor cho biết, ngày càng khó phân biệt đâu là thật đâu là giả, đặc biệt là với một trong những cách thức mới nhất là kết hợp sử dụng hình ảnh hoặc video từ truyền thông và tái tạo giọng nói của một ai đó từ tin nhắn thư thoại.

Một khuôn mặt được bao phủ bởi khung lưới, sử dụng cho việc tái tạo hình ảnh deepfake - Ảnh: Reuters

Ông giải thích: “Bạn có thể nhận được một cuộc điện thoại từ người quen nói rằng họ cần giúp đỡ và khi bạn trả lời, một giọng nói tựa như thật yêu cầu bạn chuyển tiền hoặc thanh toán giúp họ”. Sở Cảnh sát quận Pima ở bang Arizona đã ghi nhận sự gia tăng số người báo cáo về những kẻ lừa đảo giả làm cảnh sát. Adam Schoonover - nhân viên thông tin công cộng tại sở cảnh sát - chia sẻ: “Dường như kẻ xấu đang sử dụng tên của một cảnh sát hoặc đơn vị cụ thể (được công khai trên trang web) để tạo lòng tin và những email trao đổi với nạn nhân cũng được soạn thảo tinh vi hơn”.

Càng phát triển càng khó kiểm soát

Ở hầu hết các nơi trên thế giới, chính quyền hầu như không thể làm gì nhiều để kiểm soát các nội dung giả mạo và lừa đảo dùng công nghệ AI. Trong khi các phần mềm ngày càng phát triển tinh vi hơn và dễ tiếp cận hơn, các quy định luật pháp giúp quản lý hạn chế và xử lý tình trạng lây lan thông tin giả vẫn rất hạn chế.

Vào tháng 1/2023, Trung Quốc đã thông qua các quy tắc mở rộng yêu cầu những phương tiện kỹ thuật số qua chỉnh sửa phải có sự đồng ý của chủ thể và có chữ ký số hoặc dấu mờ. Các nhà cung cấp dịch vụ liên quan deepfake phải đưa ra phương án giúp bác bỏ thông tin giả.

Dù vậy, Trung Quốc tiếp tục đối mặt với những rào cản chung trong việc quản lý công nghệ sử dụng AI. Những kẻ xấu lạm dụng công nghệ thường rất khó có thể phát hiện và xử lý vì thường hoạt động ẩn danh, thích nghi nhanh chóng và chia sẻ những sáng tạo tổng hợp thông qua các nền tảng trực tuyến không biên giới.

Các chuyên gia công nghệ cho biết, với tiền lệ hạn chế trong lĩnh vực này, các nhà lập pháp trên khắp thế giới đang chờ đợi tham khảo về hiệu quả của cách quản lý tại Trung Quốc. Số lượng hình ảnh, video giả ngày càng tăng có thể dẫn đến tình trạng người dân không còn chia sẻ thông tin thật hoặc tạo ra sự nhầm lẫn trong xã hội. Tình huống này được cơ quan thực thi pháp luật châu Âu Europol gọi là “ngày tận thế thông tin” hoặc “sự thờ ơ với thực tế” trong một báo cáo vào năm 2022.

Vài tháng trước, Google bắt đầu cấm mọi người sử dụng nền tảng Colaboratory - một công cụ hỗ trợ máy học và phân tích dữ liệu - để đào tạo AI phát triển công nghệ deepfake. Công ty đứng sau Stable Diffusion cũng tung ra một bản cập nhật ngăn người dùng tạo nội dung khỏa thân và khiêu dâm.

Meta, TikTok, YouTube và Reddit hiện cấm các tác phẩm giả mạo nhằm mục đích gây hiểu lầm. Những sáng kiến từ các công ty như Microsoft và Adobe đang cố gắng tăng cường khả năng xác thực thông tin và đào tạo công nghệ kiểm duyệt để nhận ra những điểm không nhất quán trong hình ảnh, cảnh báo nội dung tổng hợp. Có thể nói, thế giới đang phải đấu tranh không ngừng với mối đe dọa từ những kẻ xấu sử dụng công nghệ AI lừa đảo và trục lợi từ trong bóng tối. 

Tấn Vĩ

(theo New York Times, Washington Post, Bloomberg)