Gửi bình luận
Nhưng khi tài khoản của Baoer Kechatie thu hút nhiều người theo dõi hơn, những nghi ngờ bắt đầu nảy sinh, đặc biệt là xung quanh giọng nói tiếng Trung của anh ta. Khi sự chú ý ngày càng gia tăng, những người dùng khác trên Douyin nhận thấy rằng địa chỉ IP trong tài khoản của Baoer Kechatie cho thấy anh ta đang ở tỉnh Hà Nam (Trung Quốc), điều này cũng khớp với giọng nói tiếng Trung của Baoer Kechatie.
Trong một tuyên bố mới đây, Douyin cho biết họ đã đình chỉ vô thời hạn tài khoản Baoer Kechatie vì phát tán thông tin sai lệch và cấm tài khoản này kiếm tiền. Vào thời điểm giữa tháng 6, tài khoản này có gần 400.000 người theo dõi và đã bán được ít nhất 210 mặt hàng thông qua gian hàng thương mại điện tử được liên kết.
Trước lệnh cấm, chủ sở hữu tài khoản này đã gỡ bỏ tất cả các video và đổi tên tài khoản của mình từ “Baoer Kechatie” – gần giống với tên nhân vật chính Pavel Korchagin trong tiểu thuyết Nga “Thép đã tôi thế đấy” - thành “Wang Kangmei”, có nghĩa là “Vương chống lại nước Mỹ”.
Và mặc dù nhiều video đã được gắn nhãn là “dàn dựng” trước khi bị xóa, nhưng các bình luận cho thấy Baoer Kechatie đã thuyết phục được không ít người dùng, nhiều người trong số đó thậm chí còn cổ vũ cho thành công của Baoer Kechatie.
Theo trang tin Sixth Tone, đây không phải là lần đầu tiên những người sáng tạo nội dung tại Trung Quốc sử dụng danh tính nước ngoài để kiếm tiền trực tuyến nhanh chóng.
Năm ngoái, một phụ nữ Nga tên là Nana đã gây sốt khi chia sẻ cuộc sống của mình ở Trung Quốc, nhưng cuối cùng đã bị vạch mặt là kẻ mạo danh bắt chước ngoại hình của một phụ nữ khác bằng cách sử dụng các bộ lọc do AI cung cấp. Tài khoản thu hút gần 2 triệu người theo dõi cuối cùng đã bị chặn sau những lời phàn nàn từ người dùng và chỉ trích từ truyền thông nhà nước Trung Quốc.
Những trường hợp như vậy xảy ra trong bối cảnh công chúng ngày càng lo ngại về sự gia tăng của các vụ lừa đảo thông qua việc sử dụng các công nghệ deepfake, có khả năng thay đổi đặc điểm khuôn mặt, giọng nói và các dữ liệu sinh trắc học khác.
Vào tháng 4, một chủ sở hữu công ty công nghệ tại Trung Quốc đã bị lừa 4,3 triệu nhân dân tệ (hơn 14 tỷ VNĐ) sau khi những kẻ lừa đảo giả làm bạn của anh ta bằng phần mềm hoán đổi khuôn mặt, thuyết phục anh ta chuyển tiền vào tài khoản của chúng.
Để giải quyết mối đe dọa này, Trung Quốc đã đưa ra một loạt chính sách nhắm vào các công nghệ deepfake vào tháng 1, bao gồm lệnh cấm các hoạt động bất hợp pháp và thiết lập hệ thống xác minh tên thật.
Kể từ tháng 5, Douyin đã yêu cầu tất cả người dùng tại Trung Quốc gắn nhãn rõ ràng cho các nội dung do AI tạo ra nhằm xóa bỏ những lo ngại về tin đồn và thông tin sai lệch.
