Tràn lan video giả do AI tạo về Giáo hoàng Leo XIV
- Thứ sáu - 06/06/2025 10:39
- In ra
- Đóng cửa sổ này
Ngày 6-6, Hãng tin AFP cho biết cuộc điều tra của họ đã xác định hàng chục trang YouTube và TikTok đang liên tục phát tán các thông điệp do AI tạo ra, được truyền tải bằng giọng nói của Giáo hoàng Leo XIV hoặc gán cho ông kể từ khi ông lên lãnh đạo Giáo hội Công giáo vào tháng trước.
Các đoạn video và âm thanh do trí tuệ nhân tạo (AI) tạo ra về Giáo hoàng Leo XIV đang lan truyền nhanh chóng trên mạng xã hội và thu hút nhiều lượt xem, trong lúc các nền tảng nỗ lực kiểm soát chúng.
Ngày 6-6, Hãng tin AFP cho biết cuộc điều tra của họ đã xác định hàng chục trang YouTube và TikTok đang liên tục phát tán các thông điệp do AI tạo ra, được truyền tải bằng giọng nói của Giáo hoàng Leo XIV hoặc gán cho ông kể từ khi ông lên lãnh đạo Giáo hội Công giáo vào tháng trước.
Hàng trăm bài phát biểu bịa đặt, bằng tiếng Anh và tiếng Tây Ban Nha, được đăng tải càng cho thấy các trò lừa đảo do AI tạo ra có thể qua mặt hệ thống kiểm duyệt và đánh lừa người xem dễ dàng như thế nào.
Với những cái tên như "Tầm nhìn của Giáo hoàng Leo XIV", các trang mạng xã hội này mô tả vị giáo hoàng như thể đang đưa ra hàng loạt cảnh báo và bài học mà ông chưa từng rao giảng.
Trên TikTok, một video bằng tiếng Tây Ban Nha đã thu hút 9,6 triệu lượt xem, cho thấy Giáo hoàng Leo XIV giảng về giá trị của những người phụ nữ biết đồng hành và hỗ trợ.
Một video khác, dù có gắn nhãn "AI tạo ra" nhưng vẫn đánh lừa được người xem, đã đạt khoảng 32,9 triệu lượt xem.
"Việc công chúng quan tâm đến những gì vị tân giáo hoàng phát biểu là điều tự nhiên, nhất là khi mọi người vẫn chưa hiểu rõ quan điểm và phong cách của ông" - giáo sư danh dự Oren Etzioni tại Đại học Washington, người sáng lập tổ chức phi lợi nhuận TrueMedia.org chuyên chống lại các nội dung giả bằng deepfake, giải thích.
Trong bối cảnh đó, ông cho rằng đây là "cơ hội lý tưởng để (một số người) gieo rắc tai họa thông qua thông tin sai lệch do AI tạo ra”.
Sau khi AFP cung cấp cho YouTube danh sách 26 kênh chủ yếu đăng tải nội dung về Giáo hoàng được tạo bằng trí tuệ nhân tạo, nền tảng này đã xóa 16 kênh vì vi phạm chính sách chống nội dung rác (spam), hành vi lừa đảo..., và một kênh khác cũng bị gỡ bỏ do vi phạm điều khoản dịch vụ của YouTube.
"Chúng tôi đã chấm dứt hoạt động của một số kênh do AFP báo cáo vì vi phạm chính sách về nội dung rác và điều khoản dịch vụ của chúng tôi" - người phát ngôn YouTube Jack Malon cho biết.
Họ cũng đã loại thêm 6 trang khỏi chương trình đối tác - chương trình cho phép người sáng tạo nội dung kiếm tiền từ video của họ.
Tương tự, TikTok đã xóa 11 tài khoản mà AFP chỉ ra - với tổng cộng hơn 1,3 triệu người theo dõi - với lý do vi phạm chính sách của nền tảng này về mạo danh, thông tin sai lệch gây hại và nội dung do AI tạo ra có tính chất gây hiểu lầm liên quan đến nhân vật công chúng.
Ông Brian Patrick Green, giám đốc bộ phận đạo đức công nghệ tại Đại học Santa Clara, cho biết những khó khăn trong việc kiểm duyệt là hệ quả của việc AI phát triển nhanh chóng, thúc đẩy cách sử dụng hỗn loạn công nghệ này".
Nhiều đoạn video trên các kênh YouTube mà Hãng tin AFP xác định đã thu hút hàng chục ngàn lượt xem trước khi bị vô hiệu hóa.
THANH BÌNH
Các bài phát biểu của Giáo hoàng Leo XIV do AI tạo ra đang tràn ngập YouTube, TikTok - Ảnh: AFP
Ngày 6-6, Hãng tin AFP cho biết cuộc điều tra của họ đã xác định hàng chục trang YouTube và TikTok đang liên tục phát tán các thông điệp do AI tạo ra, được truyền tải bằng giọng nói của Giáo hoàng Leo XIV hoặc gán cho ông kể từ khi ông lên lãnh đạo Giáo hội Công giáo vào tháng trước.
Hàng trăm bài phát biểu bịa đặt, bằng tiếng Anh và tiếng Tây Ban Nha, được đăng tải càng cho thấy các trò lừa đảo do AI tạo ra có thể qua mặt hệ thống kiểm duyệt và đánh lừa người xem dễ dàng như thế nào.
Với những cái tên như "Tầm nhìn của Giáo hoàng Leo XIV", các trang mạng xã hội này mô tả vị giáo hoàng như thể đang đưa ra hàng loạt cảnh báo và bài học mà ông chưa từng rao giảng.
Trên TikTok, một video bằng tiếng Tây Ban Nha đã thu hút 9,6 triệu lượt xem, cho thấy Giáo hoàng Leo XIV giảng về giá trị của những người phụ nữ biết đồng hành và hỗ trợ.
Một video khác, dù có gắn nhãn "AI tạo ra" nhưng vẫn đánh lừa được người xem, đã đạt khoảng 32,9 triệu lượt xem.
"Việc công chúng quan tâm đến những gì vị tân giáo hoàng phát biểu là điều tự nhiên, nhất là khi mọi người vẫn chưa hiểu rõ quan điểm và phong cách của ông" - giáo sư danh dự Oren Etzioni tại Đại học Washington, người sáng lập tổ chức phi lợi nhuận TrueMedia.org chuyên chống lại các nội dung giả bằng deepfake, giải thích.
Trong bối cảnh đó, ông cho rằng đây là "cơ hội lý tưởng để (một số người) gieo rắc tai họa thông qua thông tin sai lệch do AI tạo ra”.
Sau khi AFP cung cấp cho YouTube danh sách 26 kênh chủ yếu đăng tải nội dung về Giáo hoàng được tạo bằng trí tuệ nhân tạo, nền tảng này đã xóa 16 kênh vì vi phạm chính sách chống nội dung rác (spam), hành vi lừa đảo..., và một kênh khác cũng bị gỡ bỏ do vi phạm điều khoản dịch vụ của YouTube.
"Chúng tôi đã chấm dứt hoạt động của một số kênh do AFP báo cáo vì vi phạm chính sách về nội dung rác và điều khoản dịch vụ của chúng tôi" - người phát ngôn YouTube Jack Malon cho biết.
Họ cũng đã loại thêm 6 trang khỏi chương trình đối tác - chương trình cho phép người sáng tạo nội dung kiếm tiền từ video của họ.
Tương tự, TikTok đã xóa 11 tài khoản mà AFP chỉ ra - với tổng cộng hơn 1,3 triệu người theo dõi - với lý do vi phạm chính sách của nền tảng này về mạo danh, thông tin sai lệch gây hại và nội dung do AI tạo ra có tính chất gây hiểu lầm liên quan đến nhân vật công chúng.
Ông Brian Patrick Green, giám đốc bộ phận đạo đức công nghệ tại Đại học Santa Clara, cho biết những khó khăn trong việc kiểm duyệt là hệ quả của việc AI phát triển nhanh chóng, thúc đẩy cách sử dụng hỗn loạn công nghệ này".
Nhiều đoạn video trên các kênh YouTube mà Hãng tin AFP xác định đã thu hút hàng chục ngàn lượt xem trước khi bị vô hiệu hóa.
THANH BÌNH