Báo cáo cho thấy số lượng báo cáo về nội dung khiêu dâm trẻ em do AI tạo ra tăng vọt 400%

Những số liệu mới nhất liên quan đến nội dung lạm dụng tình dục trực tuyến đang ở mức báo động và đặt ra những thách thức nghiêm trọng cho các cơ quan chức năng. Theo báo cáo của Internet Watch Foundation, tổ chức đánh giá tình hình hàng năm, số lượng báo cáo về hình ảnh lạm dụng tình dục trẻ em do trí tuệ nhân tạo tạo ra đã tăng 400%. Thực tế này, ảnh hưởng đến nhiều quốc gia, bao gồm cả Pháp, buộc chúng ta phải suy ngẫm về tác động ngày càng tăng của những công nghệ này đối với sự an toàn trực tuyến của trẻ em và thanh thiếu niên. Xu hướng đáng báo động: Sự gia tăng các báo cáo về hình ảnh do AI tạo ra

Báo cáo được công bố gần đây đã tiết lộ một số con số đáng chú ý. Trong sáu tháng đầu năm 2025, các nhà điều tra đã phát hiện ra hình ảnh lạm dụng tình dục trẻ em do AI tạo ra trên 210 trang web, một con số chỉ đại diện cho 42 trang trong cùng kỳ năm trước. Các số liệu thống kê đã tự nói lên điều đó: sự gia tăng đáng kể trong việc lưu hành loại nội dung bất hợp pháp này trực tuyến, khiến các cơ quan chức năng một lần nữa phải đấu tranh chống lại tệ nạn này. Sự gia tăng đột biến của các video lạm dụng Bên cạnh sự gia tăng về hình ảnh, số liệu về các video lạm dụng tình dục trẻ em do AI tạo ra cũng đáng lo ngại không kém. Thật vậy, không dưới 1.286 video đã được báo cáo trong nửa đầu năm 2025, so với chỉ hai video trong cùng kỳ năm 2024. Trong số đó, 1.006 video được phân loại là nội dung cực đoan, bao gồm các hành vi hiếp dâm, tra tấn và thậm chí là giao cấu với động vật. Quan sát này đặt ra câu hỏi về vai trò của công nghệ AI trong việc tạo ra và phát tán nội dung này, đồng thời nêu bật một thách thức lớn đối với cơ quan thực thi pháp luật. Tác động đến các cuộc điều tra hình sự Ủy viên Quentin Bevan, người đứng đầu bộ phận vận hành của Văn phòng Trẻ vị thành niên (OFMIN), chỉ ra rằng khoảng 90%

Nội dung lạm dụng do AI tạo ra có thể được phát hiện bằng các công cụ đào tạo và giám sát phù hợp. Tuy nhiên, ông vẫn lo ngại, vì nội dung này chiếm tỷ lệ ngày càng tăng trong các báo cáo giữa một biển nội dung thực tế.

Điều cần thiết là các nhà điều tra phải luôn cảnh giác khi các kỹ thuật mà tội phạm tình dục trẻ em sử dụng ngày càng phát triển. Dưới đây là một số chiến lược đã được quan sát: Sửa đổi nền của hình ảnh lạm dụng thực tế bằng cách thay đổi các yếu tố trực quan khác nhau. Sử dụng AI để làm loãng bằng chứng lạm dụng, khiến việc phát hiện trở nên phức tạp hơn. Tạo nội dung kỹ thuật số hoàn toàn hư cấu, sử dụng khuôn mặt của trẻ em thật cho mục đích khiêu dâm. Loại nội dung Số báo cáo (2024) Số báo cáo (2025) Tăng (%) Hình ảnh lạm dụng tình dục trẻ em (AI) 42

210

400% Video lạm dụng tình dục trẻ em (AI) 2

1286

• 64300%
• Vai trò của các nền tảng công nghệ trong việc đối mặt với mối đe dọa ngày càng gia tăng này
• Những gã khổng lồ như

Duy trì các nỗ lực: các hành động cần xem xét

Việc giải quyết vấn đề phức tạp này đòi hỏi hành động phối hợp ở nhiều cấp độ: Tăng cường hợp tác giữa chính phủ và các công ty công nghệ để cải thiện các công cụ phát hiện.Tăng cường đào tạo cho các nhà điều tra và cơ quan thực thi pháp luật về tác động của AI. Thúc đẩy các chiến dịch nâng cao nhận thức quốc tế về những rủi ro liên quan đến nội dung do AI tạo ra.Tương lai bất định của các quy định trước sự trỗi dậy của AI Với sự gia tăng các mối đe dọa liên quan đến bản chất thực sự của nội dung do AI tạo ra, các cuộc thảo luận về quy định đang trở nên vô cùng quan trọng. Tại Pháp, các nhà lập pháp và cơ quan thực thi pháp luật tiếp tục tìm kiếm các giải pháp phù hợp để bảo vệ những người dễ bị tổn thương nhất. Điều này bao gồm nhu cầu cập nhật luật về tội phạm mạng và lạm dụng tình dục trực tuyến.Luật đang được xây dựng Một số sáng kiến hiện đang được tiến hành để củng cố khuôn khổ pháp lý. Dưới đây là một số sáng kiến: Tăng cường hình phạt đối với các hành vi vi phạm liên quan đến lạm dụng tình dục trực tuyến. Tạo ra các giao thức mới để xác định nội dung do AI tạo ra.

Tăng ngân sách được phân bổ cho các dịch vụ điều tra an ninh mạng.

Biện pháp

• Mục tiêu
• Tăng cường hình phạt
• Bảo vệ chống lạm dụng

Giao thức mới

Xác định nội dung được tạo ra

• Tăng ngân sách
• Tăng cường điều tra
• Tầm quan trọng của việc liên tục nâng cao nhận thức

Cuộc chiến chống lạm dụng tình dục trẻ em trực tuyến cũng đòi hỏi sự đầu tư vào việc nâng cao nhận thức của phụ huynh, nhà giáo dục và thanh thiếu niên. Các nền tảng như Pinterest, Snapchat và TikTok cần tăng cường nỗ lực thông báo cho người dùng trẻ về mối nguy hiểm của nội dung không phù hợp và những tác động tiêu cực mạnh mẽ do AI gây ra.

Cuộc chiến chống nạn buôn bán tình dục trẻ em này sẽ cần sự hỗ trợ không chỉ từ các chính phủ và các công ty công nghệ, mà còn từ tất cả người dùng Internet. Mỗi chúng ta đều có trách nhiệm hành động.