Rapport visar att antalet rapporter om AI-genererad barnpornografi ökar med 400 %

De senaste siffrorna om innehåll med sexuella övergrepp online är alarmerande och utgör allvarliga utmaningar för myndigheterna. Enligt en rapport från Internet Watch Foundation, som utvärderar situationen årligen, har antalet rapporter om bilder på sexuella övergrepp mot barn genererade av artificiell intelligens ökat med 400 %. Denna verklighet, som påverkar många länder, inklusive Frankrike, tvingar oss att reflektera över den växande inverkan dessa tekniker har på barns och ungas säkerhet online. Alarmerande trend: ökningen av rapporter om AI-genererade bilder

Den nyligen publicerade rapporten avslöjade några slående siffror. Under de första sex månaderna 2025 upptäckte utredare AI-genererade bilder på sexuella övergrepp mot barn på 210 webbsidor, en siffra som endast representerade 42 sidor under samma period föregående år. Statistiken talar för sig själv: en dramatisk ökning av spridningen av denna typ av olagligt innehåll online, vilket får myndigheterna att återigen föra krig mot denna gissel.

En ökning av kränkande videorFörutom ökningen av bilder är siffrorna för AI-genererade videor med sexuella övergrepp mot barn lika oroande. Faktum är att inte mindre än 1 286 videor rapporterades under första halvåret 2025, jämfört med endast två under samma period 2024. Av dessa kategoriserades 1 006 som extremt innehåll, inklusive våldtäkt, tortyr och till och med tidelag. Denna observation väcker frågor om AI-teknikens roll i skapandet och spridningen av detta innehåll, vilket belyser en stor utmaning för brottsbekämpning. Inverkan på brottsutredningar Kommissionär Quentin Bevan, som leder den operativa avdelningen vid Office for Minors (OFMIN), påpekar att cirka90 % AI-genererat kränkande innehåll kan upptäckas med lämplig utbildning och övervakningsverktyg. Han är dock fortfarande oroad, eftersom detta innehåll representerar en växande andel av rapporterna i ett hav av verkligt innehåll.

Det är viktigt för utredare att förbli vaksamma när de tekniker som används av sexuella förbrytare mot barn utvecklas. Här är några av de strategier som observerats:

Modifiera bakgrunden på verkliga övergreppsbilder genom att ändra olika visuella element. Använda AI för att späda ut bevis på övergrepp, vilket gör upptäckten mer komplex. Skapa helt fiktivt digitalt innehåll, införliva ansikten på riktiga barn för pornografiska ändamål. Innehållstyp Antal rapporter (2024)

Antal rapporter (2025)

Ökning (%) Bilder på sexuella övergrepp mot barn (AI)

42

• 210
• 400 %
• Videor om sexuella övergrepp mot barn (AI)

har en nyckelroll att spela i kampen mot detta fenomen. Att integrera avancerad teknik i dessa plattformar kan inte bara hjälpa till att upptäcka och rapportera olämpligt innehåll, utan också informera användare om farorna med dessa AI-genererade bilder.

Insatser från teknikföretag Företag är under ökande press att stärka sin vaksamhet och tekniska lösningar för att ta itu med detta problem. Här är några initiativ som tagits inom detta område: Utveckling av algoritmer för att upptäcka kränkande innehåll. Partnerskap med organisationer som bekämpar sexuell handel med barn. Medvetenhetskampanjer om farorna med att konsumera olagligt innehåll.

Upprätthållande av insatser: åtgärder att överväga

Att ta itu med denna komplexa fråga kommer att kräva samordnade åtgärder på flera nivåer:

• Stärka samarbetet mellan regeringar och teknikföretag för att förbättra detekteringsverktyg.
• Intensifiera utbildningen för utredare och brottsbekämpande myndigheter om AI:s inverkan.

Främja internationella medvetenhetskampanjer om riskerna med AI-genererat innehåll.

Regleringarnas osäkra framtid inför AI:s uppgång

• Med de ökande hoten relaterade till den verkliga naturen hos AI-genererat innehåll blir regulatoriska diskussioner avgörande. I Frankrike fortsätter lagstiftare och brottsbekämpande myndigheter att utforska lämpliga lösningar för att skydda de mest utsatta. Detta inkluderar behovet av att uppdatera lagar om cyberbrottslighet och sexuella övergrepp online.
• Lagstiftning under utveckling
• Flera initiativ pågår för närvarande för att stärka den rättsliga ramen. Här är några av dem:

Skärpa straffen för brott relaterade till sexuella övergrepp online. Skapande av nya protokoll för att identifiera AI-genererat innehåll.

Ökade budgetar avsatta för cybersäkerhetsutredningstjänster.

Åtgärd

Mål

• Skärpt straff
• Skydda mot övergrepp
• Nya protokoll