Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC), yapay zeka teknolojilerinin, çocuk istismarını tetikleyen yeni bir faktör olarak ortaya çıktığını belirtiyor. Yapay zeka, gerçek olmayan çocukların görsellerini üreterek, çocuk cinsel sömürü materyali (CSAM) dağıtımında kullanılıyor. Bu durum, hem gerçek çocukların korunmasını zorlaştırıyor hem de istismarcıların erişimini genişletiyor.
Artan Bildirimler ve Yapay Zekanın Rolü
2023 yılında, NCMEC’e yapılan çevrimiçi çocuk istismarı bildirimleri önceki yıla kıyasla %12 artarak 36.2 milyona ulaştı. Bu bildirimlerin önemli bir kısmı, yapay zeka ile üretilmiş görseller ve videolarla ilgiliydi. Merkez, yapay zeka tarafından üretilen CSAM içeriklerinin tespitini zorlaştırdığını ve bu tür içeriklerin artışının, gerçek çocuk mağdurların korunması çabalarını baltaladığını vurguluyor.
Yasa Dışı Üretim ve Yasal Mücadele
Amerika Birleşik Devletleri’nde, çocukların cinsel içerikli davranışlarda bulunduğu görsellerin yapay zeka ile üretilmesi federal bir suç olarak kabul ediliyor. Ancak, yapay zekanın bu kullanımı yeni sorunlar ve zorluklar ortaya koyuyor. Massachusetts merkezli bir Adalet Bakanlığı savcısı, bu tür malzemelerin üretilmesinin yasal olmadığını ve ciddi cezai yaptırımlarla karşı karşıya kalabileceğini belirtiyor.
Platformlar ve Bildirimler
Facebook, Meta’nın Instagram ve WhatsApp gibi platformları, en çok siber ipucu sunan servisler arasında yer alıyor. Bu platformlar, kullanıcıları tarafından yüklenen içerikler arasında şüpheli CSAM vakalarını tespit edip, NCMEC’e bildiriyor. Ancak rapor kalitesi ve yasal müdahale konusunda bazı teknik zorluklar bulunuyor.
Küresel Çözüm ve Eylem Çağrısı
NCMEC, çevrimiçi platformların ve teknoloji şirketlerinin yetersiz kalan raporlama sistemlerini iyileştirme ihtiyacını vurguluyor. Bu, hem teknoloji şirketlerinin hem de yasal düzenleyicilerin ortak çabası gerektiren bir süreç. Kongre ve global teknoloji topluluğu, bu artan tehdidi adreslemek için harekete geçmeye çağrılıyor.