İngiltere’nin medya ve iletişim düzenleyicisi Ofcom, Elon Musk’a ait X platformu hakkında resmi bir soruşturma başlattı. Soruşturmanın odağında, platformda kullanılan Grok yapay zekâ sohbet robotu aracılığıyla üretildiği iddia edilen cinsel içerikli deepfake görüntüler yer alıyor.
Ofcom, bu içeriklerin İngiltere yasaları kapsamında yasa dışı olabilecek materyallerin yayılmasını önleme yükümlülüğünü ihlal edip etmediğini inceleyecek.
Ofcom: “Son derece endişe verici raporlar var”
Düzenleyici kurumdan yapılan açıklamada, Grok hesabının çıplak görüntüler üretmek ve paylaşmak amacıyla kullanıldığına dair ciddi bulgular bulunduğu ifade edildi. Ofcom, bu tür içeriklerin cinsel istismar veya pornografi kapsamına girebileceğini, çocuklara ait görüntüler söz konusuysa bunun çocuk cinsel istismarı materyali olarak değerlendirileceğini vurguladı.
Yetkililer, bu durumun yalnızca bireysel mağdurları değil, aynı zamanda platformların yapay zekâ araçları üzerindeki denetim sorumluluğunu da gündeme taşıdığını belirtiyor.
X’ten savunma: “Yasa dışı içeriklere karşı önlem alıyoruz”
Soruşturmayla ilgili görüşü sorulan X, daha önce yaptığı bir açıklamaya atıf yaparak; çocuk cinsel istismarı materyali dahil tüm yasa dışı içeriklere karşı aktif önlemler alındığını, bu içeriklerin kaldırıldığını ve ilgili hesapların kalıcı olarak askıya alındığını belirtti. Şirket ayrıca, gerekli görülen durumlarda yerel yönetimler ve kolluk kuvvetleriyle iş birliği yapıldığını vurguladı.
X cephesinden yapılan değerlendirmede, Grok’u yasa dışı içerik üretmeye teşvik eden veya bu amaçla kullanan kişilerin, doğrudan yasa dışı içerik yüklemiş sayılacağı ve aynı yaptırımlarla karşılaşacağı ifade edildi.
Siyasi baskı artıyor
İngiltere Başbakanı Keir Starmer, Grok tarafından üretildiği iddia edilen görüntüleri “iğrenç” ve “yasa dışı” olarak nitelendirdi. Bu açıklamanın ardından, Ofcom’un soruşturma başlatması yönündeki baskıların arttığı belirtiliyor.
İşletme Bakanı Peter Kyle, X’in gerekirse yasaklanabileceğini söylerken, bu yetkinin doğrudan Ofcom’da olduğunu vurguladı. Diğer yandan Bakan Liz Kendall, resmi soruşturmayı memnuniyetle karşıladıklarını ve sürecin hızlı ilerlemesi gerektiğini ifade etti.
Uluslararası yankılar
İngiltere’deki adım, X’in Grok özelliği nedeniyle karşı karşıya kaldığı ilk düzenleyici hamle değil. Daha önce Fransa’da yetkililer, üretilen bazı içerikleri “açıkça yasa dışı” olarak nitelendirerek savcılıklara ve düzenleyicilere bildirimde bulundu. Hindistan yönetimi de platformdan resmi açıklama talep etti.
İngiltere yasalarına göre, rızasız cinsel içerikli görüntülerin veya çocuk cinsel istismarı materyallerinin üretilmesi ya da paylaşılması suç kapsamında yer alıyor. Aynı zamanda teknoloji platformlarının, İngiliz kullanıcıların bu tür içeriklerle karşılaşmasını önlemek ve fark edildiği anda hızla kaldırmak zorunda olduğu açıkça belirtiliyor.
Analiz
Grok soruşturması, yapay zekâ destekli üretken araçların ifade özgürlüğü ile kamusal güvenlik arasındaki sınırını yeniden tartışmaya açtı. Düzenleyiciler, yalnızca kullanıcıları değil, algoritmaları ve bu algoritmaları platforma entegre eden şirketleri de doğrudan sorumlu tutma eğilimini güçlendiriyor. Ofcom’un vereceği karar, yalnızca X için değil; küresel ölçekte faaliyet gösteren tüm sosyal medya ve yapay zekâ platformları için emsal niteliğinde olabilir. Bu süreç, AI tabanlı içerik üretiminin önümüzdeki dönemde çok daha sıkı regülasyonlara tabi tutulacağının güçlü bir işareti olarak görülüyor.