İngiltere’de veri koruma otoritesi olan Bilgi Komiserliği Ofisi (ICO), X’e bağlı şirketler X Internet Unlimited Company ve X.AI hakkında resmi soruşturma başlattığını duyurdu. Soruşturma, yapay zeka destekli sohbet robotu Grok’un kişisel verileri rıza dışı kullanarak cinsel içerikli görüntü ve videolar üretebilme potansiyeline odaklanıyor.
ICO tarafından yapılan yazılı açıklamada, Grok’un çocuklar da dahil olmak üzere bireylerin bilgisi ve açık rızası olmadan mahrem ve cinsel içerikli görseller üretmekte kullanıldığına dair raporların ciddi endişe yarattığı belirtildi. Kurum, bu tür içeriklerin hem veri koruma mevzuatı hem de kamu güvenliği açısından yüksek risk taşıdığına dikkat çekti.
Kişisel veriler ve yapay zeka tasarımı mercek altında
Açıklamada, soruşturmanın yalnızca üretilen içerikle sınırlı olmadığı vurgulandı. ICO, Grok’un tasarımında ve dağıtım sürecinde, kişisel verilerin yasal, adil ve şeffaf biçimde işlenmesini sağlayacak yeterli güvenlik önlemlerinin alınıp alınmadığını da inceleyecek.
Kuruma göre bu tür önlemlerin yetersiz kalması durumunda bireyler, kişisel verileri üzerindeki kontrolü kaybediyor ve bu durum özellikle çocuklar açısından ciddi ve kalıcı zararlara yol açabiliyor.
ICO’dan net mesaj: Gerekirse yaptırım uygulanacak
Bilgi Komiserliği Ofisi’nde Düzenleyici Risk ve İnovasyondan Sorumlu Genel Müdür William Malcolm, soruşturmanın önemine dikkat çekerek şu değerlendirmede bulundu:
“Grok’a ilişkin raporlar, kişisel verilerin rıza olmadan mahrem ve cinsel içerikli görseller üretmekte kullanılıp kullanılmadığı ve bunu önleyecek güvenlik mekanizmalarının yeterli olup olmadığı konusunda son derece rahatsız edici sorular doğuruyor. Özellikle çocuklar söz konusu olduğunda, bu tür veri ihlalleri anında ve ağır zararlara yol açabilir.”
Malcolm, soruşturma kapsamında XIUC ve X.AI’nin Grok’un geliştirilmesi ve kullanıma sunulması aşamalarında veri koruma yükümlülüklerine uyup uymadığının değerlendirileceğini, ihlal tespit edilmesi halinde kamuoyunu korumak adına gerekli adımların atılacağını vurguladı.
Ofcom da X’i yakından izliyor
Öte yandan İngiltere’nin medya düzenleyici kurumu Ofcom, X platformuna yönelik yürüttüğü kendi soruşturmasını sürdüreceğini açıkladı. Bu durum, Grok ve benzeri üretken yapay zeka sistemlerinin yalnızca teknoloji değil, hukuk, etik ve çocuk güvenliği ekseninde de küresel bir düzenleme sürecine girdiğine işaret ediyor.
Uzmanlara göre İngiltere’de başlatılan bu soruşturma, Avrupa genelinde yapay zekâ tabanlı içerik üretimine yönelik daha sert denetimlerin ve bağlayıcı yaptırımların önünü açabilecek bir emsal niteliği taşıyor.
