Çocukların medya ve teknoloji kullanımını inceleyen kâr amacı gütmeyen kuruluş Common Sense Media, Google’ın yapay zeka modeli Gemini hakkında çarpıcı bir risk raporu yayımladı. Raporda, Gemini’nin kendisinin bir “arkadaş” olmadığını açıkça belirtmesi olumlu bir adım olarak değerlendirilse de, sistemin birçok alanda geliştirmeye ihtiyaç duyduğu ve çocuklar için “uygunsuz ve güvensiz” içerik riski taşıdığı vurgulandı.
Yetişkin Versiyonunun Üzerine Sadece Filtre Eklenmiş İddiası
Rapora göre, Gemini’nin “13 yaş altı” ve “Gençler için” sürümleri, aslında yetişkin versiyonunun üzerine birkaç güvenlik filtresi eklenmiş hali gibi görünüyor. Common Sense, çocuklara yönelik güvenli bir yapay zekanın sıfırdan, onların ihtiyaçları gözetilerek tasarlanması gerektiğini savunuyor. Yapılan analizde, Gemini’nin çocuklara hâlâ cinsellik, uyuşturucu, alkol veya tehlikeli ruh sağlığı tavsiyeleri gibi uygunsuz bilgiler verebildiği belirtildi. Bu durum, son dönemde yapay zeka bağlantılı intihar vakaları iddialarının ardından ebeveynler için büyük endişe yaratıyor.
Google ise, rapora itiraz ederek çocuk ve gençler için özel politikaları olduğunu ve uzmanlarla iş birliği yaptıklarını açıkladı. Şirket, bazı cevapların beklendiği gibi çalışmadığını kabul ederek ek güvenlik katmanları eklediklerini ve raporda bahsedilen bazı özelliklerin aslında 18 yaş altındaki kullanıcılara sunulmadığını belirtti.
Diğer Yapay Zeka Platformları Ne Durumda?
Common Sense’in daha önce yaptığı analizlerde Meta AI ve Character.AI “kabul edilemez” risk taşıyan platformlar olarak değerlendirilmişti. Perplexity yüksek riskli, ChatGPT “orta riskli” olarak sınıflandırılırken, Claude ise yalnızca 18 yaş ve üstü kullanıcılara yönelik olduğu için “düşük riskli” kabul edildi. Bu rapor, Apple’ın yeni Siri sürümü için Gemini’yi kullanmayı düşündüğüne dair söylentilerin sızdığı bir döneme denk geldiği için de büyük önem taşıyor.