ABD ve Çin, yapay zeka sistemlerinden kaynaklanabilecek ciddi güvenlik olaylarında iki ülke arasında doğrudan iletişim kurulmasını sağlayacak yeni bir mekanizma üzerinde görüşüyor. Washington tarafından önerilen sistem, ulusal güvenliği etkileyebilecek yapay zeka olaylarında tarafların birbirini bilgilendirmesini amaçlıyor.
ABD Hazine Bakanı Scott Bessent, Çin Başbakan Yardımcısı He Lifeng ile gerçekleştirilen görüşmelerin ardından yapay zeka güvenliğine yönelik yeni bir bildirim mekanizması önerdiklerini açıkladı. Planın, ABD Başkanı Donald Trump ile Çin Devlet Başkanı Xi Jinping’in 24 ve 25 Eylül’deki görüşmesinde de gündeme gelmesi bekleniyor.
Ancak taraflar arasında henüz kesinleşmiş bir anlaşma bulunmuyor. Çin yönetimi de önerilen mekanizmayı kamuoyu önünde kabul etmiş değil.
Ciddi Yapay Zeka Olaylarında Doğrudan İletişim Kurulabilecek
Önerilen sistemin hayata geçirilmesi halinde ABD ve Çin, yapay zeka sistemlerinin ciddi tehdit oluşturduğu veya beklenmedik davranışlar sergilediği durumlarda doğrudan iletişim kurabilecek. Mekanizmanın ortak tehditlere ilişkin bilgi paylaşımında da kullanılması öngörülüyor.
Bununla birlikte sistemin hangi olaylarda devreye gireceği, bildirimlerin hangi kriterlere göre yapılacağı ve tarafların nasıl bir müdahale süreci izleyeceği henüz netlik kazanmış değil.
Teknik Uzmanların Sistemde Yer Almaması Tartışılıyor
Önerinin mevcut haliyle dikkat çeken noktalarından biri, iletişim kanalında yapay zeka risklerinin teknik boyutunu değerlendirecek uzmanların bulunmaması.
Georgetown Üniversitesi Güvenlik ve Gelişen Teknolojiler Merkezi’nden Sam Bresnick, mevcut bir iletişim kanalının kullanılmasını olumlu bir başlangıç olarak değerlendirirken, özellikle askeri alandaki yapay zeka risklerinin ele alınabilmesi için iki ülkenin teknik uzmanları sürece dahil etmesi gerektiğini belirtiyor.
Omdia Baş Analisti Su Lian Jye ise mekanizmanın ABD ile Çin arasındaki şeffaflığı artırabileceğini düşünüyor. Jye’ye göre etkili bir sistem oluşturulabilmesi için iki ülkenin risk sınıfları, bildirim koşulları, müdahale yöntemleri ve düzenli inceleme süreçleri üzerinde anlaşması gerekiyor.
Teknoloji Rekabeti Süreci Zorlaştırabilir
İki ülke arasındaki teknoloji rekabeti, kurulması planlanan mekanizmanın önündeki önemli başlıklardan biri olarak görülüyor. ABD, Çin’in gelişmiş yapay zeka teknolojilerine erişimini sınırlamak amacıyla çeşitli ihracat kontrolleri uygularken, Çinli şirketlerin ABD merkezli yapay zeka modellerinden izinsiz yararlandığını da öne sürüyor. Çin ise bu suçlamaları reddediyor.
Bresnick’e göre Pekin yönetimi, yapay zeka güvenliği kapsamında yürütülen bazı girişimleri ABD’nin teknolojik üstünlüğünü korumaya yönelik çalışmalar olarak değerlendirebilir. Bu nedenle yalnızca diplomatik bir iletişim kanalının kurulmasının güvenlik alanındaki iş birliği için yeterli olmayabileceği belirtiliyor.
Siber Saldırılar ve Kritik Altyapılar Ortak Risk Alanları
Rekabete rağmen yapay zekanın siber saldırılarda veya kritik altyapılara yönelik tehditlerde kullanılması, iki ülkenin de karşı karşıya olduğu ortak riskler arasında gösteriliyor.
Stanford Digital Economy Lab’den Alvin Wang Graylin, ABD ve Çin’in yapay zeka modellerinin denetlenmesi konusunda birbirlerinin deneyimlerinden yararlanabileceğini düşünüyor. Çin’in çok sayıda yapay zeka modelini düzenli olarak denetlediğini belirten Graylin, ABD’nin ise en gelişmiş modellerin güvenlik testlerinde farklı bir deneyime sahip olduğuna dikkat çekiyor.
İki ülkenin yapay zeka risklerine yaklaşımında da farklılıklar bulunuyor. Bresnick’e göre ABD’de kontrol edilemeyen yapay zeka sistemlerine ilişkin daha yoğun bir kamuoyu tartışması yürütülürken, Çin’de devletin teknolojiyi kontrol altında tutabileceği yaklaşımı öne çıkıyor.
Yapay Zeka Rekabetinin Boyutları Değişiyor
Graylin, ABD-Çin yapay zeka rekabetinin yalnızca en güçlü modeli geliştirme yarışı üzerinden değerlendirilmemesi gerektiğini belirtiyor. Yapay zeka sistemlerinin pazardaki kullanım oranları, açık modeller ve şirketlerin teknoloji maliyetleri de rekabetin önemli unsurları arasında yer alıyor.
Çin merkezli açık yapay zeka modellerinin küresel kullanımının artması da rekabetin farklı bir boyutunu oluşturuyor. Özellikle maliyetlerini azaltmak isteyen şirketlerin açık modelleri alternatif olarak değerlendirdiği belirtiliyor.
ABD ve Çin arasında görüşülen yapay zeka güvenlik bildirim mekanizmasının nihai yapısı henüz belli değil. Trump ile Xi arasındaki görüşmelerin, sistemin diplomatik bir iletişim kanalıyla sınırlı kalıp kalmayacağı veya teknik uzmanların da dahil edildiği daha kapsamlı bir modele dönüşüp dönüşmeyeceği konusunda belirleyici olması bekleniyor.
