Tether AI Research, daha küçük yapay zekâ modellerinin bilim, teknoloji, mühendislik ve matematik alanlarındaki performansını geliştirmek amacıyla hazırlanan Genesis III veri setini duyurdu. 159,6 milyon dokümandan oluşan veri seti toplam 191,43 milyar token içeriyor.
QVAC Genesis I ve II’nin devamı niteliğindeki Genesis III, yapay zekâ modellerinin yalnızca nihai cevabı öğrenmesi yerine akıl yürütme sürecini ve yapılan hataların nasıl düzeltilebileceğini öğrenmesine odaklanıyor. Genesis III araştırmasının COLM 2026’da sunulmak üzere kabul edildiği belirtildi.
191,43 Milyar Tokenlık Sentetik Veri Seti
Genesis III, 19 farklı STEM alanını kapsıyor. Tether AI Research tarafından paylaşılan sonuçlara göre veri setiyle eğitilen modeller, bilim ve STEM odaklı akıl yürütme testlerinde açık kaynaklı referans modellerin üzerinde performans gösterdi.
1,7 milyar parametreli modelin benchmark yanıtlarının yüzde 99,45’inde geçerli sonuç ürettiği belirtildi.
Veri setinin fizik problemlerini çözebilen, hataları açıklayabilen ve akıl yürütme süreçlerini analiz edebilen yapay zekâ sistemlerinin geliştirilmesinde kullanılabileceği ifade ediliyor. Daha küçük modellerin telefon, bilgisayar veya yerel sunucularda çalıştırılabilmesi ise sınırlı internet erişiminin bulunduğu ortamlarda kullanım açısından yeni olanaklar sağlayabilir.
Modellere Hatalarını Nasıl Düzeltecekleri Öğretiliyor
Genesis III’ün yaklaşımında modellerin yalnızca doğru cevabı üretmesi değil, sonuca nasıl ulaştığını ve yanlış bir akıl yürütme sürecini nasıl düzeltebileceğini öğrenmesi hedefleniyor.
Bu amaçla kullanılan Failure Analysis yöntemi, model tarafından yapılan hataları analiz ederek yanlış akıl yürütmenin nedenini ve doğru çözüm yöntemini öğretmeye odaklanıyor.
Option-Level Reasoning yönteminde ise doğru seçeneğin neden doğru olduğu kadar diğer seçeneklerin neden yanlış olduğu da modele aktarılıyor.
Tether AI Research, bu yöntemlerin daha küçük modellerin daha düşük işlem gücüyle doğru, güvenilir ve açıklanabilir sonuçlar üretmesine katkı sağlamasını amaçlıyor.
Genesis III Farklı Yapay Zekâ Mimarilerinde Test Edildi
Araştırmacılar, Genesis III’ün Option-Level veri setiyle eğitilen modellerini Qwen, Llama, SmolLM ve Gemma gibi farklı mimariler üzerinde değerlendirdi.
Paylaşılan sonuçlara göre aynı token sayısıyla yapılan karşılaştırmalarda Genesis III, Cosmopedia-v2’ye kıyasla ARC-Easy testinde 28,57, ARC-Challenge’da 21,35 ve MMLU STEM’de 15,03 puanlık performans artışı sağladı.
Genesis III ile ön eğitimden geçirilen modelin, daha büyük ve ek matematik ile kod verileriyle eğitilen Cosmo-1B’yi de değerlendirilen testlerde geride bıraktığı belirtildi.
Hedef Yapay Zekâyı Telefon ve Bilgisayarlarda Yerel Olarak Çalıştırmak
Genesis III’ün odaklandığı alanlardan biri, küçük yapay zekâ modellerinin sürekli olarak harici sunuculara bağlanmadan kullanıcıların kendi cihazlarında çalıştırılabilmesi.
Bu yaklaşımın araştırmacılar ve profesyoneller açısından hassas bilgi ve soruları dış sunuculara göndermeden çalışabilecek uzmanlaşmış teknik asistanların geliştirilmesini destekleyebileceği belirtiliyor.
Tether CEO’su Paolo Ardoino, yapay zekâ sektörünün büyük bölümünün daha büyük modeller ve daha fazla işlem gücü üzerine yoğunlaştığını, Genesis III ile farklı bir yaklaşım benimsediklerini söyledi.
“Genesis III ise daha küçük modellerin öğrendiği veriyi iyileştirdiğimizde neler olabileceğini gösteriyor. STEM açısından bu, bir modele yalnızca nihai cevabı öğretmekten fazlası anlamına geliyor.”
Ardoino, hedeflerinin faydalı yapay zekâ sistemlerini büyük bulut altyapılarından kullanıcıların halihazırda sahip olduğu cihazlara taşımak olduğunu ifade etti.
