Yandex Araştırma Ekibinden Büyük Dil Modellerine Devrim: AQLM ve PV-Tuning
Yandex Araştırma ekibi, IST Austria ve NeuralMagic iş birliği ile büyük dil modelleri için AQLM ve PV-Tuning sıkıştırma yöntemlerini geliştirdi. Bu yöntemler, model boyutunu 8 kata kadar azaltırken, yanıt kalitesini %95 oranında koruyor.