Şarkı Sözünden Tür Sınıflandırma: Türkçe ve Çok Dilli BERT Modelleri
Şarkının türünü sözlerinden tahmin eden, biri Türkçe biri çok dilli iki ince ayarlı BERT modeli. Her ikisi de Hugging Face'te açık kaynak yayımlandı.
Tür
Makine öğrenmesi modelleri
Dönem
Temmuz 2023 - Ağustos 2023
Rol
Tek geliştirici
Teknolojiler
Python, PyTorch, Hugging Face, BERT, NLP
Şarkının türünü yalnızca sözlerinden tahmin eden, ince ayar yaptığım iki çok dilli BERT modeli: Türkçe modelde %93 (F1 0,90), çok dilli modelde %94 (F1 0,92) doğruluk.
Şarkı sözü veri kümeleri birkaç popüler türe ağır bastığı için azınlık sınıfları göz ardı ediliyordu. Tokenizasyon, yeniden örnekleme ve veri artırma ile azınlık sınıfı duyarlılığını %15 yükselttim. Her iki model de Hugging Face'te açık kaynak.
Öne çıkanlar
Çok dilli BERT modellerini şarkı sözü veri kümelerinde ince ayarlayarak Türkçe modelde %93 (F1 0,90), çok dilli modelde %94 (F1 0,92) doğruluk elde ettim.
Tokenizasyon, yeniden örnekleme ve veri artırma ile sınıf dengesizliğini giderip azınlık sınıfı duyarlılığını %15 artırdım.
Her iki modeli de Hugging Face'te açık kaynak olarak yayımladım.
