Ana içeriğe geç

Dil modellerini nasıl kullanırsınız

Modelleri seçme, indirme ve paketleme​

Şu anda eklenti, projeyle birlikte paketlenip kullanılmak üzere önceden editörde seçilmiş tek bir dil modelini destekleyecek şekilde tasarlanmıştır. Belirli bir dil modelini seçmek, indirmek ve hazırlamak için şu adımları izleyin:

  1. Mevcut seçeneklerden istediğiniz modeli seçin. Eklenti varsayılan olarak aşağıdaki modelleri destekler:

    Standart Modeller:

    • Tiny (Minik)
    • Base (Temel)
    • Small (Küçük)
    • Medium (Orta)
    • Large V1 (Büyük V1)
    • Large V2 (Büyük V2)
    • Large V3 (Büyük V3)
    • Large V3 Turbo (Büyük V3 Turbo)

    Nicemlenmiş Modeller (dosya boyutu azaltılmış):

    • Tiny Quantized (Q5_1) - 5 bit ve 1 ondalık basamağa nicemleme
    • Tiny Quantized (Q8_0) - 8 bit ve 0 ondalık basamağa nicemleme
    • Base Quantized (Q5_1) - 5 bit ve 1 ondalık basamağa nicemleme
    • Small Quantized (Q5_1) - 5 bit ve 1 ondalık basamağa nicemleme
    • Medium Quantized (Q5_0) - 5 bit ve 0 ondalık basamağa nicemleme
    • Large V2 Quantized (Q5_0) - 5 bit ve 0 ondalık basamağa nicemleme
    • Large V3 Quantized (Q5_0) - 5 bit ve 0 ondalık basamağa nicemleme
    • Large V3 Turbo Quantized (Q5_0) - 5 bit ve 0 ondalık basamağa nicemleme

    Damıtılmış Modeller:

    • Distil Small - Küçük modelin damıtılmış versiyonu
    • Distil Medium - Orta modelin damıtılmış versiyonu
    • Distil Large V2 - Büyük V2 modelinin damıtılmış versiyonu
    • Distil Large V3 - Büyük V3 modelinin damıtılmış versiyonu

    Özel Model:

    • Custom (Özel) - Kendi dil modelinizi bir sunucudan indirmek için özel bir model adı ve URL belirtin

    Her model (Özel hariç) Çok Dilli veya Yalnızca İngilizce olarak yapılandırılabilir.

  2. Dil Modelini Kur düğmesine tıklayın. Bu, seçilen dil modeli yerel makinenizde zaten mevcut değilse, onu otomatik olarak indirmenizi isteyecektir.

  3. İndirme tamamlandıktan sonra, Editör "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset" konumunda bir dil model varlığı oluşturacaktır. Bu dil model varlığı, projenizle birlikte paketlenecek tek model olacaktır.

Ayrıca, Dil Modellerini Temizle düğmesine tıklayarak yerel olarak indirilmiş dil modellerini kaldırabilirsiniz.

Alternatif olarak, dil modellerini yalnızca https://huggingface.co/ggerganov/whisper.cpp adresinden manuel olarak indirip "Plugins/RuntimeSpeechRecognizer/Content" klasörüne yerleştirebilirsiniz.

Yalnızca seçilen dil modelinin projenizle birlikte paketleneceğini unutmayın. Bu nedenle, diğer modeller hakkında endişelenmenize gerek yoktur çünkü paketleme aşamasında hariç tutulacaklardır.