Przejdź do głównej zawartości

Jak używać modeli językowych

Wybieranie, pobieranie i pakowanie modeli​

Obecnie wtyczka jest zaprojektowana do obsługi pojedynczego modelu językowego, wybranego wcześniej w edytorze, który ma zostać spakowany i użyty z projektem. Wykonaj następujące kroki, aby wybrać, pobrać i przygotować konkretny model językowy:

  1. Wybierz żądany model z dostępnych opcji. Wtyczka obsługuje następujące modele bezpośrednio:

    Modele Standardowe:

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Modele Kwantyzowane (zmniejszony rozmiar pliku):

    • Tiny Quantized (Q5_1) - Kwantyzacja do 5 bitów i 1 miejsca po przecinku
    • Tiny Quantized (Q8_0) - Kwantyzacja do 8 bitów i 0 miejsc po przecinku
    • Base Quantized (Q5_1) - Kwantyzacja do 5 bitów i 1 miejsca po przecinku
    • Small Quantized (Q5_1) - Kwantyzacja do 5 bitów i 1 miejsca po przecinku
    • Medium Quantized (Q5_0) - Kwantyzacja do 5 bitów i 0 miejsc po przecinku
    • Large V2 Quantized (Q5_0) - Kwantyzacja do 5 bitów i 0 miejsc po przecinku
    • Large V3 Quantized (Q5_0) - Kwantyzacja do 5 bitów i 0 miejsc po przecinku
    • Large V3 Turbo Quantized (Q5_0) - Kwantyzacja do 5 bitów i 0 miejsc po przecinku

    Modele Dystylowane:

    • Distil Small - Wersja dystylowana modelu Small
    • Distil Medium - Wersja dystylowana modelu Medium
    • Distil Large V2 - Wersja dystylowana modelu Large V2
    • Distil Large V3 - Wersja dystylowana modelu Large V3

    Model Niestandardowy:

    • Custom - Określ niestandardową nazwę modelu i URL, aby pobrać własny model językowy z serwera

    Każdy model (oprócz Custom) można skonfigurować jako Wielojęzyczny lub Tylko angielski.

  2. Kliknij przycisk Setup Language Model, który automatycznie poprosi o pobranie wybranego modelu językowego, jeśli nie jest on jeszcze obecny na twoim komputerze lokalnym.

  3. Po zakończeniu pobierania, Edytor wygeneruje zasób modelu językowego znajdujący się pod ścieżką "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Ten zasób modelu językowego będzie jedynym spakowanym z twoim projektem.

Możesz również usunąć wszystkie lokalnie pobrane modele językowe, klikając przycisk Clear Language Models.

Alternatywnie, możesz ręcznie pobrać i umieścić modele językowe tylko z https://huggingface.co/ggerganov/whisper.cpp w folderze "Plugins/RuntimeSpeechRecognizer/Content".

Pamiętaj, że tylko wybrany model językowy zostanie spakowany z twoim projektem. Dlatego nie musisz się martwić o inne modele, ponieważ zostaną one wykluczone podczas fazy pakowania.