Zum Hauptinhalt springen

So verwenden Sie Sprachmodelle

Auswahl, Download und Paketierung von Modellen

Derzeit ist das Plugin so konzipiert, dass es ein einzelnes Sprachmodell unterstützt, das im Editor im Voraus ausgewählt wird, um mit dem Projekt gepackt und verwendet zu werden. Befolgen Sie diese Schritte, um ein bestimmtes Sprachmodell auszuwählen, herunterzuladen und bereitzustellen:

  1. Wählen Sie das gewünschte Modell aus den verfügbaren Optionen. Das Plugin unterstützt standardmäßig die folgenden Modelle:

    Standardmodelle:

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Quantisierte Modelle (reduzierte Dateigröße):

    • Tiny Quantized (Q5_1) - Quantisierung auf 5 Bit und 1 Dezimalstelle
    • Tiny Quantized (Q8_0) - Quantisierung auf 8 Bit und 0 Dezimalstellen
    • Base Quantized (Q5_1) - Quantisierung auf 5 Bit und 1 Dezimalstelle
    • Small Quantized (Q5_1) - Quantisierung auf 5 Bit und 1 Dezimalstelle
    • Medium Quantized (Q5_0) - Quantisierung auf 5 Bit und 0 Dezimalstellen
    • Large V2 Quantized (Q5_0) - Quantisierung auf 5 Bit und 0 Dezimalstellen
    • Large V3 Quantized (Q5_0) - Quantisierung auf 5 Bit und 0 Dezimalstellen
    • Large V3 Turbo Quantized (Q5_0) - Quantisierung auf 5 Bit und 0 Dezimalstellen

    Destillierte Modelle:

    • Distil Small - Destillierte Version des Small-Modells
    • Distil Medium - Destillierte Version des Medium-Modells
    • Distil Large V2 - Destillierte Version des Large V2-Modells
    • Distil Large V3 - Destillierte Version des Large V3-Modells

    Benutzerdefiniertes Modell:

    • Custom - Geben Sie einen benutzerdefinierten Modellnamen und eine URL an, um Ihr eigenes Sprachmodell von einem Server herunterzuladen

    Jedes Modell (außer Custom) kann entweder als Mehrsprachig oder Nur Englisch konfiguriert werden.

  2. Klicken Sie auf die Schaltfläche Setup Language Model. Sie werden aufgefordert, das ausgewählte Sprachmodell automatisch herunterzuladen, falls es noch nicht auf Ihrem lokalen Rechner vorhanden ist.

  3. Nach Abschluss des Downloads generiert der Editor ein Sprachmodell-Asset unter "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Dieses Sprachmodell-Asset ist das einzige, das mit Ihrem Projekt gepackt wird.

Sie können auch alle lokal heruntergeladenen Sprachmodelle entfernen, indem Sie auf die Schaltfläche Clear Language Models klicken.

Alternativ können Sie Sprachmodelle ausschließlich von https://huggingface.co/ggerganov/whisper.cpp manuell herunterladen und im Ordner "Plugins/RuntimeSpeechRecognizer/Content" ablegen.

Beachten Sie, dass nur das ausgewählte Sprachmodell mit Ihrem Projekt gepackt wird. Sie müssen sich daher keine Gedanken über die anderen Modelle machen, da sie während der Paketierungsphase ausgeschlossen werden.