Aller au contenu principal

Comment utiliser les modèles de langage

Sélection, téléchargement et empaquetage des modèles​

Actuellement, le plugin est conçu pour prendre en charge un seul modèle de langage, sélectionné au préalable dans l'éditeur, à empaqueter et à utiliser avec le projet. Suivez ces étapes pour sélectionner, télécharger et préparer un modèle de langage spécifique :

  1. Choisissez le modèle souhaité parmi les options disponibles. Le plugin prend en charge nativement les modèles suivants :

    Modèles Standard :

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Modèles Quantifiés (taille de fichier réduite) :

    • Tiny Quantized (Q5_1) - Quantification sur 5 bits et 1 décimale
    • Tiny Quantized (Q8_0) - Quantification sur 8 bits et 0 décimales
    • Base Quantized (Q5_1) - Quantification sur 5 bits et 1 décimale
    • Small Quantized (Q5_1) - Quantification sur 5 bits et 1 décimale
    • Medium Quantized (Q5_0) - Quantification sur 5 bits et 0 décimales
    • Large V2 Quantized (Q5_0) - Quantification sur 5 bits et 0 décimales
    • Large V3 Quantized (Q5_0) - Quantification sur 5 bits et 0 décimales
    • Large V3 Turbo Quantized (Q5_0) - Quantification sur 5 bits et 0 décimales

    Modèles Distillés :

    • Distil Small - Version distillée du modèle Small
    • Distil Medium - Version distillée du modèle Medium
    • Distil Large V2 - Version distillée du modèle Large V2
    • Distil Large V3 - Version distillée du modèle Large V3

    Modèle Personnalisé :

    • Custom - Spécifiez un nom de modèle personnalisé et une URL pour télécharger votre propre modèle de langage depuis un serveur

    Chaque modèle (sauf Custom) peut être configuré comme étant soit Multilingue, soit Anglais uniquement.

  2. Cliquez sur le bouton Setup Language Model, qui vous demandera de télécharger automatiquement le modèle de langage sélectionné s'il n'est pas déjà présent sur votre machine locale.

  3. Une fois le téléchargement terminé, l'Éditeur générera un actif de modèle de langage situé à l'emplacement "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Cet actif de modèle de langage sera le seul empaqueté avec votre projet.

Vous pouvez également supprimer tous les modèles de langage téléchargés localement en cliquant sur le bouton Clear Language Models.

Alternativement, vous pouvez télécharger et placer manuellement des modèles de langage uniquement depuis https://huggingface.co/ggerganov/whisper.cpp dans le dossier "Plugins/RuntimeSpeechRecognizer/Content".

Notez que seul le modèle de langage sélectionné sera empaqueté avec votre projet. Par conséquent, vous n'avez pas à vous soucier des autres modèles car ils seront exclus lors de la phase d'empaquetage.