Saltar al contenido principal

Cómo usar modelos de lenguaje

Seleccionar, descargar y empaquetar modelos​

Actualmente, el plugin está diseñado para admitir un único modelo de lenguaje, seleccionado previamente en el editor, para ser empaquetado y usado con el proyecto. Sigue estos pasos para seleccionar, descargar y preparar un modelo de lenguaje específico:

  1. Elige el modelo deseado de las opciones disponibles. El plugin admite los siguientes modelos de forma predeterminada:

    Modelos Estándar:

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Modelos Cuantizados (tamaño de archivo reducido):

    • Tiny Quantized (Q5_1) - Cuantización a 5 bits y 1 punto decimal
    • Tiny Quantized (Q8_0) - Cuantización a 8 bits y 0 puntos decimales
    • Base Quantized (Q5_1) - Cuantización a 5 bits y 1 punto decimal
    • Small Quantized (Q5_1) - Cuantización a 5 bits y 1 punto decimal
    • Medium Quantized (Q5_0) - Cuantización a 5 bits y 0 puntos decimales
    • Large V2 Quantized (Q5_0) - Cuantización a 5 bits y 0 puntos decimales
    • Large V3 Quantized (Q5_0) - Cuantización a 5 bits y 0 puntos decimales
    • Large V3 Turbo Quantized (Q5_0) - Cuantización a 5 bits y 0 puntos decimales

    Modelos Destilados:

    • Distil Small - Versión destilada del modelo Small
    • Distil Medium - Versión destilada del modelo Medium
    • Distil Large V2 - Versión destilada del modelo Large V2
    • Distil Large V3 - Versión destilada del modelo Large V3

    Modelo Personalizado:

    • Custom - Especifica un nombre y URL personalizados para descargar tu propio modelo de lenguaje desde un servidor

    Cada modelo (excepto Custom) se puede configurar como Multilingüe o Solo inglés.

  2. Haz clic en el botón Setup Language Model, que te pedirá que descargues automáticamente el modelo de lenguaje seleccionado si aún no está presente en tu máquina local.

  3. Una vez completada la descarga, el Editor generará un activo de modelo de lenguaje ubicado en "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Este activo de modelo de lenguaje será el único empaquetado con tu proyecto.

También puedes eliminar cualquier modelo de lenguaje descargado localmente haciendo clic en el botón Clear Language Models.

Alternativamente, puedes descargar y colocar manualmente modelos de lenguaje solo desde https://huggingface.co/ggerganov/whisper.cpp en la carpeta "Plugins/RuntimeSpeechRecognizer/Content".

Ten en cuenta que solo el modelo de lenguaje seleccionado se empaquetará con tu proyecto. Por lo tanto, no necesitas preocuparte por los otros modelos, ya que serán excluidos durante la fase de empaquetado.