Pular para o conteúdo principal

Como usar modelos de linguagem

Selecionando, baixando e empacotando modelos​

Atualmente, o plugin foi projetado para suportar um único modelo de linguagem, selecionado previamente no editor, para ser empacotado e usado com o projeto. Siga estas etapas para selecionar, baixar e preparar um modelo de linguagem específico:

  1. Escolha o modelo desejado entre as opções disponíveis. O plugin suporta os seguintes modelos prontos para uso:

    Modelos Padrão:

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Modelos Quantizados (tamanho de arquivo reduzido):

    • Tiny Quantized (Q5_1) - Quantização para 5 bits e 1 ponto decimal
    • Tiny Quantized (Q8_0) - Quantização para 8 bits e 0 pontos decimais
    • Base Quantized (Q5_1) - Quantização para 5 bits e 1 ponto decimal
    • Small Quantized (Q5_1) - Quantização para 5 bits e 1 ponto decimal
    • Medium Quantized (Q5_0) - Quantização para 5 bits e 0 pontos decimais
    • Large V2 Quantized (Q5_0) - Quantização para 5 bits e 0 pontos decimais
    • Large V3 Quantized (Q5_0) - Quantização para 5 bits e 0 pontos decimais
    • Large V3 Turbo Quantized (Q5_0) - Quantização para 5 bits e 0 pontos decimais

    Modelos Destilados:

    • Distil Small - Versão destilada do modelo Small
    • Distil Medium - Versão destilada do modelo Medium
    • Distil Large V2 - Versão destilada do modelo Large V2
    • Distil Large V3 - Versão destilada do modelo Large V3

    Modelo Personalizado:

    • Custom - Especifique um nome de modelo personalizado e uma URL para baixar seu próprio modelo de linguagem de um servidor

    Cada modelo (exceto Custom) pode ser configurado como Multilíngue ou Apenas em Inglês.

  2. Clique no botão Setup Language Model, que solicitará o download automático do modelo de linguagem selecionado se ele ainda não estiver presente em sua máquina local.

  3. Após a conclusão do download, o Editor gerará um ativo de modelo de linguagem localizado em "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Este ativo de modelo de linguagem será o único empacotado com seu projeto.

Você também pode remover quaisquer modelos de linguagem baixados localmente clicando no botão Clear Language Models.

Alternativamente, você pode baixar e colocar manualmente modelos de linguagem apenas de https://huggingface.co/ggerganov/whisper.cpp na pasta "Plugins/RuntimeSpeechRecognizer/Content".

Observe que apenas o modelo de linguagem selecionado será empacotado com seu projeto. Portanto, você não precisa se preocupar com os outros modelos, pois eles serão excluídos durante a fase de empacotamento.