언어 모델 사용 방법

모델 선택, 다운로드 및 패키징

현재 플러그인은 프로젝트와 함께 패키징되어 사용될 단일 언어 모델을 에디터에서 미리 선택하도록 설계되었습니다. 특정 언어 모델을 선택, 다운로드 및 준비하려면 다음 단계를 따르세요:

1. 사용 가능한 옵션 중에서 원하는 모델을 선택하세요. 플러그인은 기본적으로 다음 모델들을 지원합니다:

   표준 모델:

   • Tiny
   • Base
   • Small
   • Medium
   • Large V1
   • Large V2
   • Large V3
   • Large V3 Turbo

   양자화 모델 (파일 크기 감소):

   • Tiny Quantized (Q5_1) - 5비트 및 소수점 1자리 양자화
   • Tiny Quantized (Q8_0) - 8비트 및 소수점 0자리 양자화
   • Base Quantized (Q5_1) - 5비트 및 소수점 1자리 양자화
   • Small Quantized (Q5_1) - 5비트 및 소수점 1자리 양자화
   • Medium Quantized (Q5_0) - 5비트 및 소수점 0자리 양자화
   • Large V2 Quantized (Q5_0) - 5비트 및 소수점 0자리 양자화
   • Large V3 Quantized (Q5_0) - 5비트 및 소수점 0자리 양자화
   • Large V3 Turbo Quantized (Q5_0) - 5비트 및 소수점 0자리 양자화

   증류 모델:

   • Distil Small - Small 모델의 증류 버전
   • Distil Medium - Medium 모델의 증류 버전
   • Distil Large V2 - Large V2 모델의 증류 버전
   • Distil Large V3 - Large V3 모델의 증류 버전

   커스텀 모델:

   • Custom - 커스텀 모델 이름과 URL을 지정하여 서버에서 자신만의 언어 모델 다운로드

   각 모델(Custom 제외)은 다국어 또는 영어 전용으로 구성할 수 있습니다.

2. Setup Language Model 버튼을 클릭하면, 선택한 언어 모델이 로컬 머신에 아직 존재하지 않는 경우 자동으로 다운로드하라는 메시지가 표시됩니다.

3. 다운로드가 완료되면, 에디터는 "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset" 위치에 언어 모델 에셋을 생성합니다. 이 언어 모델 에셋만이 프로젝트와 함께 패키징됩니다.

Clear Language Models 버튼을 클릭하여 로컬에 다운로드된 언어 모델을 제거할 수도 있습니다.

또는, https://huggingface.co/ggerganov/whisper.cpp 에서 언어 모델을 수동으로 다운로드하여 "Plugins/RuntimeSpeechRecognizer/Content" 폴더에 배치할 수 있습니다.

선택된 언어 모델만 프로젝트와 함께 패키징된다는 점에 유의하세요. 따라서 다른 모델들은 패키징 단계에서 제외되므로 걱정할 필요가 없습니다.