모델 출처#

Xinference는 다양한 소스에서 여러 모델을 다운로드할 수 있도록 지원합니다.

HuggingFace#

Xinference는 기본적으로 Hugging Face 공식 모델 저장소 에서 필요한 모델을 직접 다운로드합니다.

참고

네트워크가 HuggingFace에 연결할 수 없는 경우, 환경 변수를 통해 HuggingFace 미러 사이트를 지정할 수 있습니다: HF_ENDPOINT=https://hf-mirror.com.

Xinference가 시스템 언어가 “간체 중국어”로 설정되어 있음을 감지하면 모델 다운로드 소스를 `ModelScope <https://modelscope.cn/models>`_로 설정합니다.

환경 변수 ``XINFERENCE_MODEL_SRC=modelscope``를 수동으로 설정하여 이를 구현할 수도 있습니다.

모델 상세 페이지에서 ModelScope에서 다운로드가 지원되는지 확인하십시오. 모델이 ModelScope에서 다운로드를 지원하는 경우, 모델 정보의 Model Hubs 항목에 ModelScope가 포함됩니다.