Xinference Models Hub#

Added in version v1.13.0.

개요#

`Xinference Models Hub <https://model.xinference.io>`_는 Xinference가 모델 관리 및 협업을 위해 제공하는 통합 플랫폼입니다. 모델 탐색, 등록, 검토, 업데이트, 협업 유지보수를 위한 종단 간 지원을 제공하며, 일반 사용자와 모델 유지보수 담당자 모두에게 전체 프로세스 역량을 제공합니다.

Models Hub가 도입되기 전에는 모델 JSON 파일을 사용자가 직접 PR을 통해 xorbitsai/inference 오픈소스 저장소를 수정해야 했습니다. 이러한 방식은 모델 버전이 통제 불가능하고, 반복 주기가 길며, 모델 업데이트가 제품 배포 프로세스에 의존하게 되어 사용자가 최신 모델을 즉시 받을 수 없었습니다.

중앙 집중식 온라인 모델 관리 메커니즘을 통해, Xinference Models Hub는 **모든 모델 정보(메타데이터, 파라미터 및 README 포함)를 플랫폼 내에서 편집하도록 요구**합니다. 시스템은 모델 유지 관리자 <model_maintainer_guide>`의 수정 사항을 기반으로 **자동으로 PR을 생성하여 제출**하며, 이를 `xorbitsai/inference 저장소에 반영함으로써 프로세스의 표준화, 자동화 및 추적 가능성을 실현하고 수동 수정으로 인한 불일치 문제를 방지합니다.

사용자는 모델 업데이트 기능을 통해 언제든지 최신 모델 목록을 받아볼 수 있으며, 이를 통해 모델 전달 효율성과 전반적인 사용 경험이 크게 향상됩니다.

일반 사용자 가이드#

이 절에서는 일반 등록 사용자가 사용할 수 있는 기본 기능에 대해 설명합니다.

적용 대상: 모델 등록 또는 유지 관리 권한이 없는 일반 사용자.

핵심 기능#

일반 사용자는 로그인 없이 공개 모델을 열람할 수 있습니다:

모델 둘러보기#

  • 기능: 모든 공개적으로 사용 가능한 모델 보기

  • 입구 위치: 내비게이션 바 → “Models”

  • 모델 세부 정보: README 탭을 기본으로 표시하며, 모델 설명, 사용 가이드 및 주의사항을 포함합니다.

참고

일부 고급 또는 엔터프라이즈 버전 모델은 권한이 있는 사용자에게만 표시됩니다.

모델 관리자 안내서#

이 섹션에서는 모델 등록 또는 유지 관리 권한이 있는 사용자가 사용할 수 있는 기능(모델 등록, 업데이트 및 검토 프로세스 포함)을 소개합니다.

적용 대상: 모델 등록 또는 유지 관리 권한이 있는 사용자.

핵심 기능 (로그인 필요)#

모델 유지보수자는 일반 사용자 기능을 기반으로 다음과 같은 고급 기능을 사용할 수 있습니다:

사용자 센터#

  • 기능: 개인 정보 확인 및 관리

  • 입구 위치: 우측 상단 아바타 → “사용자 센터”

  • 계정 관리: 개인 프로필, 이메일 등의 정보 업데이트

  • Token 관리: 개인 GitHub Token을 구성하여 모델을 제출하거나 업데이트합니다.

참고

개인 GitHub Token을 설정하지 않은 경우 시스템은 PR 생성 시 기본 Token을 사용합니다.

모델 등록#

  • 기능: 새 모델 등록 및 리뷰 제출

  • 입구 위치: 로그인 후 → 우측 상단 아바타 → “모델 등록”

제출 단계:

  1. 기본 모델 정보(이름, 엔진, 형식 등)를 입력하세요.

  2. README 편집(“README 가져오기”를 클릭하면 템플릿이 자동 생성됩니다)

  3. 모델 제출 (공개 모델을 등록하려면 “공개 모델” 매개변수를 활성화하세요)

참고

공개 모델을 등록할 때, 시스템이 자동으로 xorbitsai/inference 저장소에 PR을 생성합니다.

my model#

  • 기능: 현재 계정과 관련된 모든 모델 보기

  • 입구 위치: 로그인 후 → 우측 상단 아바타 → “내 모델”

模型 유지보수#

  • 기능: 모델의 JSON 또는 README 수정

  • 입구 위치: 모델 상세 페이지 → “설정” 아이콘

참고

공개 모델을 업데이트할 때 시스템은 자동으로 xorbitsai/inference 저장소에 PR을 생성합니다.

검토 프로세스#

기여자 플로우:

  1. 모델 제출

  2. 검토 대기 중

  3. 검토 의견에 따라 수정함

  4. 공개 모델의 경우, PR은 수정 후 자동으로 업데이트됩니다.

검토자 권한: 모델 검토 목록에 접근하고 검토 작업을 수행할 수 있습니다.

검토자 프로세스:

  1. “검토 목록”으로 들어갑니다.

  2. 모델 품질, 정보 완전성 및 규범성 평가

  3. 승인 또는 거절하고, 이에 따른 피드백을 제공하십시오.