omm install
모델을 중앙 허브에 내려받아 설치된 모든 러너에 연결합니다. 대역폭을 쓰기 전에 이 머신 메모리에 맞는지부터 확인합니다.
01 / 06
개요
search나 list로 이름, 저장소 참조, 번호를 얻은 다음 쓰는 명령입니다. install은 다운로드하기 전에 이 머신의 예측 메모리 예산에 맞는지 먼저 확인하고, 완료된 파일을 이 시스템에 설치된 모든 러너에 연결한 다음, 실행하거나 제거할 정확한 명령을 출력합니다. 이름이 양자화나 제공자가 여러 개로 풀리면 추측하지 않고 대화형 선택지로 넘어갑니다.
02 / 06
옵션
이 명령이 받는 모든 옵션과, 생략했을 때의 기본값입니다.
<name>—기본값: required큐레이션 이름, 마지막 search나 list가 출력한 번호, 'org/repo:file.gguf' 참조(hf: 또는 ms: 접두사 선택 가능), 또는 직접 URL.
--skip-unfit—기본값: off이 하드웨어에서 못 돌아갈 걸로 예측되면 묻지 않고 건너뜁니다. skipped_unfit이 설정된 채로 종료 코드 0 — 스크립팅용.
--upload / --no-upload—기본값: current upload policy이 머신의 벤치마크 결과를 텔레메트리 서버로 보낼지(또는 보내지 않을지) 묻지 않고 결정합니다. 비워두면 현재 omm setting upload 정책을 따릅니다.
--force—기본값: off이미 설치된 모델이라도 다시 내려받습니다.
--verify-runtime / --no-verify-runtime—기본값: asks first연결 후 짧은 로컬 로드/생성 확인을 실행할지(또는 건너뛸지) 결정합니다. 비워두면 아직 실행 중이지 않은 모델을 로드하기 전에 물어봅니다.
--json—기본값: off전역 옵션으로는 받지만 install에는 JSON 출력 모드가 없습니다. omm이 경고를 출력하고 무시합니다.
--yes, -y—기본값: off하드웨어 적합성 확인과 런타임 로드 동의를 포함한 확인 프롬프트를 건너뛰어 비대화형으로 설치합니다.
--quiet, -q—기본값: off진행 표시줄과 백그라운드 상태·힌트 줄을 숨깁니다. 에러와 마지막 설치 결과는 그대로 출력됩니다.
--no-color—기본값: off터미널 색상 출력을 끕니다.
--help—기본값: offinstall의 사용법·인자·옵션을 출력하고 종료합니다.
03 / 06
예제
기본 검색부터 스크립트에 넣을 만한 형태까지.
기본 설치 — 하드웨어 적합성 확인, 다운로드, 검증, 연결까지.
$ omm install mistral-7b-instruct-q4이 하드웨어에서 못 돌아갈 걸로 예측되면 묻지 않고 건너뜁니다.
$ omm install mistral-7b-instruct-q4 --skip-unfit마지막 search나 list가 출력한 번호로 설치합니다.
$ omm install 1저장된 업로드 정책과 상관없이 벤치마크 결과를 보내지 않고 설치합니다.
$ omm install mistral-7b-instruct-q4 --no-upload이미 설치돼 있어도 다시 내려받습니다.
$ omm install mistral-7b-instruct-q4 --force04 / 06
실제 CLI 실행 녹화
이 영상에서 실제로 실행한 명령
omm install hf:example/oversized-405b-gguf:oversized-405b-q4_k_m.gguf --no-color종료 코드: 0 · 결과: 사용자 취소
기록된 키보드 입력으로 설치·모델 실행·벤치마크·업로드가 시작되기 전에 취소했습니다.
확장 문서 터미널 예시
실제 다운로드·체크섬·연결 요약 줄의 형식 그대로 재구성한 것입니다(src/omm/downloader.py:107-170, src/omm/cli.py:4877-4886) — 이 페이지가 실제로 4.4 GB 파일을 내려받지는 않으므로 문자 그대로의 캡처는 아닙니다. 파일명·바이트 수·연결된 세 러너는 이 사이트 자체의 검증된 설치 데모(design/FACTS.md)와 동일합니다.
06 / 06
문제가 생겼다면
아래 메시지는 모두 이 명령이 실제로 출력하는 것들입니다. 해당하는 메시지를 찾아 원인을 읽고, 마지막 줄대로 하면 됩니다.
Unknown model 'zzzz-totally-fake-model-name-xyz'. Use a curated name (tinyllama-1.1b-q4, llama3.1-8b-instruct-q4, mistral-7b-instruct-q4), an 'org/repo:file.gguf' ref (optionally prefixed 'hf:' or 'ms:'), or a direct URL.- 원인
- 이 이름은 큐레이션 카탈로그 어디에도 없고, install이 인식하는 저장소 참조나 URL도 아닙니다.
- 대처
- 먼저 omm search로 정확한 이름이나 참조를 찾거나, 'org/repo:file.gguf' 참조를 직접 넘기세요.
- 출처
- src/omm/hub.py:370-374
Not enough disk space: /Users/you/.omm/models needs up to 5.2 GiB (central model download) but only 3.1 GiB is free.- 원인
- install은 다운로드 전에 여유 공간부터 확인합니다 — 중앙 모델 파일에, 러너가 복사·연결하는 데 필요한 만큼, 그리고 안전 여유분까지 더한 값입니다.
- 대처
- 메시지에 나온 볼륨의 공간을 확보하거나, 설치 전에 OMM_HOME을 여유 있는 드라이브로 지정하세요.
- 출처
- src/omm/cli.py:3479-3485
그래도 해결되지 않는다면, 화면에 뜬 메시지 그대로를 첨부해 이슈를 등록하세요.
전체 명령어
- omm search큐레이션 카탈로그, HuggingFace, ModelScope에서 모델을 한 번에 찾습니다.
- omm run설치한 모델과 대화합니다 — Ollama는 터미널에서, GUI 러너는 앱을 열어서.
- omm recommend이 머신 하드웨어에 맞춰 순위 매긴 모델을 추천하고, 설치까지 제안합니다.
- omm contribute모델을 반복 벤치마크하며 텔레메트리를 업로드해, 이런 하드웨어용 recommend를 개선합니다.
- omm setup하드웨어 스캔과 러너 설치 체크리스트를 언제든 다시 실행합니다.
- README — UsageEvery omm command, one line each.