한줄 요약
내 하드웨어에 맞는 로컬 LLM 중 실제 벤치마크 성능이 가장 좋은 모델을 자동 추천하는 CLI 도구다.
핵심 기능
하드웨어 자동 감지: GPU/CPU/RAM을 읽어 실행 가능한 모델을 필터링한다.
실시간 랭킹: HuggingFace에서 최신 벤치마크(LiveBench, Artificial Analysis, Aider, Chatbot Arena ELO 등)를 병합하여 순위를 매긴다.
최신성 반영: 오래된 리더보드는 모델 계보에 따라 가중치를 낮춰 구형 모델이 신형을 앞지르지 않도록 한다.
시뮬레이션: --gpu 옵션으로 특정 GPU를 가정한 추천을 받을 수 있다.
추가 워크플로우: 업그레이드 비교(upgrade), 모델에 필요한 GPU 찾기(plan), 모델 실행(run), Python 코드 스니펫 출력(snippet) 등을 지원한다.
언제 쓰나
로컬 LLM을 실행하려는데 어떤 모델을 골라야 할지 모를 때
GPU 업그레이드 전에 어떤 모델이 빨라질지 미리 확인하고 싶을 때
단순히 VRAM에 맞는 모델이 아니라 실제 성능이 좋은 모델을 찾고 싶을 때