Microsoft: Phi 4

작성자

카테고리:

Microsoft

Microsoft: Phi 4

오픈소스
68
종합 성능
65
코딩
80
토큰/초
제공사Microsoft
출시일12/12/2024
라이선스Open Source
API 가격0.105
컨텍스트16K tokens
처리 속도80 토큰/초
로컬 실행✅ 가능
최소 VRAM8GB+ (4bit 양자화 기준)GB

모델 개요

Phi-4는 Microsoft가 공개한 14B 소형 고성능 언어 모델입니다. 수학, 과학, 코딩에서 훨씬 큰 모델들을 능가하는 성능을 보여주며, 고품질 합성 데이터 훈련으로 소형 모델의 한계를 극복했습니다. 16GB VRAM GPU에서 로컬 실행이 가능합니다.

주요 특징

  • 소형 고성능: 14B 파라미터로 70B 모델과 경쟁 — STEM 특히 강함
  • 로컬 실행: RTX 4090(24GB) 또는 A4000(16GB)에서 실행 가능
  • 합성 데이터 학습: Microsoft 독자 데이터 생성 기술 적용
  • MIT 라이선스: 완전한 상업적 이용 가능

언제 이 모델을 써야 하나

로컬 배포가 필요하고 수학·코딩 능력이 중요한 환경에 최적입니다. 프라이버시가 중요한 기업, 오프라인 환경, 고빈도 API 비용 절감 시나리오에 탁월합니다.

한국어 성능

소형 모델임을 감안하면 양호합니다. 간단한 Q&A, 번역, 코드 설명에서 충분한 성능을 보이지만 복잡한 한국어 문서에서는 대형 모델 대비 품질이 낮을 수 있습니다.

장단점

장점: 로컬 실행 가능, STEM 강력, MIT 라이선스 무료, 적은 리소스
단점: 한국어 뉘앙스 약함, 컨텍스트 16K로 짧음, 창의적 글쓰기 약함