Nvidia
Nvidia: Nemotron 4 340B
오픈소스81
종합 성능
76
코딩
50
토큰/초
| 제공사 | Nvidia |
| 출시일 | 07/01/2026 |
| 라이선스 | NVIDIA Open Model License |
| API 가격 | 오픈웨이트 (무료) |
| 컨텍스트 | 128K tokens |
| 처리 속도 | 50 토큰/초 |
| 로컬 실행 | ✅ 가능 |
| 최소 VRAM | 높음 (대형 멀티 GPU 권장)GB |
모델 개요
Nemotron 4 340B는 Nvidia가 공개한 대형 오픈소스 모델로, 자사 GPU 인프라 최적화가 특징이다.
주요 특징
- Nvidia GPU 최적화: 자사 하드웨어에서 추론 효율 극대화
- 오픈 라이선스: 비교적 자유로운 활용
- 대형 파라미터: 준수한 종합 성능
언제 이 모델을 써야 하나
Nvidia 인프라를 이미 보유한 기업의 자체 호스팅에 적합하다.
장단점
장점: GPU 최적화로 추론 효율 우수
단점: 다른 하드웨어에서는 이점이 줄어듦