반도체·산업
NPU(신경망처리장치(Neural Processing Unit))
AI 모델의 추론 연산을 저전력으로 빠르게 처리하도록 설계된 전용 프로세서. 스마트폰·노트북 같은 기기 안에서 AI를 돌리는 온디바이스 AI의 핵심 부품이다
NPU란?
NPU(Neural Processing Unit, 신경망처리장치)는 인공신경망 계산, 특히 행렬 곱셈 같은 AI 추론 연산에 특화된 칩입니다. 범용 연산을 하는 CPU, 대규모 병렬 연산에 강한 GPU와 달리 AI 작업만 적은 전력으로 처리하도록 만들어졌습니다. 보통 CPU·GPU와 함께 하나의 칩(SoC) 안에 들어갑니다.
왜 중요한가
AI 기능을 매번 클라우드 서버로 보내 처리하면 요금과 지연, 개인정보 문제가 생깁니다. NPU가 있으면 음성 인식, 이미지 편집, 간단한 언어모델 같은 작업을 기기 안에서 처리할 수 있습니다. 마이크로소프트는 2024년 일정 수준 이상의 NPU 성능을 갖춘 PC에 '코파일럿+ PC' 인증을 붙였고, 애플·퀄컴·인텔·AMD도 칩마다 NPU 성능(TOPS)을 경쟁적으로 내세우고 있습니다.
투자자가 볼 포인트
NPU 경쟁은 PC·스마트폰 교체 수요와 칩 설계 업체의 점유율 싸움으로 이어집니다. 다만 더 큰 AI 모델을 기기에서 돌리려는 수요가 커지면서 노트북에도 엔비디아 GPU처럼 더 강력한 칩을 넣는 흐름이 생겨, NPU만으로 충분한지가 새로운 쟁점이 되고 있습니다.
💡 매일 아침 해외주식 뉴스를 한 장으로 — 아침한장 뉴스레터 보러가기 →