반도체·산업
추론(Inference)
학습이 끝난 AI 모델에 실제 입력을 넣어 답을 생성하는 단계로, 모델을 만드는 학습(트레이닝)보다 필요한 연산량이 적다
추론이란?
추론(Inference)은 이미 학습을 마친 AI 모델에 사용자의 질문이나 데이터를 입력해 결과를 뽑아내는 과정입니다. 챗봇에 질문을 던지고 답을 받는 매 순간이 추론에 해당합니다. 모델을 처음부터 만드는 '학습(트레이닝)'과 구분됩니다.
학습과의 차이
학습은 수천에서 수만 개의 고성능 가속기(GPU 등)를 몇 주에서 몇 달간 돌려 모델의 가중치를 만드는 단계로, 최첨단 반도체와 대규모 전력이 필수입니다. 반면 추론은 이미 완성된 가중치를 실행하기만 하면 되므로 상대적으로 낮은 성능의 칩으로도 가능하고, 대신 사용자가 많아질수록 처리량이 계속 늘어난다는 특징이 있습니다.
투자자가 보는 포인트
AI 서비스 사용이 늘수록 추론 수요가 커지기 때문에, 최근에는 추론에 특화된 저전력 반도체와 이를 값싸게 제공하는 클라우드 업체가 주목받고 있습니다. 미국의 수출통제가 학습용 첨단 칩에 집중돼 있는 만큼, '자국산 칩으로 추론이 가능한가'는 중국 AI 자립 논쟁의 핵심 쟁점이기도 합니다.
💡 매일 아침 해외주식 뉴스를 한 장으로 — 아침한장 뉴스레터 보러가기 →