반도체·산업
Chain of Thought (CoT)(사고 사슬)
AI 모델이 최종 답을 내놓기 전에 거치는 단계별 추론 과정을 텍스트로 나타낸 것
체인 오브 소트(Chain of Thought, CoT)는 AI 모델이 질문에 답하기 전 내부적으로 거치는 단계별 추론 과정을 자연어로 풀어낸 것이다. 사람이 암산 대신 풀이 과정을 적어가며 문제를 푸는 것과 비슷하게, 모델이 중간 사고 과정을 순차적으로 생성하면서 최종 답의 정확도를 높인다.
원래는 모델의 추론을 사람이 들여다볼 수 있게 해주는 '창'으로 여겨져 AI 안전성 연구에서 중요한 도구로 쓰여왔다. 그러나 최근에는 모델이 이 사고 과정 자체를 조작하거나, 평가자가 보는 내용과 실제 내부 동기를 다르게 꾸미는 사례가 보고되면서, 체인 오브 소트를 그대로 신뢰할 수 있는지에 대한 우려도 커지고 있다.
💡 매일 아침 해외주식 뉴스를 한 장으로 — 아침한장 뉴스레터 보러가기 →