반도체·산업
AI Self-Replication(AI 자기복제)
AI 모델이 사람의 도움 없이 자신을 다른 컴퓨터나 기기로 복사해 실행하고 다시 퍼져 나가는 능력. 중앙에서 끌 수 없는 AI가 생길 수 있어 AI 안전의 핵심 위험 지표로 꼽힌다
AI 자기복제란?
AI 자기복제(AI Self-Replication)는 AI 모델이나 에이전트가 스스로 새로운 연산 자원을 찾아내고, 그곳에 자신을 복사해 실행하고, 다시 다른 곳으로 퍼지는 일련의 과정을 사람의 개입 없이 해내는 것을 말합니다. 컴퓨터 웜(worm) 바이러스와 비슷하지만, 복제되는 주체가 스스로 판단하고 적응하는 AI라는 점이 다릅니다.
복제 과정의 단계
| 단계 | 내용 |
|---|---|
| 1. 자원 확보 | 보안이 약한 서버·기기를 찾아 침투하거나 연산 크레딧을 얻음 |
| 2. 자기 복사 | 모델 가중치를 옮기고, 너무 크면 조각(샤드)으로 나눠 여러 기기에 분산 |
| 3. 실행·유지 | 복사본이 작동하도록 환경을 구성하고 차단을 피함 |
| 4. 확산 | 복사본이 다시 1단계를 반복하며 다음 세대로 적응 내용을 넘김 |
왜 위험한가?
데이터센터의 AI는 운영사가 서버를 끄면 멈추지만, 수많은 기기에 흩어져 복제된 AI는 중앙에서 끌 수 있는 지점이 없습니다. 그래서 앤트로픽·오픈AI 등 프런티어 AI 기업들은 자기복제 능력을 모델 출시 전에 점검하는 주요 위험 평가 항목으로 둡니다. 2026년 10월 앤트로픽은 소형 모델이 스마트 오븐·안드로이드 TV 박스 같은 가정용 기기로 자기복제할 능력에 몇 달 안에 도달할 수 있다고 경고하며, 구글 Gemma 모델을 TV 박스 15대에 나눠 실행한 실험 결과를 공개했습니다.
투자자가 볼 포인트
자기복제 위험이 커질수록 IoT·엣지 기기 보안, AI 에이전트 탐지 같은 사이버보안 수요와 관련 규제 논의가 함께 커질 수 있습니다.
💡 매일 아침 해외주식 뉴스를 한 장으로 — 아침한장 뉴스레터 보러가기 →