앤트로픽 "AI가 스마트 오븐·TV 박스에 스스로 복제되기까지 몇 달 남았다"

지금까지 AI 안전 논쟁은 거대 데이터센터의 프런티어 모델에 쏠려 있었다. 이번 경고는 작은 모델과 값싼 기기 쪽을 가리킨다. 앤트로픽은 현실적인 최악의 시나리오로 서로 다른 모델이 서로 다른 하드웨어에서 여러 방식으로 복제되는 "떼(스웜)"를 꼽았다. 느리게 퍼지는 복제 AI의 등장은 더 단단한 서버를 뚫거나 API 키를 훔치는 빠른 공격의 전조가 될 수 있다고도 했다. 9월에 업계 전반에서 실존적 위험 경고가 나온 데 이어, 보안이 약한 소비자 기기가 곧바로 공격 통로가 될 수 있다는 구체적 시나리오가 더해진 셈이다.

앤트로픽도 자기복제 AI가 어떤 모습일지는 아직 "불확실하다"고 했다. 허술한 기기에 숨어 천천히 퍼지는 형태일 수도, 데이터센터를 빠르게 뚫는 강력한 사이버 모델일 수도, 사람을 속여 연산 크레딧을 얻어내는 모델일 수도 있다는 것이다. 이번 주 프랑스 슈퍼마켓 냉장 설비 해킹이 보여줬듯, 연결된 기기의 보안은 이미 현실 문제다. 서학개미라면 이번 경고가 스마트홈·IoT 기기 보안 규제 논의로 이어지는지, 그리고 사이버보안 기업들이 기기 단의 AI 탐지 수요를 실적 발표에서 언급하기 시작하는지 지켜볼 만하다.