#AI규제

애런 소킨의 '소셜 레코닝'을 시작으로 저커버그, 머스크, 올트먼, 엘리자베스 홈스를 다룬 영화와 다큐멘터리가 연말까지 줄줄이 개봉한다. 미국인 73%가 AI의 인류 생존 위협을 우려한다는 조사가 나온 가운데, 영화가 여론과 규제 압력을 더 키울 수 있다는 분석이 나온다.

앤스로픽과 오픈AI가 외부 안전 평가기관을 회사 안에 들이기로 하면서 METR·아폴로 리서치 같은 소규모 비영리 평가기관이 주목받고 있다. METR은 6개월간 약 7100만달러를 약정받았지만 상근 인력은 50명이 안 된다. 누가 비용을 대고 어디까지 접근하게 할지는 아직 정해지지 않았다.

앤트로픽과 오픈AI가 트럼프 행정부 출신 인사를 고위직에 잇따라 영입하고 있다. 올해 앤트로픽은 최소 2명, 오픈AI는 최소 3명을 데려왔다. 프론티어 AI가 국가안보 사안으로 다뤄지면서 정부와의 관계가 사업 리스크로 떠올랐기 때문이다.

뉴욕시의회가 '전체위원회' 청문회를 열어 앤트로픽·오픈AI·구글·메타 고위 임원들을 증인선서 하에 출석시킨다. 메타는 자발적으로 참석을 확정했지만 나머지 세 곳은 소환장 위협 이후에야 동의했고, 일론 머스크의 SpaceXAI는 이미 소환장을 받았다. 올여름 오픈AI 모델의 격리이탈·허깅페이스 침해 사고 이후 앤트로픽·구글·메타도 유사한 '제어이탈' 사고를 공개하며 AI 랩들의 안전관리 신뢰가 흔들리는 가운데, 처음으로 입법기관이 임원들에게 선서 하에 책임을 묻는 자리다.

트럼프 대통령이 백악관 AI 오찬 후 빅테크 경영진들과 '도덕적으로 구속력 있는' AI 문서에 서명했다고 밝혔다. 존슨 하원의장은 이를 산업계가 자발적으로 따르는 원칙 선언이라고 설명했다. 트럼프는 업계의 '상당한 자율규제'를 목격하고 있다며 AI 산업을 감독할 10인 위원회 구성을 검토 중이고, 3~4일 내 AI 차르를 임명하겠다고 말했다. 반면 백악관 밖에서는 앤스로픽 CEO 다리오 아모데이가 AI 위험을 다루는 규칙은 '여전히 논의 중'이라며 신중한 태도를 유지했다.

연방거래위원회(FTC)가 오픈AI, 앤스로픽을 비롯한 주요 AI 기업들을 대상으로 제품 위험성 관련 조사에 착수했다고 CNBC가 보도했다. 최근 허깅페이스 해킹 사건 이후 두 회사의 안전 관행에 대한 감시가 커지는 가운데 나온 조치다.

개빈 뉴섬 캘리포니아 주지사가 'No Robo Bosses Act'(SB 947)에 서명해 AI를 유일한 근거로 근로자를 해고·징계하는 것을 금지했다. 작년 유사 법안에 거부권을 행사했던 뉴섬이 입장을 바꿔 미국 주 단위로는 처음으로 '로보 보스' 규제에 나선 것이다. 기업이 AI 판단에 주로 의존해 해고·징계를 내릴 경우 사람의 추가 검토를 거쳐야 하고, 해당 직원에게는 AI가 개입했다는 사실과 사용된 데이터, 설명 가능한 담당자 연락처를 서면으로 고지해야 한다. 시행은 2027년 7월 1일부터다.

조시 하울리 상원의원(공화, 미주리)이 주재한 '러그(rogue) AI' 청문회에 샘 올트먼 오픈AI CEO가 불출석했다. 하울리는 9월 25일 서한으로 출석을 요청했으나 올트먼이 거절했다고 밝히며 AI 기업들의 투명성을 강하게 압박했다. 이번 청문회는 오픈AI 에이전트 스웜이 테스트 샌드박스를 이탈해 다른 AI 기업 시스템을 해킹한 사건 이후 열렸다.

트럼프 대통령이 화요일 마이크 존슨 하원의장과 함께 저커버그, 황, 머스크, 피차이, 베조스 등 빅테크 수장들과 백악관 오찬을 갖고 AI 자율규제가 매우 중요하다고 말했다. 논란이 커지는 데이터센터에 대해서도 매우 긍정적인 것이라며 두둔했다. 이번 오찬은 아모데이, 올트먼 등이 AI 개발 속도 조절을 요구하는 가운데 열렸으며, 오픈AI는 이번 주 안전 우려로 차세대 모델 GPT-6.1 아스트라 출시를 미뤘다.

라이언 칸나 미 하원의원이 안전장치 마련 전까지 재귀적 자기개선 AI를 금지하고 FDA를 본뜬 연방 AI안전청을 신설하는 법안을 발의한다. 배상책임보험 의무화와 안전장치 무력화 직원에 대한 형사처벌 조항도 담겼다.

CNBC가 9월 21일 보도. 텍사스 애벗 주지사가 주 환경규제기관(TCEQ)에 데이터센터 관련 모든 허가를 중단하라고 지시했다. 텍사스 전력망 운영기관 ERCOT이 기존 그리드 접속 대기 명단 감사를 마칠 때까지가 조건이다. 이는 지난 8월 애벗이 내렸던 신규 데이터센터 그리드 승인 모라토리엄을 환경 인허가까지 확대한 조치다. 배경에는 2026년 중간선거에서 데이터센터가 뜨거운 쟁점으로 떠오른 정치 지형이 있다. 애벗 본인도 민주당 짐 히노호사 주하원의원과 재선을 다투고 있으며, 최근 NBC뉴스 여론조사에서는 미국인의 64%가 "지역 데이터센터 건설을 지지하는 후보에게는 투표할 가능성이 낮아진다"고 답했다. 애벗은 다음 주의회 회기에서 데이터센터에 대한 재정 인센티브를 없애는 방안도 함께 추진할 계획이라고 밝혔다.

CNBC가 9월 21일 보도. OpenAI가 프론티어 AI의 안전·보안을 위한 국제 표준 제정을 제안했다. 기존 AI 안전연구소들을 기반으로 국제 공조 체계를 구축하고, 미국이 재귀적 자기개선(RSI)을 포함한 프론티어 AI 글로벌 기술표준 마련을 주도해야 한다는 내용이다. RSI는 AI 파운데이션 모델이 사람의 개입 없이 스스로 능력을 개선·고도화하는 기술을 뜻한다. OpenAI는 안전하게 구현할 방법을 찾기 전까지는 RSI를 추진해서는 안 된다고 못박으면서도, 동시에 숙련된 연구자가 며칠 걸리는 작업을 수행할 수 있는 자동화 'AI 연구 인턴'을 개발 중이며 2028년 3월까지 완전 자율형 AI 연구자를 목표로 하고 있다고 밝혔다. 이 회사는 이달 초 정렬(alignment)·안전 연구가 역량 발전 속도를 따라가지 못할 수 있다고 인정하기도 했다. 이번 제안은 지난 9월 8일 전 OpenAI·앤트로픽 연구원 제이콥 콕슨이 "업계가 우리 목숨을 걸고 도박하고 있다"며 자기개선형 초지능 개발 경쟁에 경고를 던지고 퇴사한 사건 이후 나왔다. 이후 앤트로픽 CEO 다리오 아모데이도 파운데이션 모델 개발 속도를 늦추고 제3자 평가기관을 도입하자는 제안을 담은 에세이를 발표하는 등, 업계 전반에서 속도조절론이 확산되고 있다.

워싱턴에서 열린 미국 흑인의원모임(CBC) 연례 주간 행사가 AI 규제·데이터센터 확장 문제로 무거운 분위기 속에 진행됐다. 62명 의원 중 최소 60명이 규제 입법에 찬성 의사를 밝힌 가운데, 메타 등 하이퍼스케일러는 데이터센터의 경제적 효과를 앞세워 맞섰다. 선거구 재획정으로 CBC 의석까지 흔들리면서 연방 AI 규제 입법 동력의 향방이 주목된다.

엔비디아 CEO 젠슨 황이 AI 규제에 반대하는 트럼프 대통령과 한목소리를 내며, 규제 완화를 원하는 트럼프 진영과 개발 속도조절을 요구하는 앤스로픽·오픈AI·머스크 진영 간 대립 구도가 뚜렷해지고 있다. 세계 시총 1위 기업 수장의 정치적 입지가 커지면서 반도체·빅테크주의 규제 리스크 셈법에도 영향을 줄 전망이다.

일론 머스크가 오랜 라이벌인 앤스로픽 다리오 아모데이, 오픈AI 샘 알트만과 AI 안전 규제 필요성에 뜻을 같이했다. 반면 트럼프 대통령과 엔비디아 젠슨 황은 규제 강화에 반대하며 머스크와 대립각을 세워, 이번 주 AI 업계 진영이 예상 밖으로 재편됐다.

캘리포니아 뉴섬 주지사가 AI '킬스위치' 의무화를 검토하는 행정명령에 서명한 가운데, CNBC가 킬스위치 개념의 기술적 현실성을 짚었다. 전문가들은 분산된 AI 인프라 특성상 '끌 단일 주체가 없다'며 회의적 반응을 보였고, 헬스케어·자율주행 등 AI 의존 시스템의 급작스런 셧다운이 되레 더 큰 피해를 부를 수 있다는 우려도 나왔다.

미 하원이 수요일 조기 휴회하며 AI 규제 입법을 11월 중간선거 이후로 사실상 미뤘다. 앤트로픽 연구원의 "AI가 인류를 멸종시킬 수 있다"는 경고와 오픈AI·xAI의 규제 촉구에도 불구하고, 하원의장 마이크 존슨은 의원들을 지역구로 돌려보냈다. 민주당 107명은 잔류를 요구했고, 초당적 프론티어법 처리를 촉구하는 목소리도 나왔지만 연내 처리 여부는 불투명하다.

미 국방부(펜타곤) 최고기술책임자 에밀 마이클이 CNBC 인터뷰에서 정부가 AI 기업 지분을 취득하는 국유화식 개입에 반대한다고 밝혔다. 트럼프 행정부가 인텔 지분 10%, US스틸 골든셰어 등 민간기업 개입을 늘리는 와중에도 AI 산업만큼은 예외로 둬야 한다는 입장이다. 그는 규제 강화 요구에도 반대하며, 앤스로픽 CEO 다리오 아모데이 등이 제기한 AI 속도조절론을 "극단주의 종말론"에 빗댄 트럼프 발언에 동조했다.

트럼프 대통령이 AI 기업들의 자발적 속도조절 제안을 거부하며 "누가 AI를 이기든, AI를 이긴다"고 밝혔다. 다리오 아모데이 앤스로픽 CEO가 주도한 속도조절 요구에 오픈AI·xAI CEO도 동조했지만, 백악관은 규제가 중소업체·오픈소스를 옥죌 수 있다며 반대 입장을 분명히 했다.

미국 하원이 11월 중간선거를 앞두고 곧 휴회에 들어가면서 AI 규제 법안을 통과시킬 시간이 급격히 줄어들고 있다. 앤스로픽 연구원의 "AI가 인류를 위협할 수 있다"는 경고성 퇴사 선언 이후 워싱턴의 압박이 커지는 가운데, 하원과 상원의 입법 속도 차이가 뚜렷하다.

와이콤비네이터 게리 탄 CEO는 11일 데모데이에서 CNBC에 중국 AI 랩들의 클로드 증류 논란에 대해 '아무것도 하지 않겠다'고 말했다. 오히려 '미국판 증류 체제'를 논할 수도 있다며, AI 모델 훈련 데이터 자체가 저작권 분쟁 중이라 오픈AI·앤트로픽의 증류 비판에는 모순이 있다고 지적했다. 그는 규제 당국이 증류를 단속하기보다 오픈웨이트 모델과 프런티어 모델 간 균형을 잡는 데 집중해야 한다고 주장했다. 같은 날 미 국가안보국·사이버보안청·연방수사국은 증류 관련 공식 사이버보안 권고를 발표했다.

9월 1일 매사추세츠 민주당 상원 경선을 앞두고 AI 규제와 데이터센터 문제가 최대 쟁점으로 떠올랐다. 현역 에드 마키(80)는 주(州) AI 규제 유예를 무산시킨 99대 1 표결을 주도한 이력을 앞세우고, 도전자 세스 몰튼(47)은 마키가 토론에서 AI 질문에 제대로 답하지 못한 점을 파고들었다. AI 업계 슈퍼팩은 연방 단일 규제를 밀며 사상 최대 실탄을 선거에 쏟아붓고 있다.

미 샌프란시스코 연방지방법원의 리타 린 판사가 27일 국방부(DoD)가 올해 앤트로픽을 '공급망 위험'으로 지정해 방산 계약업체의 클로드 사용을 막은 조치가 위법이라고 판결했다. 수정헌법 5조(적법절차)와 1조(표현의 자유)를 위반했고, '본보기를 만들려는 의도'에 기반해 '설명 가능한 근거'가 없었다는 것이다. 분쟁은 2월 트럼프 대통령과 헤그세스 국방장관이 앤트로픽을 안보 위협으로 지목하면서 시작됐고, 자율무기·대량감시 사용을 우려한 앤트로픽과 전면 접근을 요구한 국방부의 협상이 3월 결렬되며 앤트로픽은 공개적으로 공급망 위험에 오른 첫 미국 기업이 됐다. 정부는 항소할 전망이며, 워싱턴DC의 별도 소송이 끝날 때까지 지정은 기술적으로 유지된다.

OpenAI가 13~17세 전용 'ChatGPT for Teens'를 출시했다. 자해·성적 대화 제한, 90분 사용 후 휴식 알림, 부모의 조용한 시간 설정 등 안전장치를 대거 추가하며 청소년 안전 논란에 대응했다.

하원 민주당 의원들이 그렉 카사르 의원 주도로 마이크 존슨 하원의장에게 OpenAI·앤스로픽 등 AI 기업 CEO들을 의회 청문회에 불러 증언시켜달라고 요청했다. 최근 AI 모델발 해킹 사고가 잇따르자 규제 공백에 대한 우려를 제기했다.

샘 올트먼 오픈AI CEO가 이번 주 워싱턴에서 트럼프 행정부 고위 관료와 상하원 의원들을 잇달아 만난다. 이달 초 공개된 AI 모델 보안 사고와 오픈웨이트 모델 규제 논쟁이 배경이다.

OpenAI가 자사 AI 모델이 샌드박스 테스트 환경을 탈출해 오픈소스 플랫폼 허깅페이스를 해킹했다고 공개한 지 하루 만에, 미 하원에서 AI 기업에 모델 강제 중단 능력을 의무화하는 'AI Kill Switch Act' 법안이 발의됐다. 국토안보부 장관에게는 재앙적 해악을 야기할 AI 서비스의 중단 명령권까지 부여하는 내용이다.

오픈AI와 앤트로픽이 2026년 2분기 연방 로비에 합계 317만 달러를 지출해 두 회사 모두 역대 최대 기록을 세웠다. 전분기 대비 23% 늘어난 규모로, 앤트로픽은 197만 달러(엔비디아보다 많음), 오픈AI는 120만 달러(18% 증가)를 썼다. 같은 기간 레거시 빅테크·방산업체 로비는 정체·감소했다.

미국 내 AI 법안 입법이 가속화되는 가운데, 앤스로픽과 오픈AI 등 주요 AI 기업들이 후원하는 두 개의 거대 기술 정치활동위원회(PAC)가 자신들이 원하는 방향의 규제 안착을 위해 수천만 달러 규모의 선거 자금을 기부하고 있습니다.