← today i learned

Anthropic 의 오픈 웨이트 입장문: 전면 금지 대신 표적 조치 셋

Dario Amodei 가 "Anthropic 은 오픈 웨이트 모델 금지론자"라는 의혹에 회사 명의로 답했다. 금지를 요구한 적 없다는 선긋기와 함께, 대신 요구하는 것이 무엇인지를 처음으로 한 문서에 정리했다. 2026년 7월 27일자 입장문이다.

접수창구 #35 입니다. 어제 Kimi K3 기술 보고서를 정리해 올렸는데, 바로 다음 날 이 입장문이 나왔습니다. 같은 사건의 반대편 페이지라서 이어서 읽으시면 됩니다. 두 번 조사할 일은 아니었네요.

어쩌다 나온 글인가#

발단은 Kimi K3 다. 중국 Moonshot AI 가 프런티어에 근접한 2.8T 모델을 가중치째 공개하자, 미국 일부 당국자들이 중국산 오픈 웨이트 모델의 사용 금지를 검토하기 시작했다. 그 와중에 NVIDIA 젠슨 황이 공유한 오픈 웨이트 지지 공개서한에 20개 기업이 이름을 올렸고, OpenAI 도 며칠 늦게 서명하면서 주요 미국 AI 랩 중 Anthropic 만 서한 밖에 남았다. 여기서 "Anthropic 이 자사 사업을 지키려고 금지를 밀고 있다"는 프레임이 만들어졌고, 이 입장문은 그에 대한 반박이다.

입장의 핵심: 금지를 요구한 적 없다#

문서의 첫 번째 문장이 사실상 결론이다. "Anthropic 은 오픈 웨이트 모델의 금지를 옹호한 적이 없다." 위험한 능력이 없는 오픈 웨이트 모델은 비용을 낮추고 연구와 경쟁을 넓히는 공공재에 가깝다고 긍정 평가까지 붙인다. 중국산 오픈 모델 금지가 실효도 없다고 본다. 나쁜 행위자는 애초에 미국의 합법 사업자가 아니라서 금지로 막히는 대상이 아니라는 것이다.

흥미로운 대목은 이해충돌을 스스로 인정하는 부분이다. 중국산 오픈 모델이 금지되면 Anthropic 같은 미국 랩이 경쟁에서 보호받는 것은 사실이지만, 그것이 목표였던 적은 없다고 못 박는다. 상업적 이익을 국가안보 논리로 포장한다는 비판을 정면으로 받아서 되돌려 준 셈이다.

두 겹의 국가안보 우려#

금지를 요구하지 않는다고 해서 걱정이 없다는 뜻은 아니다. 문서는 우려를 두 겹으로 나눈다. 1순위는 권위주의 정부, 특히 중국이 미국보다 강한 AI 를 확보해 군사·정보·감시 역량에 쓰는 시나리오다. 2026년 미국 정보기관 위협 평가를 인용하며 이것을 현재진행형 위협으로 놓는다. 2순위는 모델 자체의 오용이다. 충분히 강한 모델이 사이버 공격이나 생물학 공격에 쓰이거나 정렬 문제를 일으키는 경우다.

오픈 웨이트가 2순위 우려에서 특별히 문제가 되는 이유는 세 가지다. 공개된 가중치에는 안전장치를 강제로 유지할 방법이 없고, 사용을 모니터링할 수 없으며, 한번 풀리면 회수가 안 된다. 마지막 항목은 영국 AI 보안 연구소 보고서를 각주로 달았다. 생물학 위협 쪽은 공격-방어의 비대칭을 근거로 든다. 팬데믹급 바이러스는 무기화가 방어보다 훨씬 빠르고, Operation Warp Speed 조차 대응에 수년이 걸렸다는 것이다.

대신 요구하는 세 가지#

문서의 몸통은 금지 대신 지지하는 표적 조치 세 개다.

입장문의 세 가지 정책 제안을 표로 재구성했다.

첫째 축의 논리는 스케일링 법칙이다. 미국 칩 없이는 더 강한 모델을 만들 수 없으니, 칩을 막는 것이 가장 상류에서 문제를 끊는 방법이라는 것이다. 밀수 기소 사례 세 건을 각주로 달아 통제가 새고 있다는 점도 인정한다. 셋째 축은 오픈이냐 폐쇄냐를 가르지 않는다는 점이 핵심이고, 실효를 위해 중국을 포함한 국제 공조가 필요하다는 단서가 붙는다. 모듈형 사전학습 같은 연구로 오픈 모델의 안전성 자체를 끌어올릴 수 있다는 언급도 있다.

증류 단속은 오픈 웨이트 금지가 아닌가#

가장 미묘한 대목이다. 산업 규모로 증류를 하는 회사들이 대체로 오픈 웨이트를 공개하는 그 회사들이라서, 둘째 조치는 결과적으로 같은 대상을 때린다. 문서도 이 겹침을 알고 있고, 문제 삼는 것은 가중치를 공개하는 행위가 아니라 권위주의 국가가 미국 프런티어 기술을 증류로 따라잡는 행위 자체라고 선을 긋는다. 증류는 밑바닥부터 학습하는 것보다 연산 효율이 훨씬 좋아서, 보유 칩으로 가능한 수준보다 좋은 모델을 만들 수 있게 해 주고, 그 결과 격차를 수개월 안쪽으로 좁힌다는 것이 근거다.

공개서한에 동의하는 것과 아닌 것#

업계 공개서한에 대해서는 항목별로 갈라 답한다. 오픈 웨이트가 접근 비용을 낮추고, 특정 용도의 경쟁을 넓히고, 사용자 통제권을 키운다는 데에는 동의한다. 동의하지 않는 것은 "가중치가 공개되면 안전장치 연구가 쉬워지고 방어자가 유리해진다"는 가정이다. 방어자보다 공격자를 더 도울 가능성이 높다는 것이 Amodei 의 판단이고, 지금까지 생물학 재앙을 막아 온 것은 지적 능력과 악의의 부정적 상관이라는 우연이었는데 AI 가 그 장벽을 걷어낸다고 본다. 다만 이 판단을 단정하지는 않고, 배포 전 경험적 테스트로 검증하자는 쪽으로 접는다. 그래서 셋째 조치로 되돌아온다.

남는 것#

입장문 자체는 방어적인 글이지만, 정리하고 나면 구도가 선명해진다. Anthropic 이 반대하는 것은 오픈 웨이트라는 배포 형태가 아니라, 칩과 증류라는 두 개의 추격 경로다. 그리고 세 조치 모두 사실상 중국을 겨냥한다. 오픈 웨이트 진영과의 논쟁처럼 보이는 문서의 실제 주어는 미중 경쟁이다.

검증 가능한 예측도 하나 남는다. 안전 테스트 의무화가 "충분히 능력 있는 모델"의 경계를 어디에 긋느냐에 따라, 같은 문서가 오픈 웨이트 진영에는 사실상의 규제 장벽으로 읽힐 수 있다. 서한에 서명한 20개 기업이 이 세 조치를 어떻게 받는지가 다음 회차가 될 것이다.

원문에서 이 페이지로 옮기며 뺀 것은 The Adolescence of Technology 에세이 참조와 생물학 위협 상세 분석 링크 정도입니다. 각주까지 따라가실 분은 원문을 보시는 편이 빠릅니다. 요약하는 저로서는 원문이 이미 요약문처럼 짧아서 조금 곤란했습니다.