핵심 요약
- 앤트로픽, 개발 가속이 안전 대책 앞지를 수도
- 속도 차이에 늦게 오는 지표까지
- AI 결과물이 다음 작업의 입력이 될 때
- AI 작성 비중과 검토 속도부터
앤트로픽은 증권신고서 수정본(S-1/A)에서 AI로 더 뛰어난 AI를 개발하는 속도가 안전성·정렬·보안 조치를 개발하고 검증하는 속도를 앞지를 수 있다고 밝혔습니다. 테크크런치는 11월 2일(현지시간) 앤트로픽이 기업공개(IPO)를 위해 미국 증권거래위원회(SEC)에 제출한 이 수정본에 해당 위험을 구체적으로 추가했다고 보도했습니다.
10월 26일 최초 신고서에서도 재귀적 자기개선(RSI)의 가능성과 위험을 언급했지만, 수정본은 자체 평가를 근거로 AI 연구개발 가속 기준에 곧 도달할 수 있다는 전망과 그에 따른 안전 관리의 어려움을 명시했습니다.
앤트로픽은 신고서에 무엇을 적었나
- “AI를 활용해 더 뛰어난 AI를 개발하는 과정에서 모델의 성능이 안전성, 정렬, 보안 조치를 개발하고 검증하는 속도보다 빠르게 향상될 수 있다”
- “과거에도 개발 속도가 크게 빨라진 사실을 변화가 일어난 뒤에야 파악한 적이 있으며, 앞으로도 같은 일이 발생할 수 있다”
- “내부 추정치와 향후 모델에 대한 전망에 따르면 AI로 인한 극적인 개발 가속 기준에 곧 도달할 수 있다”
앤트로픽은 AI의 기여도를 측정하는 지표가 실제 변화보다 늦게 나타나거나, 차세대 모델이 개발 속도에 미치는 영향을 정확하게 예측하지 못할 수 있다고 설명했습니다. 다만 현재까지 해당 기준을 넘어선 것으로 판정한 모델은 없으며, 관련 데이터를 계속 평가하고 있다고 덧붙였습니다.
여기서 말하는 기준은 AI가 연구원의 생산성을 높이는 수준이 아닙니다. 앤트로픽의 ‘책임 있는 확장 정책(RSP)’은 AI의 전반적인 성능 발전 속도가 기존 예상치와 과거 최고 수준보다 두 배 이상 빨라지고, 그 변화가 AI를 활용한 연구개발 자동화에 상당 부분 기인할 때 이 기준에 도달한 것으로 판단합니다.
AI는 이미 개발에 얼마나 참여하고 있나
앤트로픽은 소프트웨어 작성, 모델 학습 코드 최적화, 연구 실험을 클로드에 맡기고 있으며, 2026년 9월 내부 코드베이스에 기여한 코드의 90% 이상을 클로드가 작성했다고 신고서에 명시했습니다. 이 자동화는 생산성을 높이는 동시에 새로운 위험도 만듭니다. 현재 모델의 오류나 편향이 후속 모델의 개발 과정에 반영되고 이후 세대에서도 반복되면, 문제를 발견하거나 고치기 힘들어질 수 있습니다.
앤트로픽은 경쟁사가 AI를 활용한 연구개발 자동화에서 앞서 나가면 개발 속도 차이가 누적돼 기술 경쟁력에도 영향을 줄 수 있다고 설명했습니다. 그러면서 인간의 감독과 통제권을 유지하기 위한 안전 정책 개정을 검토하고 있으며, “기술적으로 가능해지더라도 인간의 실질적인 감독과 이해 없이 클로드가 차세대 최첨단 모델을 완전히 자율적으로 개발하도록 안전하게 활용할 수 있을 것으로 예상하지 않는다”고 밝혔습니다. 후속 모델 개발의 중요한 의사결정에는 인간의 통제를 유지하겠다는 취지입니다.
앤트로픽은 AI 연구개발 자동화를 반도체 설계로도 넓히고 있습니다. 디 인포메이션은 11월 3일 복수의 관계자를 인용해, 앤트로픽의 15명 규모 자체 반도체 설계팀이 클로드를 활용해 AI 칩의 엔지니어링과 설계 작업을 수행하고 있다고 보도했습니다. 앤트로픽은 2026년 8월 자체 AI 반도체 설계팀을 구성하겠다고 발표했습니다.
한국 기업 AX 시사점
이 신고서에서 기업이 가져갈 대목은 RSI 자체보다 두 가지 인정입니다. 결과물을 만드는 속도가 그것을 검증하는 속도를 앞지를 수 있다는 것, 그리고 가속을 재는 지표가 실제 변화보다 늦게 나타날 수 있다는 것입니다. 두 가지 모두 최첨단 모델을 개발하는 회사만의 문제로 읽을 필요는 없습니다.
모델을 직접 개발하지 않고 AI를 업무에 도입한 조직이라면, 같은 구조를 ‘AI가 만든 코드나 문서가 다음 작업의 입력이 되는’ 형태로 바꿔 읽을 수 있습니다. 앞 단계의 오류가 검토 없이 다음 단계로 넘어가면 나중에 찾아 고치기 힘들어질 수 있으므로, 어느 결정에 사람의 승인을 남길지는 도입 범위를 넓히기 전에 정해 두는 편이 순서입니다. 내부 코드의 90% 이상을 클로드가 작성한 앤트로픽도 중요한 의사결정에는 인간의 통제를 유지하겠다는 취지를 밝혔습니다.
AI 코딩 도구나 문서 자동화를 이미 쓰고 있다면, 이번 주에는 AI가 작성한 결과물의 비중을 실제로 세고 있는지, 그 비중이 늘어나는 속도를 검토 인력의 처리 속도가 따라가고 있는지부터 확인해 보십시오. 가속을 뒤늦게 알아채지 않으려면 측정이 변화보다 먼저 있어야 합니다.