젠슨 황·저커버그, AI 규제기구 제동…앤트로픽 “AI가 AI 개발 26% 주도”

기사 소리로 듣기

다시듣기

글씨 크기 조절
글자크기 설정

닫기

글자크기 설정 시 다른 기사의 본문도 동일하게 적용 됩니다.
- 가
- 가
- 가
- 가
- 가
공유하기
공유

닫기
https://m.seoul.co.kr/news/economy/industry/2026/09/18/20260918500060
URL 복사
댓글
0

민나리 기자

수정 2026-09-18 09:58

입력 2026-09-18 09:58

구글에서 서울신문 먼저 보기

찰스 3세도 AI 안전장치 촉구
아마존 “진보·안전 양자택일 아냐”
외부 검증·통제 방식이 새 쟁점

젠슨 황 엔비디아 최고경영자(CEO)가 17일(현지시간) 스코틀랜드 컴녹의 덤프리스 하우스에서 찰스 3세 국왕이 주최한 인공지능(AI) 분야 회동에서 발언하고 있다. 컴녹 AP 연합뉴스

인공지능(AI) 개발 속도를 둘러싼 실리콘밸리의 논쟁이 ‘멈출 것이냐, 계속 달릴 것이냐’는 찬반을 넘어 실제 규제 방식과 통제의 주체를 둘러싼 문제로 옮겨가고 있다. 젠슨 황 엔비디아 최고경영자(CEO)와 마크 저커버그 메타 CEO 등이 민간 주도의 AI 규제기구 설립에 제동을 건 가운데 앤트로픽은 자사 AI가 이미 AI 연구개발 업무의 26%를 주도하고 있다고 공개했다. 누가 안전 기준을 만들고, AI가 차세대 AI 개발에 관여하는 속도를 어디까지 허용할지가 새 쟁점으로 떠오르는 모습이다.

17일(현지시간) 월스트리트저널(WSJ)에 따르면 황 CEO와 저커버그 CEO, 일론 머스크 스페이스X CEO는 최근 도널드 트럼프 미국 대통령에게 민간 주도 AI 규제기구 설립에 대한 우려를 전달했다. 이들은 별도 기구가 만들어질 경우 오픈AI와 앤트로픽, 구글 등 선두 AI 기업에 영향력이 쏠릴 수 있다는 점을 문제 삼은 것으로 전해졌다.

해당 구상은 데미스 허사비스 구글 딥마인드 CEO가 미국 금융산업규제국(FINRA)을 본떠 제안한 것으로 알려졌다. 업계가 참여하는 별도 조직을 두고 AI 안전 기준과 평가 체계를 마련하자는 취지다. 황 CEO와 저커버그 CEO 등은 AI 안전의 필요성 자체보다는 특정 기업이 규칙을 만드는 구조와 외부 감독 방식에 우려를 나타낸 것으로 전해졌다.

규제기구에는 선을 그었지만 안전장치의 필요성에는 공감대가 이어지고 있다. 같은 날 찰스 3세 영국 국왕은 스코틀랜드 덤프리스 하우스에서 엔비디아와 구글 딥마인드, 오픈AI, 앤트로픽 관계자들을 만나 AI가 통제에서 벗어날 위험에 대비한 협력을 촉구했다. 이 자리에 참석한 황 CEO도 ‘책임 있는 낙관론’을 강조하며 충분히 검증되지 않은 AI 시스템을 성급하게 내놓아선 안 된다는 취지로 말했다.

그동안 이 논쟁에서 비교적 말을 아껴온 아마존도 입장을 내놨다. 아마존은 로이터에 “진보와 안전 중 하나를 선택해야 한다고 보지 않는다”며 모델을 출시하기 전 엄격한 시험과 강력한 안전장치가 필요하다고 밝혔다. 다만 업계 전체가 일제히 개발 속도를 늦추는 방안에는 동참하지 않았다. 개발 자체를 늦추기보다 각 기업이 검증과 안전조치를 강화해야 한다는 쪽에 가깝다.

규제 방식을 둘러싼 공방과 별개로 AI 개발 현장의 자동화 속도는 빠르게 높아지고 있다. 앤트로픽은 이날 공개한 자료에서 지난달 기준 클로드가 자사 AI 연구개발 업무의 26%를 사람의 감독 아래 사실상 주도하고 있다고 밝혔다. 사람이 긴밀하게 지시하며 함께 수행하는 단계까지 포함하면 클로드가 관여한 업무 비중은 90%를 넘었다. 지난 2월만 해도 AI가 주도하는 업무 비중은 1% 미만이었다.

앤트로픽 내부에서는 약 3만개의 AI 에이전트가 동시에 연구·엔지니어링 업무를 수행하고 있다. 회사는 이들 에이전트의 행동을 실시간 또는 사후 감시하고 있으며, 지난달 10억건이 넘는 판단 가운데 약 0.002%가 실시간 감시 시스템에 의해 차단됐다고 밝혔다. 앤트로픽은 AI가 차세대 AI 개발 과정에 얼마나 깊게 관여하는지 보여주는 지표를 다른 기업들도 공개하고, 제3자의 검증을 받는 방안을 제안했다.

AI가 실제 연구 속도를 끌어올린 사례도 함께 공개됐다. 앤트로픽에 따르면 클로드는 생체분자 예측·설계에 쓰이는 오픈소스 모델 30개 이상을 약 4주 동안 최적화해 평균 처리 속도를 약 4배 높였다. 단순히 연구자를 보조하는 데 그치지 않고 연구도구 자체를 개선하는 단계까지 AI의 역할이 넓어지고 있다는 설명이다.

외신들은 최근의 논쟁이 ‘개발 속도를 늦출 것이냐’보다 안전장치를 AI 산업의 지속 가능한 성장 조건으로 받아들일 것이냐의 문제로 옮겨가고 있다고 짚었다. 파이낸셜타임스(FT)는 충분한 검증 없이 속도 경쟁을 밀어붙일 경우 대형 사고와 여론 악화가 더 강한 규제로 이어져 오히려 산업 전체의 개발 속도를 늦출 수 있다고 분석했다. 안전에 드는 비용이 혁신을 가로막는 부담이라기보다 장기적으로 혁신을 이어가기 위한 조건이 될 수 있다는 것이다.

민나리 기자

세줄 요약