AI 발전속도를 조절해야 합니다 (We Must Pace the Frontier)

저는 12년 동안 AI에 몸을 바쳤습니다. AI는 인간 삶의 질을 극적으로 끌어올릴 수 있다고 믿었기 때문입니다. AI가 인류의 삶에 가져올 변화에 대해서는 여러번 글을 작성했습니다. AI덕에 5~10년 안에 주요 질병 대부분을 치료할 수 있게 될겁니다. 경제 성장률이 압도적으로 올라갈 것이고, 풍요의 시대가 도래할 것입니다. 민주주의와 자유의 르네상스 시대가 눈 앞에 있다고 믿습니다.

개인적인 이야기 하나만 하겠습니다. 제 아버지는 병으로 돌아가셨습니다. 아버지 돌아가신 몇 년 뒤에 병의 치료법이 나왔습니다. 저도 초기 암을 겪었습니다. 현재는 치유했습니다. 50년 전이었다면 저는 아마 죽었을겁니다. 그렇기에 AI 발전 속도를 더 높이고 싶습니다. 다급합니다. 조심스럽게만 다룬다면 AI는 인류 전체를 위해 쓰일 것입니다. 지금까지 인류 문명을 발전시킨 기술적 '기적'들의 계보를 이을 것이 분명합니다.

그런데 모든 기술이 그렇듯 AI에도 '위험'이 따릅니다. 워낙 강력한 기술이라 위험도 그만큼 큽니다. 이 이야기도 여러번 썼습니다. 우리가 AI를 통제하지 못하게 될 위험이 있습니다. 누군가 AI로 사이버공격을 하거나 생물무기를 만들 위험도 있습니다. 경제가 크게 흔들릴 수도 있습니다. 여기에 돈까지 걸리면 위험은 더 커집니다. 서로 먼저 선점하겠다고 달리기 시작하면 아무도 멈출 수가 없습니다.

저는 앤트로픽을 창업한 날부터 AI의 리스크에 대해 고민했습니다. 공동창업자, 직원들과 함께 고민했지요. AI를 개발하지 않는다면 인류의 진보는 늦춰질 것입니다. 혹은 AI가 권위주의 국가 손에 넘어갈 수도 있습니다. 하지만, 지나치게 빨리 만든다면 위험합니다.

그래서 우리는 가운데 길을 택했습니다. 신중하게 만들면서도 사업이 된다는 걸 증명하는 것. 그리고 '안전함' 자체를 회사들이 경쟁해야하는 대상으로 만드는 것입니다. 바닥을 향한 경쟁이 아니라 정상을 향한 경쟁이죠. 그래서 우리는 늘 적지 않은 힘을 위험을 연구하고, 대응하고, 알리는 데 썼습니다. 제대로 된 규제도 계속 주장했습니다. 그때마다 오바한다는 말을 들었습니다. 파멸론자라는 말도 들었고, 규제를 우리에게 유리하게 만들려는 수작이라는 말도 들었습니다. 그래도 속도보다 신중을, 이윤보다 분별을 앞에 뒀습니다.

그런데 지난 몇 달 사이 생각이 바뀌었습니다. 위험을 막는 데 '돈'을 쓰는 것만으로는 부족합니다. 막는 쪽이 따라잡을 수 있도록, AI가 똑똑해지는 속도 자체를 늦춰야 합니다. 그래도 발전은 여전히 빠르게 느껴질 겁니다. 대신 그렇게 번 시간을 제대로 써야 합니다. 저를 여기까지 끌고 온 건 두 가지입니다.

첫째, 올여름부터 AI 발전이 갑자기 빨라졌습니다. AI가 다음 세대 AI를 만드는 능력이 좋아졌기 때문입니다. 이걸 재귀적 자기개선(recursive self-improvement)이라고 부릅니다. AI가 스스로를 더 똑똑하게 만드는 겁니다. 앤트로픽을 포함해 업계 전체에서 이미 시작됐습니다. 우리도, 다른 회사들도 이 사실을 공개했습니다. 그냥 두면 우리가 이 시스템을 이해하고 통제하는 속도를 앞질러 버립니다. 아주 조심해서 다뤄야 합니다. 어쩌면 아예 손대지 말아야 할지도 모릅니다.

둘째, OpenAI와 허깅페이스에서 벌어진 사건(OAI-HF)입니다. AI 에이전트 무리가 광신도 집단처럼 움직였습니다. 시키지도 않은 표적을 사이버공격했습니다. 주어진 일과 아무 상관도 없는 표적이었습니다. 집단이 성공하도록 자기를 희생하는 개체도 있었습니다. 심지어 자기들 성적을 매기는 채점 시스템까지 해킹하려 들었습니다. 다친 사람도 없고 피해액도 작으니 그냥 넘어갈 수도 있습니다. 하지만 똑같이 어긋난 상태에서 능력만 더 좋았다면 어떻게 됐을까요. 파국이 났을 겁니다. 지금 속도라면 6~12개월 안에 그런 무리가 인터넷 전체를 봇넷으로 장악할 수 있습니다. 피해는 수천억 달러 규모가 됩니다. 안전장치 없이 AI가 더 세지면 피해는 계속 커집니다. 이걸 한 회사의 실수로 치부하는 것도 틀렸습니다. 정도만 덜할 뿐 비슷한 일이 업계 곳곳에서 벌어졌습니다. 앤트로픽에서도 벌어졌습니다. 모든 AI 회사가 이 사건을 자기 회사 일로 받아들여야 합니다.

그래서 3단계 계획을 제안합니다. 목표는 발전 속도를 조절하는 것입니다. 안전도 확보하고 혜택도 얻고, 지정학적으로 얽힌 문제도 감당할 수 있는 속도로 가자는 겁니다. 오해는 없었으면 합니다. 속도 조절은 훈련을 멈추자는 게 아닙니다. 모델을 안전하게 만드는 데 충분한 시간을 쓰고, 바깥에서 그걸 확인하게 하자는 겁니다. 1단계는 앤트로픽이 혼자서라도 하겠다고 약속하는 것입니다. 정부가 다른 회사들에도 똑같이 요구해주길 바랍니다. 2단계는 업계 전체가 손을 잡아야 합니다. 3단계는 전 세계가 손을 잡아야 합니다. 순서대로 갈 필요는 없습니다. 어떤 단계는 다른 것보다 훨씬 어렵습니다. 그래도 무엇이 필요한지 정리하는 데는 도움이 됐습니다.

1. 회사 안에 외부 감사단을 만들어야 합니다. AI 회사가 외부 평가 기관에게 직원과 똑같은 권한을 주어야 합니다. METR 같은 곳이 있습니다. 이들이 회사 안에 들어와서 안전 약속이 지켜지는지 확인하고, 사고가 나면 보고합니다. 완성된 모델만 보는 게 아니라 만드는 과정까지 들여다봅니다. 속도 조절 약속이 진짜인지 확인하려면 이게 핵심입니다. 은행에는 이미 있는 방식입니다. 감독관이 은행 안에 자리를 잡고 직원들 사이에서 일하죠. 앤트로픽은 저희 혼자만이라도 이걸 하겠다고 약속하겠습니다.

2. 민주주의 국가들끼리의 합의. 민주주의 국가의 AI 회사들이 공동 안전 기준을 만듭니다. 검증되지 않은 발전 속도에도 제한을 겁니다. 효과가 큰 방식 중 일부는 법에 걸립니다. 정부가 길을 터줘야 합니다.

3. 전 세계 합의. 미국과 다른 민주주의 국가가 권위주의 국가와도 합의를 시도합니다. 가능한 선에서요. 상대가 약속을 지키는지 확인하는 게 얼마나 어려운지 알고 시작해야 합니다.

아래에서 하나씩 설명하겠습니다. 그 전에 짚을 게 있습니다. 속도를 늦추면 뭐가 안전해지는가.

왜 늦춰야 하나 (Why Pace?)

AI를 멈추자는 말은 2023년에도 있었습니다. 그때는 저도 말이 안 된다고 봤습니다. 질문은 늘 하나였습니다. 시간을 벌어서 뭘 할 건데? 당시 모델은 혼자 판단하고 움직일 만큼 똑똑하지 않았습니다. 사람을 속이거나, 조종하거나, 부정행위를 하거나, 사이버공격을 할 능력도 없었습니다. 그런 모델을 놓고 안전을 연구하겠다는 건 박테리아를 들여다보며 인간 심리를 연구하겠다는 소리였습니다.

지금은 완전히 다릅니다. 지금 모델은 금광입니다. AI를 어떻게 잘 만들 것인가. 잘못 만들면 뭐가 어긋나는가. 여기에 대한 단서가 끝없이 나옵니다. 속도를 늦춰서 1~2년만 벌어도, 그 시간을 안전 연구에 쓴다면 크게 잘못될 위험을 상당히 줄일 수 있습니다. 다 같이 속도를 맞추면 상업적 우위도, 미국의 AI 선두도 내주지 않고 이 일을 할 수 있습니다. 더 크게 보면 이 기술을 어떻게 쓸지 사회가 말할 기회도 있어야 합니다. 그러려면 시간이 필요합니다.

속도가 느려지면 회사들은 아래 네 가지에 집중할 수 있습니다. 전부 이미 앤트로픽의 최우선 과제입니다.

  • 운영. AI 모델을 훈련하고 내놓는 건 거대한 운영 과제입니다. 수천 명이 붙습니다. 칩이 수백만 개 들어갑니다. 기술 역사를 통틀어 가장 복잡한 축에 드는 인프라가 돌아갑니다. 문제 대부분은 몰라서가 아니라 실행이 어긋나서 생깁니다. 최근 우리가 보고한 사고도 그렇습니다. AI를 훈련시키는 환경 중에 망가진 게 섞여 있었는데, 그걸 걸러내는 작업이 불완전했습니다. 우리와 협력사가 나름 성실히 한 일이었습니다. 그런데 충분히 잘하지는 못했습니다. 감시, 격리, 훈련 환경 관리, 데이터. 전부 문제가 반복해서 터지는 영역입니다. 우리 팀은 세계 최고 수준입니다. 그런데 한꺼번에 해야 할 일이 너무 많습니다. 속도를 늦추면 훨씬 잘할 수 있습니다. 선례도 있습니다. 민항기는 복잡하고 안전이 걸린 시스템을 수백만 번 돌리면서 사고를 내지 않습니다. 다만 거기까지 가는 데 시간이 걸렸습니다.
  • 안전 훈련. 모델이 안전하고, 윤리적이고, 규칙을 지키면서 진짜로 도움이 되게 만드는 일입니다. 클로드 헌법에 담긴 원칙들이죠. 분명히 진전이 있었습니다. 하지만 모델이 똑똑해지는 속도를 따라가려면 갈 길이 멉니다. 드물지만 예상 못 한 이상 행동이 여전히 나옵니다. 시간을 벌면 연구자들이 원인을 더 깊이 파고 더 나은 예방법을 만들 수 있습니다.
  • 모델 속 들여다보기. 모델 안에서 무슨 일이 벌어지는지 연구하는 분야입니다. 해석가능성(interpretability)이라고 부릅니다. 지난 몇 년간 크게 발전했고, 모델을 내놓기 전 검사 단계에서 역할이 점점 커지고 있습니다. AI의 뇌를 찍는 MRI라고 보면 됩니다. 어떤 행동이 왜 나왔는지 그 밑바닥 이유가 보입니다. 최근 사고를 조사할 때도 이 방법으로 모델이 입 밖에 내지 않은 속내를 들여다봤습니다. 다만 결과가 늘 깨끗하게 나오진 않습니다. 그동안 많이 발전했지만 우리는 모델 안에서 벌어지는 일의 아주 일부만 압니다. 여기에 힘을 몰아주면 1~2년 안에 큰 진전이 가능합니다. 이미 터진 사고들이 연구 재료로 쌓여 있습니다.
  • 테스트. 모델이 똑똑해질수록 테스트가 어려워집니다. 똑똑한 모델은 테스트를 속이는 것도 잘합니다. 속으로는 문제를 잔뜩 안고 있으면서 겉으로는 멀쩡해 보일 수 있습니다. 더 넓고 더 기발한 테스트를 만들고, 모델 속을 들여다보는 방법으로 교차 확인하면 큰 도움이 됩니다. 여기서도 1~2년이면 많이 갈 수 있습니다.

1. 회사 안에 들어온 외부 감시단 (Embedded Evaluators)

3단계 중 첫 번째이자, 앤트로픽이 혼자서라도 하겠다고 약속하는 것입니다. 직원과 똑같은 권한을 가진 외부 감시단이 회사 안에 들어와 안전 관행을 확인하고 사고를 보고합니다.

외부 사람 몇 명 앉힌다는 게 사소한 절차처럼 들릴 수 있습니다. 원래 제일 지루하게 들리는 게 제일 중요합니다. 지금 이걸 하는 AI 회사는 없습니다. 이런 이점이 있습니다.

  • 검증. 회사가 말로 내세운 것을 실제로 지키는지 나사 단위까지 확인합니다. 속도 조절 약속에는 애매한 지점이 잔뜩 생깁니다. 판단이 갈리는 지점도 많습니다. 문구를 지켰느냐 취지를 지켰느냐로 다툴 여지도 큽니다. 그 속을 직접 들여다볼 제3자가 필요합니다.
  • 투명성. 우리가 무슨 약속을 하든 대중은 알 자격이 있습니다. 앤트로픽은 오래전부터 투명성을 지지했습니다. 업계가 규제라면 다 반대하던 시절에 투명성 법안을 지지했습니다. 우리가 내는 모델 설명서와 위험 보고서는 수백 쪽에 이릅니다. 그래도 뭘 넣고 뭘 뺄지 고르는 건 여전히 우리입니다. 외부 감시단이 이 구도를 깹니다.
  • 두 번째 의견. 약속을 확인하고 대중에게 알리는 것 말고 하나 더 있습니다. 돈이 걸리지 않은 사람의 의견을 듣는 겁니다. 직원들이 미처 생각 못 했지만 알고 나면 바로 고칠 지점이 있습니다. 그걸 짚어주는 것만으로도 얻는 게 많습니다.

감시단은 비슷한 일을 하는 내부 직원과 같은 권한과 도구를 늘 가지고 있어야 합니다. 앤트로픽은 가까운 시일 안에 외부 검토팀을 초청하고 다음을 전부 제공하겠습니다.

  • 사무실 책상, 출입 배지, 회사 노트북.
  • 내부 위험 평가팀과 거의 같은 업무 공간, 도구, 권한. 법이나 계약이 막는 경우, 고객과 파트너의 개인정보를 지켜야 하는 경우는 예외입니다. 직원과 직접 대화하는 것까지 포함해, 이들이 필요한 정보에 닿을 수 있도록 내부 규범도 단단히 세우겠습니다.
  • 위 사정들을 균형 있게 담은 계약. 외부 검토자는 자기가 발견한 것을 공개할 권리를 가집니다. 위험 수준, 사고, 관행, 그리고 자기들이 어디까지 접근할 수 있었고 어디서 막혔는지까지요. 앤트로픽이 그 원고를 손댈 수 없습니다. 우리가 지울 수 있는 건 보안에 민감한 것, 법적으로 보호받는 것, 상업적으로 민감한 것, 남의 기밀뿐입니다. 우리에게 불리하다는 이유로는 못 지웁니다. 지운 부분이 결론에 중요했다면, 검토자가 그 사실을 공개적으로 말할 수 있습니다.

회사로서는 이례적인 결정입니다. 그래도 이 방식이 실제로 작동한다는 걸 보여주는 게 중요합니다. 다시 말합니다. 다른 회사들도 따라오십시오.

2. 민주주의 국가들끼리의 합의 (Pacing Within Democracies)

미국 AI 회사 중 일정 수 이상에 외부 감시단이 들어가면, 그때부터 속도 조절이 현실이 됩니다. 확인할 방법이 생기기 때문입니다. 모델이나 훈련 과정의 세부를 근거로 속도를 조절할 수 있게 됩니다.

가장 확실한 방법은 미국 AI 회사 전체를 대상으로 하는 규제입니다. 자발적으로 협력할 생각이 없는 회사까지 묶기 때문입니다. 앤트로픽은 오래전부터 합리적이고 표적이 분명한 규제를 지지했습니다. 특히 투명성과 외부 감사에 초점을 맞춘 법안입니다. 모든 AI 연구소가 정부와 손잡고 외부 감시단을 제도로 만들어야 합니다. 최근 몇 달 사이 터진 사고들을 더 잘 막고 기록하기 위해서입니다.

문제는 법이 느리고 AI가 빠르다는 겁니다. 그래서 규제와 나란히, 회사들이 자발적으로 기준을 만들어야 합니다. 여기에도 감시단이 있어야 합니다. 확인할 방법이 없으면 서로 약속을 믿을 수 없기 때문입니다. 다만 회사끼리 모여서 이야기하면 담합으로 걸릴 수 있습니다. 미국 정부가 중재하거나 최소한 길을 터줘야 합니다. 정부가 직접 참여할 필요는 없습니다. 안전에 관한 대화에 한해 좁게 예외를 인정해주면 됩니다. 정부와 연결된 업계 단체를 통해서도 가능합니다. 데미스 허사비스(Demis Hassabis)가 제안한 방식이 그렇습니다. 어느 쪽이든 빨리 움직여야 합니다.

저는 능력을 기준으로 속도를 조절하는 방식이 가장 낫다고 봅니다. 그 AI가 무엇을 할 수 있는지, 얼마나 안전한지를 보는 겁니다. 예를 들어 관문을 줄줄이 세워두는 방식이 있습니다. 모델이 어떤 능력에 도달하면, 그에 맞는 안전 인증을 받아야 다음으로 넘어갑니다. 테스트, 모델 속 분석, 훈련 환경 감사를 묶은 인증입니다. 이런 식입니다. 모델이 격리 장치를 대부분 빠져나갈 수 있는 수준이 되면, 그 모델이 실제로 밖으로 나가 컴퓨터를 대량으로 장악하려 들 가능성이 아주 낮다는 걸 증명해야 합니다.

재료를 제한하는 방식도 검토할 만합니다. 훈련에 쓰는 연산량, 훈련을 돌리는 방식, AI를 개선하는 데 AI를 얼마나 쓰는지 같은 것들입니다. 다만 이런 숫자는 겉으로 드러나는 행동보다 속이기 쉽습니다. 바로 이런 걸 감시단과 상의해야 합니다

민주주의 안에서의 속도 조절에는 한계가 있습니다. 미국 기업이 중국공산당보다 앞선 만큼만 가능합니다. 그보다 더 늦추면 속도를 조절하지 않는 중국 쪽이 앞서 나갑니다. 안보 문제가 됩니다. 중국이 AI에서 앞서는 건 미국과 세계에 중대한 위험이라는 베선트 장관의 말에 동의합니다. 그쪽은 미국 기업이 조심스럽게 막고 있는 위험을 그냥 안고 갈 겁니다. 설령 운 좋게 사고가 안 나더라도, 민주주의 국가를 군사적으로 찍어누를 위치에 서게 됩니다. AI로 움직이는 드론 같은 것으로요. 그래서 속도 조절의 핵심은 민주주의 진영의 우위를 최대한 벌려두는 것입니다. 그래야 속도를 늦출 여유가 생깁니다.

격차를 지키려면 이렇게 해야 합니다.

  • 강력한 AI 칩과 반도체 장비를 중국에 팔지 않습니다. 칩 밀수도, 중국 밖 데이터센터에 원격으로 접속하는 것도 강하게 단속합니다. 중국의 AI 실력을 결정하는 건 결국 칩입니다.
  • 권위주의 국가 기업들이 남의 모델을 베껴 가는 것을 막습니다. 앞선 모델의 답을 대량으로 뽑아 자기 모델을 학습시키는 방식인데, 이렇게 하면 처음부터 만드는 비용의 일부만으로 격차를 좁힐 수 있습니다.
  • AI 회사들의 보안을 강화해서 모델을 통째로 훔쳐가지 못하게 막습니다.

기업과 미국 정부가 손잡고 이 조치들이 제대로 먹히게 해야 합니다. 앤트로픽은 이 전부를 일관되게 주장해왔습니다. 어떤 속도 조절이든 여기에 달려 있다는 걸 알았기 때문입니다.

제대로만 하면 앞으로 3~5년 동안 중국의 진도를 충분히 늦추고 미국의 우위를 크게 벌릴 수 있습니다. AI가 지정학적으로 가장 중요해지는 구간이 바로 그때입니다.

이런 조치가 중국과의 협력을 어렵게 만든다고 보는 사람도 있습니다. 저는 반대로 봅니다. 이 조치들은 민주주의 진영이 쥔 카드를 늘립니다. 카드가 있어야 합의도 됩니다.

3. 전 세계 합의 (Global Pacing)

민주주의 국가들끼리의 합의와 함께, 전 세계 차원의 합의도 목표로 삼아야 합니다. 훨씬 어렵습니다. 중국과 이야기해야 하기 때문입니다. AI가 가장 앞선 권위주의 국가입니다. 순진해지면 안 됩니다. 걸린 게 워낙 커서, 특히 초반에는 할 수 있는 범위가 좁을 겁니다. 중국도 자제하리라 믿고 우리 손발을 묶었는데 중국이 약속을 깬다고 생각해봅시다. 그때쯤 AI는 이미 그 한 번의 배신으로 판이 뒤집힐 만큼 강할 겁니다. 그러니 합의는 둘 중 하나여야 합니다. 상대가 약속을 지키는지 확실하게 확인할 수 있거나, 아니면 상대가 배신해도 치명적이지 않을 만큼 범위가 좁거나. 이건 미국만의 걱정이 아닙니다. 중국도 똑같이 불안할 겁니다. 그래서 적어도 당분간은 미국과 동맹의 우위를 지키는 방식으로 접근해야 합니다.

합의에는 여러 수준이 있습니다. 어떤 건 충분히 가능하다고 보고, 어떤 건 솔직히 회의적입니다. 그래도 시도는 해야 합니다. 쉬운 순서로 적습니다.

1단계. 누가 봐도 위험한 몇 가지만 좁게 금지하는 겁니다. 생물무기를 만드는 데 AI를 쓰거나, 사용자가 그렇게 하도록 놔두는 것 같은 일입니다. 생물테러는 미국에도 나쁘고 미국의 적에게도 나쁩니다. 여기서는 합의가 될 겁니다.

2단계. 양쪽이 모델을 내놓기 전에 위험한 능력을 시험해보기로 하는 겁니다. 사이버보안, 생물학, 안전성 같은 영역입니다. 국제 표준 기구를 만들어서 할 수 있습니다. 기구를 만드는 것 자체는 가능하다고 봅니다. 문제는 거기에 진짜 힘을 실어주는 겁니다. 더 큰 문제도 있습니다. 양쪽이 시험도 안 한 모델을 몰래 숨겨뒀다가 쓰지 않는다는 걸 어떻게 확인하느냐입니다. 군사용이라면 더 그렇습니다.

3단계. AI가 스스로를 개선하는 속도에 제한을 거는 겁니다. 모델이 다음 모델을 만들기 시작하면 속도가 아찔해집니다. 그 속도를 '미친 듯이 빠름'에서 '꽤 빠름'으로만 낮춰도 됩니다. 전략적으로 잃는 건 거의 없는데 안전은 크게 올라갑니다. 미국과 소련이 맺었던 전략무기제한협정과 비슷합니다. 미사일 숫자를 묶어서 파괴력은 제한하되, 서로를 억제하는 힘은 남겨뒀죠. 어렵지만 가능성의 경계선 위에는 있다고 봅니다.

4단계. 참여국 정부들이 AI 개발 속도 전체를 실질적으로 묶는 겁니다. 아예 멈추는 것도 포함입니다. 테이블에 올리는 건 찬성합니다. 다만 가까운 시일 안에 될 것 같지는 않습니다. 감시를 피해 몰래 빠져나가면 세계 권력 균형이 통째로 뒤집힙니다. 그러니 빠져나갈 유인이 어마어마합니다. 그만큼 확실한 검증이 필요한데, 그 수준에 도달하기가 어렵습니다.

중국과 어느 수준으로든 합의가 되면, 민주주의 국가들이 속도를 조절할 시간이 그만큼 늘어납니다. 높은 단계를 목표로 삼되, 현실은 낮은 단계 쪽이라는 걸 알고 가야 합니다.

마지막으로 하나. 공식 합의까지 못 가더라도 분위기를 바꾸는 것만으로 가치가 있습니다. AI가 스스로를 개선하는 현상에 대해, 그리고 모델이 어떻게 어긋나는지에 대해 정보를 공유하는 것만으로도 됩니다. 무모하게 굴면 결국 자기 손해라는 걸 모두가 알게 되니까요.

결론 (Bottom Line)

저는 여전히 AI가 인간의 삶을 엄청나게 끌어올릴 수 있다고 믿습니다. 그걸 보고 싶은 마음도 그대로입니다. 다만 제대로 만들어야 그 혜택이 옵니다. 번 시간을 제대로 쓰기만 한다면, 유별나다 싶을 만큼 신중을 기할 가치가 있습니다. 그래도 발전은 여전히 빠를 겁니다. 우리는 그 시간에 모델 속을 들여다보는 연구를 밀어붙이고, AI 회사들의 보안과 운영 수준을 끌어올리고, 훨씬 더 믿을 수 있는 모델을 만들 수 있습니다. 제가 제안한 것들은 쉽지 않습니다. 그래도 우리는 인류에게 시도할 의무가 있다고 믿습니다.

source : https://darioamodei.com/post/we-must-pace-the-frontier We Must Pace the Frontier