인공지능 발전 상황인지 보고서

[AI 발전은 물리적인 컴퓨팅 성능, 알고리즘의 개선, 그리고 언호블링(unhobbling)이라는 세 가지 요소가 누적적으로 쌓여 나타나는데, 이러한 요인들을 고려하면 2019년부터 2027년까지 인공지능 발전과정이 하나의 직선처럼 보이게 된다. 이 말은 지금까지의 인공지능 발전 속도가 앞으로도 유지될 것이라는 의미이다. 그렇다면 2027년에는 무슨 일이 일어날까? 

현재의 인공지능 발전 추세로 본다면 2027년에는 일반 인공지능(AGI)에 도달하게 된다는 것이다. AGI는 스스로 자율적으로 의사 결정을 할 수 있는 능력을 가지고 있는데, 이 말은 곧 AI가 스스로를 발전시킬 수 있게 된다는 말이다. 즉, 지금까지의 GPT 모델들은 인간이 만들었지만, 일반 인공지능(AGI) 이후 AI 모델들은 AI가 스스로 설계하게 될 것이라는 것이다. 

따라서 AGI가 만들어지는 때를 바로 특이점(Singularity)이라고 부른다. 특이점은 AI 발전이 기하급수적으로 가속화되는 지점을 의미하는데, 특이점을 지나면 우리는 엄청난 지능을 가진 초지능(Super Intellingence)을 보게 될 것이다. 초지능이 등장하면 과학 기술의 발전이 획기적으로 가속화될 것인데, 여기서의 위험성은 파괴적인 군사기술의 발전에 있다.] 

레오폴드(Leopold Aschenbrenner)라는 오픈 AI의 전 직원이 공개한 상황인지(Situational Awareness)라는 제목의 보고서는 앞으로 수년간 벌어질 AI 발전이 핵 개발보다 더 무서운 결과를 초래할 거라는 이야기를 하고 있습니다. 그러나 그렇게 되지는 않을 것이며, 초지능은 영성혁명을 이룬 도통한 인간들을 보조하며 새로운 차원의 신성 문명을 여는 보조자 역활을 하리라 생각됩니다. (기술혁명과 영성혁명 보기 클릭)

월텍남의 유튜브 자료

2017년 트랜스포머 엔진이 개발되고 2019년 GPT-2이 나오게 됩니다. 당시 GPT-2은 '미취학 아동 수준'이었다고 해요. 그런데도 상당히 신기했습니다. 예를 들어, 한 개의 문장을 주고 그 문장 안에서 대명사 it이 의미하는 바를 정확히 파악했고요. 오른쪽을 보시면 미국 남북 전쟁에 대한 내용을 요약해줍니다. 이건 당시의 혁명과도 같은 발전이었습니다. 컴퓨터가 사람의 말을 이해하기 시작한 것이죠.

2019년 11월, 구글 딥마인드에서 만든 알파고가 이세돌을 꺾어버렸습니다. 이 놀라움은 학계를 넘어 대중들에게까지 전달되었습니다. 딥러닝이 유망하다고 하더니 인공지능이 나온다던데, 솔직히 말해서 저는 2019년 말 이세돌이 알파고에게 처참히 패배할 때도 이세돌이 이긴 그 한 판에 열광했습니다. "야, 이거 봐라 아직 인간은 건재하다"라고 생각했죠. 딥러닝, 빅데이터 대단하긴 한데 바둑도 잘 두고 그래서? 저는 그 말을 그대로 믿고 있었습니다. 그러나 이 생각이 저의 큰 패착이었습니다. 간간히 소식이 들렸지만, 그저 조금 신기한 것에 불과했어요.

그리고 3 년 후, 여러분도 아시는 일이 발생합니다. 2022년 11월, ChatGPT가 등장했습니다. 아무 소리 소문도 없이요. 저는 어떤 언론을 보고 알게 된 것이 아니라 한 미국 커뮤니티 사이트에서 "야, 이거 진짜 신기하다. 인공지능이랑 사람이랑 구분이 안 돼"라는 말을 듣고 이 ChatGPT와 대화를 하게 된 겁니다. 말 그대로 과장 없이 대화였어요. 사람이 아닌 기계랑 대화를 나누는 것이 너무나 충격이었습니다. 저는 형용할 수 없는 공포와 인류의 삶을 바꿀 수 있다는 흥분이 교차하기 시작했습니다. 아니나 다를까, 세계가 놀라 뒤집어졌습니다.

단 두 달 만에 ChatGPT가 1억 사용자를 달성하는데 걸린 시간입니다. GPT-3.5를 기반으로 한 ChatGPT는 정말 엄청났습니다. 이야기를 만들어 줄 뿐만 아니라 간단한 코드도 짜 주었고, 전문 지식을 가지고 대화를 나눌 수 있었습니다. 저는 아직도 당시의 충격을 잊지 못합니다. 그런데 당시 GPT-3.5의 성능은 초등학생과 고등학생 사이, 즉 중학생 정도의 지능에 불과했던 겁니다.

2023년 초, ChatGPT가 나온 지 얼마 되지 않아 OpenAI는 또 다른 폭탄을 터트립니다. 바로 GPT-4입니다. 이전 ChatGPT보다 훨씬 똑똑해진 것은 물론이고, 풍선에서 줄을 끊으면 어떻게 되겠냐는 질문에 "풍선들이 공중으로 날아갈 것이다"라는 현실 세계에 대한 이해를 추론으로 보여주기 시작했습니다. 그리고 몇 달이 안 돼서 소라라는 엄청난 AI가 등장합니다. 텍스트 한 줄로 초고화질 영화와 영상을 만들 수 있는 AI가 온 겁니다. 여기까지 오는데 1년 남짓 걸렸습니다.

그리고 몇 달 후, 2024년 5월에 GPT-4o가 공개됩니다. 카메라를 통해 세상을 확인하고 인간과 아주 자연스러운 의사 소통을 나눌 수 있게 되었습니다. 심지어는 현재 감정 상황에 맞는 노래까지 불러줍니다. 이렇게 인공지능은 거의 사람처럼 감정을 표현할 수 있게 되었습니다. 두 개의 인공지능이 서로 뮤지컬을 하는 것처럼 대화를 주고받는 모습은 정말 소름이 돋습니다. 그런데 GPT-4o가 출시되고 한 달 정도 있다가 나온 클로드 Claude 3.5 버전 소네트라고 하는데, 대부분의 벤치마크에서 GPT-4o를 뛰어넘는 성능을 보여줬습니다. 아마 여러분이 이 영상을 보실 때쯤이면 새로운 모델이 벤치마크 기록을 갈아치우고 있을 겁니다.

지금 보시는 표는 20년간 AI 발전 속도를 나타낸 것인데, 이미 많은 영역에서 사람을 뛰어넘었습니다. 그리고 2023년 최근 근처로 올수록 그 기울기가 더 가팔라지고 있습니다. 이 논문의 저자가 주장하기로는, 2019년부터 2023년 미취학 아동이었던 GPT-2가 아주 똑똑한 수준의 GPT-4에 다다를 만큼의 발전 속도를 2028년까지 그대로 유지할 거라고 합니다. 

그리고 이를 위한 근거로 세 가지를 제시합니다. 첫 번째는 컴퓨팅 파워, 두 번째는 알고리즘의 효율성, 세 번째는 언호블링입니다. 먼저 컴퓨팅 성능을 보면, X축은 시간, Y축은 컴퓨팅 성능입니다. 지금까지 나온 모델들의 회귀 분석선을 도출해 보면, 대략 매년 3배 정도씩 향상이 있었습니다. 2년이면 3배 곱하기 3배니까 대략 10배죠. 이는 엔비디아 그래픽 카드의 성능 발전에서도 볼 수 있습니다. 엄밀히 따지면 약간의 차이는 있지만, 8년 동안 1,000배 정도 AI 컴퓨팅 성능이 향상됐다고 합니다. 그래서 다시 본론으로 돌아오자면, 물리적인 컴퓨팅 파워는 점점 꺾일 것입니다. 

하지만 이 떨어지는 컴퓨팅 파워를 보완해 주는 것이 바로 알고리즘입니다. 이 추론 비용이 얼마나 감소했는지 나타내는 그래프를 보면, 2년 전 모델에서는 1000 정도의 코스트를 발생시켰다면, 현재 모델인 제미나이 1.5 플래시를 추론할 때는 단 1 정도의 비용만 발생한다는 겁니다. 그러니까 가성비가 엄청나게 좋아지고 있는 것이죠.

마지막 세 번째 혁신은 바로 언호블링입니다. 언호블링을 자세히 설명하면 몇 시간이 걸리기 때문에, 한 마디로 요약하겠습니다. 언호블링(Unhobbling)은 바로 ChatGPT를 에이전트로 만드는 일입니다. AI 에이전트란 ChatGPT를 넘어서 AI 스스로가 문제를 해결하는 단계에 이르는 경지를 의미합니다. 예를 들어, 최근 출시한 코딩 에이전트인 데빈(Devin)은 사용자의 요청에 따라 스스로 학습 사이트에 들어가서 학습하고, 학습한 결과물을 바탕으로 스스로 코딩을 합니다. 코딩하다가 에러가 생기면 그 원인을 찾아서 해결합니다. 그러니까 ChatGPT를 넘어선 에이전트를 비서처럼 생각하시면 될 것 같습니다.

결국 AI 발전은 물리적인 컴퓨팅 성능, 알고리즘의 개선, 그리고 언호블링(unhobbling, 자기 스스로 학습하는 능력)이라는 세 가지 요소가 누적적으로 쌓이면 2019년부터 2027년까지 하나의 직선처럼 보이게 된다는 것입니다. 즉, 지금까지의 발전 속도가 앞으로도 유지될 것이라는 말입니다. 그렇다면 2027년에는 무슨 일이 일어날까요? 여기서부터 저자가 하고 싶은 진짜 이야기가 시작됩니다.

이 리서치 제목인 '상황 인식(Situational Awareness)'이란 현재 AI 발전이 처한 상황을 정확하게 인식하라는 말입니다. 2024년인 지금 AI는 거의 대학생 수준의 지능을 지닌 인공지능을 개발했습니다. 그리고 이 추세가 계속된다면 2027년에는 일반 인공지능(AGI)에 도달하게 됩니다. 일반 인공지능이란 모든 영역에서 인간과 유사한 수준의 지능을 보이는 인공지능을 의미합니다. 그런데 AGI는 엄청난 능력이 있어요. 즉, 자율적으로 의사 결정을 할 수 있는 능력을 가지고 있습니다. 자율적으로 의사 결정을 할 수 있다는 것은 AI가 스스로를 발전시킬 수 있게 된다는 말입니다. 이 상황을 정확히 인식해야 할 필요가 있다고 저자는 주장합니다.

AI가 자율성을 갖고 스스로를 학습시켜서 발전시키고, 장기적 기억 능력을 갖추게 되는 것은 지금까지의 인공지능 발전과는 완전히 다른 차원의 일입니다. 쉽게 말해서, 내년쯤 GPT-5가 출시될 것입니다. 그리고 2027년 말에는 GPT-7(AGI) 정도가 출시될 것입니다. 지금까지의 GPT 모델들은 인간이 만들었지만, GPT-8은 그 이전 모델인 GPT-7이 설계할 겁니다. 이후 모델들은 AI가 스스로 설계하게 될 것입니다. 만약 GPT-7이 GPT-8을 설계하는데 1년이 걸렸다면, GPT-8은 다음 모델인 GPT-9을 6개월이면 될 것입니다. 그리고 GPT-9은 GPT-10을 1개월 만에 만들어 내겠죠. 

"AGI를 6개월 앞서 만든다는 것은 6000년의 기술전쟁에서 앞서는 것이다."

그래서 우리는 AGI가 만들어지는 그 때를 바로 특이점(Technological singularity)이라고 부르기로 합니다. 어느 한 점의 특이점을 지나게 된다면 우리는 직선적 발전에서 기하급수적인 발전을 하게 될 거니까요. 특이점은 AI 발전이 기하급수적으로 가속화되는 지점을 의미합니다. 특이점을 지나면 우리는 엄청난 지능을 가진 슈퍼 인텔리전스, 즉 초지능(Super Intellingence)을 보게 될 것입니다.

초지능이 등장하면 인간이 지난 10년 동안 이룬 알고리즘 발전을 단 1년 만에 해낼 것입니다. AI 연구만 자동화하면 됩니다. IQ 140짜리 일반 인공지능을 가진 연구원들이 데이터 센터 속에 들어가 있는 것과 같습니다. 수백억 대의 GPU는 수백억 명의 AI 연구원으로 바뀔 것이고, 이 AI 연구원들은 모든 분야에서 인간보다 뛰어날 것입니다. 자동화된 AI 연구원들은 스스로를 발전시키기 시작할 것입니다. 이로 인해 알고리즘의 초가속 상태가 만들어지면, IQ가 천만이 넘는 초지능의 개발까지 생각보다 오래 걸리지 않을 것입니다. 그러면 먼저 초지능은 과학 기술의 발전을 획기적으로 가속할 것입니다.

인류 역사상 보여주었던 그 모든 발전들이 단, 몇년 안에 해결될 겁니다. 암흑 물질의 정체를 파헤치고, 초전도체를 발견하며, 역노화의 비밀을 풀고, 화성에 갈 것입니다. 모든 과학 기술 분야에서 압도적 성장을 기록할 것입니다. 그리고 로보틱스 역시 엄청나게 발전하게 될 것입니다. 초지능은 추상적인 지능 상태로만 머물지 않고, 실존하는 육체를 갖고 싶어할 것입니다. 로보틱스를 통해 스스로 육체를 개발할 경향이 강할 것입니다. 그리고 많은 영역에서 인간 노동력을 자동화하는 것이 가능해진다면, 경제 성장은 드라마틱하게 증가할 것입니다. 연평균 30% 이상의 경제 성장률을 보여줄 것으로 예상됩니다. 

그리고 네 번째로, 압도적인 군사적 우위를 가져갑니다. 기술 발전 속도가 가장 빠른 건 사실 군사 분야죠. 드론봇과 로봇 군대는 정말 시작에 불과할 거예요. 듣도 보도 못한 생물 무기와 핵미사일보다 더 파괴적인 능력을 가진 미사일 체계가 나올 겁니다. 마치 삼체인, 외계인들이 지구를 공격하는 것처럼요. 결국 최후에는 정부마저 전복당할 겁니다. 초지능을 통제하는 사람은 초지능을 갖지 못한 세력으로부터 권력을 가질 가능성이 상당히 높겠죠.

물론 저자는 주장합니다. 2030년까지 안 일어날 수도 있다고요. 그만큼 예측 불가능한 일이라고요. 또한 다양한 한계점들이 있다는 것도 역시 인정했습니다. 하지만 현재 상황에 대해서 꼭 인식할 필요가 있다고 주장하고 싶은 거예요. 1914년 웰스는 원자폭탄의 탄생을 예언했습니다. 그리고 1933년 실라드는 처음으로 연쇄 반응이 일어날 수 있음을 아이디어로 제시했어요. 하지만 그건 아이디어뿐이었는데, 1938년 핵분열 실험이 진행되자 실라드는 겁에 질려서 비밀 유지를 주장했어요. 이때 사람들은 눈치 채 버리고 만 거예요.

이거 상당히 위험한 일이다. 그리고 결과는 여러분이 아시다시피, 버튼 하나로 인류를 절멸시킬 힘을 갖게 되었습니다. 그러니까 인류를 멸망시킬 수 있는 그 폭탄을 만드는데 고작 5년밖에 안 걸렸다는 말이에요. 로스 알라모스의 오펜하이머와 당대 최고의 과학자들이 자신들이 뭘 만드는지조차 모르고 만들었을까요? 아니요, 그럴 리가 없습니다. 이미 그들은 너무 잘 알고 있었을 거예요. 이 사실은 오펜하이머의 극단적 멘트에서 드러납니다. "나는 이제 죽음이요, 세상의 파괴자가 되었도다." 어쩌면 인류는 이미 파멸로 향하는 그 길을 열어 버렸을지도 모릅니다.

실제로 이 논문의 저자인 레오폴드와 오픈AI 수석 과학자였던 '일리아 수츠케버'는 오픈AI의 윤리를 연구하던 초정렬 팀에서 해고당했거든요. 미래의 AI 윤리보다 현재의 권력과 돈이 더 중요한 게 바로 인간이니까요. 현재 전 세계 빅테크 기업들은 AI 개발에 미쳐 있는 상황이에요. 마치 냉전 시대 군비 경쟁을 보는 것 같아요. 그도 그럴 게, 초지능을 먼저 만드는 사람은 새로운 세계의 신으로 군림할지도 모르니까요. 그런데 그 초지능이란 것이 과연 누구를 위한 것인지 잘 모르겠습니다. 누가 가장 먼저 특이점에 도달할까, 그리고 인류에게 불을 가져다준 프로메테우스로 취급될까요? 아니죠, 어쩌면 되돌릴 수 없는 파멸을 가져다 줄 오펜하이머가 될지도 모르겠죠. 여러분의 생각은 어떠신가요? 일반 인공지능이 진짜 SF 소설 속에만 존재할까요? 

[출처: 월텍남의 유튜브]