AI 특이점과 미래 전망

최근 과학자들과 AI 전문가들의 논의에 따르면, 인공지능(AI) 기술은 전례 없는 속도로 발전하며 '특이점(Singularity)'을 향해 빠르게 나아가고 있습니다. 이 특이점은 인공지능이 인간의 지능을 넘어서서 더 똑똑해지는 지점을 의미하며, 물리학에서 물리 법칙이 작동하지 않는 블랙홀의 중심부에 비유될 만큼 기존의 예측과 상식을 초월하는 변화를 예고합니다.

AI 특이점 도래 시점에 대한 예측은 불과 몇 년 사이 크게 단축되었습니다. 몇 년 전만 해도 10이나 20년 뒤로 예상되었지만, 이제는 많은 유력한 과학자들이 가장 늦게 보더라도 2030년을 언급하며, 불과 5~6년 앞으로 다가왔음을 시사하고 있습니다. 이는 AI의 발전 속도가 제작년, 작년, 올해가 다를 만큼 매우 빠르다는 것을 방증합니다.

AI Singularity

특이점을 넘어선 인공지능은 AGI (Artificial General Intelligence), 즉 일반 인공 지능이라고 불립니다. AGI는 인간 지능의 모든 영역에서 인간의 지능을 넘어설 때, 즉 종합적으로 뛰어날 때를 의미합니다. 하지만 지능에 대한 합의된 정의가 없기 때문에 AI가 인간의 지능을 뛰어넘었는지 판단하기 어렵다는 문제도 제기됩니다. 수학, 물리, 코딩 등 특정 영역에서 AI가 인간보다 뛰어나지만, 연애와 같은 감성적인 부분은 아직 부족하다는 예시가 제시되기도 했습니다.

이러한 모호함을 해소하기 위해 최근 AI 상품(제품) 분야에서는 AGI의 정의를 **"일(노동)에 관한 모든 부분에서 인간을 뛰어넘는 것"**으로 축소하는 경향이 있습니다. 여기서 '일'은 생계를 유지하기 위해 해야 하는 것들을 포함합니다. GPT-4는 IQ 테스트에서 157을 기록하는 등 높은 지적 능력을 보여주었지만, 방대한 데이터 학습으로 인해 이해해서 푸는 것인지, 외워서 푸는 것인지 알기 어렵다는 한계도 있습니다.

디지털 지능은 자연 지능과 두 가지 결정적인 차이점을 가지고 있습니다:

1. 전이 학습 (Transfer Learning): 인간은 아인슈타인 같은 천재가 나타나도 그의 모든 깨달음이 개인에게 국한되고 그가 죽으면 사라집니다. 그러나 AI는 한 AI의 학습 결과가 모든 AI의 기반(바텀 라인)이 되어 전체 수준이 다 함께 점프하듯 향상됩니다. 아인슈타인 같은 AI가 하나 생기면, 모든 AI가 거기서부터 학습을 시작하여 동시에 발전할 수 있습니다.

2. 시간 스케일의 차이: AI는 대규모 병렬 연산이 가능하여 학습 속도가 인간과 비교할 수 없이 빠릅니다. 알파고 제로가 룰만 배우고 사흘 만에 490만 판의 바둑을 둔 것은 인간이 1천 년 넘게 걸려야 할 학습량에 해당합니다. AI의 사흘이 인간의 천년이 넘는 시간이 될 수 있으며, 이러한 시간적 차이는 AI의 발전 속도를 인간이 따라가기 어렵게 만듭니다. 휴머노이드 로봇 '알로'가 만 대 있다면, 한 대가 배운 동작을 그날 저녁 모든 로봇이 공유하여 학습할 수 있습니다.

OpenAI는 AGI의 발전 단계를 5단계로 정의했습니다:

1. 1단계: 챗봇 (ChatGPT)
2. 2단계: 추론 (Reasoning): 문헌 조사, 비교 연구 등 복잡한 정보 분석 및 추론.
3. 3단계: 에이전트 (Agent): 복잡한 다단계 일들을 스스로 처리하는 수행 능력. PC 프로그램을 사용하고 이메일을 보내는 등 비서 역할을 할 수 있으며, 현재 이 단계로 이동 중이며 올해 말까지 큰 발전이 예상됩니다. 아이언맨의 인공지능 '이디스'에 비유됩니다.
4. 4단계: 혁신가 (Innovator): 세상에 없던 새로운 것을 만들어내는 능력.
5. 5단계: 조직 (Organization): 회사 단위의 일을 AI가 혼자 처리하며, 이 단계에서는 일에 관한 한 인간이 필요 없어질 수 있습니다.

현재 AI 기술 수준은 5단계 중 추론과 에이전트 단계 사이쯤으로 평가됩니다. 세 번째 단계인 에이전트 수준에 도달하면 많은 사람이 AGI처럼 느낄 것으로 예상됩니다. 연구 분야에서는 단백질 구조 예측 AI '알파폴드'처럼 실험으로 얻은 데이터와 동등한 수준의 예측을 내놓으며 생물학 연구의 패러다임을 바꾸고 있습니다. 논문 정리, 문서 작업 등 특정 업무 효율을 높이는 데에도 AI가 활발히 사용되고 있습니다. (알파폴드(AlphaFold)는 단백질의 3차원 구조를 예측하는 인공지능 시스템)

하지만 AI는 환각(Hallucination)이라는 문제점을 가지고 있습니다. 이는 학습된 데이터를 바탕으로 가장 그럴듯한 거짓말을 사실처럼 말하는 현상으로, GPT-4 기준으로 약 7%의 환각 비율을 보입니다. '세종대왕 맥북 던짐 사건'처럼 실제 하지 않은 일을 만들어내기도 합니다. 또한, AI는 '모른다'는 말을 못하고 받은 데이터 내에서만 답을 생성하려 하며, 학습 데이터에 쓰레기 정보(가짜 뉴스 등)가 포함되면 부정확한 결과를 내놓는 문제도 있습니다.

이러한 한계를 극복하기 위해 다양한 노력이 진행 중입니다. 알파폴드처럼 예측 결과의 신뢰도를 자체적으로 평가하여 제공하거나, 검색 증강 생성(RAG) 기법을 사용하여 특정 데이터 내에서만 답변을 생성하거나 답변 생성 후 검색으로 검증하는 방식 등이 환각을 줄이는 데 활용됩니다. 또한, 연산 같은 작업은 파이썬 등 도구를 사용하게 하여 정확도를 높입니다. 한편, AI의 환각은 창의적인 대답을 하기 위한 동전의 뒷면으로 볼 수도 있습니다. 모든 상상력을 제거하면 단순 검색 엔진이 될 것이라는 시각도 있습니다.

창의성 역시 명확한 정의는 없지만, 알파고가 인간 기보에 없던 새로운 수를 두는 것처럼 AI는 방대한 탐색과 추론을 통해 인간에게 창의적으로 보이는 결과를 도출할 수 있습니다. 새로운 것이 만들어지는 방식 자체를 학습시킨다면 AI가 없던 것을 새롭게 만들어낼 수 있다는 긍정적인 시각도 있습니다.

일부 AI 과학자들은 현재의 간접 학습 방식으로는 AGI에 도달하기 어렵다고 주장하며, AI가 직접 세상을 경험하고 상식을 갖추기 위해서는 '몸'을 가져야 한다고 강조합니다. 이러한 주장에 따라 **휴머노이드와 같은 몸을 가진 AI(Embodied AI)**에 대한 투자가 어마어마하게 늘고 있으며, 구글, 테슬라, 현대자동차 등 빅테크 기업들이 이 분야에 뛰어들고 있습니다. 엔비디아의 젠슨 황이 개발한 코스모스 플랫폼은 현실 세계를 디지털로 옮겨놓은 가상 현실에서 휴머노이드를 빠르게 학습시키는 환경을 제공하여 실제 학습의 시간과 비용을 절감하게 합니다. 

AI 발전의 동기는 크게 두 가지로 요약됩니다:

1. 과학자의 호기심: 기술의 끝에 무엇이 있는지 알고자 하는 순수한 탐구 욕구.
2. 경제적 이익: 인터넷이나 스마트폰 시대처럼 초기 선점을 통해 막대한 돈을 벌 수 있다는 기대감. 이것이 조 단위의 대규모 투자가 이뤄지는 배경입니다.

글로벌 AI 경쟁은 구글, OpenAI 등 서구권 기업들이 주도하고 있지만, 프라이버시 정책으로 다소 뒤쳐졌던 애플이나 GPT-4 수준에 근접한 기술력을 갖춘 중국 기업들도 무섭게 추격하고 있습니다. Meta가 Llama 모델을 오픈소스로 공개하며  AI 개발 생태계의 변화를 가져온 것처럼, 기술 혁신은 예상치 못한 곳에서 나타날 수 있습니다.

하지만 한국의 AI 생태계는 인터넷 및 스마트폰 시대와 비교했을 때 상대적으로 조용하며 활력이 부족하다는 우려가 제기됩니다. 투자 소식이나 스타트업 활동이 두드러지지 않아, AI 시대에 한국 IT 생태계의 활력을 되찾는 것이 큰 문제로 인식되고 있습니다.

AI가 가져올 미래 사회 변화에 대해서는 기대와 우려가 교차합니다. AI는 개인의 능력을 몇 배로 증폭시키는 역할을 하지만, 이 증폭 효과가 모두에게 공평하게 적용되지 않아 사회적, 경제적 격차가 심화될 수 있다는 점이 큰 우려로 다가옵니다. 평범한 개발자와 슈퍼 개발자 사이의 효율 향상 체감이 크게 다른 것처럼, 이는 극복하기 어려운 차이를 만들고 귀족 계급이 생길 수 있다는 비관적인 전망으로 이어지기도 합니다. 특정 기술 없이는 삶의 질이 현저히 떨어지는 '근원적 독점' 사회가 될 수 있으며, 거대 기업에 대한 기술 종속과 경제적 억압이 심화될 수 있다는 시각도 있습니다.

AI가 인간 노동을 대체할 수 있다는 점 또한 중요한 문제입니다. AI가 농사 등 인간의 일을 대신하여 노동에서 해방시켜 줄 수도 있지만, 동시에 AI가 만든 부가 가치를 어떻게 사회 전체가 나눠 가질 것인지에 대한 논의가 없다면 노동에서 해방된 소들이 스테이크가 된 것처럼 인간에게 디스토피아가 될 수도 있다는 비유가 제시되었습니다.

따라서 AI의 급격한 발전 속도에 맞춰 인간 사회의 제도와 도덕적 논의가 함께 따라가야 한다는 점이 강조됩니다. 제도가 뒷받침되지 않는다면 산업 혁명 당시처럼 생활 수준이 떨어지고 회복 불가능한 격차가 발생할 수 있습니다.

AI 시대에 필요한 역량은 AI에게 **'훌륭한 질문을 할 수 있는 능력'**입니다. AI는 질문에 답하는 기계이므로, 좋은 질문을 하기 위해서는 주변에 풍부한 지식이 있어야 합니다. 이는 AI 시대가 교양의 중요성이 커지는 시대임을 의미하며, 아는 만큼 더 좋은 질문을 던질 수 있습니다.