/사진=로이터/뉴스1
2025.08.08 16:37
10min
데미스 허사비스, 무스타파 술레이만, 셰인 레그는 2010년 설립한 AI 연구소 딥마인드의 초기 사업 계획서 표지에 단 한 문장을 썼다. '세계 최초의 인공일반지능artificial general intelligence을 구축한다.'
오늘날에도 유효한 그들의 관점은 기존의 AI 기술이 너무 '좁아서' 인간이 방대한 데이터 세트를 사용해 힘들게 훈련시킨 후에야 뛰어난 성능을 발휘할 수 있다는 것이었다. 이로 인해 AI는 스프레드시트 분석이나 체스 게임 같은 작업에는 뛰어났다. 그러나 AGI라 불리는 인공 '일반' 지능은 그 이상으로 나아갈 잠재력을 가지고 있었다.
15년이 지난 지금, 테크 업계 CEO들은 AGI가 차세대 혁신이라는 믿음 아래 단결하여 그 잠재력에 대해 열변을 토하고 있다.
그중에는 오픈AI의 최고경영자(CEO) 샘 올트먼도 있는데 그는 AGI가 "풍요를 증진하고, 세계 경제를 활성화하며, 가능성의 한계를 바꾸는 새로운 과학적 지식 발견을 도와 인류를 격상시키는 데 기여할 수 있다"고 썼다.
[새로운 PADO 기사가 올라올 때마다 카톡으로 알려드립니다 (무료)]
자신의 회사인 딥마인드가 구글과 합병하여 세계에서 가장 영향력 있는 AI 연구소 중 하나가 된 허사비스는 AGI가 질병 치료와 같은 세계적인 문제를 해결하고, 사람들이 더 건강하고 오래 살도록 돕거나 새로운 에너지원을 찾는 데 잠재력이 있다고 말했다.
AGI를 표현하는 데 '강력한 AI'라는 표현을 선호하는 앤트로픽의 다리오 아모데이 CEO는 AGI가 아마도 "노벨상 수상자보다 해당 분야에서 더 똑똑할 것"이라고 말했으며 이를 "데이터센터 안에 자리 잡은 천재들의 나라"라고 묘사했다.
AI 기술의 '대부' 중 한 명으로 여겨지는 메타의 수석 AI 과학자 얀 르쿤 역시 인간의 지능이 실제로는 그렇게 일반적이지 않다는 이유로 AGI라는 용어를 좋아하지 않는다. "우리는 매우 전문화되어 있고... 확실히 컴퓨터는 특정 과제를 우리보다 훨씬 더 잘 해결할 수 있죠." 그가 최근에 말했다.
대신 그는 인간의 지능을 능가하는 기계를 설명하기 위해 인공초지능artificial superintelligence(ASI)이라는 용어를 사용하는 것을 선호한다.
결국 어떤 용어로 정착되든, 이전에는 공상과학에 불과했던 기술이 점점 더 진지한 미래 시나리오로 논의되고 있다.
하지만 실리콘밸리가 AGI나 ASI가 정확히 무엇인지에 대해 합의하지 못하는 것처럼 이 기술이 도래할 경우 어떤 모습일지에 대해서도 의견 일치가 이루어지지 않고 있다.
딥마인드는 이 용어를 "대부분의 인지 과제에서 숙련된 성인만큼 유능한 AI"를 표현하기 위해 만들었다. 그러나 이 정의는 더 많은 질문을 낳는다. '숙련된' 성인을 어떻게 정의하는가? 언제 '대부분의' 인지 과제에 도달했는지 어떻게 알 수 있는가? 애초에 그 과제들은 무엇인가?
AGI의 모호성은 그것이 많은 사람들에게 여러 가지 의미가 되도록 만들었다. "어떤 사람들에게는 과학적 목표이고, 어떤 사람들에게는 종교이며, 또 다른 사람들에게는 마케팅 용어죠." 전 구글 소프트웨어 엔지니어인 프랑수아 숄레가 말한다.
따라서 AGI가 언제 도래할지에 대한 예측은 매우 다양하다. 일론 머스크는 인간보다 더 똑똑한 AI 기술이 올해 말에 등장할 것이라고 예측했다. 앤트로픽의 아모데이는 2026년에 등장할 것이라고 장담했다. 올트먼은 도널드 트럼프 대통령 임기 중에 AGI가 도래할 것이라고 약속했다.
이러한 모호함에도 불구하고 정부와 기업들은 실리콘밸리 용어로 "AGI 건드려보기feeling the AGI'를 멈추지 않았다.
오픈AI와 앤트로픽은 이 기술을 구축하기 위한 과정에서 투자자들로부터 수십억 달러를 유치했으며, 이들의 야망은 중국을 앞서기 위해 AI 규제를 늦추려는 백악관의 계획에 힘입고 있다. 오픈AI는 또한 미국과 중동의 데이터센터에 투자하는 것과 관련하여 트럼프의 지지를 받고 있다.
AGI는 2025년 1분기 기업들 실적 발표에서 전년 동기 대비 53% 더 많이 언급되기도 했다.
그러나 이 기술을 정의하는 것은 AGI 구축의 파급 효과를 이해하고 그것이 우선순위가 되어야 하는지 여부를 판단하는 데 매우 중요하다.
정책 입안자와 투자자들에게 AGI의 도래는 많은 것을 좌우한다. 유럽연합(EU)은 부분적으로 '프런티어' AI 모델의 개발을 저해할 것을 우려하여 획기적인 AI 법안인 'AI 법'을 일시 중단할 가능성을 배제하지 않았다. 그리고 영국을 비롯한 국가들과 영국 AI안전연구소AI Security Institute는 AGI가 무엇인지 파악하여 그에 따라 정책 및 안전 연구를 계획하려고 노력하고 있다.
가장 느슨한 정의로 보더라도 AGI의 가능성은 컴퓨터 처리 속도를 엄청나게 가속화하겠지만 이는 막대한 재정적, 환경적 비용을 수반한다. 그리고 만약 엔지니어들이 이 기술을 구축하는 데 성공한다면 어떻게 그것이 공평하고 공정하게 사용되도록 보장할 수 있을까?
AGI가 무엇인지에 대한 답은 누구에게 묻느냐에 따라 다르다.
오픈AI에게 AGI의 정의란 이 기술이 경제적 이익을 가져오는 작업을 수행하는 데 사용될 수 있는지 여부와 관련이 있다. "저희는 경제적으로 가치 있는 많은 작업에서 인간을 능가할 수 있는 고도의 자율 시스템을 개발하려고 노력하고 있어요." 회사의 최고 연구 책임자인 마크 첸이 말한다.
첸에 따르면 AGI의 핵심 특징은 다양한 영역에 걸쳐 작업을 수행할 수 있는 능력인 '일반성'이다. "상당히 자율적이어야 하고 작업을 완료하기 위해 많은 도움이 필요하지 않아야 해요." 그는 덧붙인다.
첸은 AGI가 "머릿속에 있는 것들을 매우 빠르게 현실로 가져올" 힘을 가질 것이라며, 사람들이 이미지나 텍스트뿐만 아니라 전체 앱을 만드는 데 도움을 줄 잠재력이 있다고 설명한다.
그러나 비평가들은 이 정의가 진정으로 지능적인 시스템을 설명하는 데는 미치지 못한다고 주장한다. "그건 그냥 자동화일 뿐이고 우리가 수십 년 동안 해왔던 거예요." 전 구글 엔지니어인 숄레가 말한다.
딥마인드는 다른 접근 방식을 취한다. "저는 일반적인 인간의 수행 능력이 AI가 AGI로 간주되기 위한 최소 요구 사항을 정의하는 가장 자연스럽고 실용적이며 유용한 방법이라고 봅니다." AGI라는 용어가 업계 비주류 관념으로 여겨졌던 2000년대 초 이를 대중화시킨 딥마인드의 레그는 말한다.
"많은 AGI 정의의 큰 문제점은 AI 시스템이 AGI 자격을 갖추기 위해 무엇을 할 수 있어야 하는지를 충분히 명확하게 제시하지 않는다는 점이에요."
딥마인드의 정의, 즉 "대부분의 인지 과제에서 숙련된 성인만큼 유능한 것"은 이 점을 "상당히 명백하게" 만든다고 레그는 덧붙인다. "어떤 과제가 사람들이 일반적으로 할 수 있는 인지적인 일인지 자문해 보세요. 만약 그렇다면, AI는 그걸 할 수 있어야 AGI가 될 수 있어요."
예를 들어 바둑을 프로 수준으로 둘 수 있는 것은 대부분의 사람이 할 수 있는 일이 아니므로 AI가 AGI로 간주되기 위한 요건은 아니라고 레그는 말한다. 그러나 대부분의 사람들은 아마추어 수준으로 바둑을 둘 수 있으므로 AGI라고 주장하는 모든 시스템은 이것을 배우는 능력도 갖추어야 한다.
딥마인드는 AI 능력의 다섯 가지 수준을 설정하여 AGI를 정의하려고 시도했다. 딥마인드의 분류에 따르면, 오픈AI의 챗GPT, 구글의 제미나이, 메타의 라마와 같은 AI 모델은 1단계인 '신흥 AGI'에 불과하다.
딥마인드의 프런티어 안전 및 거버넌스 담당 이사인 앨런 대포는 현재까지 어떤 일반 모델도 숙련된 성인의 최소 상위 50%를 능가하는 2단계에 도달하지 못했다고 말한다.
3단계는 모델이 숙련된 성인의 최소 상위 10%만큼 우수해야 하며, 4단계는 숙련된 성인의 상위 1%가 요구된다. 초인간 AI, 즉 인공초지능은 모든 인간을 능가한다.
데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 7월 9일(현지시간) 영국 런던 임피리얼 칼리지에서 열린 인공지능(AI) 정상회담 토론회에서 경청하고 있다. /사진=로이터/뉴스1
AGI가 무엇인지에 대해 동의하는 사람이 거의 없으니 AGI로 가는 최상의 경로에 대해서도 여러 가지 이론이 있는 것은 놀라운 일이 아니다.
오픈AI와 앤트로픽은 각자 자신들이 구축하고 있는 AI 언어 모델이 최상의 경로라고 주장한다. 이들 회사가 개척한 현재의 패러다임은 모델에 더 많은 데이터와 컴퓨팅 파워를 투입할수록 더 '지능적'이 된다는 것이다.
오픈AI는 6월 초 새로운 o3 '추론' 모델을 공개했는데 이 모델은 문제를 단계별로 분해하여 코딩, 수학, 이미지 인식 전반에 걸쳐 더 복잡한 작업을 해결한다고 회사측은 밝혔다.
가장 열광적인 AGI 지지자들 중 일부는 이 기술을 즉시 AGI라고 선언했다. "보면 알아요." 경제학자이자 유명 AI 전문가인 타일러 코웬이 모델 출시 후 이렇게 말했다.
첸에게 있어, 오픈AI의 추론 모델을 넘어 AGI로 나아가는 다음 단계는 독립적이고 안정적으로 행동을 취할 수 있는 AI 에이전트를 만드는 것이다. 그 후에는 AI 도구가 혁신을 창출하고, 마지막으로는 함께 일하는 인간들로 구성된 거대한 구조를 모방하는 조직으로서 기능할 수 있다고 그는 말한다.
또 다른 핵심 특징은 자기 개선이다. "이것은 단지 지식의 최전선에서 수행하는 시스템이 아니라, 스스로를 개선하는 데 매우 능숙한 시스템이에요. 자신의 코드를 작성할 수 있고 다음 버전을 생산하여 스스로를 더욱 발전시킬 수 있습니다." 그는 덧붙인다.
그러나 비평가들은 언어 모델이 무수한 약점을 가지고 있다고 지적했다. 이 모델들은 여전히 매우 부정확하고, 사실을 지어내며, 실제로 '생각'하는 것이 아니라 문장에서 다음으로 올 가능성이 높은 단어를 예측할 뿐이다.
애플의 연구원들이 발표한 논문은 열띤 논쟁을 불러일으켰는데 새로운 세대의 추론 모델은 그저 '생각'하는 듯한 환상을 만들어낼 뿐이며 복잡한 과제에 직면했을 때 "완전한 정확도 붕괴에 직면한다"고 한다.
일부 기술자들은 또한 언어만으로는 지능의 모든 차원을 포착할 수 없다고 말하며 더 많은 차원을 통합하기 위해 더 넓은 모델을 추구하고 있다.
메타의 르쿤은 언어가 아닌 영상과 로보틱(동작) 데이터로부터 학습하여 우리 세계의 물리학을 요약하려는 소위 '월드 모델'(언어 모델이 아니라)을 구축하고 있다. 그는 우수한 기계 지능을 만들기 위해서는 객관 세계(월드)에 대한 보다 총체적인 이해가 필요하다고 주장한다.
그러나 앞으로 해결해야 할 과제들이 있다. 우선 AI 부문에서 데이터가 고갈되고 있다. AI 훈련을 위해 무료 인터넷의 데이터 대부분을 이미 흡수했기 때문이다. 이제 그들은 출판사들과 데이터 라이선스 계약을 모색하고 있다. 예를 들어 오픈AI와 파이낸셜타임스(FT)는 콘텐츠 공유 계약을 맺고 있다.
대포는 AI 모델이 훈련 데이터를 생성하는 합성 데이터가 유망한 해결책이 될 수 있다고 생각한다. 다른 돌파구들, 이를테면 AI 모델이 더 나은 기억력과 물리적 세계에 대한 이해를—아마도 로봇으로부터 학습함으로써—갖게 되는 게 더 지능적인 시스템에 도달하는 데 역할을 할 수도 있다.
합의된 로드맵이 없자 일부 테크 업계 리더들은 AGI 도래의 기준을 낮추기 시작했다. "제 생각에 우리는 세상 대부분의 사람들이 생각하는 것보다 더 빨리 AGI에 도달할 것이고, 그 중요성은 훨씬 덜할 거예요." 올트먼이 작년 12월 말했다.
그는 자신의 다음 목표가 오픈AI를 다음에 올 것, 즉 그가 '초지능'으로 정의하는 것에 대비시키는 것이라고 말한다. "현재의 우리 제품들을 사랑하지만 우린 영광의 미래를 위해 여기에 있는 겁니다." 그가 썼다.
AGI 비판론자들은 AGI 서사의 변화가 그걸 추진하는 사람들의 진짜 동기를 보여준다고 말한다. AGI에 대한 이야기는 "대부분 그 아이디어로 자본을 조달하는 사람들로 채워진 거품"이라고 AI 스타트업 코히어의 공동 창업자인 닉 프로스트가 말한다.
"만약 누군가 AGI가 임박했다고 말하고, 몇 년 동안 그렇게 말해왔으며, 그렇게 말하는 데 재정적인 동기가 있는 것처럼 보인다면... 지금까지 왜 그들이 틀렸는지 의문을 가져야 한다고 생각해요."
AGI란 용어는 투자자들을 유혹하는 듯 보인다. 지난 3월, 오픈AI는 3000억 달러(420조 원)의 기업 가치로 400억 달러(56조 원)라는 엄청난 자금을 조달했다.
"AGI로 가는 길을 제시할 수 있는 능력은, 그렇지 않았더라면 달성할 수 없거나 이용할 수 없었을 자금줄을 열어주었죠." 앤트로픽과 미스트랄 등에 투자한 벤처캐피털 회사 라이트스피드 벤처스의 파트너 앙투안 모이루가 말한다.
이는 AGI를 통해 투자자들이 수억 달러의 수익을 올릴 것이라는 희망뿐만 아니라, 국내총생산(GDP)이 생성되는 방식을 변혁하여 수조 달러(수천조 원)의 성과를 창출할 수 있으리라는 전망에 투자하기 때문이다.
그래서 "그 AGI 궤도에 기꺼이 위험을 감수하려는 사람들이 있다"고 모이루는 말한다.
역사는 사물에 생명을 불어넣어 초인적인 것으로 판매하려 했던 사람들의 예로 넘쳐난다.
가장 유명한 예는 아마도 1770년 오스트리아의 마리아 테레지아 여제를 위해 만들어진 마법의 체스 기계, '기계 투르크인Mechanical Turk'의 이야기일 것이다. 이 기계는 나폴레옹 보나파르트와 벤저민 프랭클린과 같은 상대와 대결하여 승리했다. 그러나 실제로는 기계 안에 사람이 숨어서 조종하기에 충분한 공간이 있었다.
오늘날 AI는 비슷한 환상을 제공한다. 우정, 교제, 심지어 치료를 위해 AI 챗봇에 의존하는 사람들이 점점 늘고 있다. 그러나 이러한 성능은 데이터 세트 라벨링부터 챗봇 답변 순위 매기기에 이르기까지, AI 챗봇이 실제보다 더 지능적이거나 지각 있는 것처럼 보이게 만드는 데 투입되는 막대한 양의 인간 노동력 때문에 설득력이 있을 뿐이다.
일부 사람들은 애초에 AGI가 우리가 추구해야 할 대상인지에 대해 의문을 제기한다.
오픈소스 AI 스타트업 허깅페이스Hugging Face의 수석 윤리 과학자이자 AGI가 북극성으로 여겨져서는 안 된다고 주장하는 논문을 공동 집필한 마거릿 미첼은 우리가 아직 생물학이나 심리학, 심지어 교육에서도 '지능'에 대해 완전히 파악하지 못했다고 한다.
"개념으로서의 지능은 정의가 불분명하고 문제가 많아요." 그가 덧붙인다. "그것을 목표로 하는 것은 다소 무리가 있어요. 왜냐하면 긍정성과 선함의 분위기를 풍기는 기능을 하기 때문이죠. 사실 그것은 구체적인 것이 아니지만 우리가 어떤 기술을 발전시키고 싶든 간에 앞으로 나아간다는 서사를 제공함으로써, 뭔가 좋은 것이라는 꾸밈을 제공하죠."
전문가들은 특정 종류의 기술을 개발하려는 이러한 움직임이 소수의 사람들에게 권력과 부를 집중시킬 뿐이며, 동의나 보상 없이 지적 재산이 대규모 AI 데이터 세트에 포함되는 예술가나 창작자 같은 이들을 이용하는 것이라고 말한다.
AGI에 대한 탐구는 또한 막대한 환경적 영향을 동반한다. 점점 더 강력해지는 AI 모델은 대규모 데이터 센터에서 훈련하고 운영하는 데 수많은 물과 에너지를 필요로 하기 때문이다. AI 기술은 또한 석유 및 가스 같은 오염이 심한 부문의 생산을 촉진하는 데 사용되고 있다.
AGI는 또한 윤리적 문제와 AI로 발생할 수 있는 사회적 해악에 대한 질문을 제기한다. 기술을 구축하고 그 경제적 이익을 누리려는 경쟁 속에서, 비평가들은 정부가 알고리즘 편향 및 차별과 같은 AI 기술로부터의 기본적인 보호를 제공할 규제를 소홀히 하고 있다고 말한다.
또한 요슈아 벤지오와 제프리 힌튼과 같이 현대 AI의 창시자로 여겨지는 연구자들을 포함한 영향력 있는 소수는 더 극단적인 결과에 대해 경고한다. 그들은 AGI가 통제되지 않은 채로 두면 인류 멸종으로 이어질 수 있다고 주장한다.
'어떤 대가를 치르더라도 AGI를 달성해야 한다'는 서사의 해악 중 하나는 그것이 나쁜 과학을 과도하게 부추길 수 있다는 것이라고 미첼은 말한다. 화학이나 물리학과 같은 다른 제도권 과학들은 엄격한 테스트를 허용하는 과학적 방법을 가지고 있다.
그러나 컴퓨터 과학은 훨씬 새로운 분야이며, 공학 중심적이어서 "연구로 실제로 뒷받침되지 않는 광범위하고 놀라운 주장"을 하는 경향이 있다고 그는 덧붙인다.
코히어의 프로스트는 정책 입안자와 기업 임원에게는 강력한 기술과 관련된 위험에 대해 생각할 책임이 있다고 말한다. "학자라면 자유롭게 거창하게 말해도 돼요. 하지만 정책 입안자나 기업 임원이라면 현실적인 것을 생각해야 합니다."
그러나 현실 세계에서 AI 기술을 측정하고 평가하는 의미 있는 방법을 만들려는 노력이 이 분야의 "'일반지능'에 대한 조잡한 주장"에 대한 집착 때문에 방해받고 있다는 게 학계는 물론이고 심지어 구글 딥마인드, 앤트로픽, 마이크로소프트, 허깅페이스와 같은 대형 AI 연구소에서 몇몇 연구자들이 하는 주장이다.
그런 평가법이 생기기 전까지 AGI는 단지 "분위기와 약팔이"일 뿐이라고 미첼은 말한다.
실리콘밸리가 '인공일반지능', 즉 AGI라는 하나의 목표를 향해 무섭게 질주하고 있습니다. 오픈AI의 샘 올트먼부터 구글 딥마인드의 데미스 허사비스까지, 세계 기술 업계의 거물들은 AGI가 인류의 질병을 정복하고 경제를 비약적으로 발전시킬 것이라며 장밋빛 미래를 약속하고 있죠. 오늘 GPT-5를 발표하면서 올트먼은 "AGI로 가는 중요한 이정표"라고 말했습니다. 그러나 여기에 소개하는 파이낸셜타임스(FT)의 6월 19일자 기사가 보여주듯 AGI란 아직까지 합의된 정의가 없는 모호한 개념입니다. 명확한 정의가 없다는 것은 그만큼 구체성이 결여된 목표이기도 하다는 것이죠.
AI 기술을 선두에서 견인하고 있는 것은 물론 미국이고, 미국 경제의 앞날 또한 AI 기술의 성과가 좌우할 가능성이 큽니다. 현재 소비와 고용이 정체 중인 미국 경제는 사실상 빅테크의 AI 투자가 끌고 가고 있습니다. 경제학자 누리엘 루비니는 AI를 비롯한 테크 부문의 성장이 트럼프의 관세로 인한 악영향을 크게 상회해 미국 경제가 순항할 것이라고 전망합니다. 그러나 AI의 발전이 실질적인 경제 성장(생산성 개선)에 미치는 영향이 크지 않은 것으로 드러날 경우 세계 경제가 큰 침체를 겪을 수도 있습니다.
AI와 경제 발전의 관계에 대해서는 다각도로 조망이 필요합니다. 다음주에는 AI가 폭발적인 경제 성장을 이끌어내는 시나리오를 검토하는 이코노미스트 '롱리드' 기사를 소개할 예정입니다.