10년 전, AI 혁명이 본격적인 속도를 내기 시작했을 당시 인문·예술계 학생들은 취업 경쟁력을 갖추려면 "코딩을 배워야 한다"는 조언을 들었다. 그러나 그것은 잘못된 조언이었을지도 모른다. 오늘날에는 오히려 프로그래머들이 AI에 자신의 일자리를 빼앗길까 봐 불안해하고 있다.
그렇다면 그들은 철학하는 법을 배울 필요가 있을 것 같다. 올해 초 뉴욕 연방준비은행이 발표한 통계에 따르면, 미국에서 철학을 전공한 졸업생들은 컴퓨터공학을 전공한 동년배보다 취업해 있을 가능성이 더 높은 것으로 나타났다. 통계가 집계된 가장 최근 연도인 2024년 기준으로 컴퓨터공학 전공자의 실업률은 7%였던 반면, 철학 전공자의 실업률은 5.1%에 그쳤다.
[새로운 PADO 기사가 올라올 때마다 카톡으로 알려드립니다 (무료)]
이들 가운데 상당수는 AI 기업들에 의해 앞다퉈 채용되고 있다. 루치아노 플로리디 예일대학교 철학과 교수는 학생들이 졸업하기도 전에 입사 제의를 받고 있다고 말한다. 학자들의 인력 이동도 이어지고 있다. 플로리디 교수는 철학과 교수진에서 인력이 빠져나가는 규모를 "출혈"에 비유한다.
철학이 AI 연구자들에게 제공할 수 있는 교훈 가운데 일부는 아주 오래된 것이다. 고대 그리스 철학자인 플라톤이 묘사한 소크라테스식 문답법은 짐짓 무지(無知)한 척하며 계속 질문함으로써 개념의 의미를 명확히 하고, 모순을 찾아내며, 그 함의를 드러내는 방식이다. 현재의 많은 AI 시스템은 아첨하는 경향을 보인다. 뮌헨 루트비히 막시밀리안 대학교의 철학·AI 전문가인 외르크 놀러는 소크라테스식 문답법으로 학습한 모델은 사람들의 비위를 맞추는 데 덜 집착하고, 진실을 추구하려는 의지가 더 강하다고 말한다.
또 하나는 '소크라테스적 무지'라는 개념이다. 플라톤의 《소크라테스의 변론》에서 소크라테스는 자신의 지혜란 대부분 자신이 얼마나 모르는지를 자각하는 데 있다고 말한다. 이러한 겸손을 모델에 심어주면 과도한 자신감을 줄이는 데 도움이 될 수 있다. 놀러 교수는 이를 AI의 흔한 결함인 "AI의 미성숙"이라고 부른다. 이아손 가브리엘은 구글 딥마인드(DeepMind)의 선임 철학자로, 업계 전반에서 환각(hallucination) 현상이 감소한 것은 이러한 노력 덕분이라고 평가한다. 더 나아가 그는 철학적 훈련이 AI의 장시간 추론 과정인 "사고의 연쇄"를 개선하는 데 "강력한 메커니즘"이라고 말한다.
[PADO '광화문클럽'을 함께 운영할 '펠로우'들을 모집합니다]
철학적 훈련은 보다 구체적인 방식으로 모델의 관점에도 영향을 미칠 수 있다. 델라웨어대학교의 기술 철학 교수인 토머스 파워스는 AI 법률 보조 시스템에 존 로크의 저작을 학습시키면 정치적 자유의 토대로서 강력한 재산권을 선호하게 될 것이라고 말한다. 물론 그러한 원칙이 마음에 들지 않는다면 AI 모델 개발사들은 다른 선택지도 마련해 두고 있다. 미국의 컴퓨팅 기업 IBM의 그래나이트(Granite) 모델들에는 기업 고객이 자사의 기업 철학에 맞게 출력 결과를 조정할 수 있는 설정 기능이 탑재돼 있다. IBM의 '책임감 있는 AI' 부문 총괄인 프란체스카 로시는 이 기능을 통해 사용자가 개인의 자율성과 사회적 조화처럼 서로 충돌하는 철학적 가치 사이에서 어디에 균형점을 둘지 선택할 수 있다고 설명했다.
철학은 AI의 안전성 확보에도 도움이 될 수 있다. 연구자들은 AI 모델에서 감독받기를 회피하려는 시도는 물론, 심지어 사용자를 협박하는 행위에 이르기까지 온갖 불길한 행동이 나타나는 사례를 기록해왔다. 모델 개발사들이 이러한 일탈 행동을 억제하기 위해 사용하는 방법 가운데 하나가 'AI 입헌주의'다. 이는 법적 또는 도덕적 권위를 지닌 철학적 저작들에서 추려낸 규칙과 원칙을 토대로 모델의 기본 구조를 설계하는 방식이다.
앤스로픽은 이 접근법을 적극 지지하는 기업 가운데 하나다. 클로드 모델의 '헌법'에는 임마누엘 칸트의 저작은 물론, 애플의 서비스 이용약관, 세계인권선언 등 매우 다양한 자료가 반영돼 있다. 앤스로픽의 수석 철학자인 아만다 애스컬이 주도한 최신 개정판은 1월 21일 공개됐다. 앤스로픽의 일부 직원들은 이 78쪽 분량의 헌법을 클로드의 "영혼 문서(soul doc)"라고 부른다.
그러나 가장 큰 문제는 애초에 그러한 헌법에 어떤 규칙을 담아야 하느냐다. 철학자들은 크게 두 가지 윤리 체계에 주목해왔다. 하나는 의무론(deontology)이다. 칸트를 비롯한 여러 철학자가 지지한 이 접근법은 더 중요한 것을 위해서라 하더라도 거짓말이나 강압, 사람을 목적이 아닌 수단으로 대하는 행위 등을 엄격히 금지하는 규칙을 제시한다. 앤스로픽의 헌법에도 이러한 의무론적 규범이 다수 포함돼 있다. 델라웨어대학교의 파워스 교수는 이러한 규범이 AI의 행동을 더욱 일관되게 만들어주며, 이는 가정이나 공공장소에서 로봇을 운용하는 데 장점이 된다고 말한다.
의무론적 세계관을 채택한 모델은 다른 장점도 있다. 그 가운데 하나는 더 높은 정직성으로, 이는 클로드의 대표적인 특징으로 널리 지적된다. 닉 보스트롬 옥스퍼드대학교 철학 교수는 보다 진실한 모델일수록 사용자를 오도할 가능성이 낮다고 말한다. 익플렉션 AI는 정서적 지원을 제공하도록 설계된 챗봇 파이(Pi)에 의무론적 제약을 적용하고 있다. 이 회사의 대표인 션 화이트는 파이가 자신이나 타인에게 위해를 가할 위험이 있는 사용자를 잘 식별한다고 설명한다. 예일대학교의 플로리디 교수는 의무론적 헌법이 법규 준수에도 도움이 된다고 덧붙였다.
AI 철학자들이 주목하는 또 다른 윤리적 접근법은 결과론이다. 이는 비용과 편익을 비교해 무엇을 해야 하는지를 결정하는 방식이다. 결과론에 보다 가까운 모델로는 챗GPT와 제미나이가 꼽힌다. 구글의 AI 모델은 "예상되는 리스크보다 전체적인 편익이 훨씬 크도록" 설계돼 있는데, 이는 전형적인 결과론적 목표다.
결과론적 알고리즘은 자율주행차 소프트웨어에서도 핵심적인 역할을 한다. 사고를 피할 수 없는 상황이라면 가장 피해가 적은 방식으로 충돌할 방법을 선택해야 하기 때문이다. 자율주행차를 개발하는 웨이모(Waymo)의 수석 엔지니어 크리스 거즈는 운전 소프트웨어가 점점 더 결과론적 방향으로 설계되는 추세라고 말한다. 결과론은 AI 무기체계에서도 핵심 원칙이다. 미군의 AI 연구기관인 합동AI센터의 전 책임자였던 잭 섀너핸은 달성할 군사적 목표와 발생 가능한 민간인 희생을 함께 저울질해야 한다고 설명한다.
난해한 문제는 끝없이 이어진다. 이는 철학자들이 가장 좋아하는 종류의 문제다. 의무론적 규칙을 예외적으로 무시해야 하는 경우가 있는가. 결과를 명확히 알 수 없을 때는 어떻게 결정을 내려야 하는가. AI 시스템은 동물의 복지나 환경의 상태까지 고려해야 하는가. AI 기반 안전 시스템을 장착한 화물차 등 상용차용 기술을 개발하는 노토(Nauto)의 대표이자 철학자인 슈테판 헤크은 젊은 보행자를 노인보다 우선적으로 보호하는 것이 도덕적으로 용인될 수 있는지 묻는다. 그는 윤리적으로 첨예한 소송이 잇따를 것으로 전망한다. 결과론적 알고리즘은 결국 더 큰 피해를 막기 위한 것이라면 일정한 피해를 의도적으로 허용하는 것을 명시적으로 인정하기 때문이다.
비평가들은 '도덕능력 상실'을 우려한다. 컴퓨터가 점점 더 윤리적 판단을 대신하게 된다면, 사람들은 스스로 도덕적 판단을 내리려는 의지를 잃게 되는 것이 아니냐는 것이다. 로만 얌폴스키 루이빌대학교의 AI 이론가는 도덕성이 "역사적으로는 불안정하고, 문화마다 다르며, 전략적으로 조작될 수 있고, 종종 사후적으로만 이해될 수 있는 것"이라고 주장한다. 일자리를 잃은 코딩 프로그래머들은 다음에 주목하라. AI 철학자들에게는 당분간 일감이 부족할 것 같지 않다.
보통 철학이라고 하면 '돈벌이' 또는 '고액 연봉'과 무관한 지고한 진리와 가치를 추구하는 학문으로 여겨져왔지만 이제 이런 관념도 바뀌게 될 지 모르겠습니다. 이코노미스트의 6월 27일자 기사에 따르면 대형 AI 기업들이 철학 전공자들을 대거 채용하기 시작했다고 합니다. 주요 대학의 철학과 출신들은 이제 컴퓨터공학과 출신보다 일자리 찾기가 쉬워졌다고 합니다. 이렇게 된 이유는, AI 시대를 맞아 이젠 '질문하기'가 '대답하기'보다 중요해졌기 때문입니다. 앞으로 기존 지식을 빨리 찾아 정리해 대답하는 일에서 AI를 이기기가 어렵습니다. 무한한 비밀을 품고 있는 세상과 인간에 대해 인류가 지금까지 발굴해놓은 지식을 찾고 정리해 알려주는 것은 이제 AI가 맡게 될 것이기 때문입니다. 이제 인간에게 남은 가장 인간적인, 그리고 AI가 대체할 수 없는 일은 바로 질문하는 일입니다. 철학도들이 '돈벌이'에 약했던 것은 지금까지의 일들이 주로 '대답하기'였기 때문입니다. 물론 현재의 한국식 철학 공부가 AI 시대에 지금 그대로 각광을 받을 수 있다는 의미는 아닙니다. 한국의 대학들에서 철학을 '대답하기' '지식 쌓기' 영역에 속하는 것처럼 공부하는 경우가 종종 있는데, 그것은 이 기사에서 말하는 '철학하기(philosophize)'라기 보다는 지식으로서의 철학, 즉 철학학설사입니다. AI가 인류를 기존 지식을 검색하고 정리하는 단순 지식노동에서 해방시켜 세상과 인간이 품고 있는 넓고 두꺼운 진리의 바다를 향해 거듭 새롭게 질문하고 탐색하는 본연의 '철학하기'를 되살려내기를 기대합니다. 진리는 보는 만큼 보이고, 묻는 만큼 대답합니다. 이젠 '묻기'의 시대입니다.