A Brief History of Intelligence

Invisible China를 끝내가던 참에 A Brief History of Intelligence에 대한 언급을 페이스북에서 보았던 것 같다. 23년 10월에 출간되었기 때문에, 지난 (25년) 삼월에 이 책을 아마존에 주문할 때 번역본이 나와 있으리라 생각하지 않았지만, 출판사 더퀘스트가 25년 1월에 "지능의 기원"이라는 제목으로 한국어본을 출간했다.

저자인 맥스 베넷(Max Bennet)이 인공 지능 개발자여서 AI에 대한 이야기도 적지 않지만, 이 책은 제목대로 뇌의 진화에 대해 서술한다. The Body: A Guide of Occupants에서도 언급된, 맥린(MacLean)이 1960 년대에 주창한, 인간의 뇌가 생존, 감정, 인지를 담당하는 세 구역으로 나뉘어 있다는 triune brain 가설이 틀린 것으로 판명되었다고 한다. 비행기가 뜨는 원리를 베르누이 정리로 설명하는 것과 같은, 매우 그럴듯하게 들리지만, 오류로 드러난 것들 가운데 하나인가 보다.

6억 년 전에 예쁜꼬마선충 같은 대칭형 동물들이 등장하면서 비로소 뇌가 출현했다. 산호, 말미잘, 해파리 같은 방사형 동물들은 뇌를 갖고 있지 않다는 말이다. 대칭형 동물의 동작 결정은 단순하다. 가거나 서거나, 왼쪽으로 틀거나 오른쪽으로 틀거나. 저자는 뇌 진화에서 다섯 단계의 획기적 발전이 있었다고 말한다. 대칭형 동물의 등장이 그 첫째이다. 아이로봇사가 2002 년에 내놓은 로봇 청소기 룸바(Rooma)가 선충을 흉내내어 만들어진 것이다.

둘째 혁신은 척추 동물의 등장과 함께 출현한 강화 학습이다. 셋째는 포유류와 조류에서 관찰되는 내적 모의실험(simulating)이다. 행동을 취하기 전에 어떤 과정을 밟을지 상상하면서 계획하는 것을 말한다. 파충류가 상대적으로 굼뜨게 움직이는 이유가 모의실험 능력을 결여했기 때문이다. 넷째는 마음 이론(theory of mind 또는 mentalizing)이다. 타자의 생각이나 감정을 추론하고 의도를 예측하는 능력을 말한다. 침팬지를 비롯한 영장류만이 이 능력을 갖고 있다. 무리 생활의 관점에서, 동물들은 1) 혼자 살거나 2) 부부가 함께 살거나 3) 한 마리의 수컷이 여러 마리의 암컷과 함께 살거나 4) 집단을 이루어 산다. 정어리가 군집을 이루어 산다고 해서 그것을 사회나 공동체라고 부를 수는 없다. 영장류만이 사회를 이룬다.

다섯째 혁신은, 인간만이 갖고 있는 능력인데, 바로 언어이다. 유발 하라리가 그의 저서 사피엔스에서 수백 이상의 사람들이 함께 움직이게 하는 것이 공동의 신념이고, 언어로 인해 그것이 가능하다고 말한다. 하지만 언어의 더 중요한 점은, 언어로 인해 발명과 지식이 세대를 거쳐 축적된다는 것이다. 생각보다 많은 동물들이, 특히 영장류들이 다양한 도구를 사용한다. 하지만 그것은 학습에 의한 것이 아니라 그렇게 회로가 만들어져 있기 때문이다. 영장류도 언어를 갖고 있다. 여러 발성과 몸짓을 통해 백 가지 이상의 의미들을 전달할 수 있다. 하지만 그들은, 후두와 성대가 발달해 있다 해도, 인간과 같은 수준으로 언어를 익힐 수 없다. 관심(attention)을 공유하지 못하기 때문이다.

천만 년 전까지 울창한 숲이었던 에티오피아에 산맥이 형성되기 시작했다. 산맥의 서쪽 지역에는 숲이 여전했지만, 동쪽에서는 사바나로 불리는 초원으로 바뀌었다. 과일을 먹으며 나무에서 살던 영장류가 땅으로 내려올 수밖에 없었다. 동물 사체를 불에 구워먹기 시작했다. 먹잇감을 추적하면서, 체온을 식히기 위해, 털이 없어지고 땀구멍이 많아졌다. 호모 사피엔스와 같은 후두와 성대를 갖지 못했지만, 호모 에렉투스가 영장류보다 높은 수준의 언어를 사용했을 것이다. 지식의 계승을 가능하게 하는 언어 없이 도끼와 옷을 만드는 것이 가능했다고 상상하기 어렵기 때문이다. 인간의 뇌가 침팬지보다 크지만 구조적으로는 동일하다. 언어를 담당하는 부위는 존재하지 않는다. 인간이 언어를 사용할 수 있는 것은, 새가 비행을 배우는 것과 비슷하다. 날갯짓을 비롯한 여러 본능과 그것들을 바탕으로 하는 교과 과정(curriculum)이 어우러져 새들이 나는 법을 체득한다.

언어는 이타심을 부추긴다. 이타심이 있어야 정보와 지식을 공유한다. 하지만 거짓말쟁이와 사기꾼이 이타심을 악용할 수 있다. 그래서 소문이 발달한다. 소문에 의해 한 공동체의 도덕이 유지된다. 좋은 행위는 칭찬받고 나쁜 행위는 욕을 먹기 때문이다.  소문은 다시 언어를 발달시킨다. 인간은 이타적이면서 동시에 잔인하다. 대량 학살은 이 오랜 순환의 유산이다.

현재 ChatGPT는 둘째 혁신의 언저리 어딘가에 있는 것 같다. 종이 클립의 생산을 늘릴 수 있는 방법을 찾으라고 AI에게 시킨다면, 영화 "맨 오브 스틸"에서 조드가 시도했던 것처럼 지구를 테라포밍하려 할 것이다. 맥락을 읽는 능력도 없고, 최근에 크게 보완되었지만, 상식도 부족하기 때문이다.

개인적으로 나는 인공지능에 큰 관심을 갖고 있지 않다. 그것이 우리의 삶을 어떻게 바꿀지 기대도 두려움도 없다. 내가 몸담고 있는 분야에서 인공지능이 효과적으로 사용되는 것도 상상하기 어렵다. Large-Scale Language Model을 갖고 학습한 AI는 단어 뒤에, 문장 뒤에, 그리고 단락 뒤에 (가장 적당한) 무엇이 올지 예측한다. 그래서 "버튼을 누른다"를 문맥에 따라 "Press the button"으로도, "Hit the button"으로도 번역할지 모른다. 하지만 그것은 우리가 기대하는 바가 아니다. 그것은 우리가 트라도스 같은 CAT 프로그램을 이용하여 달성하고자 하는 것에서, 정반대 쪽은 아니더라도, 멀찍이 떨어져 있다.

분명한 것은, 증기 기관 이후에 발명된 거의 모든 것들에 인류가 치렀던 것처럼, AI도 대가를 요구할 것이다. ChatGPT의 다른 기술적인 이름인 GPT-3는 인터넷에서 접근할 수 있는 모든 것들을 학습했다고 한다. 하지만 놀랍게도 지금까지 만들어진 어떤 AI도 작동하면서 동시에 학습하지 못한다고 한다. 달리 말해, 테슬라 차가 운행을 많이 할수록 사람처럼 노련해지는 게 아니라는 것이다. 운전자는 다음 업데이트를 기다려야 한다. 당사자인 챗피지티에게 물어봤다.

나의 학습 데이터는 2024년에 마감되었으며 ... 새로운 정보를 배우거나 기억하지 않는다. 나는 많은 사람들과 상호작용하지만 그것을 통해 성장하거나 진화하지 않는다.

 

이것은 다소 충격적이다. 새 학습 세션에서 기존 데이터에 새로 추가된 데이터까지 학습해야 하므로, 컴퓨팅 환경이 개선되지 않는다면 또는 기존 데이터의 일부를 버리지 않는다면, 학습 시간이 갈수록 증가함을 의미하기 때문이다. AI 학습을 위해 수천 평의 서버 공간이 필요한 이유가 여기에 있다. GPU 하나가 냉장고 열 대에 맞먹는 전기를 쓴다고 한다. 그리고 미국에서, 재생 에너지 사용의 괄목할 만한 증가에도 불구하고, 산업 전기 요금이 지난 십 년 동안 여덟 배 올랐다는 보도가 있다.

19세기에 하마터면 미국에 있는 모든 나무가 철도에 의해 사라질 뻔했다. AI가 경제적인지 좀 더 지켜봐야 할 것이다.