R, Python 분석과 프로그래밍의 친구 (by R Friend)

[책] 클라라와 태양 (Klara and The Sun, 가즈오 이시구로 지음, 2021년)

올 추석 연휴 기간 동안에 가즈오 이시구로가 쓴 <클라라와 태양>이라는 소설책을 읽었습니다. 인공지능을 전공한 전문가의 시선이 아니라, 사람과 사회를 관찰하고 상상력을 발휘해 이야기를 구성하는 소설가의 시선으로 바라본 인공지능의 가까운 미래는 어떠한 모습일지 궁금했습니다. 

책 제목의 "클라라(Klara)"는 인공지능 로봇 친구 (Artificial Intelligence Friend, 에이에프) 의 이름이예요. 그리고 태양(The Sun)"은 인공지능 로봇의 영양원 (태양광 발전)이면서 또 클라라가 신비한 치유의 힘이 있다고 믿는 숭배의 대상이기도 해요. 이 책은 가까운 미래를 배경으로 에이에프(AI Friend) 클라라의 1인칭 시점으로 쓰여진 소설이예요. 

이 책의 작가 가즈오 이시구로 (Kazuo Ishiguro) 는 2017년 노벨문학상을 수상한 작가예요.  

국내에는 <남아있는 나날 (The Remains of the Day)>, <나를 보내지 마 (Never Let Me Go)> 등 예닐곱권의 책이 이미 번역되어 있고, 또 이 두 책은 영화로도 제작이 되었어요. 

이름도 그렇고, 왼쪽의 사진을 봐도 그렇고, 작가가 일본인이라고 생각하기 쉬운데요, 일본계 영국인이예요. 

가즈오 이시구로는 5살때까지 일본에서 살다가, 아버지를 따라서 영국으로 건너가서 계속 영국에서 살았다고 하네요. 

영국에 살면서 동양인 외모 때문에 차별을 받았었는지, 오기로 "가장 영국적인 것을 써주겠다"며 쓴 <남아 있는 나날 (The Remains of The Day)> 로 노벨 문학상을 받았다고 하니 아픔을 문학으로 잘 승화한 최고의 케이스가 아닐까 싶어요. 

이 책의 뒷 표지에 보면 "<나를 보내지 마>와 <남아 있는 나날> 사이에 다리를 놓는 가즈오 이시구로 최고의 작품"이라는 홍보 문구가 나와요. 저는 앞서의 두 작품(Never Let Me Go, The Remains of the Day)은 책말고 영화로 봤는데요, 나중에 시간이 되면 이 두 작품에 대해서도 포스팅 해볼께요. 

(... 여기서 부터는 책 내용이 많이 나오므로, 아직 책을 안 읽으신 분은 계속 읽을지 잠시 고민해주세요.... ^^;)

이 소설책을 읽으면서 들었던 몇 가질 질문들에 대해서 생각해보면서 포스팅을 해보겠습니다. (줄거리에 대해서는 위키피디아 찾아보시면 돼요).  책을 읽으신 분들은 추가로 다른 재미있는 질문들을 던져보면 좋을거 같아요. 

1. (조시가 죽게 된다면) 클라라는 조시를 대체할 수 있을까?  

2. 유전자 변형 생명공학으로 향상된 인간, 당신의 선택은?

3. 변덕스러운 인간 vs. 일관적이고 헌신적인 인공지능 로봇 친구 중에서 누가 좋은가?

4. 인공지능이 가져올 일, 직업의 미래는?

5. 이해할 수 있는, 설명 가능한 인공지능? 

6. 불가사의한 존재에 대해 숭배하는 종교는 본성인가?

1. (조시가 죽게 된다면) 클라라는 조시를 대체할 수 있을까?  

 클라라는 최신형의 에이에프(AI Friend)는 아니지만, 사람들을 관찰하고, 배우고, 감정을 읽고 표현하는데 매우 능숙합니다. 그래서 조시라는 여자 아이가 클라라에게 호감을 가지게 되고, 조시의 어머니도 클라라가 조시를 잘 관찰하고 모방할 수 있는 능력을 평가해보고는 클라라를 선택해서 구매하게 됩니다. 

 조시의 어머니는 유전자 조작에 의해 생명의 위험할 정도로 아픈 조시가 첫째 딸처럼 죽게 될 경우, 에이에프 클라라가 조시의 대신해서 딸의 역할을 해주기를 기대합니다. 그래서 아픈 조시를 데리고 초상화 (클라라게 입게 될 조시의 외형) 를 그린다는 명목으로 사진을 찍어가면서 조시의 외형을 본뜨고, 또 클라라에게는 조시를 잘 관찰하고 배워서 조시처럼 생각하고 행동해달라고 부탁 (지시?)을 합니다. 

그럼, 과연 클라라는 (조시가 죽게 된다면) 조시를 대체해서 어머니의 딸이 될 수 있을까요? 인공지능은 사람의 생각과 감정을 학습할 수 있을까요? 인공지능이 학습할 수 없는, 사람만의 특별한 무엇, 가령, 영혼(sprit) 같은 것이 있는 것일까요? 

소설의 주인공 클라라는 처음에는 인공지능 친구가 사람(조시)를 학습하여 역할을 대신할 수 있을 것 같다고 했다가, 마지막에는 가능하지 않을 것 같다고 입장을 바꿉니다. 

아래는 공학자인 아버지와 클라라가 나누는 대화예요. (p321~322)  

 "말씀하신 마음이요." 내가 말했다. "그게 가장 배우기 어려운 부분일 수 있을 거 같습니다. 방이 아주 많은 집하고 비슷할 것 같아요. 그렇긴 하지만 시간이 충분히 주어지고 에이에프가 열심히 노력한다면 이 방들을 전부 돌아다니면서 차례로 신중하게 연구해서 자기 집처럼 익숙하게 만들 수 있을 겁니다"
 아버지도 옆길에서 끼어들려고 하는 차에 경적을 울렸다. 
 "하지만 네가 그 방 중 하나에 들어갔는데, 그 안에 또 다른 방이 있다고 해봐. 그리고 그 방 안에는 또 다른 방이 있고. 방 안에 방이 있고 그 안에 또 있고 또 있고. 조시의 마음을 안다는 게 그런 식 아닐까? 아무리 오래 돌아다녀도 아직 들어가 보지 않은 방이 또 있지 않겠어?"
 나는 이 말을 잠시 생각해 본 다음 대답했다. "물론 인간의 마음은 복잡할 수밖에 없습니다. 하지만 어딘가에 한계가 있을 거예요. 폴 씨가 지적인 의미로 말씀하셨지만 그래도 배워야 할 것에는 끝이 있을 겁니다. 조시의 마음은 방안에 또 방이 있는 이상한 집을 닮았을 수 있지요. 하지만 이게 조시를 구하는 가장 좋은 방법이라면 저는 최선을 다하겠어요. 제가 성공할 가능성이 충분히 있다고 생각합니다." 

위의 대화에서 클라라가 하는 대답은 인공지능 전문가들의 시각과 일맥상통하는 면이 있어요. 양질의 충분한 학습 데이터와 시간, 컴퓨팅 자원이 있다면 학습하지 못할 것이 없다는 생각이요. 사람의 생각의 숫자로 이루어진 벡터 공간으로 표현할 수 있고, 학습할 수 있다고 보고 있지요.(딥러닝의 아버지인 제프리 힌튼 선생님의 말씀이예요.) 

아래의 대화는 클라라가 야적장에서 매니저와 나누는 대화예요. (p441~442)

 (매니저) "네 말이 틀림없이 맞을 거야. 클라라. 그런데 '조시를 계속 이어 간다'라는게 무슨 뜻이야? 무슨 소리지?"
 (클라라) "저는 조시를 배우기 위해서 최선을 다했고, 그래야만 했다면 최선을 다해서 그렇게 했을 거예요. 하지만 잘되었을것 같지는 않아요. 제가 정확하게 하지 못해서가 아니라요. 제가 아무리 노력해도 할 수 없는 무언가가 있었을 거라고 생각해요. 어머니, 릭, 가정부 멜라니아, 아버지. 그 사람들이 가슴속에서 조시에 대해 느끼는 감정에는 다가갈 수가 없었을 거예요. 지금은 그걸 확실하게 알아요."
(매니저) "그래, 클라라. 일이 잘 풀렸다고 생각한다니 다행이다."
(클라라) "카팔디 씨는 조시 안에 제가 계속 이어 갈 수 없는 특별한 건 없다고 생각했어요. 어머니에게 계속 찾고 찾아봤지만 그런 것은 없더라고 말했어요. 하지만 저는 카팔디 씨가 잘못된 곳을 찾았다고 생각해요. 아주 특별한 무언가가 분명히 있지만 조시 안에 있는 게 아니었어요. 조시를 사랑하는 사람들 안에 있었어요. 그래서 저는 카팔디 씨가 틀렸고 제가 성공하지 못했을 거라고 생각해요. 그래서 제가 결정한 대로 하길 잘했다고 생각해요."

이는 다분히 소설가가 쓸 수 있는, 인문학의 관점의 감성적인 대답이네요. 클라라에게 조시의 모습을 본 뜬 외형의 표피 옷(?)을 입힌다고 한들, 인간 조시와 맺었던 추억, 감정들까지 클라라에게 입혀줄 수는 없을 테니깐요. 

인공지능은 사람의 지능, 생각, 감정을 학습할 수 있을까요? 컴퓨터 과학의 아버지이자 수학자, 논리학자 였던 앨런 튜링은 1950년대에 "기계가 지능을 가질 수 있는가?"를 확인하는 방법으로 "튜링 테스트"를 제안해요. A 사람과 B 기계가 C 사람과 대화를 했을 때, C 사람이 A와 B 중에서 누가 사람이고 누가 기계인지를 구분하지 못하면, 기계도 지능을 가지고 있다고 간주할 수 있는것 아니냐는 것이죠.  튜링 테스트의 관점에서 보면 이미 튜링 테스트를 통과한 인공지능이 있어요. 그리고 우리 일상 생활 속에도 (아직은 대화가 어색하고 불완전하긴 하지만) 인공지능 스피커라든지, 서비스별 챗봇 등을 볼 수 있어요. 

다만, 인간을 학습하는 것과는 별개로 "인간을 대체할 수 있을까?"는 완전히 다른 영역의 질문인지라 클라라의 마지막 대답이 더 적절한 대답일거 같아요. 시간의 흐름속에 쌓인 "관계"는 학습할 수 없는 거니깐요. 

2. 유전자 변형 생명공학으로 향상된 인간, 당신의 선택은? 

조시는 유전자 변형 생명공학 (정확하게 어떤 방법인지는 설명 없음) 에 의해서 지능이 '향상'된 부류에 속하는 아이예요. 반면에 조시의 친구 릭은 '향상'이라는 조치를 받지 않은 평범한 아이이구요. '향상'된 조시는 교사에게 지도받을 권리를 받고, 유망한 대학에도 진학하고, 사회적으로 우대받을 기회를 얻은 대신에 "나쁜 건강과 생명을 잃을 수도 있다는 위험"을 감수해야 해요. 실제로 조시의 언니는 향상된 시술을 받고 태어났다가, 어렸을 때 건강이 나빠져서 생명을 잃고 말아요. 그리고 조시도 언니처럼 몹시 아프고요. 

소설에서 보면 '향상'된 아이들이 모여서 '사회적용 학습'을 위한 파티를 해요. 이때 '평범'한 릭도 조시의 초대로 파티에 참석하는데요, '향상'된 아이들과 그들의 부모로부터 멸시어린 시선을 받아요.  '평범'한 릭은 건강에는 문제가 없지만, 교육에서도 차별을 받고, 그래서 좋은 직장을 가질 수도 없을 것 같은 암움한 미래가 기다리고 있어요. 

자, 이런 상황에서 당신이라면 자녀를 위해서 '향상 & 생명의 위험'과 '평범 & 건강한 몸' 중에서 어떤 것을 선택하시겠어요? 참 어려운 질문이예요. 쉽게 답을 못하겠어요. 

한국 사회에서 주위를 둘러보면 아이들을 닥달해서 하루 종일 학원돌리고, 주말에도 아이들 숨도 못쉬게 공부만 시키고 하는게 어찌보면 조시의 엄마가 선택했던 '향상'의 21세기 한국의 사회상과도 어느정도 통하는 면이 있다고 볼 수 있지 않을까요? 아마도 한국 사회의 지금 세대의 부모들을 대상으로 설문조사를 해보면 '생명의 위험을 무릎쓰고라도 향상을 선택'하겠다는 쪽이 더 많지 않을가 예상해봐요. 한국사회에서 '남과 비교하고 남의 시선을 의식'하며 사는 게 너무 만연해 있다보니깐요. ㅠ_ㅠ

'잘 사는게 무엇인지?', '행복이 무엇인지?'에 대한 질문에 무어라고 답할지와 밀접한 관련이 있을것 같아요. 

3. 변덕스러운 인간, vs. 일관적이고 헌신적인 인공지능 로봇 친구 중에서 누가 좋은가?

소설에서 보면 인간 조시, 어머니, 릭은 변덕스러운 반면, 에이에프 클라라는 일관적이고 헌신적이예요. 

 '향상'된 아이들과의 파티에서, 클라라에게 딴지를 거닌 아이들의 장난에 조시는 부응하면서 "상향 버전의 에이에프를 살 걸 그랬나?" 라고 말해요. 클라라가 제일 좋다고 할때는 언제고, 다른 아이들 눈치보면서 클라라 마음에 염장질을 하는 조시를 좀 보세요. 

 조시 어머니도 클라라와 폭포를 보러 가서는 클라라에게 따뜻한 말을 많이 해줘요. 하지만, 조시가 많이 아프자 "클라라를 버리고 조시 옆에서 하루 종일 있을 수 있어"라고 조시에게 말하기도 해요. 

 조시의 베프인 릭도 어렸을 때 조시와 평생을 같이 하겠다는 약속을 서로 해요. 하지만, '향상'된 조시는 대학교에 가고, '평범'한 릭은 대학교에 못가면서 어렸을 때 조시와 한 약속은 철부지였을 때 뭣모르고 한 약속이었다면서 약속은 잊기로 해요. 

 반면, 클라라는 항상 사람에게서 배우려 하고, 자신의 감정에 충실하며, 비폭력 대화 방식으로 자신의 생각과 감정을 잘 표현해요. 그리고 클라라는 주인에게 얼마나 헌신적이고 충성하는지 몰라요. 심지어는 마지막에 야적장에 버져진 후에도 배신당했다는 분노 없이 일관되게 조시를 그리워하고 또 감사하게 생각해요. 

 저한테 만약 클라라 같이 대화도 사랑스럽게 잘 하고, 헌신적이며, 게다가 일관적이기까지 한 에이에프가 있다면 무척 좋아할 거 같긴해요. 사람들이 애완동물 강아지를 좋아하는 이유가 이런거 아닐까 싶기도 해요. ㅎㅎ  

4. 인공지능이 가져올 일, 직업의 미래는?

소설에서 조시의 아버지 폴은 인공지능에 의해서 대체되었고, 무직상태의 대체된 사람들이 모여사는 커뮤니티 마을에 살고 있어요. 폴이 유능한 공학자였는데도 인공지능에 의해 대체된 걸 보면 좀 섬뜩하기도 해요. 

그런데 이게 미래의 얘기만은 아니예요. 이미 지금 우리 주변에서도 심심치않게 볼 수 있어요. 가령, 신분당선에는 기관사가 없는거 아세요? 컨설팅회사 맥킨지의 연구 보고서에 따르면 "2030년까지 현재 직업의 3분의 1이 지능형 에이전트나 로봇과 같은 AI 기술로 대체될 것으며, 자익적으로는 거의 모든 인간의 직업을 대체해 모든 이에게 AI가 만든 보물이 제공된다"고 예측하고 있어요. 

 한국에서 잘 나가는 소위 '사'자 붙은 의사, 판사 등의 직업도 AI로 인해 상당한 영향을 받게 될거예요.  한국의 학교와 학원에서는 20세기의 성공공식에 근거해서 창의성과 질문하는 힘 대신에 암기식, 서열식 줄세우기 교육에만 매달리고 있는데요, 이대로 괜찮은가하고 심각하게 질문해봐야 해요. 부모세대와 자식세대가 살아갈 세계는 완전히 다름에도 불구하고, 부모세대의 성공공식을 자녀에게 강요하는게 과연 효과적인 전략일까요? 

이런 측면에서 이 소설이 제기한 "인공지능 친구가 따라할 수 없는 인간만의 특성은 무엇일까?"에 대한 질문이 가이드가 될 수 있을 것 같아요. 

 코로나로 촉발된 '기본소득'에 대한 정치사회적 논의도 'AI로 인해 대체될 직업'과 연관지어서 정치권과 사회에서 계속 논의가 되어여 할 주제일거예요. AI로 인해 대체되는 직업의 양과 속도가 많고 빠를텐데요, AI로 대체된 사람들의 '직업 역량 교육과 전향'은 아무래도 더디게 진행될 수밖에 없기 때문에요. 이 소설 속의 아버지 폴도 '기본소득'의 혜택을 받고 있는것 같아요. 

5. 이해할 수 있는, 설명 가능한 인공지능? 

초상화 작가 카팔디씨는 "사람들이 인공지능을 두려워 하는 이유는 AI가 블랙박스여서 그 안을 모르기때문"이라고 말하고 있어요. 그래서 클라라와 어머니에게 찾아와서는 클라라를 해체해서 인공지능의 사고하는 내부 매커니즘을 이해하는 연구를 할 수 있게 도와달라고 요청을 하기도 해요. 

요즘 각광받고 있는 딥러닝(Deep Learning)은 인간의 뇌(뉴런, 시냅스 등)를 모방한 측면이 있어요. 그리고 역으로 인공지능을 연구하는게 사람의 지능을 이해하는데 힌트라든지 새로운 관점을 제시할 수도 있을거 같아요.

최근에 "설명가능한 인공지능 (Explainable AI, XAI)" 분야에 대한 연구가 굉장히 활발하게 진행이 되고 있어요. 저도 “Hands-On Explainable AI (XAI) with Python" 이라는 책을 사서 요즘 공부하고 있어요. ㅎㅎ

그런데 이게 최근에 딥러닝으로 대표되는 AI 모델이 점점 커지고 있다보니 도대체 '설명가능한'을 어느정도로 봐야 하느냐는 의문이 들기는 해요. 가령, Open AI 가 만들어서 공개한 자연어 처리 모델인 GPT-3 는 성능이 어마무시한데요(마치 사람과 대화하는 것처럼 자연스러움), 무려 1,750억개의 파라미터를 가지고 있어요. 그리고 앞으로 나올 GPT-4 모델은 100조(兆

)개의 파라미터를 사전학습할거라고 하네요. 무려 100조개의 파라미터라면, 이걸 사람이 하나씩 까본다고 한들 이해했다고 말할 수 있으려나요? 복잡도가 너무 높아서 이해하려고 했다가 기가 질려버리기 십상이예요. -_-;;;

6. 불가사의한 존재에 대해 숭배하는 종교는 본성인가?

에이에프 클라라는 태양으로부터 영양분(에너지)를 받아서 움직여요. 클라라가 매장에서 진열되어 있을 때 창밖의 길 모퉁이에 있던 거지와 개가 다 죽어가다가도 아침에 뜨는 해를 쬐고는 다시 생기와 활력을 얻는 모습을 보게 되요. 그리고는 '태양에는 생명의 기운과 치유의 힘이 있다'는 믿음을 가지고 숭배(?)를 하게 돼요. 

인간이 자연의 힘의 원리에 대해서 무지했던 원시시대에 자연을 숭배했던 미신의 모습과 많이 닮아있지요? ㅎㅎ  

[ 책 읽기를 마치며 ]

이 책 <클라라와 태양>이 영화로 만들어질 것이라고 하니 기다려 보죠. 

인공지능 친구와 관련된 영화로 "그녀 (Her, 2013)" 도 함께 보면 재미있을 거예요. 무척 잘 만든, 재미있는 영화예요.