크레마클럽

꽤나 두꺼운 책이다. 우리나라에서 알파고와 이세돌 9단의 바둑 경기로 유명해진 딥마인드의 공동 창업자인 무스타파 술레이만이 쓴 책이다. 궁금했다. “다가오는 물결”의 의미가 무엇일까? AI 기술의 가장 선봉장에 서있는 이가 하고 싶은 말은 무엇일까?

 

책은 기술의 발전을 시작으로, 그것이 어떻게 퍼져나가고 있는지, 그리고 어디까지 뻗어나갈 지를 말하는 것으로 시작한다. 사실 2023년초에 불었던 ChatGPT를보면서 소름이 끼쳤던 나로써는 이 책을 읽으며 두려움에 사로 잡힐 수밖에 없었다. 정말 많은 이들이 접할 수 있는 AI기술이 누구에게서 어떻게 이용될지가 가늠조차 되지 않았기에 그러했다. 그 기술이 생명공학과 만난다면.... 

저자의 기술에 대한 생각 중 이 책을 관통하는 것중 하나는 기술은 파편화되어 존재하지 않는다는 것이다. 특정된 하나의 기술로 존재하는 것이 아니라 지금의 기술은 기술과 기술이 합성되어 증폭되어 그 기술을 개발하는 이들조차 이 속도를 따라잡을 수 없다는 것이다.

 

그렇다면 그 그렇게 증폭되고 합성된 기술이 인간에게 악영향을 끼치는 쪽으로 이용된다면 우리는 그 기술의 발전을 억제해야 할까? 그렇다면 그건 누가? 어디서? 어떻게? 해야 할까?... 기술은 국경도 경계도 없는데..

그렇다면 어떻게 해야 할까? 

 

저자는 기술의 억제가 답이 아니라고 말하고 있다. 사실 억제 할 수조차 없다는 것이 현실이다. 그렇다면 기술을 개발하는 이의 선의에 맡겨야 하는것일까? 나는 이 부분에서 기술자로써 저자의 의견에 놀랐다. 기술을 만드는 사람은 대체로 그 기술의 발전에 매몰되어 있다. 그것을 어떻게 사용할 지는 사용하는 이의 정의에 맡겨야 한다는 의견일 줄 알았으나, 저자는 이 부분에서 기술자도 도덕적 정치적 판단을 해야 한다고 말한다. 자신이 만드는 것이 어떻게 사용될지 분명한 도덕적, 윤리적 기준이 있어야 한다는 것. 

 

LLM모델의 발전은 AI시스템에 인간의 언어를 분석하는 기본의 토대가 되었고, 머신러닝에서 딥러닝으로 발전된 기술과 신경망을 이용해 만들어진 AI는 드디어 마치 인간처럼 인간과 대화가 가능해진 수준까지 이르렀다.

유전자 가위 기술이라불리는 캐스퍼. 이것은 살아있는 생명체의 모든 유전자를 정밀하게 편집하고 수정할 수 있다. 그것은 지금 인간에게 발생하는 암과 같은 질병을 근본적으로 치료할 수 있는 기술이다. 그런 생명공학이 AI와만난다면? 인간이 생각할 수 없는 지도를 만들어 낸다면? 

만약, 그것을 누군가 악용한다면. 그래서 슈퍼 휴먼을 만들어낸다면. 또는 특정 인간만을 공격하는 바이러스를 만들어낸다면. 

하지만 AI와 생명공학이 접목되어 지금 불치병이라 불리는 병들을 극복할 수 있고, RNA나 DNA 기술을 이용한다면, 한번의 치료로 병을 완전히 나을 수도 있다. 결국 우리가 어떻게 기술을 이용해야 하는가? 어떻게 기술의 발전 범위를 말그대로 컨트롤 할 수 있을까?

 

저자는 기술이 주는 긍정적 효과에만 매몰되지도 말고, 그렇다고 그것이 주는 보복효과에만도 매몰되지 말아야 함을 책을 통해 말하고 있었다.

그리고 말 그대로 안전한 기술의 발전을 위해 그동안 최전선에서 AI에대해 많은 이들과 고민해던 결과를 10가지 제안을 통해 설명하고 있었다. 

이것은 특정된 기관, 특정된 기술, 특정된 기간에 대한 것이 아니다. 모두에게 던지는 질문이고, 모두가 함께 찾아야 하는 질문에 대한 답인것이다. 그 질문은 끊임없이 계속해서 우리에게 던져질 것이고, 우리는 그 답을 끊임없이 고민해야 하는 시점에 와있다. 산업혁명으로 촉발된 기술의 발전 속에서 우리가 촘촘하게 사회 안전망을 꾸렸듯, 미래는 더 치열하게 고민해야 한다고 말하고 있다.

저자의 제안 중 흥미로웠던 부분은 "정부" 편이 였다. 기술의 발전으로 분명히 손실을 입는 계층이 생긴다. 그 계층에 대한 보상에 대하여, 저자는 인적 노동에 부과 되던 세금을 자본에 초점을 맞춰야 한다 설명한다. 그렇지 않으면 엄청난 격차가 생겨날 것이라고 경고한다. 사실 가장 일반 시민의 삶에서 가장 현실적인 부분까지 짚고 있는 것을 보며, 저자가 AI 기술의 도래에 대해 깊게 고민해왔음을 알 수 있었다. 

 

개인적으로는 흥미로웠다. 기술자가 기술의 발전에 대해 객관적이면서도 디스토피아로 향하지도, 유토피아로 향하지도 않은 지극히 현실에 발딛고 서서 던지는 질문들이였기에 더 빠져드는 책이였다.

다가오는 물결 속에서 우리는 어떻게 안전하게 기술을 구축해야 하는가. 그 매뉴얼을 우리 모두 고민해 볼 시점 이다.

근미래. 우리는 어떤 모습일까.

생각이란 것을 시작 할 때.

 

추천!

 

"본 도서는 출판사로부터 도서를 협찬받아 개인적인 감상으로 작성한 리뷰입니다"

기술 발전이 놀랍다는 것은 누구나 인지하고 있는 사실이다. 얼마 전 열린 CES2024의 경우 여러 채널을 통해 소식을 접했는데 이제 더 이상 10년 뒤 20년 뒤를 말하지 않고 향후 2년 내에, 5년 내에 출시될 제품에 대해 이야기를 한다고 들었다. 즉 내가 어린 시절 미래에는 이런 기술들이 가능할까 싶었는데 어느 순간 현실이 되어 나타났다는 것이다. 어디서부터 변화가 시작된 것일까? 이러한 변화의 가장 큰 중심에는 당연히 AI가 있다. 바이오 기술에서도 혁명이 일어나서 유전자 가위라는 치료법도 등장하고 세균을 잡는 바이러스도 등장하고 있는데 AI 기술이 없었더라면 불가능했을 것이다. 그렇다면 이러한 신기술의 등장으로 거의 모든 질병들에 대해 통제가 가능한 시대가 다가오고 있는데 기뻐해야 할 일일까? 기술이 발전함과 동시에 우리의 삶은 편리해졌을지 몰라도 지구는 그만큼 몸살을 앓고 있고 기온 상승으로 영구동토층이 녹아 메탄가스가 분출되고 수천 년 동안 갇혀 있던 바이러스나 박테리아들이 다시 살아난다면 어떤 문제가 생길까? 긍정적으로 생각하면 인류는 이런 위기를 항상 극복하면서 생존해왔기에 결국 살아남을 것이라 말할 수 있을 것이다. 핵무기를 지구상의 모든 인류를 몇 번이나 전멸 시킬 수 있을 만큼 개발하였지만 전쟁은 오히려 억제가 되고 있기에 다행이라고 해야 할까?

책에서는 긍정론과 부정론 어느 한쪽으로 치우지지 않고 가급적 중립을 유지하고 있다는 생각이 들었다. 알파고에서 시작된 인공지능이 이렇게 발전해 왔고 앞으로의 향방에 대해서는 누구도 알 수 없다. 우리는 과거를 통해 미래를 예측하듯이 과거의 사례들을 소개한다. 상세하게 설명한 것은 아니기에 어느 정도 배경지식이 없다면 다소 이해하기 어려울 수도 있다. AI도 이해하기 어려운데 AGI라는 생소한 용어나 유전자 가위 같은 기술은 생소한 사람들도 많을 것이다. 하지만 이런 배경지식이 없는 독자들이 [더 커밍 웨이브]를 읽을 것 같지는 않다. 책의 표지에서부터 딥마인드, AI 등과 같은 용어들이 등장한다. AI의 위험성은 이미 여러 차례 들어서 알고 있는데 극도로 통제되어 있는 핵무기의 발사 버튼을 스스로 판단해서 누를 수 있다고 하는데 이는 아주 극단적인 상황인 것이다. 오히려 사람들이 AI 기술을 정치에 악용하여 상대 진영의 정치인에게 불리한 내용을 퍼뜨려서 선거를 조작할 수도 있는 것이다. 나의 목소리나 얼굴을 도용하여 보이스 피싱 범죄에 활용할 수도 있고 무인 로봇을 암살에 이용할 수도 있다.

모든 기술에는 양면성이 있는 것이다. 이런 위험성에 대해서는 이미 수십 년 전에도 들었다. 실험실에서 식량 문제를 해결하기 위해 혹은 연구용으로 배양하던 동물이 실수로 외부로 유출되었을 때 엄청난 피해가 발생할 수 있는 것이다. 책에도 몇몇 사례가 소개되었는데 다행히 피해를 운 좋게 막을 수 있었다고 한다. 생태계를 파괴하고 있는 외래종을 보면 그 심각성은 쉽게 파악할 수 있을 것이다. 생태계를 파괴한다고 걱정도 하였고 노력도 기울였는데 결국 해결한 것은 인간이 아니라 자연 스스로 해답을 찾은 것이라 생각한다. 지금 문제가 되는 이런 기술들도 어떻게든 해결이 될 것이라 생각하지만 책에 소개된 고릴라 문제처럼 우리가 고릴라처럼 당할지도 모른다. 그래서 미래를 위한 대비를 위해 규제뿐 아니라 억제도 필요하다고 한다. 우리 한 사람의 노력이 그런 변화를 막을 수 있을까 생각이 들겠지만 의식이 깨어 있지 않다면 그냥 잘못된 방향으로 흘러가는 대로 방관하고만 있어야 한다. 실패한 국가들의 사례를 들어 설명하였는데 국민이 깨어 있지 않으면 안 된다. 미래는 급격하게 변화하고 있다. 이 변화 속에서 우리는 받아들이고 적응을 할 수도 있고 기존 사고를 고수할 수도 있다. 중요한 것은 거대한 변화가 밀려오고 있고 선택의 순간은 여러 번 있을 것인데 올바른 선택을 하기 위해서는 알아야 한다는 것이다.

커밍 웨이브는 인공지능 분야에서 가장 앞서가는 회사 중 하나인 딥 마인드의 리더 무스타파 슐레이만의 기술의 진보에 대한 책이다. 인공지능 분야를 비롯하여 생명과학 등 다양한 분야에서 현재 진행되고 있는 기술적 진보와 미래에 대한 전망을 담았다. 이 중 저자가 딥 마인드에 몸담고 있어 알파고를 비롯한 인공지능 분야의 발전상황, 이세돌과의 바둑 대결 등이 생생하게 담겨 있다. 최근 인공지능 분양 더 강한 붐을 일으킨 OpenAI와 chatGPT에 대해서는 아마도 charGPT 발표 이전에 책의 대부분이 쓰여졌고, 경쟁사의 실적이기에 자세히 언급되지는 않은 것 같다. 책 앞부분의 기술적 진보에 대한 내용은 최근의 기술적 진보를 자룬 방송이나 책 등에서도 많이 소개된 내용이라 그리 특별한 것은 없고, 책 후반에 있는 기술적 진보를 어떻게 이루어야 할 것인가에 대한 저자의 생각을 만들어 가는 과정 속에서 정리된 애용인 것으로 생각된다.

기술적 진보가 장밋빛 미래를 약속하지만, 언제나 이를 반대하는(여러가지 이유로 기술적 진보에 저항하는) 러다이트 운동 같은 것이 늘 있어 왔고, 윤리나 인권 등을 비롯한 풀어할 문제도 산적하고, 무턱대고 기술개발만을 생각하면 자본가나 독재자 등의 입맛에만 맞는, 우리의 존재를 위협하는 상태가 될 수 있다고 저자는 경고하기도 한다. 이러한 문제의 해결을 위해 저자는 AI나 생명공학 발전에 대한 규제를 강화하고, 건설적인 방향으로 진행될 수 있도록 각종 세금제도를 잘 활용할 것을 제안하였다. 구체적인 방안은 제시하지 않았지만 이 부qs이 저자가 말하고 싶은 핵심이라고 생각하는데, 다양한 사람들이 고민하고 의견의 수렴이 필요한 부분이라고 생각한다. 우리나라에서도 이 부분에 대한 노의가 활발해져서 건설적인 발전을 앞당기는 기회가 오길 기대한다.

과거의 산업혁명, 정보혁명과 거대한 물결처럼, AI를 통해 다시 한 번 거대한 물결이 다가오고 있다고 주장한다. 그리고 그 물결의 부작용은 대재앙과 같은 수준이기에 반드시 통제되고 억제되어야만 한다는 것이 책의 골자다.

AI 발전으로 소규모 집단의 거대한 도약이 촉진되고 가속화되는 일들이 더 잦아지고 확산될 수 있다는데애는 이견이 없다.

책 내용은 전반적으로 단락 단락은 누구나 이해할 수 있는 내용이지만 단락이 모여진 각각의 장의 내용을 이해하기 위해선 생각을 몇 차례 곱씹어 봐야 하는 수고를 해야 했다

이 책은 딥마인드의 공동 창업자 중 한 명인 무스타파 술레이만이 쓴 책으로, 인공지능으로 대표하는 새로운 혁신 기술의 무한한 가능성과 더불어 그것이 초래할 수 있는 상상할 수 없을 정도로 위험한 미래를 경고한다. 극소수의 누군가에게는 엄청난 혜택이 될 수도 있지만 대다수의 인류에게는 큰 손실이 될 수도 있을 혁신 기술이 내게는 축복이 될까? 아니면 재앙이 될까? 

내가 개인적으로 이런 혁신 기술의 존재감을 피부로 느낄 때는 번역을 할 때이다. 
(책 서평도 깔끔하게 못 쓰는 내가 번역을 한다는 게 부끄럽지만) 책 번역을 하다 보면 아무리 고민하고 찾아봐도 이해할 수 없는 문장과 만날 때가 있다. 분명 그것을 이루는 각각의 단어들의 의미는 다 아는데도 올바른 해석이 안 되는 문장 말이다. 보통은 그 나라의 사회 문화적 배경 지식이 부족해서인 때가 많다. 이 경우 원저자에게 이메일로 정중하게 질문하는 방법도 있지만 극 I 성향인데다, '이런 문장 하나 제대로 해석 못하는 당신에게 내 책을 맡길 수는 없어요' 같은 반응을 얻을지도 모른다는 두려움에 나로서는 엄두도 못 내는 선택지다. 

그러다 챗GPT가 탄생했다. 이제는 그렇게 이해가 안 되는 문장을 만나면 구글링을 할 것도 없이 챗GPT에게 물어본다. 질문만 제대로 하고 문제의 구문과 연결된 앞뒤 몇 문장 몇 개만 제시하면 이 놀라운 대화형 인공지능은 귀신같이 그 의미와 배경지식을 정확히 알려준다. 이제는 미국인 남편을 둔 친구가 더 이상 부럽지 않다. 내게는 미국인 남편보다 더 친절할 가능성이 큰 챗GPT가 있기 때문이다. 

술레이만은 과거 신기술에 반대했던 러다이트 운동이 실패로 끝난 것처럼, AI나 합성 생물학으로 대표되는 기술 혁신이 불가피하게 우리의 미래를 형성하고 좌우할 것이라 주장한다.  이런 다가오는 혁신의 물결은 비대치성, 초진화성(hyper-evolution), 만능성, 자율성이라는 네 가지 특징과 함께 인간의 힘으로 제어 불가능한 방향으로 발전할 가능성을 시사한다. 그런 만큼 이러한 변화가 긍정적인 결과를 낳기 위해서는 정책 입안자나 기술 개발자, 그리고 사회 전체가 윤리적이고 책임감 있는 방식으로 기술을 관리해야 한다고 역설한다. 

챗GPT 덕분에 번역이 조금 더 편해진 것만으로 행복해하는 미물인 동시에 비관주의자인 나는 이 책을 읽으면서 영국의 TV 시리즈인 'Years and Years(SF 블랙코미디에 가깝다)'가 생각났다. 아무리 대부분의 사람들이 선한 의지로 신기술을 함께 제어해 나간다고 해도 극중에 그려진 트럼프 대통령처럼(드라마에서는 실제 트럼프보다 캐릭터가 더 극단적으로 그려진다), 패권 다툼 속에 누구 하나는 똘기가 폭발하면 인공지능으로 어마무시한 핵무기를 투하할 수도 있고, 극중 어느 정치인처럼 날아드는 드론에 모가지가 날아가는 사람도 생길 수 있을 것이며, 주인공의 십대 딸처럼 자기 육체에 인공지능 칩을 심어 가족을 감시하고 고발하는 (물론 그녀는 선한 의지에 가까웠지만) 일종의 빅브라더가 생길 수도 있을 것 같다. 

유튜브에 들어가면 어도비의 포토샵 기능의 눈 돌아가는 AI 기능들과 이제는 고화질 동영상까지 자동으로 만들어준다는 오픈AI의 '소라'까지, 이제는 하루하루 출시되는 새로운 인공지능 서비스의 존재조차 일일이 따라잡기가 어렵다. 

무섭다. 성당에서 모집하는 '농부학교'나 신청해야겠다.