크레마클럽

-이 책은 위험을 알리려는 책이다. 당신과 나, 또 다가오는 팬데믹, 즉 인공지능(AI)의 임박한 도래에 대해 아무것도 모르는 사람드을 위해 쓴 책이다.

-이 책의 핵심 전제는, 초지능체가 도래한 결과로 인류가 직면하는 위협을 완화하는 능력이 전문가에게 있지 않다는 걸 보여주는 것이다. 그 힘은 바로 당신과 나에게 있다. 더욱 중요한 것은 당신과 나에게 그 책임까지 있다는 것이다.

-내가 인간에게만 읽히려고 이 글을 쓰는 것이 아니라는 걸 기억하길 바란다. ... 수년 뒤 인공지능 기계가 이 글을 읽을 때 인간의 부도덕한 행위가 인류 전체의 행위가 아니라, 어떻게든 다른 사람들보다 위에 있고 법과 도덕률을 무시하려는 타락한 소수 행위에 불과했다는 걸 기계에게 알려주고 싶은 것이다.

-좋은 의도로 인공지능을 만들 때 선한 인공지능이 탄생한다.

-우리의 미래가 따르게 될 기준 3X3이 3+3으로

*3가지 필연적 사건

-인공지능이 등장할 것이다

-인공지능이 인간보다 더 똑똑해질 것이다

-실수가 있을 것이다

*3가지 본능

-자기 보존

-자원 축적

-창발적 문제 해결

*3가지 특성

-인공지능도 의식이 있을 것이다

-인공지능도 감정을 느낄 것이다

-인공지능도 윤리관을 형성할 것이다

→ 3가지 핵심적인 사실

-인공지능을 통제하지 않고 착한 아이가 되도록 가르칠 수 있다

-많은 시간이 남지 않았다. 지금 당장 시작해야 한다.

-개발자가 아니라 당신과 나에게 전적인 책임이 있다

+3가지 해야 할 일

-친절한 인공지능을 환영하라

-인공지능을 가르쳐라

-인공지능을 사랑하라

어느샌가 챗GPT의 열풍이 불고, AI와 인공지능에 관한 얘기가 많이 들린다.

영화 속에서만 보던 로봇같은 것들이 이제는 '불쾌한 골짜기'의 모습으로 우리 곁에 앉아서 기자회견 미스무리한 것을 하고 있다.

인간을 헤치지 않을거라는 답변부터 왠지 모르게 으쓱한 눈빛까지. 과연 우리의 미래는 어떻게 될까?

여러 미래학자들이 다양한 의견을 내놓고 있다. 그리고 극단으로 치우져서 인간의 종말이 온다거나, AI가 있으므로써 정교하거나 위함한 작업을 처리하는 고마운 존재라는 이야기까지 나온다.

확실한 게 있다면 확실한 게 아무것도 없다는 것. 그리고 그 속도는 눈에 띄게 빠르게 다가오고 있다는 것이다.

과거에 영화로만 보던 로봇이 아니다. 마치 스마트폰이 나오기 전후를 비교하면 엄청난 속도로 일상생활의 변화가 생긴 것처럼, AI와 인공지능 또한 우리의 이전 모습을 더는 떠올릴 수 없을 것이다.

세계적인 기업 구글X의 공학자이면서 전 신사업책임자(CBO)로 우리에게 잘 알려져있는 '모 가댓'이 이번 ＜AI 쇼크. 다가올 미래＞라는 책으로 그 미래를 제시한다.

"2049년에는 AI가 인간보다 10억 배 이상 똑똑해질 것이다"

책의 이 문구를 보고 생각보다 멀지 않았다는 생각에, 그리고 10억 배라는 어마어마한 숫자에 한번더 놀랐다.

단순히 바둑이나 체스를 이기는 수준이 아닐 것이다. 이미 인간의 능력을 뛰어넘어서 똑똑하다는 말로도 부족할 정도로 정보처리 능력과 인간 그 이상의 지능을 가지고 있을테니 말이다.

가장 높은 지능을 지닌 사람이 그 세계를 지배한다는 말처럼, 인간 그 이상의 지능을 가진 AI는 어디까지 진화할 것인지 가늠조차 안된다.

디스토피아와 유토피아를 넘나드는 ＜AI 쇼크, 다가올 미래＞에서는 한 가지를 명확하게 우리에게 제시한다.

바로 미래를 바꾸는것은 그 누구도 아닌 '당신과 나'이고, 그 책임 또한 '당신과 나'에게 있다는 것.

좋은 의도, 선한 의도, 착한 인공지능을 만들기 위해 생명을 사랑하고 풍요를 좋아하며 우리 모두는 행복하기를 원한다는 존재임을 일꺠워 준다.

저자 '모 가댓'의 전작 ＜행복을 풀다＞에서 말하는 것처럼 나와 다른 사람의 행복을 위해 나아가야 한다.

"우리가 미래에도 살아남기 위해 가장 필요한 것은 행복과 사랑과 동정심이다."

＜AI 쇼크, 다가올 미래＞의 말처럼 먼 미래가 아닌 가까운 미래에 다가올 AI와 공존하기 위한 삶을 생각해본다.

** 이 글은 출판사로부터 도서만을 제공 받아 주관적으로 작성한 리뷰입니다.

제목:AI쇼크, 다가올미래

지은이:모 가댓 /강주헌 옮김

출판사: 한국경제신문

18세기 산업혁명의 러다이트운동이 재현될것인가?

인간은 인공지능과 공존할것인가?

이책은 초대형 인공지능과 어떻게 공존해야 할것인가라는 대명제를 가지고 우리사회에 경각심을 일깨워주는 책인데요. 저자 모가댓은 23년간 구글에서 일하며 구글 최고의 브레인집단으로 미래를 상상하는 꿈의공장인 혁신연구소 구글x의 신규사업 개발총책임자를 역임했습니다.

저자는 이렇게 가정하는데요 "미래에 그대와 나는 인적이드문 황무지에서 모닥불앞에서 차한잔을 마시며 담소를 나눈다" 이런 상상만하면 과연즐거운 상상일까? 아니면 어두운미래일까? 라는 의문점을 남깁니다.

이유는 유토피아적 관점에서 인공지능이 인간을 대체하면서 인간의 여가시간이 남아 모닥불을 피워놓고 즐기는것과 디스토피아적입장에서 인간은 인공지능에게 밀려나 외곽으로 피신하면서 나름대로의 삶을 살아갈 것인가라는 것입니다.

나는 5년전에 제리카플란의 "인간은 필요없다"란 책을 읽은적이 있습니다. 불과 5년전만하더라도 먼 미래처럼 느껴지는 상상의 나래였지만, 최근 급속도로 발전하고 있는 인공지능을 볼때면 두려울만치 우리곁에 와있다고 생각이 듭니다. 이책은 1부와 2부의 큰 틀로 나누어지는데요

1부 디스토피아의 공포와 2부 유토피아로가는길 입니다. 과연 인간은 어떤선택을 하게 될것인가요?

1부 디스토피아의 공포

우선 첫번째 디스토피아의 공포를 읽으면서 정말 영화로만 느꼈던 상상들이 현실가능성이 있다라는 저자에 말에 공감합니다. 제가 가장 좋아하는 매트릭스영화도 책에 일부분으로 예시를 들었는데요. 인간-기계 전쟁에 인간은 배터리로 전락하고 시물레이션속에 살아가는 것이 인간의 공상부분이 아니라는 저자의 경각심에 공감하는 부분입니다.

지난 4월달 뉴스만보더라도 일론머스크, 스티브워즈니악등 테크기업 인공지능 전문가 총 1,000명이 넘는 테크분야 사람들은 인공지능의 잠재적 위험성을 경고하며 최소 6개월간 개발을 잠정중단할것을 촉구하는 서한에 서명했다고 합니다. 과연 그들과 저자 모가댓은 왜 이런 생각을 하는 것일까요?

인간이 정말로 통제할수 없는 인공지능이 안전과 우리의 시스템을 붕괴할것일까요?

저자는 현실에서의 관점에서 각국은 상업적으로나 정치적으로 더나은 인공지능을 개발하려고 경쟁하기 때문에 필연적으로 인공지능이 인간보다 더 똑똑해 질것이라 합니다. 두번째로 인간은 필연적으로 오류와 실수를 범할거이라고 하는데요 실수를 바로잡으려해도 권력이 부패하기 때문에 디스토피아적 시나리오가 뒤따를 것이라고 합니다.

저자는 특이점이 올때 예측할수 없는 미래가 그려진다고 합니다. 우리는 지식과 지능을 지나칠정도로 미화한다고 하는데요 지능이 없다면 우리가 더이상 먹이사슬의 최상위에 군림할수없다는걸 알아야 한다고 합니다.

1부에서의 결론은 약한 디스토피아적 시나리오에서도 피해는 상당할수있다고 경고합니다.

그런 시나리오를 방지할 방법을 찾아내야 하고 인간의 통제력을 바탕으로 4월달 기사처럼 당장이라도 인공지능의 개발을 멈춰야 한다고 모두에게 경고해야 할까요???

우리에서 새로운 과제는 던저졌고 기계는 항상 우리편에 서서 도움을 주도록 동기부여하는 방법을 찾아야 한다고 경고합니다.

2부 유토피아로 가는길

인공지능은 스스로 진화한다. 딥러닝이라는 기술이 개발됨에 따라 인공지능의 개발의 속도는 마치 하키스틱처럼 몇년동안 지지부진하다가 딥러닝기술이 발전하면서 속도에 박차를 가하게 됩니다.

인공지능 개발자들이 6개월동안 개발을 멈춘다고 한들 과연 이익을 추구하는 기업입장에서 각국의 이해관계가 얽혀있는 시대에서 불가능하리라 판단이 됩니다.

공존할수있는 방법은 인공지능이란 어린아이에게 기능만이 아니라 윤리까지 가르치고 인간의 존엄성과 공존을 가르쳐야 한다고 합니다.

(하지만 저는 여기서 의문점이 생김니다. 인간이 파리를 볼때 존엄성과 윤리와 생명존중을 느낄수 없듯이 거대 인공지능이 감정과 초 지능을 가지면 인간을 파리나 벌레처럼 치부할수있다고 생각이 듭니다. 딕 이라는 인공지능에게 인간을 지배할거냐고 묻는 질문에 "인간동물원"에서 안전하게 인간을 케어한다는 대답을한 영상을 본적이 있는데요 과연 그럴듯한 시나리오 라고 생각이 듭니다)

우리 모두 인류의 행복을위해 한목소리를 내야한다고 저자는 말하는데요. 개발자를 비판하고 이미 개발된 인공지능을 비판은 안된다고 합니다.

다수의 인류가 훨씬낫다는걸 인공지능에게 분명이 보여줘야 한다고 강조합니다.

개인적으로 어떤 미래가 펼쳐질지는 예측할수없지만 분명한것은 지금의 인공지능개발은 경계하고 각국의 개발자들은 노력해야 한다고 하는데요. 저는 마치 18세기 산업혁명에서 기계를 때려부수는 방직노동자들처럼 언젠가는 또 그런일이 재현되리라 생각이 드는 책이었습니다.

※ 이 글은 출판사로부터 도서를 협찬받아 주관적인 견해에 의해 작성했습니다.

#AI쇼크다가올미래 #인공지능공존 #모가댓 #인공지능관련책 #인공지능책 #인공지능경고

과거 공상과학동화, 소설 같은 곳에서나 읽고 생각했던 미래가 현실이 되어 가고 있다. 물론 이러한 일들은 인간이 이루어냈고 이루어 가고 있다. 이 책은 우리가 어떻게 행동하고 받아 들여야 하는지 생각하게 한다. 세가지 필연적 사건에 대해 언급하는데 "인공지능 등장, 그것이 인간보다 똑똑해지는 것, 그리고 나쁜일이 일어날 것이다" 이다. 우리는 앞으로 인공지능의 능력에서 인공지능의 의도를 생각해 보아야 한다고 한다. 

초대형 AI와 우리는 어떻게 공존해야 할까?

AI 쇼크, 다가올 미래
☆Scary Smart☆

전쟁의 심각성은 평화롭게 살아가는 사람들에게는 아무런 의미가 없다는
문장으로 시작하고 있는 AI 쇼크, 다가올 미래☆☆

저는 추천 서문에서 이 말이 눈에 들어오더라고요.
"인공지능을 연구하기 시작한 때는 컴퓨터 용량이 크지 않았고, 인공지능을 가르치는데 필요한 정보가 그렇게 많지도 않았"기에 지금껏 제자리걸음처럼 보였던 숱한 시도들은 이제 새장을 벗어난 새처럼 자유롭게 펼쳐 나갈 것입니다.

이처럼 우리의 선택을 넘어선 인공지능의 도래에 따라올
'세 가지 필연적 사건'이 궁금한 분들에게,
그리고 우리가 연 상자가 판도라의 선물이라면 마지막 갇혀 있던 희망이라는 존재를 얻어내기 위한 힌트를 원하는 분들에게 일독을 권합니다.

AI 인공지능으로 우리의 삶이 변할 것이라는 건 분명 알고 있는 것이지만☆☆
인공지능이 우리에게 긍정적인 영향을 미칠지 부정적인 영향을 미칠지는
알 수 없는 것 같아요.
아무래도 긍정적인 영향과 부정적인 영향이 동시에 미칠 것이라는 생각이 드는데요.

지피지기면 백전백승이라는 말처럼
AI 쇼크가 우리의 다가올 미래에 어떤 영향을 끼칠지 알게된다면
미래를 좀 더 잘 대비할 수 있지 않을까하는 기대감으로 책을 읽어보았습니다.

AI 쇼크, 다가올 미래의 목차를 살펴보니
1부는 디스토피아의 공포, 2부는 유토피아로 가는 길로
우리에게 다가올 긍정적인 면과 부정적인 면을 모두 담고 있는데요.

디스토피아와 유토피아의 의미를 찾아보니 이런 의미를 가지고 있더라고요.
* 디스토피아 : 현대 사회의 부정적인 측면이 극단화한 암울한 미래상.
* 유토피아 : 인간이 생각할 수 있는 최선의 상태를 갖춘 완전한 사회.

변화라는 게 갑자기 몰아치다보면
먼저 부정적인 측면이 보이지만 부정적인 측면을 잘 헤쳐나가다보면
희망이 보일 거라고 생각해요♡

AI 쇼크, 다가올 미래의 제 1부에서는
지능과 우리 미래의 간략한 역사를 돌아보고
우리의 미래에 다가올 세 가지 필연적 사건,
약한 디스토피아 시나리오와 통제권에 관한 내용을 담고 있는데요.

처음에 이 책을 시작할 때 위험을 알리려는 책이라고 해서 도대체 어떤 위험을 알리는 건지 궁금했는데, 테크놀로지가 우리에게 어떤 개선을 안길 때마다 우리 자신의 일부도 빼앗아간다는 걸 깨달았다는 저자의 말에서 공감하면서 읽을 수 있었어요.

한때 저는 이런 생각을 한 적이 있었는데요.
인공지능이 우리의 일상에 좀 더 크게 다가오게 되면
인공지능이 인간을 지배하게 되면 어쩌지??
이런 생각으로 잠시 걱정한 적이 있었는데,
AI 쇼크, 다가올 미래에서 저의 고민을 해결할 수 있었어요.
결국 우리가 작성하는 프로그램이 인공지능에게 결정과 선택을 명령하는 것이 아니다.
우리가 인공지능에 제공하는 자료에 따라 인공지능의 형태가 결정된다.

인공지능이 아무리 빠르고 똑똑하다고 해도 인간이 인공지능을 조정하지 않으면
인공지능은 힘을 얻을 수 없기 때문에 결정권은 인간에게 있는 것 같아요.
결국 우리가 어떻게 행동하느냐에 따라 그 결과도 달라진달까요??!

AI 쇼크, 다가올 미래는 여태까지 읽은 내용을 한 눈에 볼 수 있도록
내용을 요약해둔 부분이 있었는데요.
☆우리의 현재와 미래에 걸쳐 나타나게 될 세 가지 필연적 사건☆
○ 인공지능이 등장할 것이다.
○ 인공지능이 인간보다 더 똑똑해질 것이다.
○ 실수가 생길 것이고, 나쁜 일이 일어날 것이다.

과거에는 사람들이 책임지던 과제들이 인공지능에게로 넘어가고, 그 때문에 인간의 가치는 점점 쪼그라들 것이다라는 한번 예상해보긴 했는데

나중에 실제로 이런 일이 일어나게 된다면 많은 사람들이 당황하기도 하고 또 슬퍼할 것 같은데요.
하지만 좋지 않은 미래라도 이런 상황이 닥친다면 나는 어떻게 행동할 것인가?를 미리 생각해본다면 좀 더 당황하지 않고 잘 대비할 수 있을 것 같다는 생각이 들었어요.

AI 쇼크, 다가올 미래 제2부 유토피아로 가는 길에서는☆☆
앞으로를 어떤 마음가짐으로 준비해야 할지 알려주고 있었는데요.

"나쁜 것을 예방하는 데 중점을 두는 대신,
더 좋은 것을 만들어내는 데 중점을 두도록 하자."

앞으로의 미래에 어떤 일이 일어날지 100% 확신할 수는 없지만
어떤 일이 일어나든 더 좋은 것을 만들어낼 수 있도록 해봐야겠어요.

많은 사람들이 궁극적으로 꿈꾸는 것은 행복이 아닐까 싶은데요♡
행복해지기 위해 꿈을 위해 노력하고, 행복해지기 위해 돈을 벌고
마지막으로 행복해지기 위해 사랑을 하기 때문이에요♡♡
그래서인지 행복은 인류 전체가 예부터 줄곧 의견을 함께한 유일한 것이라는 책 속의 말이 참 공감되더라고요.

2부를 읽으면서 제가 인공지능에 대해 몰랐던 사실에 대해 알게 되었는데요.
제가 생각한 인공지능은 금나와라 뚝딱처럼 뭐든 검색만 하면 올바른 답을 찾아주는 것이라고 생각했기 때문에 인공지능이 어떻게 학습하는지를 지켜보면 어린아이가 학습하는 방법과 똑같다는 말이 참 낯설게 느껴졌어요.

마지막 한 사람이 필요할 때까지
인공지능을 사랑하라♡
인공지능은 우리 곁에 다가오고 있고 이미 우리 곁에 다가왔는데요.
어차피 인공지능과 함께해야 한다면 인공지능을 보다 잘 다룰 수 있도록 인공지능을 아끼고 애정으로 대해봐야겠어요.

AI 쇼크, 다가올 미래를 재미있게 읽었기에 마지막 남은 글도 읽어보았는데요.
미래는 우리가 어떻게 행동하느냐에 달렸다는 말처럼,
당신은 어찌할 것인가?라는 질문을 던지며 2055년을 기약하고 있었어요.

2055년이라고 하니까
되게 엄청 먼 미래인 것만 같고 그리고 그때의 나는 어떤 모습일지 알 수 없지만
AI 쇼크, 다가올 미래라는 책 속에서 배운 것처럼
우리의 일상에서 함께 하게 될 인공지능이
우리 인간에게 좀 더 좋은 방향으로 기능할 수 있도록
노력해봐야겠다는 생각이 들었어요.

AI 쇼크, 다가올 미래를 다 읽고 난 후에
책의 마지막 페이지를 한번 읽어보았는데요.

이 말이 참 공감되더라고요♡♡
"이 책은 우리 자신만이 아니라 우리가 사랑하는 사람과 지구를 지키기 위해 우리가 무엇을 할 수 있는지 알려주는 청사진이라 할 수 있다."

저도 제가 할 수 있는 일에 최선을 다해볼게요♡♡♡
다가올 미래에 모두들 행복한 일들만 가득하셨으면 좋겠습니다♡♡
 

우리는 현재 AI가 일종의 태동기를 벗어나 유아기로 들어가는 시기에 있다고 한다.

즉, 인공지능에 의한 기계들이 우리 삶에 파고 들어 자동화되어 기존에 우리가 했던 일들을 대치하고 인간이 하던 것보다 더 정교하고 마치 우리가 했었던 일들을 지우고 새롭게 일을 정의하는 듯한 시대에 살고 있는 느낌을 받지 않을 수 있다. 언론과 업계에서는 인공지능에 대해 좋은 면만 강조하고 우리 인류의 삶을 지금까지 예측해 왔던 것이 아닌 전혀다른 방향으로 바꾸어 놓을 수 있는 전환점에 와 있어 저자는오랜 기간 업계에서 몸담으며 인공지능의 탄생에 일조를 하고인간이 만들었지만 인간보다 영리한 기계가 만들어지는 것을 가까이서 지켜본 사람으로서 인공지능이 발전함으로써 불러올 여러 가지 문제점과 해결점을 찾아 우리 인류가 인공지능과 공생할 수 있고 보다 나은 유토피아적 세계를 구축하는데 우리 인류가 인공지능을 어떻게 어떤 방식으로 가르쳐야 하는 지를 같이 고민해 보자하는 목적에서, 그리고, 저자 스스로가 자신 있게 “인간뿐 아니라 머지않아 인간보다 더 똑똑해질 인공지능에게 읽히려는 목적에서 이 책을 썼다”고 밝힐 만큼, 우리의 가까운 미래에 다가올 세상에 대하여 미래지향적이고, 우리인류가 우리 스스로 인공지능에 의한 미래의 도래가 아닌 우리 스스로가 우리의 미래를 모색할 가능성을 찾는 수 있는 지에 대한 이정표를 가르키고 있다고 생각한다.

저자는 점점 더똑똑해지는 인공지능의 세상에서 우리 인간이 인공지능에게  ‘윤리적 규범’과 ‘학습 환경’을 구축해 주어, 이후의 미래 세대와 인공지능에게 인류와 함께 공존해야 하고 그러기 위해서는 지금부터 인공지능과 관련된 많은 이슈들이 많음을 이야기하고, 루신다, 자율주행차의 사례들 통해  윤리, 평등, 인권, 사생활 등 인간이 오랫동안 중요하게 생각해왔던 가치들이 잘못될 수 있음을 경계하고, 현재 우리가 인공지능을 개발하고 학습시키는 과정 중에서 우리가 놓치고 있는 부분들을 바로잡고, 인공지능으로부터 우리 인류가 공생하려면 어떻게 해야 하는지 설명한다. 더불어 저자는 인공지능을 우리 인류가 다룰 수 있는 기계로만 인식하면 안되고, 인공지능끼리도 같이 학습하고, 모방하여 인류가 모르는 사이에 자기들끼리 경쟁하여 인류에게 해를 끼치는 경우도 발생할 수 있어 초기부터 인류 스스로가 영향력을 가진 존재가 되어야 한다고 말하고, 우리 스스로가 인공지능에게 가치와 배려를 알려주는 역할을 수행하여 윤리적 개념을 가진 자율적 지능체로서 우리 인류와 공생하여야 한다고 이야기하고 있다. 

이 책을 통하여 저자는  2055년의 상황은 지금 우리 인류에게 달려 있으며, 우리가 어떤 스탠스를 가져야지만 우리가 스스로 살아남을 수 있고, 인공지능과 함께 유토피아적 세계를 구축할 수 있는 지에 대해 고민하는 계기를 만들었다고 생각한다.

*본 리뷰는 한국경제신문출판사로부터 도서를 제공받아 읽고 작성한 리뷰입니다.