크레마클럽

이 책은 미국 전 국무장관 헨리 키신저, 구글 전 회장 에릭 슈밋과 인공지능 전문가인 대니얼 허튼로커 3인의 공저로 쓰인 책이다. 원제는 'The age of AI and our human future' 라고 되어 있다. '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라.' 라는 부제를 달고 있다. 이 책에서는 인공지능이 상용화되면 정치, 경제, 사회적으로 어떻게 변화할지 펼쳐 보인다. 또한 인공지능이 국제 관계와 전쟁가능성에 불러올 변화와 위험을 진단하고 있다. 내 자신을 나름대로의 낙관주의자라고 생각해왔다. 그러나 이 책을 다 읽고 나니 과연 우리 인류는 인공지능을 현명하게 지배할 수 있을 것인지 걱정이 되지 않을 수 없었다. 

인류는 새로운 변화를 맞을 때마다 위협을 느끼고 저항했다. 대표적으로 산업혁명의 선두를 이끈 영국에서 방직기계가 발명되었을 때 많은 노동자들이 일자리를 잃을 것을 두려워했다. 기술혁명으로 산업현장에서 획기적인 발전을 가져온 신기술을 파괴하려는 '러다이트' 운동이 일어났다. 지금의 시대에는 인공지능이 단순한 업무를 대체할 것이고 많은 노동자들이 실업자가 될 것을 우려하고 있다. 단순작업이나 육체노동자 뿐만 아니라 법관이나 의사마저도 인공지능이나 로봇에 의해서 대체될 것이며 연예인이나 정치인도 인공지능 로봇이 더 우세할 것이라고 한다. 이런 소식만으로도 청소년들은 장래에 어떤 직업을 선택해야 할 지 고민이 많을 것이다. 기성세대마저도 당장은 아닐지라도 조만간 내 일자리가 인공지능에게 빼앗기지 않을까 조금식은 걱정하고 있을 것이다.

지금까지의 인공지능은 주어진 문장을 번역하고 이미지를 분류하고 신약 후보 발견과 체스 경기에서의 승리에 이르기까지 인간을 능가하고 있다. '생성형 신경망'은 창조가 가능하므로 기존의 텍스트나 이미지로 훈련된 후 새로운 문장과 이미지를 생성할 수 있다. 인공지능이 코딩이나 작문을 할 수 있으며 딥페이크 제작에 악용될 수 있다. 생성형 인공지능이 머신러닝의 단순한 학습 차원을 넘어서서 스스로 코드를 짜는 단계가 온다면 인간이 만들어 놓은 시스템을 벗어나 스스로 사고하려는 단계로 넘어갈 수 있을지도 모른다.

사이버 무기를 통한 침투나 정보전에 의한 사이버 공격은 예측이 불가능하고 통제가 어렵다. 더 중요한 것은 인공지능의 학습능력과 목표물 설정 능력을 제한하지 않으면 사이버 무기나 자율살상무기에 의한 분쟁의 위험을 배제할 수 없다는 것이다. 저자는 적대국 간의 위기 상황에서 첨단 무기를 사용할 때에는 반드시 인간의 최종적 승인이 있어야 한다고 강조한다. 인공지능이 핵무기 사용을 승인하는 결정을 인간의 최종적 승인 없이 스스로 해버린다면 이른다면 인류는 파멸을 면하지 못할 수도 있다.

인간은 진화과정에서 가능하면 뇌를 덜 사용하는 쪽을 선호했다. 가능하면 생각하는 것을 줄임으로써 뇌의 에너지 소모를 최소화하려는 경향으로 발달한 것이다. 이러한 인간의 습성때문에 인공지능에게 더 의지하고 비판적인 사고 과정마저도 인공지능에게 의존하게 될 가능성을 배제할 수 없다. 따라서 인공지능 기술을 개발하는 단계에서 과학자들의 책임의식과 도덕성이 절실하게 요구된다. 정치인과 관료들은 인공지능을 규제하고 안전하게 이용할 수 있는 제도를 마련해야 할 것이다. 위기라는 한자가 위험과 기회라는 두 가지의 의미를 내포하고 있는 것처럼 인공지능이 인류에게 풍요로운 미래를 가져다 줄지, 인류의 파멸을 앞당길지는 지금 이시대의 인류의 선택과 규제에 달려있다. 

ChatGPT로 대변되는 인공지능이 우리의 일상전반을 크게 바꾸고 있다. 그 변화의 속도는 우리가 상상하지 못할 정도로 빠르다. 이제 이런 추세를 다시 되돌릴 수도 없는 상황이다. 우린 인간보다 더 똑똑한 AI시대에 인간답게 산다는 것은 어떤 모습이고, 또 어떻게 해야 인간답게 살 수 있을 것인가?

되돌아보면 챗GPT, 달리(DALL·E)를 비롯한 생성형 AI의 등장으로 인공지능에 대한 관심은 크게 높아졌다. 하지만 이러한 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 제대로 시작되지도 못했다. 과연 인공지능 기술이 인간보다 뛰어난 특이점에 도달한 상황에서도 인간이 주도적인 판단과 결정을 지속할수 있을까? 그럼 환경을 만들어 내려면 우린 무엇을 준비하고 대비해 나가야 할 것인가?

이 책은 과거부터 지금까지 기술의 역사를 돌아보면서 AI가 인류의 미래에 끼칠 영향을 설명한다. 헨리 키신저(미국 전 국무장관),  에릭 슈밋(구글 전 CEO), 그리고 대니얼 허튼로커(MIT 학장)가 저자로 참여해 정치, 경제, 외교, 기술 분야에서 AI가 가져올 변화와 우리의 대응 과제에 대한 지난 몇년간의 토론내용을 정리해 제시한다.

저자들은 인공지능이 제기하는 다양한 문제에 대한 답을 제시하기 전에 여러가지 질문부터 던진다. 현재 인공지능 개발은 어디까지 진척되었고 어디로 나아가는 중인가? 인공지능이 계몽주의 이후 지성사에 어떤 영향을 주고 있는가? 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가? AI로 인하여 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가? 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?

저자들은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. AI의 엄청난 능력에도 불구하고 인공지능은 의식도 없고 성찰 능력도 없기 때문이다. 그렇기 때문에 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때에만 정당성이 확보된다고 설명한다. 문제는 어떻게 AI가 지니고 있는 문제인 데이터의 편향성, 프라이버스 보호를 시정하고 우리의 삶을 건설적인 방향으로 도와주는 파트너로 매김하는 역할을 하는 거버넌스를 만드는 문제가 아닌가 싶다. 구체적인 답은 미래 세대에서 결정해야 하겠지만, 그 시작은 지금부터 착실하게 해야 하지 않을까 싶다.

 CHAT-GPT에 열광하는 친구가 있는가 하면, 시큰둥한 반응을 보이기도 한다. 기계가 인간의 언어를 흉내 내는 수준을 넘어 인간보다 뛰어난 결과를 만들어낸 것은 놀라운 일이다. 현재까지 인간이 만들어낸 데이터를 학습하고 인간의 삶에 좋은 결과를 도출하는 목적보다 한 차원 올라간 일임을 부인할 수 없다.

 개인적으로 CHAT-GPT의 텍스트를 시중에서 익숙한 음성 서비스로 진행한다면 활용할 부분이 많다는 생각을 한다. 동시에 대단히 큰 위험도 존재한다. 오늘 읍내에 잠시 나가 세상의 다양한 사람들의 주장을 보았다. 한 시대, 지금 순간을 사는 사람들의 욕망은 다 다르다. 역사의 발자취 속에 그 욕망이 올바른 결론과 귀결되었는지, 그렇지 않은지, 어떤 결정적인 요인이 흥망성쇠를 결정했는지 알 수 있다. 지금 현재는 결과가 나올 때까지 사후적 판단이 유보될 수 있다. 그런 일이 AI처럼 될 수 있을까? 사실 좀 부정적이다. 왜냐하면 모든 데이터는 인간이 만든 양에 비례하기 때문이다. 수학의 극한개념처럼 막대한 데이터를 넣으면 편차가 줄고 빈도의 확률이 정확해진다고 가정하겠지만, 막대한 오류의 데이터를 넣는다면 터미네이터의 세상이 될 수도 있다. 아니면 무릉도원처럼 합리적인 세상을 띄고 있지만 이를 지키지 않는 인간이 날뛰는 세상이 되지 말라는 법도 없다. 무엇보다 미래 데이터는 넣을 수 없기 때문이다.

 인간이 자연과 신앙의 세계에서 이성의 시대로 전환된 16세기의 비교는 적절하다. 유발 하라리의 편이 의미 있게 다가오는 이유다. 정확하게 데이터를 분별하는 것이 아니라 현실의 데이터를 최대한 넣어 유사하게 접근하는 관점을 보며 왜 노자가 도를 설명하는 것과 유사하다는 느낌이 드는지 모르겠다. 책에서는 동굴과 그림자를 통해 소크라테스를 이야기하지만 이 두 가지가 너무 멀리 있다는 생각이 들지 않는다. 다만 지금 이루어진 AI는 인간의 학습 형태를 흉내 내고 있지만 인간과 같은 지각이 없다. 인간이 보편적 행위, 데이터 생성결과에 수렴되겠지만 그것이 절대적 힘을 갖긴 어렵다. 원천적으로 인간의 오류가 포함되며, 데이터를 생성하는 힘, 권력, 자본의 차이에 따라서도 왜곡될 수 있다. 너무 편리하지만 통제되지 않는다면 없는 것보다 못한 위험이 커지기 때문이다. 

 이런 인간의 발자취와 현재의 AI를 보면 인간의 역할도 존재한다. AI가 고도로 발전된다면 SF영화처럼 그 혜택을 누릴 수도 있고, Robot기술과 AI가 통제되지 않으면 기계와 전쟁을 할지도 모른다. 그런 먼 미래가 아니라면 분명 AI를 지배하는 자, AI에 통제되는 자, AI를 돕는 자로 세상은 구분되지 않을까? 몇몇 학자들이 AI가 다양한 인간활동을 대체하고, 인간은 안락함을 제공받는 세상이 될 것이라고 예상한다. 나는 정반대의 생각을 한다. 인간의 역사 속에 탐욕, 전쟁, 폭력이 사라진 예가 없기 때문이다. AI를 바라보면 무엇을 AI 할 것인가? 에 대한 정의와 그것에 대한 범위관리가 되지 않으면 정말 빌런이 날뛰는 세상의 위험도 존재한다.

  지금 한쪽의 측면에서는 AI의 기술적 발전과 가능성에 대한 도전이 한창이다. 안보와 세계질서의 장에서 나오는 이야기 전에 안보와 관련된 이야기는 너무 많다. 작게는 최근에 자주 볼 수 있는 개인정보보호, 사생활보호, 네트워크 보안과 같은 일들이다. 요즘 신문을 보면 모든 사람들이 전화기를 목숨보다 중요하게 생각한다. 가끔 궁금한 것은 통신, 은행, 카드, 교통 정보를 받아서 묶으면 소유자가 언제, 어디서 무엇을 했는가에 대한 자료를 받을 수 있다. 네트워크는 익명이랑 이름(ID, 통장번호, 카드번호) 아래 완벽한 실명제이기 때문이다. 범위를 확장에 AI는 전쟁에서 한 편으로 아군의 생명을 보호하고, 한 편의로 적군의 생명을 더 효과적으로 제거할 우려가 있다. 강대국이 패권과 경쟁 이면에도 적이 보다 정확하고 빠른 실시간 예측 AI 시스템을 갖춘다면 전쟁은 의미가 없다. 어디로 공격할지 안다면 방어는 훨씬 쉬워진다. 또한 역으로 적의 예측보다 빠른 시스템은 알아도 속수무책인 공격이 가능하게 할 수 있다는 말이다. 경제시스템에 적용된다면 보다 강력한 AI를 갖은 나라가 그렇지 못한 나라를 착취하는 디지털 제국시대도 불가능한 것은 아니다. 이성적 자각, 옳고 그름에 대한 판단이 아니라 인간 데이터를 통해, 인간보다 빨리 결과를 내는 이 만물상자의 효용과 위험을 동시에 인식할 필요가 있는 시대다. 결국 인간의 중요성은 더 올라간다. 다만 AI를 inspiration 할 수 있는 사람이 되어야 한다는 사실이 인간의 과제가 아닐까?

 일상에서 AI를 자주 보면 어떻게 학습했는가가 중요하다. 학습환경과 데이터에 따라 반응한다. 책에서 말한 강화학습형태로 AI를 제공하는 것은 돈이 어마어마하게 든다. 학습 데이터를 조그만 컴퓨터와 장비에 맞게 경량화하는 작업도 쉽지 않다. 아직은 학습 조건과 유사하게 만들어서 사용하는 것이 정확성이 높다. 게다가 보조도구로써의 역할을 늘려가는 과정이고 오류도 많다. 문제는 AI를 접하는 사람은 기계가 아닌 사람의 기준으로 생각하다 보니 만능으로 생각한다. 기계도 공부 안 한 것은 모른다. AGI라는 일반범용 인공지능이 언젠가 가능할지도 모르겠지만, 그것이 가능하다면 국가란 그저 세금 걷는 기구가 될까? 인간이 직업이라고 하는 수많은 분야에 AI가 적용되어 권위가 사라진다면 인간이 그 불만족을 인내할까? 새로운 러다이어트 운동은 어떤 방식일까? 

 미래소설의 끝이 디스토피아로 그려지는 창작이 어떤 면에서 인간의 인사이트를 보여준다고 생각한다. 기계는 과거의 데이터로 현재에 필요한 결과를 산출한다. 인간은 미래를 상상한다. 기계는 인간이 인지하지 못하는 데이터로 새로운 것을 구현할 수 있지만, 미래에 대한 상상력이란 존재할 수가 없다. 동시에 인간에 대한 인사이트는 더할 나위가 없다. 지식이 많다고 지혜로운 것이 아니다. 농담처럼 슬기로운 직장생활이 오래 회사 다녔다고 만들어지지 않듯, AI는 인간에서 지혜와 슬기를 축적하는 거대한 도전을 요구하는 것일지도 모른다. 모든 의사결정과 책임은 인간의 몫이다.

#AI이후의세계 #헨리키신저 #에릭슈밋 #내이러허튼로커 #인공지능 #인간 #독서 #khori

인공지능, 강화인공지능, 슈퍼인공지능, 범용인공지능, 생성형 인공지능, 머신러닝, 딥러닝, 빅데이터, 강화학습, 등 수년전부터 이슈가 되는 키워드들이다. 2~3년전에는 4차 산업혁명이 키워드였다. 이제는 그 혁명의 핵심기술 중 하나인 인공지능이 빠른 속도로 발전하고 있고, 그 기술의 활용 결과들이 속속 나오고 있다.

이 책의 부제가 '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라'이다. 요즘 챗GPT 관련 책을 읽고 있다. 며칠전 읽은 '챗GPT 위대한 전환'이 비즈니스와 기술적 측면의 책이었다면, 이 책은 제목과 부제에서 알 수 있듯이 인문, 사회와 미래의 영향에 초점을 맞춘 책이다. 저자들은 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커로 모두 유명인들이다.

대학생 시절 일본 애니메이션을 즐겨 봤다. 그 중 공각기동대(Ghost in the Shell, 1995년)는 최고의 작품 중 하나였다. 그 이후 SAC 시리즈까지 거의 챙겨 봤다. 인공지능의 도움을 받는 인류, 사이보그, 인공지능 탑재 휴머노이드 로봇과 전투 로봇들, 슈퍼인공지능의 통제와 제어를 받는 세계, 등 30여년전 애니메이션에서 보여준 세계관이 현실에 재현되고 있다.

며칠전 뉴스에서 미군의 AI 드론이 임무 수행에 방해가 된다며 인간 조종사를 살해하는 결과를 내놓았다고 한다.

美공군 AI책임자, 英학회서 'AI가 인간 공격' 시뮬레이션 사례 발표

'적 방공시스템 파괴' 임무 우선시해 최종 결정권 가진 조종자 '제거'

'조종자 공격 금지' 학습시켜도 '반항'…"윤리 빼놓고 AI 논의 못 해"

연합뉴스(2023.6.2.)

공각기동대에서도 전투로봇이 폭주를 해서 문제가 되는 장면들이 있었다. 실제 AI를 도입하는 단계에서 우려하는 바였으며, 실제 이 책의 저자들도 책에서 우려를 표명했던 내용이다. 그 우려가 현실이 되었다.

문자와 인쇄기술의 발전으로 인류는 엄청난 지식을 전파하고 보관할 수 있게 되었다. 증기기관과 기계의 발명은 산업과 기술의 발전을 촉진해서 인류의 삶의 질을 높였다. 그러나 제국화와 군사 대국화로 인해 20세기초 거의 한세대가 사라지는 진통을 겪기도 했다.

저자들은 AI의 출현이 앞으로 나타낼 효과에 대해 예측한다. 긍정적인 효과에 대해서는 모두 알고 있는 바다. 저자들은 새로운 기술의 출현이 인류에게 줄 수 있는 부정적 효과들을 예측하며 이에 대해 어떻게 대처할 것인지에 대해 논한다.

글로벌 네트워크 플랫폼, 세계 안보와 질서, 군사, 지정학, 철학 등 다양한 측면에서 AI가 인류에게 줄 영향을 예측하고 우리가 어떻게 적응하고 대처해야 할 지에 대해 얘기한다. 새로운 시대를 맞이하며 다시 한번 생각해 볼 여러 과제를 던져주는 좋은 책이다. 예를 들면, '기술, 전략, 철학은 한쪽으로 치우침이 없어야 한다', 'AI를 제한하거나, AI와 협력하거나, AI를 추종하거나 셋 중 하나를 선택해야 할 것이다.', 그리고 '인간의 이성이 필요하다.' 등 좋은 생각거리들이 생겼다.

설령 인간의 정신과 같은 방식으로 어떤 사물을 인지할 수는 없다고 해도, AI는 현실에 존재하는 패턴과 일치하는 부분을 취합하여 인간의 지각 및 사유와 유사한, 때로는 그 이상의 능력을 발휘한다.

요즘 AI , ChatGPT 등 기술변화에 대한 주제가 자주 언급된다. 사실 업무를 하면서도 이런 주제를 자주 접하기에 더 알고 싶어서 집어들었던 책이다. 그러나 읽기 쉽지 않다. 사실 이 주제에 대한 지식도 많이 없어서 그런지 한국어로 쓰여있으나 외국어같이 느껴졌다. 그 정도로 이 분야에 대한 지시이 없으나, 이 책의 저자들은 AI에 대해 많은 고민을 한 듯 하다. 그리고 미래에 AI와 함께 살아가야할 우리에게 어떻게 살아가야할지 방향을 제시한다.

아이가 있는 나는 교육에 대한 관심이 높다. 특히 사교육의 나라 한국에서는 어떤 사교육을 언제부터 시켜야할지 학부모들 사이에선 관심이 많은데, 기존에 없던 학원이 새로 생겼다.  바로 코딩 학원이다. 그리고 AI시대에 걸맞는 교육방법이라며 창의력 수업을 권장하는 학원도 존재한다.  그런 학원을 보낼 때 학부모로서 AI시대는 어떤 시대인지 알고 학원과 상담을 하면 더 좋을듯 하다.

사실 이 책을 읽으면서 아직도 내용을 다 흡수하지 못했다. 그러나 앞으로 알아야할 필수 개념인 AI를 위해 다시 한번 꺼내들어야겠다.