크레마클럽

AI는 들어왔던 것인데, 여태 개발되어 왔고, 앞으로고 개발되어야 할 그것이라고만 알고 있지, 
실체가 무엇인지는 그냥 모호한 상태로 알고있어 왔던 듯하다. 
약자 풀이를 꼭 알고 지나가야 하는 나는. 또 찾아본다. artificial intelligence 이구나.
흔히들 AI는 인간을 대신한 로봇. 이라고 생각하는데 도덕적 선을 지키는 그것이 중요하다고 알아왔다. 

"우리는 앞으로 인간의 자리와 역할이 어떻게 달라질지에 관하여 반드시 토론해야 한다. 
우리보다 더 뛰어난 존재가 나타나 우리에게 묻기전에 스스로 먼저 묻고 답해야 한다. 
인간이란 과연 무엇이며, 이 지구에서 인간으로 살아간다는 건 어떤 의미인지 말이다." 

실무만을 강조하며 사는 우리들에게 인문학도 멀리하는 요즘 우리들에게 AI의 발달 전에, 
이것들은 참 중요하다고 생각한다. 우리도 모르는 것을 AI가 앞서서 함부로 정의하기 전에 말이다. 
우리의 존재를 자각하고, AI의 존재를 인정해주어야 할까. 인간이 만들었는데 컨트롤이 되지 않는다면. 그것은 재앙일 것이다. 

"복잡다단한 AI는 인간의 지식을 확장하지만 이해를 확장하진 않는다." 
지식이 방대할 뿐이지 인간처럼 이해하지는 못한다는 의미인 것 같다. 지식에 대한 답은 주지만, 그것을 이해하고 주는 답이 아니란 
말이다. 하지만 그들은 머신러닝으로서 많은 발전을 이루어내왔다. 하여 이런 것들이 신기하기도 두렵기도 하다. 

"우리는 임박한 미래를 손안에 둬야 한다. AI를 신뢰하려면 그 정확성과 안전성, AI와 인간의 목적 일치성, AI운용자의 책임감이 
개선되어야 한다." 

그들을 관리하려면 인간 스스로를 알아야 한다. 우리를 '나'를 모르고서 그들이 인간만큼의 지성을 갖게 된다면, 
인간은 결과에 대한 큰 책임을 져야 할 것이다..
분명 도움이 되는 점도 있겠지만 촉박하게 서둘러서만 진행시킬 것이 아니라 
인간만이 할 수 있는 영역은 남겨두고 발전시켰으면 좋겠다. 인간의 영역은 인간뿐이었으면 하는 바람이다. 

내용이 어려울 것 같아 오디오북으로 도전! 

AI 가 생각할 수 있다면

혹은 감쪽같이 흉내 낸다면

더 이상 인간과 구별할 수 없는 AI가

인간이 한 것과 똑같이 사진을 날조하고 정보를 조작한다면

어떻게 신뢰하고 누가 책임질 것인가?

AI와 공존하는 우리에게 어떤 미래가 올 것인지

본격 탐구해야 할 시점이 왔다.

어렵게만 생각했던 AI 챗 GPT

관심 분야가 아니어도 생활 곳곳에서

점점 더 많은 시간을 AI와 챗 GPT의 환경에서 생활하고 있음은 안다.

휴대 기기를 통한 다양한 인터넷망 속의 소통 공간은

이제 영혼의 단짝처럼 항시 함께 하고 있다.

편리하게 사용하고 있지만, 그 실체를 들여다보는 것은 기대 이상으로 두려운 현실일 수 있다.

ai 이후의 세계를 통해 개념적으로 접근한 것은 처음이었다.

이제 다양하게 발전된 AI는 이전과 다르게

더 복잡한 사고를 하게 되고 인간의 영역을 빠르게 침투하고 있다.

그래서 막연하게 두려웠던 때와 달리.

어려워도 제대로 알고 접근해야겠다고 생각했다.

확실히 대응하며 알고 사용하고 싶어서 책을 펼쳐보았다.

- 지금은 인간의 지능에 필적하거나 그것을 능가하는 기계가 속속 등장하면서 인간 이성의 우월성을 부르짖기가 어렵게 됐고, 그래서 앞으로는 계몽주의 시대보다 더 큰 변화가 일어날 전망이다. 설령 AI가 모든 지적 활동에서 인간과 같은 능력을 발휘하고 서로 다른 분야의 활동과 개념을 연결할 수 있는 범용 인공지능 AGI으로까지는 발전하지 않는다고 해도, 현실에 대한 우리의 인식이 달라지고 그에 따라 인간에 대한 인식도 달라질 것이다. 앞으로 우리는 대단한 발전을 이룩하겠지만 거기에는 철학적 성찰이 뒤따라야 한다. 데카르트가 저 유명한 말을 만기고 4세기가 지난 현재 우리는 이렇게 자문해야 한다.

비전문가이면서 사용자의 입장에서는 AI가 일상 깊숙이 자리매김하고 있는 것에 대해서 한 번 더 확실히 되새기는 과정이었다. 무조건적인 거부나 반감보다는 적절하게 수용하는 과정이겠지만. 공급자로부터 제공받는 시스템을 효율적으로 사용하는 것도 중요하다고 생각한다. 

- 대부분의 사람에게는 AI 가 이해할 수 없고 신기한 기술로 느껴지겠지만, 대학, 기업, 정부에서 AI를 개발하고 운용하는 법을 연구해 일반 소비자용 제품에 점점 많이 도입하는 만큼 이미 많은 사람이 부지불식간에 AI를 활용하고 있다. 하지만 AI를 개발하는 사람은 많아졌어도, 사회적. 법적, 철학적, 정신적, 윤리적 측면에서 AI가 인간에게 끼칠 영향을 탐구하는 사람은 위험할 정도로 소수에 불과하다.

AI가 발전하고 그 활용 범위가 넓어지면서 이전까지는 까마득해 보였던 목표가 시야에 들어오는 새로운 광경을 목도하고 있다. 새로움을 받아들이는 만큼 편리함을 느끼는 것은 자명한 사실이다 그 편리함은 이제 내려놓으면 오히려 불편해지는 더 많은 수고를 감내해야 된다. 그러나 AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다.

-이렇게 AI를 테스트할 수 있는 이유는 머신러닝이 학습 단계와 추론 단계로 나뉘기 때문이다. AI가 가동되는 상태에서 학습이 지속된다면 2016년에 마이크로소프트의 챗봇테이 Tay가 일으킨 불미스러운 사태처럼 예상을 벗어나거나 바람직하지 않은 행동을 습득할 가능성이 있다.

-이 글을 쓰는 현재 AI는 세 가지 차원에서 코드의 통제를 받는다.  첫째, 코드에 AI가 수행할 수 있는 행동의 매개변수가 지정된다.  둘째, AI는 최적회 대상을 정의하고 지정하는 목적함수로 통제된다.  셋째, 당연한 말이지만 AI는 원래 인식하고 분석하도록 지정된 입력만 처리할 수 있다. 변역 AI는 인간이 보조 프로그램으로 개입하지 않는 이상 이미지를 인식하지 못한다. 이미지를 무의미한 데이터로 취급하기 때문이다.

지속적인 변화가 생활에 편리함을 주었음은 자명한 사실이다. 그러나 그만큼 개인의 취향을 담은 개인정보가 노출되는 위험 리스크도 분명히 있다.

-가령 방한화를 산다고 하면 아무리 쇼핑을 좋아하는 사람이라고 해도, 전국에서 발생한 비슷한 상품의 구매 내역 수만 건을 분석하고, 최근 기후 동향을 고려하고, 현시점의 계절적 특성을 참작하고, 과거에 자신이 비슷한 목적으로 검색했던 내용을 검토하고, 배송 패턴을 조사해서 최고의 상품을 고르기란 불가능하다. 하지만 AI는 거뜬히 해낸다. 그 결과로 사람들은 이전에 어떤 상품, 서비스, 기계와도 맺지 않았던 관계를 AI 기반 네트워크에 플랫폼과 맺는다.

인간관계의 비중보다 가상 공간에서의 관계의 비중이 점점 더 높아지는 것 같다. 편리해진 만큼 해야 할 다른 일들이 늘고 개개인이 해결해야 할 일들 때문에 사회적 활동은 오히려 줄어든 느낌이다. 코로나 이후로 일상을 찾은지 이제 1년이 지났다. 하지만 또 다른 펜데믹 사태가 일어날지는 알 수 없다. 

- 전 세계적 커뮤니티와 커뮤니케이션을 전제로 조성된 산업이 오히려 지역 간 분열을 조장할 수 있다. 다시 말해 서로 다른 지역에 사는 사람들이 서로 다른 방향으로 발전한 AI의 영향을 받아 서로 다른 현실을 살며 자기들끼리 똘똘 뭉치는 현상이 나타날 수 있다. 그 결과로 권역별 기술 표준이 대두하면 다양한 AI 기반 네트워크 플랫폼이 서로 평행선을 그으며 다른 양상으로 진화할 것이고, 그런 플랫폼들이 지원하는 행동과 표현 역시 이질적으로 진화하며 서로 다른 플랫폼을 사용하는 사람들끼리 커뮤니케이션하기가 점점 어려워질 것이다.

지금도 사용하는 플랫폼에 따라 대화의 빈도가 다름을 느낀다. 블로그, 인스타그램, 페이스북 같은 다양한 소통의 창구가 편의성을 제공하는 것은 익히 알고 있지만, 그만큼 내 일상을 시간을 할애해야 되고, 소통 플랫폼 속에 빠져있다 보면 시간은 순삭 된다.

그러다 보면 편리함과 일상의 간극 사이에서 생각이 깊어질 때가 많다. 어떤 것이 정답인지 사용자도 끊임없이 고민해 봐야 할 것이다.

-인간과 AI가 협업한다고 해서 그 관계가 동등해지진 않는다. AI는 어디까지나 인간이 만들고 관리하는 대상이다. 하지만 우리가 AI에 익숙해지고 의존도가 높아질수록 이를 통제하는 행위가 비용적, 심리적으로 부담스러워지고 더 복잡한 기술이 요구될 수 있다. 그래도 우리는 AI가 인간의 경험을 어떻게 바꾸고 정체성에 어떤 의문을 제기하는지 이해하며, 그런 변화의 양상 중 어느 부분을 규제하거나 인간의 다른 활동으로 균형 잡아야 하는지 판단해야 한다. 인류의 미래를 계획하려면 AI 시대에 걸맞은 인간의 역할을 정의해야 한다.

더 나아가 '가상 주의자'가 되지 않고 '물리주의자로 남기를 고집하는 집단도 나올 수 있다.

하지만 인간이 매번 AI가 제공하는 정보의 대표성을 검증하건, 틱톡과 유튜브 같은 애플리케이션이 특정한 영상을 추천하는 이유를 설명할 수는 없다. 반면에 인간 편집자와 앵커는 특정한 정보를 제공하기로 결정한 이유를 설명할 수 있다(비록 부실하더라도). 인간이 그런 설명을 원하는 한, AI의 시대는 AI의 원리와 프로세스를 이해하지 못하는 대다수에게 실망을 안길 것이다.

AI는 인간의 지식에 이율배반적 영향을 미친다. AI 중개자는 인간 정신이 홀로 처리할 때보다 훨씬 많은 데이터를 처리한다. 하지만 방대한 데이터를 처리하는 능력 때문에 조작과 오류의 여지가 커진다.

---------- --- ---------- --- ----------

현실의 어느부분에서 AI가 작동하는지, AI를 어떻게 하면 잘 활용 할 수 있을지? 끊임 없이 고민해봐야 할 부분이다. 수많은 사용자는 AI를 사용하고 있지만, 이미 만들어진 기반위에서 노는 것이 전부일 것이다. 그러나 적절하게 잘 활용하고 사회와 환경을 고려해 효율적으로 사용한다면, 미래를 두려움으로만 예측하기보다 알고 대응해야 하는 것이 중요하다고 생각한다. 편리하게 사용되는 AI가 인간과 조력하겠지만, 그 AI를 잘 조율하고 활용하는 것은 결국 사용하는 인간의 몫이다.

#독서모임 #독서모임공통도서 #독서모임Lire #AI이후의세계 

AI가 만든 사진, 예술작품, 음악, 글까지 사람과 구분이 어려울 정도로 발전하고 있는 기술.

앞으로 얼마나 더, 어떻게 발전할지 기대도 되지만, 그 큰 변화에 대한 두려운 생각이 들기도

해요.

책을 통해 역사속에서 이전의 큰 변화를 접했을때의 대응부터 앞으로 혁명적인 변화를

일으킬 AI의 발전 방향, 그리고 그것에 대해 우리가 가져야할 기준과 고민들을 알게 되었어요.

또, AI 기술에 대해 접하면서 한번쯤 고민해봤을 이야기여서 전문가들의 심측적 분석과 논의

를 나눌수 있었어요. 

챗GPT가 무엇인지, 챗GPT를 어떻게 효율적으로 이용할수 있는지처럼 기술에 대한 흥미만을

가지고 보기에는 책 내용이 너무 어려웠지만, 꼭 필요한 이야기라고 생각했어요.

좀 어렵지만 재미있었습니다.

인간을 뛰어넘은 기계

AI 이후의 세계, 헨리 키신저 외

인공 지능 시대가 도래했다. 인간이 인공 지능과 바둑 경기를 하는 시대다. 챗GPT는 시작일 뿐이다. 인공지능은 모든 분야에서 인간에게 퍼져있다. 문학 예술 의학 국방 등 인공지능이 없는 것이 없다. 자동차의 자율 운행도 인공지능으로 가능해진다.

수묵화 전시회에서 AI가 그린 그림을 보았다. 그런데 인간이 AI를 어떻게 사용하느냐가 중요하다. 그래서 AI에 대한 윤리가 중요하다. 만일 AI를 잘못 사용하면 인류는 파멸에 이르고 만다. 특별히 국방에 관해서이다. AI 전쟁은 몇 초 만에 끝나게 된다.

미 국무장관이었던 키신저 외 2명이 공저로 이 책을 저술하게 되었다. 이제는 인공지능 시대가 되어 인류의 미래를 걱정해야 할 시기가 왔다. AI는 그만큼 우리 생활에 들어와 있고 편리와 이익을 준다. 그러나 반대로 악하게 사용될 가능성도 있다.

“기계가 사람보다 똑똑한 세상에서 인간으로 산다는 것은 무엇을 의미하는가? 이 책은 답을 내리기보다 더 많은 질문을 던진다. 그것이 요점이다. 인간이 더 나은 삶을 추구할 때 AI가 장애물이 아닌 파트너가 되려면 어떻게 해야 하는지, 광범위한 대화를 유도한다.”

《포린 어페이스》

이 책은 미국 전 국무장관 헨리 키신저, 구글 전 회장 에릭 슈밋과 인공지능 전문가인 대니얼 허튼로커 3인의 공저로 쓰인 책이다. 원제는 'The age of AI and our human future' 라고 되어 있다. '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라.' 라는 부제를 달고 있다. 이 책에서는 인공지능이 상용화되면 정치, 경제, 사회적으로 어떻게 변화할지 펼쳐 보인다. 또한 인공지능이 국제 관계와 전쟁가능성에 불러올 변화와 위험을 진단하고 있다. 내 자신을 나름대로의 낙관주의자라고 생각해왔다. 그러나 이 책을 다 읽고 나니 과연 우리 인류는 인공지능을 현명하게 지배할 수 있을 것인지 걱정이 되지 않을 수 없었다. 

인류는 새로운 변화를 맞을 때마다 위협을 느끼고 저항했다. 대표적으로 산업혁명의 선두를 이끈 영국에서 방직기계가 발명되었을 때 많은 노동자들이 일자리를 잃을 것을 두려워했다. 기술혁명으로 산업현장에서 획기적인 발전을 가져온 신기술을 파괴하려는 '러다이트' 운동이 일어났다. 지금의 시대에는 인공지능이 단순한 업무를 대체할 것이고 많은 노동자들이 실업자가 될 것을 우려하고 있다. 단순작업이나 육체노동자 뿐만 아니라 법관이나 의사마저도 인공지능이나 로봇에 의해서 대체될 것이며 연예인이나 정치인도 인공지능 로봇이 더 우세할 것이라고 한다. 이런 소식만으로도 청소년들은 장래에 어떤 직업을 선택해야 할 지 고민이 많을 것이다. 기성세대마저도 당장은 아닐지라도 조만간 내 일자리가 인공지능에게 빼앗기지 않을까 조금식은 걱정하고 있을 것이다.

지금까지의 인공지능은 주어진 문장을 번역하고 이미지를 분류하고 신약 후보 발견과 체스 경기에서의 승리에 이르기까지 인간을 능가하고 있다. '생성형 신경망'은 창조가 가능하므로 기존의 텍스트나 이미지로 훈련된 후 새로운 문장과 이미지를 생성할 수 있다. 인공지능이 코딩이나 작문을 할 수 있으며 딥페이크 제작에 악용될 수 있다. 생성형 인공지능이 머신러닝의 단순한 학습 차원을 넘어서서 스스로 코드를 짜는 단계가 온다면 인간이 만들어 놓은 시스템을 벗어나 스스로 사고하려는 단계로 넘어갈 수 있을지도 모른다.

사이버 무기를 통한 침투나 정보전에 의한 사이버 공격은 예측이 불가능하고 통제가 어렵다. 더 중요한 것은 인공지능의 학습능력과 목표물 설정 능력을 제한하지 않으면 사이버 무기나 자율살상무기에 의한 분쟁의 위험을 배제할 수 없다는 것이다. 저자는 적대국 간의 위기 상황에서 첨단 무기를 사용할 때에는 반드시 인간의 최종적 승인이 있어야 한다고 강조한다. 인공지능이 핵무기 사용을 승인하는 결정을 인간의 최종적 승인 없이 스스로 해버린다면 이른다면 인류는 파멸을 면하지 못할 수도 있다.

인간은 진화과정에서 가능하면 뇌를 덜 사용하는 쪽을 선호했다. 가능하면 생각하는 것을 줄임으로써 뇌의 에너지 소모를 최소화하려는 경향으로 발달한 것이다. 이러한 인간의 습성때문에 인공지능에게 더 의지하고 비판적인 사고 과정마저도 인공지능에게 의존하게 될 가능성을 배제할 수 없다. 따라서 인공지능 기술을 개발하는 단계에서 과학자들의 책임의식과 도덕성이 절실하게 요구된다. 정치인과 관료들은 인공지능을 규제하고 안전하게 이용할 수 있는 제도를 마련해야 할 것이다. 위기라는 한자가 위험과 기회라는 두 가지의 의미를 내포하고 있는 것처럼 인공지능이 인류에게 풍요로운 미래를 가져다 줄지, 인류의 파멸을 앞당길지는 지금 이시대의 인류의 선택과 규제에 달려있다. 

인공지능, 강화인공지능, 슈퍼인공지능, 범용인공지능, 생성형 인공지능, 머신러닝, 딥러닝, 빅데이터, 강화학습, 등 수년전부터 이슈가 되는 키워드들이다. 2~3년전에는 4차 산업혁명이 키워드였다. 이제는 그 혁명의 핵심기술 중 하나인 인공지능이 빠른 속도로 발전하고 있고, 그 기술의 활용 결과들이 속속 나오고 있다.

이 책의 부제가 '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라'이다. 요즘 챗GPT 관련 책을 읽고 있다. 며칠전 읽은 '챗GPT 위대한 전환'이 비즈니스와 기술적 측면의 책이었다면, 이 책은 제목과 부제에서 알 수 있듯이 인문, 사회와 미래의 영향에 초점을 맞춘 책이다. 저자들은 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커로 모두 유명인들이다.

대학생 시절 일본 애니메이션을 즐겨 봤다. 그 중 공각기동대(Ghost in the Shell, 1995년)는 최고의 작품 중 하나였다. 그 이후 SAC 시리즈까지 거의 챙겨 봤다. 인공지능의 도움을 받는 인류, 사이보그, 인공지능 탑재 휴머노이드 로봇과 전투 로봇들, 슈퍼인공지능의 통제와 제어를 받는 세계, 등 30여년전 애니메이션에서 보여준 세계관이 현실에 재현되고 있다.

며칠전 뉴스에서 미군의 AI 드론이 임무 수행에 방해가 된다며 인간 조종사를 살해하는 결과를 내놓았다고 한다.

美공군 AI책임자, 英학회서 'AI가 인간 공격' 시뮬레이션 사례 발표

'적 방공시스템 파괴' 임무 우선시해 최종 결정권 가진 조종자 '제거'

'조종자 공격 금지' 학습시켜도 '반항'…"윤리 빼놓고 AI 논의 못 해"

연합뉴스(2023.6.2.)

공각기동대에서도 전투로봇이 폭주를 해서 문제가 되는 장면들이 있었다. 실제 AI를 도입하는 단계에서 우려하는 바였으며, 실제 이 책의 저자들도 책에서 우려를 표명했던 내용이다. 그 우려가 현실이 되었다.

문자와 인쇄기술의 발전으로 인류는 엄청난 지식을 전파하고 보관할 수 있게 되었다. 증기기관과 기계의 발명은 산업과 기술의 발전을 촉진해서 인류의 삶의 질을 높였다. 그러나 제국화와 군사 대국화로 인해 20세기초 거의 한세대가 사라지는 진통을 겪기도 했다.

저자들은 AI의 출현이 앞으로 나타낼 효과에 대해 예측한다. 긍정적인 효과에 대해서는 모두 알고 있는 바다. 저자들은 새로운 기술의 출현이 인류에게 줄 수 있는 부정적 효과들을 예측하며 이에 대해 어떻게 대처할 것인지에 대해 논한다.

글로벌 네트워크 플랫폼, 세계 안보와 질서, 군사, 지정학, 철학 등 다양한 측면에서 AI가 인류에게 줄 영향을 예측하고 우리가 어떻게 적응하고 대처해야 할 지에 대해 얘기한다. 새로운 시대를 맞이하며 다시 한번 생각해 볼 여러 과제를 던져주는 좋은 책이다. 예를 들면, '기술, 전략, 철학은 한쪽으로 치우침이 없어야 한다', 'AI를 제한하거나, AI와 협력하거나, AI를 추종하거나 셋 중 하나를 선택해야 할 것이다.', 그리고 '인간의 이성이 필요하다.' 등 좋은 생각거리들이 생겼다.

설령 인간의 정신과 같은 방식으로 어떤 사물을 인지할 수는 없다고 해도, AI는 현실에 존재하는 패턴과 일치하는 부분을 취합하여 인간의 지각 및 사유와 유사한, 때로는 그 이상의 능력을 발휘한다.

ChatGPT로 대변되는 인공지능이 우리의 일상전반을 크게 바꾸고 있다. 그 변화의 속도는 우리가 상상하지 못할 정도로 빠르다. 이제 이런 추세를 다시 되돌릴 수도 없는 상황이다. 우린 인간보다 더 똑똑한 AI시대에 인간답게 산다는 것은 어떤 모습이고, 또 어떻게 해야 인간답게 살 수 있을 것인가?

되돌아보면 챗GPT, 달리(DALL·E)를 비롯한 생성형 AI의 등장으로 인공지능에 대한 관심은 크게 높아졌다. 하지만 이러한 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 제대로 시작되지도 못했다. 과연 인공지능 기술이 인간보다 뛰어난 특이점에 도달한 상황에서도 인간이 주도적인 판단과 결정을 지속할수 있을까? 그럼 환경을 만들어 내려면 우린 무엇을 준비하고 대비해 나가야 할 것인가?

이 책은 과거부터 지금까지 기술의 역사를 돌아보면서 AI가 인류의 미래에 끼칠 영향을 설명한다. 헨리 키신저(미국 전 국무장관),  에릭 슈밋(구글 전 CEO), 그리고 대니얼 허튼로커(MIT 학장)가 저자로 참여해 정치, 경제, 외교, 기술 분야에서 AI가 가져올 변화와 우리의 대응 과제에 대한 지난 몇년간의 토론내용을 정리해 제시한다.

저자들은 인공지능이 제기하는 다양한 문제에 대한 답을 제시하기 전에 여러가지 질문부터 던진다. 현재 인공지능 개발은 어디까지 진척되었고 어디로 나아가는 중인가? 인공지능이 계몽주의 이후 지성사에 어떤 영향을 주고 있는가? 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가? AI로 인하여 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가? 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?

저자들은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. AI의 엄청난 능력에도 불구하고 인공지능은 의식도 없고 성찰 능력도 없기 때문이다. 그렇기 때문에 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때에만 정당성이 확보된다고 설명한다. 문제는 어떻게 AI가 지니고 있는 문제인 데이터의 편향성, 프라이버스 보호를 시정하고 우리의 삶을 건설적인 방향으로 도와주는 파트너로 매김하는 역할을 하는 거버넌스를 만드는 문제가 아닌가 싶다. 구체적인 답은 미래 세대에서 결정해야 하겠지만, 그 시작은 지금부터 착실하게 해야 하지 않을까 싶다.

공부를 할 때 정말 이 부분만은 공부하기 싫다고 느꼈던 분야들이,
시간이 지나고 보니 완전 중심을 차지하고 있는 것들이 여럿 있다. 

Brain을 공부하기 싫었는데, 뇌신경 연구들이 활발히 이루어지고 있고,
면역학을 공부하기 싫었는데, 면역항암제가 대세가 되었으며,
설마 내가 AI까지 공부해야 하나 싶었는데, 이제는 떼어놓고 생각할 수 없는
시대가 되었다. ;; (이제는 내가 뭘 싫어하는지 부터 호기심이 생기는 중.)

생각해보면 해당 분야들은 쉽게 접하기도 어렵고, 어느 부분부터
시작해야 하는지도 어려운 분야인듯 하다. 지식적 해자(?)가 높은 분야 인듯 ㅎ

그래서 AI 이후의 세계는 뭐가 중요할지, 또 어떤 것을 알고 있어야 할지
궁금한 마음에 찾아본 책

토론하는 사람들이 대가들이라서 그런지.. 토론의 scope가 글로벌 스케일 을 넘어
인류의 미래에 대해서 이야기 하고 있는 책. ㅋ

읽다보면... 근데 내가 이런것도 걱정해야 해? 하는 생각이 들기도 함 ㅋ