크레마클럽

가장 인간적인 미래

공별의 시대에서 공존의 시대로,

인간과 인공지능의 새로운 질서를 말하다

저: 윤송이 외

출판사: 웨일북스 출판일; 2022년 11월1일

SK텔레콤를 거쳐 엔씨소프트에서 이하고 있는 윤송이가 미국의 여러 인공지능 관련 학자들과 대담한 내용을 정리한 책이다. 윤송이에 대해서 그다지 잘 알지 못해서, 인터넷에서 검색해보니, 흥미로운 기사를 발견했다. 한겨례 신문이 윤송이와 서면 인터뷰한 내용을 실은 기사인데 “게임 속 남녀 영웅 차별보면서 ‘개발자 윤리’ 필요성 절감했죠”라는 기사였다.

굳이 정보통신기술 업계에서 일하지 않더라도, 우리는 급격한 기술 발전이 SF소설에서나 이뤄질 것으로 생각한 일들을 실현시키고 있다는 것은 안다. 아마도 우리에게 각인된 이미지는 첫째, 컴퓨터가 결코 우위를 차지할 수 없다고 생각한 바둑에서 인간이 졌다는 사실이다. 프로기사 이세돌은 인공지능과 5번 대결을 펼쳤지만, 4번 졌다. 아마도 그가 기록한 1승은 인간이 인공지능에 이긴 마지막 사례가 될 것이다. 두 번째, ChatGPT이다. 대화형 인공지능 서비스의 놀라운 성능은 그야말로 사람들을 놀라게 했다.

이러한 인공지능의 급격한 발전은 우리가 생각하지도 못한 이슈들을 만들고 있다. 의례 정보통신기술에 대해서 생각하면 그것은 말 그대로 기술적인 발전을 뜻한다. 말하자면, 거기에는 어떤 가치가 개입될 여지가 없었다는 것이다. 기술자는 효율적이며 목표로 한 목적을 제대로 구현하기만 하면 되었다. 그렇지만 우리는 발전된 인공지능을 접하면 우려하기 시작했다.

인터넷은 사람들의 편향(bias)을 더욱더 강하게 만든다. 오늘날 미국이라든지 한국 사회이든지 정치적 진영논리가 강화된 것은 인터넷의 역할이 컸다. 즉, 상대방의 목소리는 듣지 않고, 자신의 진영에서만 나온 정보와 뉴스를 접하면서 결국 편향은 더욱 강해지고 극단적으로 변하는 것이다. 우리는 인터넷을 통한 연결성으로 인한 이익만을 이야기하지만, 아마도 대표적인 악영향을 말하자면 이것일 것이다. 물론, 이외에도 인터넷으로 인한 또 다른 문제점은 사람들의 사고능력을 파괴했다는 것도 있지만, 여기에서 주제와는 멀기 때문에 생략한다.

어쨌든 중요한 것은 인공지능이 우리가 본래 요구했던 것과는 달리 이러한 편견을 내포하고 있다는 것이다. 우리는 인공지능을 통한 가상 캐릭터가 사람들과 소통하면서 인종차별을 공공연하게 언급한 사례를 알고 있다. 제작사는 서둘러 서비스를 중단했지만, 이러한 이슈는 우리가 우려를 했던 상황들을 일깨운다. 인공지능은 1984의 ‘빅 브라더’가 되는 것은 아닌가 

윤송이가 5명의 학자와 대담한 내용을 정리해서 출간한 이 책은 그러한 시대적 배경에서 출간되었다. 급격한 기술 발전에 비해서 가치관의 변화는 이를 따라가지는 못한다. 무엇보다도 인공지능이 개발된 후에 이러한 단점을 시정하기에는 너무 늦는다. 따라서, 학계에서는 단순한 기술 발전에 집중하는 것이 아니라, 윤리적 가치관에 대한 인식이 필요함을 느낀다는 것이다. 이미 미국의 대학에서는 이러한 학계 간 교류를 통한 연구가 진행 중이다.

지식의 발전은 이전과 같은 르네상스형 인간을 사라지게 했다. 학문의 세분화와 고립화는 심해서, 같은 현상을 이야기하고 있지만 다른 언어를 사용한다. 일면 전문가라 하는 사람들은 어려운 용어와 개념을 차용해서 자신들의 일을 포장한다. 최재천 교수가 이야기했던 ‘통섭’이 생각났다. 그것은 환원주의적 사고가 아니라, 한 주제에 대한 넓은 시야를 확보하는 것이라면, 그래서 우리가 어떠한 통찰력을 얻는 과정이라고 생각하면 어떨까 

우리 일상생활은 이미 이전과는 많이 변했고, 새로운 기술은 너무나 다양해서 나와 같이 이를 제대로 따라가지 못하는 사람들은 금방 구식이 되어버린다. 하지만, 메타버스, 플랫폼 경제, 가상화, 인공지능, 데이터 과학 등 수많은 기술에도 불구하고 우리의 삶은 현실에 기반한다는 사실을 잊어서는 안 된다.

화려한 기술 속에서 정작 그 기반이 되는 것들을 우리는 외면한다. 말하자면, 제조업과 농업과 같은 현실경제의 기반이 되는 산업과 우리는 현실의 삶을 살아간다는 것이다. 그러한 점을 잊지 않는다면, 미래를 비관적으로만 전망할 필요는 없다. 그리고 그러한 작업이 소위 이야기를 하는 전문가라는 사람들의 손에만 쥐어져 있으면 안 된다. 당신은 미래를 보다 주도적으로 살아갈 것이라고 믿는다.

한겨례 기사 (https://www.hani.co.kr/arti/economy/it/1072606.html)

지금의 우리는 AI와 함께 살아가고 있습니다.

아니, 이제는 뗄레야 뗄 수 없는 관계라 할까.

특히 팬데믹을 기점으로 개인 정보 활용에 따른 프라이버시 침해, 디지털 격차로 벌어지는 사회적 불평등, 통제 불능의 사이버 범죄 문제 등 AI 기술의 '편향성'이나 '공정성'과 같은 AI 윤리 문제가 뜨거워지고 있었습니다.

그렇기에 현시점에서 'AI'에 대해 가장 시급하고 중요한 이슈로 다루어야 하는 건 당연한 문제였습니다.

왜 일론 머스크는 AI를 북한의 핵보다 훨씬 더 인류를 위협하는 문제로 꼽았을까?

왜 빌 게이츠는 AI가 자칫 인류의 마지막 기술이 될 수 있다고 경고했을까?

대한민국 대표 인공지능 전문가인 '윤송이' 박사가 세계적 화두인 '인간과 AI의 새로운 공존'이라는 주제를 꺼내 이 한 권에 AI와 인류의 미래를 고민하는 철학자, 사회학자, 윤리학자, 공학자 등 다양한 분야의 세계 석학들과 인터뷰를 통해

앞으로 닥칠 변화와 문제에 대해 어떻게 대처해야 하는지

세계는 지금 어떻게 지혜를 모으고 있는지

등을 통해 우리에게도 성찰과 모색하게 해 주었습니다.

정답이 없는 AI 시대,

우리는 어떻게 답을 찾을 것인가!

과학 너머의 인류 미래를 향한 거대한 질문과 성찰

『가장 인간적인 미래』

총 다섯 번의 대담으로 이루어져 있었습니다.

1장 인간과 인공지능, 어떻게 공존할 것인가

2장 인류 역사상 경험해보지 못한 문제들이 온다

3장 인간의 '생각하는 힘'이 없다면 세상은 어떻게 변할까

4장 인공지능이 디스토피아를 만들지 않으려면

5장 옳고 그름의 경계가 사라진 시대, 선을 다시 세우다

과학 영역인 AI를 인간과 사회의 영역, 나아가 인류 미래로의 넓은 시야와 새로운 관점으로의 해석을 선사해 주었기에 한 번은 짚고 넘어가야 했습니다.

"AI가 이제 더 이상

컴퓨터 과학 분야 틈새에 있는

고립된 하위 영역이 아니라는 것을 깨닫는,

아주 근본적인 전환이 필요합니다."

무엇보다 AI에 관련된 질문은 정답이 없기에 이를 둘러싸고 수많은 의견이 쏟아지면서 불편과 혼란을 야기한다고 하였습니다.

그럼에도 분명한 것은 AI 기술 자체는 인류에게 기회일 수도, 위기일 수도 있다는 것, 기술 개발 과정을 잘 다루지 못하면 위협이 되겠지만 '인간에게 도움이 되는 방향'이라는 보편적 가치에 초점을 둔다면 AI는 인류 사회 진보에 이바지하리라는 것이었습니다.

그러기 위해선 AI와 관련된 모든 이들의 지속적 참여와 연대, 협력이 반드시 필요하다는 것.

어쩌면 당연히 아는 사실이겠지만 다시금 되짚어 보면서 새겨보는 계기가 되었습니다.

"기술이란

특정 전문 분야에만 속한 것이 아니라

우리 삶의 일부입니다.

우리가 하는 모든 것에 개입되어 있어요."

수많은 편견과 모순으로 가득한 인간.

그런 인간을 모방해 정보를 습득하고 학습하도록 프로그래밍된 AI.

이 얽히고설킨 관계 속에 저자는 마지막에 이런 질문을 던졌습니다.

우리가 맞이할 미래에 대해 사회적 합의를 이루고 이해도를 높이기 위한 사회적 담화는 무엇이며, 철학자와 윤리학자의 역할은 무엇이라고 보시는지요?

네. 말씀하신 질문은 철학자의 역할에 대한 것이 하나의 문제고, 또 다른 문제는 우리가 얼마나 많은 의사 결정을 AI나 슈퍼컴퓨터에 떠넘길 것이냐 하는 것입니다. 아시다시피 대부분 AI는 데이터에서 다양한 패턴을 찾아내거나 데이터를 다양한 차원에 따라 정렬하는 도구로 활용됩니다. AI를 통해 추출한 데이터와 관련해 의미 있는 의사 결정을 내리는 것은 바로 인간이죠. 그러니까 매우 추상적인 문제는 '우리 인간은 과연 어떤 상황에서 기계가 의사 결정을 내리도록 할 것인가'입니다. - page 263

결국 우리 인간으로부터 시작과 끝이라는 것을.

가장 인간적인 미래를 위해선 많은 이들의 관심과 사회적 합의가, 끊임없는 성찰이 필요함을 이야기해 주었습니다.

한 번은 짚고 넘어가야 할 문제를 저자를 통해, 이 책을 통해 생각해 보는 계기가 되었습니다.

공멸의 시대에서 공존의 시대로, 인간과 인공지능의 새로운 질서를 말하다.

북웨일에서 출판한 윤송이 대표님의 ＜가장 인간적인 미래＞는 AI에 관한 세계 석학들과 저자의 인터뷰를 담은 대담집이다.

윤송이 대표님은 24세에 MIT 최연소 박사라는 타이틀로 40대 이상에겐 ‘천재소녀’로 또한 드라마 ‘카이스트’ 이나영 배우의 실제모델로 잘 알려져 있으며, 아시아를 선도할 차세대 지도자로 선정된 기억이 떠오른다. 저자가 주력하고 있는 분야는 AI 분야이다. 관련해 인공지능 연구개발 센터 설립을 주도해 AI와 머신러닝에 관한 연구개발과 성과를 기업 경영에 접목하고 있다.

             Photo by Brett Jordan on Unsplash
 

미래는 AI가 선도하는 사회라는 것이 전문가의 전언이고, 이는 기술의 발달 속도로 미루어 보면 인공지능이 인간의 지능을 넘어선다는 ‘특이점’에 도달하는 시기는 예상보다 더 빨리 도달할 거로 보인다.

인간이 영위하는 일상생활은 인공지능과 로봇이 보조하는 일도 이제는 미래의 일은 아니다. 아침에 인공지능 비서가 잠을 깨워주고, 자율주행차로 차를 타고 이동하는 동안 편안하게 목적지로 이동하고, 병원의 인공지능 의사는 정확한 진단으로 인간 의사가 찾아내지 못하는 병을 진단하고, 인공지능은 변호사, 약사, 법조인이 제공하는 서비스를 대체할 것이다.

가장 염려스러운 점은 인공지능의 확장성과 학문의 경계가 뚜렷하지 않으며, 인공지능에 관한 윤리와 철학이 아직 제대로 확립되지 않았다는 점이다.

저자는 AI 윤리, 교육, 철학, 공학, 사회와 관련한 세계 석학과의 인터뷰를 통해 우리가 던져야 할 질문은 무엇이며, 중시해야 할 것은 무엇인지 대담을 나눈다.

목차를 살펴보면 다음과 같다.

1장 신인류의 미래 : 인간과 인공지능, 어떻게 공존할 수 있을까

AI [윤리] Framework × 페이페이 리

2장 피할 수 없는 딜레마 : 인류 역사상 경험해보지 못한 문제들이 온다

AI [교육] Framework × 롭 라이히

3장 AI 시대의 철학자들 : 인간의 ‘생각하는 힘’이 없다면 세상은 어떻게 변할까

AI [철학] Framework × 앨리슨 시먼스

4장 융합의 시작 : 인공지능이 디스토피아를 만들지 않으려면

AI [공학] Framework × 제임스 미킨스

5장 세상에 없던 질문 : 옳고 그름의 경계가 사라진 시대, 선을 다시 세우다

AI [사회] Framework × 알렉스 번

인공지능이 막연하게 인간을 보조할 것이라는 기대와는 달리 인공지능은 우리 사회의 여러 영역에서 광범위하게 결정적인 역할을 할 것으로 기대된다. 인공지능은 성별에 대한 편향성과 인공지능의 한계는 어떻게 설정해야 하는지, 그들의 지능이 인간 지능을 넘어설 때 어떻게 통제할 수 있는지 그동안 막연하게 인공지능에 관해 궁금했던 내용은 석학과의 인터뷰를 통해 확인할 수 있다.

인공지능의 여론을 영향을 미칠 수 있는 이상, 정치에서도 영향력을 행사할 수 있으며, 이는 플랫폼 기업의 정치 영향력을 행사하는 모습을 통해 확인된 바 있다.

경제산업 분야에서도 AI와 호모사피엔스가 함께하는 ‘로보사피엔스’의 등장이 예상된다. 펀드매니저를 대신하는 로보어드바이저가 자산을 운용하고, 우리가 투자하려는 상품을 분석하고 이에 대해 조언을 하는 단계다.

AI가 발달할수록 이를 사용할 수 있는 시민의 불평등, AI가 감시하고 침범하는 사생활 문제 등 우리는 AI에 관한 수많은 논의를 발전시키고 정립해야 한다.

결국 우리가 추구해야 하는 바는 기술과 공존을 통해 ＜가장 인간적인 미래＞를 만들어가야 한다는 점이다. 다가오는 AI 시대에 우리가 주목해야 할 윤리, 철학적 문제에 관한 힌트를 얻고 싶은 분에게 이 책을 소개합니다.

- 이 글은 출판사에서 도서를 지원받아 주관적으로 작성하였습니다.

#가장인간적인미래, #윤송이, #웨일북, #AI, #인공지능, #신간추천, #인문, #과학, #미래, #대담집, #철학, #인문학

개인적으로 2021년 말에 국가과학기술인력개발원에서 주관하는 AI개발윤리 교육과정 기획 연구에 자문위원으로 참여한 것을 계기로 AI의 사회적 파급력에 대한 나름대로의 견해와 가이드라인을 가지게 되었는데, 때마침 이 책을 접하게 되어 기뻤다. 하지만 결론적으로 말하자면 그다지 깊이 있는 내용을 담은 책은 아니다. NC문화재단 이사장 자격으로 윤송이 씨가 줌(Zoom) 미팅을 통해 미국의 몇몇 대학 교수들과 그다지 길지 않은 인터뷰 내용을 담은 것이기 때문이다. 전체 인터뷰를 포괄하는 핵심 내용을 한마디로 요약하자면 AI의 사회적 영향력이 큰 만큼 어느 방향으로 움직여야 할지, 또 어떤 방법으로 함께 살아나갈지 최대한 다양한 관점을 모아 숙고하고 토론해야 한다는 정도가 되겠다. 이런 쪽에 선두주자라 할 수 있는 스탠퍼드 인간중심 인공지능연구소(HAI)에 대한 소개와 관련 교수와의 인터뷰가 첫 장을 열고 있다. 서로 다른 학문 간에 더 깊이 있는 융합을 통해 인간과 사회에 미치는 AI의 영향력을 연구하고 있다는 이 연구소는 AI 기술발전으로 인해 지금 발생하고 있는 여러 문제를 해결해 나가는 데는 한 세대의 시간 이상이 소요될 것이라 언급하고 있다. 

따라서 다음 세대가 기술의 발전적 유익 뿐만 아니라 그것을 적용하는 과정 곳곳에 도사린 위험에도 주의를 기울일 수 있도록, 그리고 기술 혁신 과정에서 인류를 위한 가치를 선택할 수 있도록 필요 역량을 강화하는 교육자의 역할이 중요하다고 강조하고 있다. 또한 AI 개발자들이 디자인 단계 혹은 아이디어의 초기 단계부터 윤리적 문제, 민주주의적 사고방식, 민주주의 제도와의 상호작용에 대해 질문하고 이야기를 나누어야 한다고 말한다. 그러면서 임베디드 에틱스(Embedded EthiCS)라는 학제간 연구 또는 학제간 커리큘럼에 대해 설명하고 있는데, 여기서는 철학 혹은 윤리학 교육을 받은 사람, 또는 정치학과나 철학과 출신 사람을 컴퓨터 공학 교수진과 짝을 지어준다고 설명한다. 이들이 서로 협력해 커리큘럼을 개발한다면서 이를테면 알고리즘 모델의 기초를 배우는 학생에게 알고리즘의 편향성과 공정성에 대한 질문에도 직면하도록 교육과정을 개발한다는 말이다. 그 다음으로 하버드 대학의 임베디드 에틱스(Embedded EthiCS) 프로그램 설립자 겸 책임자와의 인터뷰 내용이 이어진다. 여기서도 어떤 제품이나 서비스를 설계할 때부터 그 프로그램이 가져오게 될 윤리적 영향력에 대해서 고민해야 한다고 강조한다.

특히 사용자 관점에서 어떤 서비스나 인공적 존재가 어떤 정서적 공감을 보인다는 이유로 사용자가 그에 대해 더 신뢰하거나 확신한다면 기업에서는 그 서비스를 더 많이 판매하기 위해 신뢰를 이용할 것이라 말한다. 이를 어떤 사람은 악용이라 말할 수 있고 어떤 사람은 일종의 효과적인 마케팅이라 여길 수 있는데, 만약 트렌드가 이런 방향으로 계속 흘러간다면 결국 무엇이 해로운 것인지 알리는 사회적 관점이 필요하다고 언급한다. 한편 시를 쓰는 AI와 보고 느끼고 창조하며 시를 쓰는 인간은 근본적으로 무엇이 다른지, 무엇이 우리를 인간으로 구별 짓는지 설명할 수 있어야 하는데 그게 쉽지 않다고 말한다. 그래서 임베디드 에틱스(Embedded EthiCS)에서 가르치는 것은 결국 사람들에게 대부분 명확한 답이 없는 상황에 질문하는 법을 가르치는 것이라 말한다. 또한 윤리적 문제를 제대로 이해하고 다루기 위해 필요한 기본 언어를 갖추고, 특정 상황에서 외부의 도움이 필요하다는 것을 인정하고 표현할 수 있게 하는 것이 바로 임베디드 에틱스(Embedded EthiCS)에서 가르치는 것이라 언급하고 있다. 개인적으로는 이 책의 후반부에 AI가 야기하는 윤리적 문제와 관련해 좀 더 상세히 고민해야 할 것들을 제시하고 있어서 눈길을 끌었다.

어떤 경우에 나쁜 상황이 지속되는 이유는 그것을 예방할 수 있는 인센티브 구조가 없거나 잘못되었기 때문이라면서 모든 개인이 선한 의도를 가진다거나 다른 사람을 해칠 의도가 없다는 것만으로는 부족하다고 말한다. 결국 기술 윤리를 가르칠 때 수행해야 할 교육학적 과제는 각 개인이 윤리적 관점을 가지게 하거나 윤리와 기술과의 관계를 이해하게 하는 것 이상의 문제라면서, 어쩌면 기술 윤리 교육이란 민주주의 사회에서 좋은 시민이 되는 것, 즉 일종의 집단적 행위를 통해 사회에 필요한 규제를 마련하는 것이 시민성을 실천하는 것임을 깨닫는 시민을 배출하는 것일 수도 있다고 언급한다. 마지막으로 이 책에서 가장 흥미로웠던 언급은 윤리의 근본적인 진실이란 평범한 인간이 접근하기에 너무 어려운 것이기에 오직 소수의 강력한 AI만이 그것을 제대로 이해할 수 있다는 식의 가정을 해 볼 수 있다는 언급이었다. 즉, AI는 인간의 윤리적 추론과는 질적으로 매우 다른 사고를 할 가능성이 있으며, 인간보다 윤리에 대해 더욱 깊이 이해하며 윤리 규칙이 어떻게 작동하고 서로 균형을 유지하는지에 대해 인간보다 더 심도 있는 지식을 갖추게 될 수도 있기에 그런 기계의 선택을 신뢰해야 할 수 있어야 한다면서 말이다.