크레마클럽

AI 지도책

『AI 지도책』

제목이 『AI 지도책』 인데, ‘AI’와 ‘지도책’은 어떤 관련이 있을까?

어떤 관계이기에 그 두 개의 개념이 나란히 함께 하게 되었을까 

지도책이니까 현재 AI가 진행되고 있는 현황, 혹은 AI가 발전하고 있는 국가, 도시들을 보여주면서 그런 현황을 지도를 통해 보여주려는 것이 아닐까, 라는 나의 추측은 보기 좋게 빗나가고 말았다.

이 책의 내용은 그게 아니다.

이런 내용을 말하고 있는 책이다.

1 지구 / AI를 위한 채굴

2 노동 / 작업장 AI의 과거 역사

3 데이터 /기계에 보는 법 훈련시키기

4 분류 /순환 논증 체계

5 감정 /감정 예언자 : 감정이 돈이 될 때

6 국가 /제3차 상쇄 전략

그런데 그런 항목을 이해하기 위해서 다음의 장소를 다녀봐야 한다.

미국 네바다의 리튬 광산

아마존 창고와

시카고의 도축장,

데이터 센터,

이미지 데이터베이스,

파푸아뉴기니의 산악 마을,

스노든 자료실,

텍사스 서부의 로켓 기지

그곳에서 어떤 일이 일어나고 있기에 저자는 그런 곳을 보여주려는 것일까 

이게 바로 이 책의 내용이고 목적이다.

그곳에서 어떤 일이 일어나고 있는가 

＜1장 지구＞에서는 : 

이 책에서 저자는 인공지능 산업을 ‘추출 산업’으로 규정한다. 여기서 ‘추출’은 자원과 에너지의 추출을 뜻하기도 하고 노동력과 데이터의 추출을 뜻하기도 한다. (294쪽) 그래서 AI를 창조하기 위해서는 지구상에 존재하는 에너지와 광물자원, 값싼 노동력, 대규모 데이터를 추출해야 한다.

이 일이 벌어지는 현장을 관찰하기 위해 저자는 AI가 실제로 만들어지는 장소들을 살펴보고 있는데, 그중 하나가 미국 네바다의 리튬 광산이다. (35쪽)

마침 오늘 아침 뉴스에 보니, ＜포스코 인수한 아르헨 리튬 호수＞ 관련 기사가 보인다.

그렇게 AI에 대한 관심이, AI 제작에 필요한 리튬에 대한 관심이 여기저기서 폭발하고 있는 상황이다.

＜2장 노동＞에 대해서:

이 책에서는 인간이 로봇으로 대체될 것인가를 논쟁하기보다는 감시, 알고리즘적 평가, 시간 조정이 증가함에 따라 작업 경험이 어떻게 달라지는지에 초점을 맞춘다. (71쪽)

좀더 알아보자. 

이제 고용주는 공장을 직접 둘러보지 않고도 노동력을 감시할 수 있다. 노동자들은 출입증을 긁거나 전자시계에 부착된 판독기에 지문을 갖다 대어 근무시간을 기록한다. 그들의 앞에 놓인 시한장치는 현재 작업을 끝마쳐야 하는 시간을 분이나 초 단위로 표시한다. 노동자의 몸에 달린 센서들은 체온, 동료와의 물리적 거리, 할당 업무 대신 웹사이트 탐색에 쓰는 시간 등을 끊임없이 보고한다.  (93쪽)

＜5 감정＞에 다하여 :

이 장은 이렇게 시작한다. 

1967년, 파푸아뉴기니 산악 고원 지대의 외딴 초소에 폴 에크먼이라는 젊은 미국인 심리학자가 한 묶음의 플래시카드와 새로운 이론을 가지고 도착했다. (181쪽)

 

폴 에크먼은 '자연적이고 선천적이고 문화를 아우르고 전 세계 어디서나 똑같은 소수의 보편적 감정을 모든 사람이 공유한다'는 가설을 증명하기 위한 자료를 수집하려고 그곳에 간 것이다.

그래서 이 장은 이렇게 흘러간다.  

자동 감정 탐지 시스템은 현재 널리 도입되고 있으며 채용 분야에서 특히 활발하게 쓰인다. 휴먼(Human)이라는 런던의 스타트업은 감정 인식을 이용하여 입사 지원자의 동영상 면접을 분석한다. 〈파이낸셜 타임스〉의 보도에 따르면 ‘이 회사는 입사 희망자의 감정 표현을 포착하여 성격 특질을 파악할 수 있다고 주장한’다. 그런 다음에야 정직성이나 업무 열정 같은 성격 특질에 대해 점수를 매긴다는 것이다. (184-185쪽)

다시, 이 책은 

이상 살펴본 것처럼, 이 책은 다른 AI 관련 책과는 결이 다르다.

다른 AI 관련 책들은 AI가 어떻게 운용되고 있으며, AI가 인류의 미래에 어떤 영향을 미칠까 하는 측면에 초점이 있고, AI의 기술적인 면, 미래에 인간과 AI의 공존 문제에 착안하고 있다면, 그래서 그런 미래가 되면 인간의 역할은 무엇일까에 자연스럽게 결론을 내리고 있는데, 이 책은 그런 면에는 전혀 관심이 없다.

대신 이렇게 AI에 접근한다.

AI가 실제로 어떻게 만들어지고 있는지를 살펴보면서 실제 어떤 일들이 AI를 위한다는 미명하에 벌어지고 있는지를 보여준다. 미래 이야기가 아니라, AI 때문에 지금 벌어지고 있는 문제를 보여주고 있다. AI 에 대하여 새로운 시각을 갖게 해주는 책이다.

AI 과연 이대로 좋은가, 하고 묻는 소리가 들려온다.

따라서  여기서 말하는 '지도책'은 장소를 말하는 게 아니라는 것, 바로 이것이 AI 에 대한 새로운 접근을 하게 만들어준다. 

소소의책에서 출판된 케이트 크로퍼드의 'AI 지도책' 리뷰입니다. 최근에 출간된 과학기술 분야의 서적인데 추천하는 글들이 많아 궁금해져서 구입했습니다. 첨단 기술이 기존에 인류의 예측보다 훨씬 빠르게 발전하고 있어 이 책을 무조건적으로 받아들일 수는 없지만, 현실을 보다 비판적으로 바라보는 관점을 익히고 AI가 실제로 우리의 삶에 어떤 영향을 미치는지 많이 배워갈 수 있는 양서입니다.

'AI 지도책' 은 책제목에서 알 수

있는 것처럼 본격적인 AI 시대를 

앞두고 인공지능이 무엇이고 인공지능의 

발달이 우리 사회에 미칠 영향이 무엇인지,

인공지능에게 모든 역할을 넘겨주는 일이 

생겼을 때 발생하게 되는 부작용을 줄이면서 

인간과 인공지능과 공존할 수 있는 

방법이 무엇인지 이야기하는 책이다.

7년 전 이세돌과 알파고의 바둑 대결이 있었다. 

바둑 대결을 지켜 본 전세계 사람들은

알파고의 뛰어난 능력을 보면서 인공지능

기술이 이렇게까지 발전했나하고 놀라워했었다. 

인공지능 관련 기사들이 끊임없이 나왔고, 

학계에서는 인공지능 연구가 활발히 이루어졌다. 

기업들은 인공지능을 활용한 

여러 제품과 서비스를 출시하였다.

이렇게 인공지능의 발달과 함께 모든 것이

빠르게 변화하고 있는 시대에 제대로 대응하고

새로운 기회를 만들어 나가기 위해서는 

인공지능의 역할과 기능을 제대로 

이해하고 활용하는 것이 무엇보다 중요하다.

'AI 지도책' 은 지구, 노동, 

데이터, 분류,감정, 국가로 

주제를 나누어서 자세히 설명하기 때문에

인공지능이 실제로 어떻게 만들어지고 있는지,

기술 기업들이 인공지능을 이용하여 세계를

재편하는 과정에서 무엇이 위기에 처했는지,

인공지능의 발달과 함께 맞이하게 될 

인간과 인공지능이 본격적으로 경쟁하게 되는 

모습과 함께 공존하면서 발전을 이루어내기 

위해서는 어떤 노력이 필요한지에 대한 

전반적인 내용을 배울 수 있었다.

인공지능은 다양한 기능과 역할을 가지고

있기 때문에 문제 해결을 위해 인공지능의 

어떤 기능을 적용할 지를 정하고 이 기능이 

문제 해결에 어떻게 사용될 수 있는지를

점진적으로 구체화 해야 한다는점을 이해할 수 있었다.

다양한 분야에 걸쳐서 치열한 

연구, 개발이 진행되고 있는 

기술들을 제대로 이해하면서 

미래를 현명하게 준비하게 어떤 노력이 필요한지,

인공지능을 비롯한 미래 시장을 

점령하게 된 다양한 기술들과 네트워크를 통해 

모든 것이 연결되는 초 연결 사회에서 

인공지능의 역할과 어떻게 우리의 

삶의 전반에 영향을 미치게 될 것인지,

어떤 새로운 가치들이 만들어질 것인지 알 수 있었다.

인공지능에 대한 연구가 활발히 진행되고 있고,

인공지능 관련 서비스들이 점차 늘어가게 되면서,

다양한 영역에서 좀 더 빠르고 편리하게 일을 

쉽게 처리 할 수 있다는 장점도 있지만,

가까운 미래에 인간과 인공지능이 

본격적으로 공존하게 됐을 때 

어떤 일이 일어날것인지에 

대해 우려하는 시선 또한 많아졌다는 점

 역시 중요하게 생각하면서 

끊임없이 고민해야 할 것 같다. 

'AI 지도책' 을 통해 인공지능의 발달 현황과 

인공지능으로 인해 우리가 새롭게 맞이하게 될 

미래의 모습과 함께 인공지능이 사회와 시장에 

미칠 파장을 최소화 하면서 제대로 대응하고 

적용할 수 있는 방법이 무엇인지 알 수 있었다.

이에 반해 이 책에서는 AI 가 '인공'적이지도 않고'지능'도 아니라고 주장한다. 오히려 인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간노동, 하부 구조, 물류, 역사, 분류를 통해 만들어진다. AI 시스템은 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 보상을 동원한 방대하고 (연산의 측면에서) 집약적인 훈련 없이는 아무것도 분간하지 못한다. 사실 우리가 아는 형태의 인공지능은 훨씬 폭넓은 정치적 사회적 구조에 정적으로 의존한다.(-17-)

바오터우 남쪽으로 약 4,800킬로미터 떨어진 곳에는 인도네시아의 소도 방카 섬과 벨리퉁 수마트라 연안에 자리 잡고 있다. 두 섬에서는 반도체에 쓰이는 주석이 생산되는데, 생산량이 인도네시아 전체의 90 퍼센드에 이른다. 인도네시아는 중국에 이어 세계 2위의 주석 생산국이다. 인도네시아의 국영 주석회사 PT 띠마는 삼성 같은 기업에 주석을 직접 공급하기도 하고, 청난이나 션마오 같은 땜납 제조사에 공급하기도 하는데,이 제조사들은 소니,LG, 폭스콘에 원료를 공급하고 이 회사들은 다시 애플, 테슬라, 아마존에 부품을 공급한다. (-49-)

1993년과 1994년 사이에 촬영된 첫 번째 사진들은 1990년대 초의 헤어스타일과 패션을 보여주는 타임캡슐 같다. 피험자들은 고개를 여러각도로 돌리라고 주문받았다. 사진을 휙휙 넘기면 옆 모습, 앞모습, 여러 밝기의 조명을 볼 수 있으며 이따금 복장이 달라질 때고 있다. (-125-)

2009년 즈음 애펙티바가 MIT 미디어 랩을 기반으로 설립되었다.회사의 목표는 '자연스럽고 자발적인 표정'을 현실 상황에서 포착하는 것이었다. 이 회사는 이용자의 동의를 받아 그들이 일련의 광고를 시청하는 동안 웹켐으로 얼굴을 촬영하여 데이터를 수집햇다. 그러면 에크먼의 FACS 로 훈련받는 작업자들이 전용 소프트웨어를 잉요하여 영상을 수작업으로 라벨링 했다. (-202-)

너무 당연해서 오히려 안 보이는 것들이 있다. 고성능 컴퓨터를 만들고 돌리려면 자원과 에너지가 많이 든다는 것., 인공지능이 나의 일을 대신하는 게 아니라 나를 대신하리라는 것, 내가 데이터 수집에 동의한 적이 없다면 그 데이터는 동의없이 수집되었으리라는 것, 현실에 편견이 존재한다면 그 현실을 데이터로 학습한 인공지능에도 편견이 존재하리라는 것, 전세계 사람들이 똑같은 방식으로 감정을 표현하진 않으리라는 것, 국민을 감시하는 수단이 존재한다면 국가는 그 수단을 손에 넣고 말리라는 것,이 책을 다 읽고 나면 '어떻게 이걸 보지 못했을 수가 있지?"하고 생각하게 된다. (-291-)

인공지능 AI 컴퓨터 알파고가 있다.『알파벳의 구글 딥마인드에서 개발한 바둑인공지능프로그램』은 2016년 3월 인간계 최고의 바둑 고수 이세돌을 대상으로 한 바둑 대국에서 완벽하게 승리를 거두었다. 알파고와 이세돌의 바둑 대국 이전과 이후의 세계를 본다면, 우리 삶에서 남의 이야기처럼 들렸던 인공지능기술이 이제 우리 앞에 불똥이 떨어진 기술이라는 걸 피부로 느끼게 된다. 그로 인해 우리는 인공지능 기술이 만들어내는 미래 세계에 대해서, 기회와 위기를 동시에 마주하게 된다.

지도를 잃어버리거나, 정확한 지도를 찾는다는 것이 어떤 의미인지 알수 있게 되었다. 케이트 크로퍼드의 『AI 지도책』에서 말하는 지도는 물리적인 지도가 될 수 있고, 길을 찾기 위한 가상의 길이 될 수 있다.여기서 놓칠 수 없는 건,인공지능 기술에 대해 막연하게 이해하고 있는 우리의 현실 지도이다. 우리는 인공지능 기술이 지금보다 더 객관적이며, 주관성이 개입되는 대표적인 직군 판사와 검사를 대체할 거라는 생각을 가지고 있다,즉 판례와 판결에 대해서 객관성과 신뢰를 확보할 수 있을거라고 생각한다.

즉 인공지능 기술에 대해 무한대 로 확장가능하고,유연하고, 무지막지할 정도로 객관적이라는 편견이다. 그러나 이 책을 읽으면 단호하다. 지구 안에 있는 물리적 에너지와 자원이 없으면 인공지능도 무용지물이 된다는 것이다. 즉 우리가 두려워하는 강인공지능,인간의 지능을 뛰어 넘어서,인간의 일자리를 대체할 거라는 생각에서 벗어나야 할 때다. 인간은 얼마든지 인공지능 가술을 폐기할 수 있고, 수단과 방법을 가리지 않고, 리스크를 제거할 거라는 것이다. 즉 인공지능 기술은 인간의 삶에 유용하고,유익할 때, 그 기능과 역할을 다한다. 미국의 실리콘 밸리가 AI,인공지능 기술을 주도한다 하더라도, 그 기술의 기반이 되는 핵심 자원을 확보하지 못한다면, 또다른 리스크에 봉착할 수 있다. 대체적으로 그러한 자원들은 선진국이 아닌 후진국,개발도상국에 대부분 존재한다. 그럴 때, 어떤 강한 힘으 가진 나라가 그약한 후진국을 지배하고, 자원을 무기화한다면, 인공지능 기술을 구현하는 핵심자원과 에너지를 확보하기 가 힘들다. 즉 인공지능에 의해 구현되는 가상현실은 오로지 가상에서 벗어날 수 없으며, 현실과 불질에 기반한 새로운 가상에 불과하다. 그것을 놓치지 말아야 하는 이유가 여기에 있다.