크레마클럽

디지털 윤리는 어떤 모습이어야하는지, 이 책을 읽고 그 필요성을 느낄 수 있었습니다. 어렵게 쓰여있지 않아서 쉽게 읽을 수 있었어요! 실제로 너무 많은 것이 빠르게 진행되는데 비해 디지털 윤리에 대한 경각심이나 필요성은 덜 느끼고 있고, 뭐든 개발된 것이 좋다고 생각하는 우리에게, 특별히 개인의 관점에서 어떠해야 하는지, 어떤 자세여야 하는지에 대해 적은 책입니다. 이 책을 가장 잘 설명하는 부분은, 한때 정보는 우리에게 필요한 도구였지만 정보의 홍수 속에서 우리는 과연 이것을 컨트롤 하고 있는가, 우리가 이런 정보들로 인해 가족과 보내는 시간, 개인을 개발하는 시간을 잘 쓰고 있는가 하는 질문이었던 것 같네요.

과거 사람들은 자신의 생각이나 신념의 근거를 댈 때 신문 기사를 이용하거나 유명인사가 한 말을 인용하곤 했다. 그러면 주변 사람들은 그 사람의 생각에 다소 동의하지 못하더라도 신문이나 유명인사가 갖는 권위에 굴복해 고개를 주억거렸다.

지금은 어떤가? 내가 어떤 생각을 전달하고자 할 때 “인터넷에서 봤는데...”라고 말하기 십상이다. 인터넷에도 믿을 만한 전문가의 말과 정보가 많지만 만약 그런 정보를 의도적으로 상업적으로 혹은 악의적으로 조작한다면? 걸러지지 않고 정제되지 않은 정보와 지식들로 인해 나의 믿음과 생각은 조작되고 민주주의는 훼손된다.

디지털 기술은 사람들의 생각을 통제하고 조정하며 종종 원치 않는 곳으로 이끈다. 어떤 일을 계속하고 성취에 이르게 하는 원천인 ‘주의’를 수도 없이 흩뜨리고 빼앗음으로써 그러한 기술을 설계한 자들은 원하는 바를 이룬다.

저자는 지능적 설득의 힘으로부터 인간의 주의를 해방하는 것은 우리 시대가 직면한 최대 도덕적·정치적 과제로, 디지털 기술의 지능적 설득 시스템이 우리를 재설계하기 전에 우리가 먼저 그것을 재설계해야 한다고 역설한다.

기술이 모든 것의 우위에 서는 지금 꼭 한 번 돌아봐야 하는 내용을 담고 있는 책.

자 형성에 강한 추진력인 선택은 권리인 동시에 능력이다 선택의 앞선 것이 시선 비서는 관심의 심취적 표현이다 어딘가로 빼앗기고 있다 개인의 자율과 공동체의 민주주의가 위협받고 있다 대다수 플랫폼의 목표는 최대한 많은 사람을 올해 붙잡아두는 것이다 왜냐하면 광고 수익 때문이다 인간을 위한다는 기술이 인간의 핵심인 주의를 포획해 파는데 매달리고 있다 저장 은 기술 윤리 철학 공부를 위해 구글 전략가를 사임하고 폰으로 향한다 그는 정보와 기업의 설계자와 개발자 경영자에게 기술 윤리 문제를 지자 문기 구논평강연을 한다
의사결정 모델 이론으로 1978년 노벨경제학상을 받은 하버트 사이먼이 말하기를 정보가 넘치면 희 소자 원은 인간의 주의가 된다 지금이 그때 다 기업은 사람들 시선을 잡아두기 위해 혈안이다 주 플랫폼은 사실상 모두 광고 회사다 최고의 소프트웨어 엔지니어 설계자 분석과 통계학자가 사람들의 생각과 행동을 사전 프로그래밍된 방향으로 나아가게 하는 방법이 찾기 위해 막대한 시간과 자원을 투입한다 기업은 인간 심리에 가장 낮은 충동을 겨냥한다 주위 경제 사용자 설득 기술은 의지 조작단계까지 발전하였다
숙 고란 자신의 믿음과 동기의 의문을 제기하기 위해 스스로 정신적 활동에 주의를 집중하는 방 주위 분산은 집단적 차원의 정체성을 위협한다 인간은 점점 단말기가 되어가고 되어간다 저장은 하버드 마르코 제가 말한 위대한 거부라는 과제 착수하고자 한다

우리의 주위를 포착하고 이용하기 위해 컴퓨터 시스템을 활용하고 있다. 이 적대적이고 지능적인 설득의 위협은 주의 분산 정도로 치부할 것이 아니다. 이는 단기적 차원에선 우리가 원하는 일을 할 수 있는 능력을 위축시키고, 장기적 차원에선 우리가 원하는 삶을 살*** 못하게 가로막는다. 나아가 자기 통제 능력을 약화시킨다. 우리가 원하는 것을 원하기 힘들게 만든다.
21세기에 새롭고 놀라운 이 기술은 인간 삶을 바꾸어 놓았다. 우리에게 정보를 제공하고 서로 의사소통을 할 수 있도록 해 줬으며, 세상을 이해하는 능력을 획기적으로 높여 줬다. 그러나 이러한 새로운 권력이 우리의 생각과 행동에 중심이 되면서 그것이 우리의 햇빛을 가리고 있다는 사실을 나는 깨달았다 그 빛은 바로 우리의 주의의 빛이다.


일부 설계된 주의 분산
우리는 기술이 우리가 원하는 것을 할 수 있도록 우리가 원하는 사람이 될 수 있도록 도와줄 것으로 기대한다 하지만 오늘날 우리의 생각과 행동에 많은 부분을 안내하는 정보통신 시스템의 허술한 항해 력

우리는 왜 우리가 주목하는 것에 주목하는가 내일 포스트 머니 죽도록 즐기기 라는 책에서 말한다 그의 시대에 자유의 수호자들은 주의 분산을 향한 무한에 가까운 인간의 욕 확실 리의 전 견지명은 앞으로 다가올 세상에서 자유를 위협할 가장 치명적인 적이 우리가 두려워하는 대상으로부터 가 아니라 우리에게 즐거움을 주는 것들로부터 모습을 드러내리라 예측했다눈 사실이다

조지 오 오웰
주위의 시대에서 눈앞에 놓인 것을 바라보기 위해서는 끊임없이 끊임없는 놀이 필요하다
정보의 풍요는 정보가 소비하는 대상이 귀해진다 정보는 그것을 받아들이는 주체의 주의를 소비한다 정보 위풍요 가 주위에 결핍을 초래한다는 것은 무슨 뜻이 정보의 양은 정보가 다가오는 속도에 우리가 대처할 수 있을 때 의미가 있다 정보가 아무리 많더라도 그것이 다가오는 속도가 극단적으로 빠르다면 아무런 의미가 없다 정보의 풍요가 가져다주는 주요한 위험은 그 과정에서 우리의 통제력을 잃게 된다는 것이다 이는 우리가 우려해야 할 중요한 유형의 검열은 정보관리가 아니라 주의 관리에 관한 것이라는 의미다 지금은 주위에 시대이며 이 시대 디지털 엄격한 충동 성훈련 프로그램
장 자크 루소가 사회계약론에서 욕망에 따라서 만 움직이는 것은 노예다 반면 스스로에게 부여한 규칙의 복조 가능 것은 자유다 자신의 행동이 더 높은 목적을 향하도록 만드는 규제를 스스로에게 적용할 때 우리는 그렇지 않았다면 도달하지 못했을 높이에 도 있다
오늘날 디지털 교차는 주일에 집중하지 못하는 이들의 권리를 박탈 한다 이는 예전에는 하지 않았지만 이제 스스로 경계를 구축해야 함에 따른 그리고 디지털 기술이 자기 통제라는 새로운 도전 과제를 부여함에 따른 문화적 후퇴 다 디지털 기술은 우리가 경험하는 세상을 영원히 끝나지 않을 잠재적인 정보에 보상의 흐름으로 변형시키고 있다 기술 세상은 이제 모든 것이 우리의 주위를 놓고 경쟁을 벌이는 경기장이 되었다 자기 통제는 풍요와 더불어 위축될 것이다 기술의 변화 속도가 점점 빨라지면서 신기술이 나온 얼마 후 수백만 명의 사용자에게 급속히 확산된다 기술 이해방시킨 끊임없는 신상품의 흐름은 사용자가 끊임없이 새로운 시스템에 적용 적응하기 위해 노력하도록 요구한다 무능해 쳇바퀴 라는 굴레 속에서 살아가게 된다 표면적인 의지가 아무리 강력하더라도 강력하고 잘 단련되었다고 해도 환경에 적수는 못 된다 심리학이 연구의 교훈 환경이 우리의 생각과 행동을 형성하는 과정에 강력한 영향을 미친다 우리가 얼마나 자율적일 수 있는지 환경은 우리의 근본적인 역량에 장기적인 영향을 미친다 자율성은 발달 적인 측면에서 환경에 의존한다
우리가 잘하는 환경이 자기 통제에 보상을 주도록 적절하게 구축되어 있어야 우리는 자율적인 존재가 되고 자신의 가치를 추구하면서 스스로 행동을 통제할 수 있다
자기 통제에 보상을 주거나 실질적인 행동 장치를 제공하는 환경에서 살아가지 않을 때 우리는 오로지 자신의 장치에만 의존 해야 한다
실제로 우리의 많은 일상생활 경험은 자동적이고 무의식적 과정으로 이루어진다
디지털 주 이 력 경제란 디지털 상품과 서비스가 우리의 주위를 포착하고 이용하기 위해 끊임없이 경쟁을 벌이는 환경을 안한다 여기서 승리란 더 많은 사람이 기업의 상품이나 서비스에 더 많은 시간 주일에 쏟아 붓 도록 만든다는 것이다 주의력 경제에서는 사용자가 곧 상품이다 우리의 주위를 둘러싸고 치열한 경쟁을 벌이기에 설계자들은 필연적으로 우리의 가장 저 차원적인 부분은 공략해야 한다 그들은 우리의 의지 보다 충동에 더 주목한다 다양한 의사결정 편향을 이용한다 손실 회피 사회적 비교 현상유지 편향 프레밍 효과 앵커리 효과 등 인간의 취약성에 대한 값싼 이용을 뇌관에 바닥을 향한 경주
클릭 베이트는 우리의 감정을 대단히 미묘하게 공략한다 분석에 따르면 최고의 성과를 거루는 헤드라인 문구는 제 정신이 눈물 나게 한다 충격적이다 뭐 와 같은 이들만이 이해할 수 있다 주의력 경제에서는 사람들을 설득하려는 모든 설계가 이런 게임에 참여하게 된다 사람 설득하고자 하는 설계에 한 가지 목표 사용자가 계속해서 상품으로 돌아오도록 만드는 것이다 이를 위해서는 습관을 창조해야 한다
니리 이 알의 후에서 과학기술자는 사람들이 우리가 원하는 행동을 하도록 설득하는 상품을 개발한다 우리는 모두 사용자가 우리가 만든 모든 것에 강력하게 얽매이기를 은밀하게 소 사용자가 얽매이게 기안 네 단계 모형으로 자극제 행동 변동적인 보상 상품에 대한 사용자의 투자의 과정을 거친다 변동적인 보상 일정은 충동적이고 중독적인 삶습관의 엔진이며 많은 사용자가 이러한 습관을 통제하긴 어렵다 어렵다
우리가 돈이나 주위를 지불하고 받는 이 은 명백하고 즉각적이 반면 우리가 지불하는 주위에 비용은 시간에 걸쳐 잘게 쪼개져 있어 스스로 얼마나 많은 비용을 지불하는지 쉽게 깨닫지 못하는 것이다
이부인간을 외 명은 하는 클릭
네 아내의 한계는 곧 내 세상에 한계를 의미한다 루두 비히 비트 켄슈타인 어느 지평을 확장할 때 자신과 세상에 대한 인식의 지평도 넓어진다 그럴 때 우리는 예전에 보지 못했던 것을 보고 그것에 대해 다른 사람과 논의하는 법을 배운다
주위에 집중 은 우리가 원하는 일을 하도록 도움을 주는 유형의 주의를 뜻한다 주일을 기울일 때 우리는 무엇을 지불하게 되는가 우리는 할 수 있었지만 하지 않은 모든 것을 지불한다 가령 우리가 추구하지 않는 모든 목표 취하지 않은 모든 행동 다른 것들에 주목했다 라면 될 수 있었던 모든 가능한 자신을 말이 다 사라진 미래를 지불한다 우리는 드라마 마이 데몬을 보기
자신이 혐오하는 정치인에 대한 분노를 자극하는 플리 클리트를 클릭하기 위해 인내심과 공감을 지불한다 그리고 애초에 그 미끼를 물도록 스스로를 허락한 자기 자신에 대한 분노를 지불 인간의 자유의 적절한 부분은 가장 먼저 의식의 내적 영역 생각과 감정의 자유 그리고 실제든 상상이든 모든 주제에 대한 주장과 감정의 절대적 자유를 자유롭게 구성된다 존스 같은 일자유론
이 원칙은 주 향과 추구의 자유 그리고 우리 자신이 특성에 어울리는 삶의 획에 관한 틀을 세우는 자유를 요한다 주의 군사는 주군 산을 향한 무한에 가까운 욕망을 먹이감으로 삼는 잠재적 피해


94

개인적 차원에서든 혹은 집단적 차원에서든 자신의 정체성에 관한 이야기를 잃어버릴 때 우리가 주위의 '별빛'이라 부르는 것, 혹은 더 높은 가치의 '별을 따라 항해하는 능력'이 손상된다. 우리의 별빛이 가려질 때 '우리가 원하는 존재'가 되는 것은 더 힘들게 된다.
"이 세상에서 자기중심적인 감정은 우리가 되고자 하고 하고자 하는 것에 전적으로 달렸다."
가려진 '별빛'은 내가 느끼는 주의 분산의 한층 더 깊은 층이다. 나는 우리의 주위를 포착하는 기술 설계가 매우 중요한 역할을 하고 있다고 느꼈다. 내 삶의 GPS는 단지 내가 이따금 잘못된 길로 들어서 도록 안내하는 것이 아니라 내가 방문할 필요가 없는 멀리 떨어진 곳에 새로운 목적지를 향해 가도록 나를 프로그램이 했다. 장기적인 보상보다 단기적인 보상을, 고차원적인 즐거움보다 단순한 쾌락을 더 중요하게 여긴다.


사소함의 확산
＜신중함＞: 애덤 스미스는 [ 도덕 감정 론]에서 개인에게 가장 쓸모 있는 덕목으로 ＜신중함＞을 말했다.
그의 신중함이란 우리의 행동으로부터 멀리 떨어진 결과를 인식하는 능력 , 더 큰 즐거움을 얻기 위해 혹은 앞으로 언젠가 겪게 될 더 큰 고통을 피하기 위해 지금 이 즐거움을 삼가거나 현재 고통을 인내하도록 해주는 극기.
시스템은 내가 그 어느 때보다 다른 사람의 관심과 인정을 얻기 위해 더 치열하게 경쟁하도록 만들었다. 나는 소셜 미디어 게시글에서 더 기발한 이야기를 들려주기 위해 애를 쓰면서 더 많은 시간을 보냈다. 주의적 신호 그 자체를 중요하게 여기게 되었기 때문이다. 나는 보상을 주는 사소한 사회적 승인을 더 많이 받을수록 더 많이 원하게 된다는 사실을 깨닫게 되었다 나는 덫에 걸려든 것이었다.
정보 풍요와 주의 결핍 시대에 우리는 중요한 것을 판단하는 기준으로 인기에 더 많이 의존하게 될 것이다. 위험천만한 행동으로 인기를 얻어 돈을 벌려는 사람에게 청중의 역할과 책임은 '좋아요' '팔로우'를 클릭해 부추길 것이 아니라, 누군가의 목숨을 구하기 위해서는 '좋아요' 클릭을 하지 말아야 한다. 이는 자해 하려는 사람에게 칼을 사주고 건물 해서 뛰어내리려는 사람을 부추기는 것과 같다 .
관심에 대한 욕망이야말로 부를 추구하는 중요한 이유다.국부록에서 나오는 말이다. 배려 공간 만족 승인 은 우리가 관심을 얻는 것으로부터 이끌어낼 수 있는 모든 혜택이다.
고립은 그 자체로 나쁘지 않다. 고립은 개인의 견해 와 주장의 발전을 위해 필요하다. 다양성 역시 고립을 필요로 한다. 하지만 공동의 이익과 보편적 의지를 발견할 수 있는 공간을 제거하는 유형의 고립은 극단적으로 문제가 되는 유형의 고립이다. 공유된 정체성의 위축, 정체성의 불일치 집단적 아크라시아, 의지박약.
위험한 실질적인 전제적 통제가 아니라 분열이다. 다시 말해 사람들은 공동의 목적을 세우고 이를 추구하는 능력을 점차 상실하고 있다.--[ 차이스 테일러]
"습관을 제외하고 우유부단한 밖에 남아 있지 않은 인간만큼 비참한 존재 없다"
--제임스 [심리학의 원리]
숙고는 우리가 원하는 것을 결정하는 데 도움을 주는 그러한 유형의 사고에서 핵심적인 요소이다. 철학자 크리스틴 코스카드에게 숙)^고란 우리가 자신의 믿음과 동기에 의문을 제기하기 위해 스스로 정신적 위를 집중하는 방식을 말한다 주위의 기술이 우리의 숙 구역량을 방해할 때 우리의 햇빛은 특정한 의미를 갖는 방식으로 가려진다 햇빛은 우리가 원하는 것을 원하도록 해주는 근본적인 영향을 의미한다
예를 들면 알림 중동적 중독적인 모바일 앱이 없었다면 자신의 목표와 우선순위에 대해 숙고 했을 하루 중 짧은 순간을 장악해버린다. 휴대전화 사용자는 하루 평균 150배 확인 2300회 이상 만진다.이로인해 많은 잠재적 숙 고가 실현되지 못한다.
숙고와 관련이 깊은 것은 여가 활동이다. 진정한 의미의 여가란 아리스토텔레스가 말한 주기적인 무념과 유사한 상태이다. 개인의 진정한 자아가 형성되는 기반으로 기능하는 것은 이 여가 시간이다. 이 조직화가 되지 않은 사고는 특히 발달 적인 측면에서 아이들에게 중요하다.

도덕적 격노의 만연
심각하게 부당한 행위가 있었다고 해도 우리는 그것을 유치하고 일탈적인 행동을 위한 핑계로 삼아서는 안 된다. 책임이 중요하지 정의는 결과가 아니라 절차다. 플라톤의 국가 론에서 소크라테스는 민주주의 사회가 전제 정치로 넘어가는 선상에 바로 이러한 군중 통치가 있다고 말했다

기술이 설계를 통해 이끌어내야 할 인간의 가장 좋은 부분은 무엇일까
시스템은 우리에게서 분노 대신 무엇을 이끌어내야 할까
그건 악을 집요하게 떠벌리는 것이 아니라 선을 바라보고 추구하는 끈기 있는 기지를 뜻 한다.
현재 상황에서 주의력 경제 시스템은 구조적으로 가장 숭고한 목적과 추구할 만한 가치가 있는 약화하도록 만들어져 분노는 나쁜 것이 아니라 부조리에 대한 인간적 반응이다 분노는 사회적 차원에서 재빨리 우민정치로 흘러갈 수 있다
디지털 주의력 경제는 주위의 햇빛을 훼손함으로써 민주주의와 정의에 근간에 직접적인 악영향은 미친다
개인적 집단적 차원에서 자기 결정권을 위한 필요조건인 근본적인 역량을 무력화시킨다

계속...

디지털 기술이 생각과 행동의 중심이 되면서 개인의 자율성과 공동체의 민주주의가 흔들리고 있다. 거대 기술 기업이 개발한 지능적 설득 시스템이 비즈니스의 기본 모델이자 인터넷의 설계 논리로 자리 잡으면서, 주의 뺏기 경쟁과 사용자 설득 기술은 궁극적으로 의지의 조작 단계로까지 발전했다.
구글 전략가 출신 철학자 제임스 윌리엄스는 이 책 『나의 빛을 가리지 말라』에서 디지털 기술이 생각과 행동에 부정적 영향을 미쳐 개인과 사회를 자동반사적이고 파편화된 삶으로 내몬다고 지적한다. 그는 정보와 자극이 넘쳐나는 시대에 최대 희소 자원이 사람의 주의인 이상, 그것을 완전히 포획할 때까지 기술의 침투는 멈추지 않을 것이라 말한다. 거대 기술 기업의 주의 뺏기 경쟁에 대응하여 자기통제력을 지키고 주의력 경제(attention economy)를 재편할 방안을 마련해야 한다고 설파한다.

이 책의 제목은, 그리스 철학자 디오게네스가 알렉산드로스 대왕에게 일갈했다는 말에서 인용한 것 같다. 현대에 있어 알렉산드로스 대왕은 정보통신기술에 해당될 수 있으며, 이러한 디지털 알렉산드로스는 우리의 '주의력'이라는 빛을 심각하게 가리고 있는 것이 현실이다. 저자는 다양한 사례를 통해 이러한 문제점들을 보여주고 우리가 맞서 나갈 수 있는 여러 대안들을 제시하고 있다. 저자의 우려처럼 지능적이고 적대적인 설득 시스템이 우리를 재설계하기 전에 우리가 먼저 그것을 재설계해야 하는 책임이 있다는 생각이 든다.