이 상품의 태그
책소개 책소개 보이기/감추기
목차 목차 보이기/감추기
상세 이미지 상세 이미지 보이기/감추기
저자소개 (2명)
출판사 리뷰 출판사 리뷰 보이기/감추기
회원리뷰 (14건) 회원리뷰 이동
데이터과학자들은 일부 인풋에 대한 해답이 어떤 것이어야 하는지, 그리고 결과로 나온 해답이 이런 실측자료에 가까운지 측정하는 방법을 규정한 뒤, 실측자료에 가장 근접하는 알고리즘을 선택한다.
추천 알고리즘 작업은 내게 무엇보다 한 가지를 보여주었다.
어떤 것이 옳은 대답인지 정해주는 실측자료가 없고, 알고리즘의 결과가 '어느 정도' 이성적으로 보이는 한, 우리 인간들은
리뷰제목
데이터과학자들은 일부 인풋에 대한 해답이 어떤 것이어야 하는지, 그리고 결과로 나온 해답이 이런 실측자료에 가까운지 측정하는 방법을 규정한 뒤, 실측자료에 가장 근접하는 알고리즘을 선택한다.
추천 알고리즘 작업은 내게 무엇보다 한 가지를 보여주었다.
어떤 것이 옳은 대답인지 정해주는 실측자료가 없고, 알고리즘의 결과가 '어느 정도' 이성적으로 보이는 한, 우리 인간들은 그 결과를 설명하는 이야기를 지어낼 수 있다는 것이다.
지금 우리는 데이터의 시대에 살고 있습니다.
어디서 무엇을 하는지, 먹는지...개인의 거의 모든 정보를 파악할 수 있습니다.
이는 개인의 프라이버시 침해와 편의, 양날의 검과 같습니다.
이런 데이터를 통해 추측한 결과는 모두 옳을까요?
그렇지 않습니다.
진정으로 데이터 속에 숨겨져 있는 고객의 니즈를 찾아내는 방법도 있지만, 반대로 '이럴 것이다'라고 가정한 후 데이터를 찾는 경우도 왕왕 있습니다.
이럴 경우, 데이터는 단지 추측에 대한 합리적인 근거에 불과할 뿐입니다.
지금 보고 있는 것들이 진실인지, 그렇지 않은지 다시 한번 확인할 필요가 있습니다.
많은 설문조사에 대한 결과를 보면서 문득 든 생각이였습니다.
얼마전 AI 챗봇 이루다 사건은 많은 논란이 되었습니다. AI 를 만들기 위해서는 많은 데이터를 학습해야 하는데 그 과정에서 개인정보나 비속어 등이 제대로 걸러지지 않아 이루다와의 대화에서 그대로 나오기도 했네요. 또, AI 가 지속적으로 학습이 된다는 점에 착안하여 유저들은 이루다와 나쁜 쪽으로 대화를 이끌어 나가면서 이에 대한 상세 방법들을 공유하기도 했습니다. AI 기술
리뷰제목
얼마전 AI 챗봇 이루다 사건은 많은 논란이 되었습니다. AI 를 만들기 위해서는 많은 데이터를 학습해야 하는데 그 과정에서 개인정보나 비속어 등이 제대로 걸러지지 않아 이루다와의 대화에서 그대로 나오기도 했네요. 또, AI 가 지속적으로 학습이 된다는 점에 착안하여 유저들은 이루다와 나쁜 쪽으로 대화를 이끌어 나가면서 이에 대한 상세 방법들을 공유하기도 했습니다. AI 기술이 발달하면서 이미 많은 서비스에 적용이 되고 있는데 이루다 사건은 AI 의 기술 뿐만 아니라 윤리적인 측면에서도 고려할 요소들이 있음을 보여주었습니다.
'무자비한 알고리즘' 에서는 AI 에 있어서 데이터나 알고리즘으로 인한 문제점과 이를 해결하기 위한 방안들에 대해 설명하고 있습니다.
'인공지능' 이라는 단어를 들으면 SF 소설이나 영화에 나오는 것처럼 인간과 똑같이 생각하고 판단을 내리는 기계가 떠오릅니다. 하지만 특정 분야에 적합한 인공지능을 만들기 위해서는 실생활에서 사용된 수많은 사례들을 수집해서 이러이러한 경우에는 이러이러한 값을 내도록 수학적으로 계산하는 것이네요. 그래서 데이터가 많으면 많을수록 다양한 사례들이 있는 만큼 결과가 정확한 것처럼 보이고, 오류 데이터가 섞여 있다면 잘못된 결과를 낼 가능성도 높아집니다.
책에서 언급하고 있는 사례들을 보면 의학에 사용되는 AI 의 경우 의학 및 IT 기술이 갖춰져 있고 정확한 데이터를 확보할 수 있는 나라는 대부분 미국이나 유럽 등이기 때문에 백인 데이터가 많을 수밖에 없어서 아시안이나 흑인에 대해서는 인식률이 떨어진다고 합니다. 성별만 남녀를 다르게 하고 동일한 웹사이트들을 차례대로 방문하도록 했는데 남자와 여자에게는 각각 다른 광고를 보여주며, 그 광고에는 성 역할에 대한 고정관념이 들어가 있네요.
아마존에서는 AI 를 이용해 수많은 입사지원서를 분석해 1차로 걸러내었는데 아마존에 근무하고 있는 사람들의 개인 프로필과 성과를 학습한만큼 아마존에 적합한 인재를 찾을 수 있어 합리적으로 보입니다. 하지만 기존 직원들 구성에는 이미 특정 인종과 성별에 편항되어 있는 만큼 AI 도 동일한 기준으로 필터링해 논란이 되었고 결국 철회를 하였다고 합니다. 컴퓨터는 대규모의 데이터를 빠르게 처리할 수 있는 만큼 많은 데이터를 다루는 AI 를 업무에 활용하는 경우가 늘어나고 있는데 이제는 AI 로 인해 나타나는 윤리적인 문제에 대한 논의도 필요한것 같아요.
산업혁명은 인간의 삶을 크게 바꾸어 놓았는데 AI 가 발전할수록 변화의 속도와 범위는 훨씬 커질 것입니다. 많은 기업들이 완전 자율 주행이 가능한 자동차를 개발하는 과정에서 사고가 일어날 가능성이 있을때 자율 주행 자동차가 어떤 결정을 내리도록 할 것인지는 사람들에게 AI 에 대한 경각심을 일깨우는 좋은 사례 같아요. AI 의 긍정적인 면 외에 부정적인 측면에서 어떤 문제점들이 있는지 읽어볼 수 있어서 도움이 되었습니다.
코로나19로 인해 사회적으로 주목을 덜 받고 있지만, 4차 산업혁명은 계속 진행중이다.
4차 산업혁명의 핵심 주요 기술의 발전 방향에 대해 많은 이들이 기대와 우려를 표현하고 있다.
기술이 발전이 꼭 우리에게 편의만을 제공하지는 않음은 분명하다.
우리가 원하는 기술은 편리함과 함께 안전과 편안함까지 제공할 수 있어야 한다.
이 책 '무자비한 알고리즘'은 기술에 어떻게 편
리뷰제목
코로나19로 인해 사회적으로 주목을 덜 받고 있지만, 4차 산업혁명은 계속 진행중이다.
4차 산업혁명의 핵심 주요 기술의 발전 방향에 대해 많은 이들이 기대와 우려를 표현하고 있다.
기술이 발전이 꼭 우리에게 편의만을 제공하지는 않음은 분명하다.
우리가 원하는 기술은 편리함과 함께 안전과 편안함까지 제공할 수 있어야 한다.
이 책 '무자비한 알고리즘'은 기술에 어떻게 편안함, 안전을 접목시킬 수 있는지를 말하고 있다.
책은 크게 3부로 나누어져 있다.
1부에서는 인공지능 시스템에 대해 이야기하고 있다.
인공지능 시스템의 기반이 되는 방법들을 소개하고, 어떻게 만드는지를 알려준다.
2부에서는 정보학의 ABC를 소개하고 있다.
ABC는 A(Algorithm, 알고리즘), B(Big Data, 빅데이터), C(Computer Intelligence, 컴퓨터 지능)를 뜻한다.
각각의 기능과 원리에 대해 설명하고 있는데, 인공지능을 만들기 위해 이 3가지가 유기적으로 잘 결합되어야 한다.
마지막 3부가 이 책의 핵심이자 주제이다.
이렇게 만들어진 인공지능에 앞서 말한 편리함과 안전과 같은 윤리적 기준을 어떻게 적용해야 하는지를 설명하고 있다.
정확히 말하면 적용이 아니라 개입이 맞는 표현이다.
알고리즘도 인간이 만들기에 오류가 있을 수 있지만, 오류가 없더라도 만든 인간이 의도한'대로만' 움직인다.
이것이 기계의 장점이자, 단점이다.
그렇기에 '적절한 시점'에 개입할 수 있는 여지를 두어야 하고, 해야 한다.
머신러닝에서는 원인을 탐구하는(인과 고리) 대신 중요한 사건과 종종 더불어 존재하는 행동양식이나 특성들을 확인한다.(상관관계)
그리고 알고리즘을 개발해 투입하기 전에 수학적 모델링을 거치는 고전적인 알고리즘 설계와는 달리, 머신러닝 알고리즘은 데이터로부터 세계의 모델을 만든다.
우리가 머신러닝의 효율성을 의미있게 활용하려면 컴퓨터가 발견한 상관관계에 대해 그간 해왔듯 자연과학적 의미에서 인과관계를 따져봐야 한다.
알고리즘을 만드는 방식의 차이를 설명하고 있다.
기존의 모델은 수학적 설계에 기반하였는데, 인공지능은 데이터를 기반으로 한다.
그렇기에 다양한 상관관계를 유추할 수 있다.
이는 우리가 몰랐던 것을 찾을 수도 있지만, 상당히 억지스러운(?) 것도 볼 수 있다.
대표적인 예가 '맥주-기저귀'의 관계일 것이다.
한때 마트에서 맥주 코너에 가면 기저귀를 볼 수 있었다.
무척 생뚱맞은 조합이라 생각했는데, 알고리즘은 맥주를 구입한 고객이 기저귀도 함께 구입한다고 판단했기에 그렇게 진열한 듯 하다.
단지 데이터만 가지고 추출한 관계에는 '인과관계'보다는 '상관관계'만 중요시 되기에 이와 같은 현상이 발생할 수 있다.
누가 알고리즘 사용에 책임이 있는가?
알고리즘 설계사들이 알고리즘을 정확히 어디에 사용할지를 잘 알고 사용을 감독할 수 있는 경우, 결과에 대한 그들의 책임은 크다.
내 알고리즘이 정확히 내가 알고 있는 맥락에서 사용되면, 그것은 내가 프로그래밍한 대로 행동한다.
그러면 그 결과는 내 책임이다.
알고리즘도 결국 사람이 만든다.
즉, 쓰임에 대해 정확히 인지하고, 그것에 맞게 적절하게 만들었다면 책임은 만든 사람의 몫이다.
하지만 의도하지 않은 곳에 사용되었다면 책임을 전가할 수 없다.
광산 폭파를 위해 다이너마이트르 만든 노벨이나 상댕성 이론을 발견한 아인쉬타인도 그들의 지식이 사람을 살상하는데 쓰이게 되리라 전혀 생각하지 못햇을 것이다.
빅데이터의 세 가지 주요 특징은 다음과 같다.
1) 정보량이 방대하다.(Volumn : 양)
2) 종종 단기간에 생성되고 처리된다.(Velocity : 속도)
3) 여러 혈태의 데이터가 섞여 있다.(Variety : 다양성)
빅데이터에 대한 오해 중 하나가 '모든 데이터'가 빅데이터라는 것이다.
절대 그렇지 않다.
위와 같은 특징을 가지고 있어야 '빅 데이터'로 인정받을 수 있다.
머신러닝은 다음 조건이 충족될 때 기본적으로 성공적일 수 있다.
1) 양질의 방대한 트레이닝 데이터가 있을 때
2) 측정가능한 실측자료, 즉 예측할 수 있는 것이 있을 때
3) 인풋과 예측할 수 있는 아웃풋 사이에 인과관계가 있을 때
머신러닝 알고리즘이 인간을 능가하는 면은 다음과 같다.
1) 임의의 데이터에서 상관관계를 찾을 수 있다는 점
2) 다양한 상관관계를 찾을 수 있다는 점
3) 약한 상관관계도 통계 모델에 집어넣어 유익을 이끌어 낼 수 있다는 점
추가적으로 다음에 해당될 때 머신러닝의 결과는 믿을 만하다.
1) 인풋과 예측되는 아웃풋 사이에 인과관계가 알려져 있어 관계자들이 쉽게 합의할 수 있는 명확한 인풋 데이터가 존재할 때
2) 두 가지 오류 유형(위양성/위음성 결정)에 대해 가급적 많은 피드백이 있을 때, 그로써 지속적으로 품질을 측정해 통계 모델을 역동적으로 개선할 수 있다.
3) 모든 관계자들이 쉽게 동의할 수 있는 명확한 품질 척도가 있을 때
머신러닝은 만능이 아니다.
머신러닝이 인간보다 잘하는 것이 있고, 그렇지 않은 것이 있다.
적절한 곳에 사용하여 생산성을 높이고, 그렇지 않은 곳에서는 인간이 개입하여 통제해야 한다.
이 책은 우리가 머신러닝에 대한 맹신과 우려를 함께 보여주고 있다.
머신러닝을 통해 얻을 수 있는 부분과 그렇지 않은 부분을 구분하여 사용하면 된다.
그리고 제대로 작동하고 있는지에 대해 철저한 모니터링이 필요하다.
알고리즘은 '무자비'한 것이 아니라, 입력하고 프로그래밍한 그대로 보여주는 '정확한' 것이다.
자비를 넣는 것은 아직 인간의 몫이다.
알파고가 바둑의 최강자를 꺽을 때 많은 사람들의 관심이 쏠렸는데 대체로 그 시점부터 인공지능에 대해 걱정을 많아지기 시작하였다. 영화 속에서만 보던 장면들이 이제 현실로 다가오는 것은 아닌가 우려의 목소리가 나오게 되었고 IT 업종에 일하고 있기에 주변 사람들로부터 질문을 많이 받았다. 하지만 나 역시 전문가가 아니었기에 더군다나 미래를 예측한다는 것은 불가능에 가
리뷰제목
알파고가 바둑의 최강자를 꺽을 때 많은 사람들의 관심이 쏠렸는데 대체로 그 시점부터 인공지능에 대해 걱정을 많아지기 시작하였다. 영화 속에서만 보던 장면들이 이제 현실로 다가오는 것은 아닌가 우려의 목소리가 나오게 되었고 IT 업종에 일하고 있기에 주변 사람들로부터 질문을 많이 받았다. 하지만 나 역시 전문가가 아니었기에 더군다나 미래를 예측한다는 것은 불가능에 가까운 일이기에 적절한 대답을 할 수 없었다. 하지만 인공지능을 만드는 주체도 인간이기에 인간에게 해를 끼치지 않도록 설계를 하면 되지 않을까라고 생각을 하였다. 그렇지만 머신 러닝이나 딥러닝 통해서 인공지능이 스스로 학습을 하다 보면 인간이 원하지 않은 방향으로 인공지능이 발전할 수도 있다. 사람은 학교에서 윤리를 배우고 이성으로 행동하지만 인공지능은 그렇지 못할 것이다. 빅데이터를 기반으로 정해진 알고리즘으로 의사 결정을 하게 될 것이다. 빅데이터를 배울 때 많이 활용되는 타이타닉 생존자의 예를 들면 상식적으로 생각해보면 생존 비율에 대해 쉽게 이해를 할 수 있다. 책에서 말하는 대로 기계적으로 데이터만으로 활용해본다면 살아남을 확률이 높은 사람들을 동일한 상황이 발생했을 때 구조해 주려고 할지 모른다. 아니면 확률적으로 계산해서 생존 확률이 임계치 이하이므로 구조할 필요가 없다고 판단하고 구조를 포기할지도 모른다. 하지만 인생사에는 기적이라는 게 있는데 인공지능이 그런 것에 대해 고려를 할 수는 없을 것이다.
조금 생각을 돌려보면 우리가 맛 집이라고 생각하는 식당들도 빈익빈 부익부 현상이 생긴다. 맛 집으로 한번 뜨기 시작하면 계속 많은 손님들이 찾을 것이고 그렇다 보면 한번 맛 집은 계속 맛 집이 될 것이다. 인공지능은 철저히 데이터에 의해서만 판단하게 될 것인데 인간의 이성이 전혀 개입되지 않기에 돌발변수가 고려되지 않는다면 뻔한 결과가 나올 것이다. 빅데이터를 이용하여 범죄 예방이나 교통흐름을 파악하고 신호체계를 개선하는 분야에 많이 활용할 수 있을 것이다. 범죄 예방에 활용하기 위해서 우범 지역을 조사하고 인종별, 나이별, 소득 순 등을 분류하여 범죄 집단을 분류할 수 있을 것이다. 대부분의 책에서 그렇게 말하듯이 소득수준이 낮거나 흑인일수록 범죄율이 높게 나타난다고 할 것이다. 데이터만 가지고 판단하다 보니 이런 오류를 범할 것인데 인공지능에 윤리를 가르칠 수 없기에 알고리즘을 개발하는 사람이 그런 부분까지 잘 고려해야 할 것이다.
책으로 돌아와서 알고리즘에 대해 말하자만 일반인들은 알고리즘이라는 용어가 다소 생소할 수도 있는데 좀 더 이해하기 쉽게 표현했더라면 어떨까 하는 아쉬움이 남는다. 책들 읽는 독자들이 알고리즘을 개발하는 전문가가 아니라면 인공지능 알고리즘이 어떤 문제가 생길 수 있다거나 혹은 어떤 윤리에 대해 고려를 해야 하는지에 대해 언급을 하면 좋지 않았을까 싶다. 굳이 어려운 용어를 써가며 이해하기 어렵게 만들 필요가 없었을 것 같다는 아쉬움이 남는다.
올해 초에 '알고리즘'에 대하여 특집기사를 읽었었다. 평소 사용하는 소셜미디어에서 좋아할만한 컨텐츠가 추천되도록 짜여진 알고리즘으로 인해 사고와 포용의 틀이 얼마나 협소해질 수 있는지를 알게 해준 기사였다. 조금은 섬찟한 기사였다. 내가 좋아해서 선택한 컨텐츠라고 생각했는데 어느 순간 알고리즘에 의해 선택된 컨텐츠만을 보고 비슷한 컨텐츠만 찾아 보게된다니 말이다.
리뷰제목
올해 초에 '알고리즘'에 대하여 특집기사를 읽었었다. 평소 사용하는 소셜미디어에서 좋아할만한 컨텐츠가 추천되도록 짜여진 알고리즘으로 인해 사고와 포용의 틀이 얼마나 협소해질 수 있는지를 알게 해준 기사였다. 조금은 섬찟한 기사였다. 내가 좋아해서 선택한 컨텐츠라고 생각했는데 어느 순간 알고리즘에 의해 선택된 컨텐츠만을 보고 비슷한 컨텐츠만 찾아 보게된다니 말이다. 누군가 만들어 놓은 틀에 갇힌 느낌이었다. 이러한 알고리즘에 대해 좀더 알고 싶어 '무자비한 알고리즘'을 읽게 되었다.
독일 공과대 교수이자 정보학 박사인 저자가 쓴 '무자비한 알고리즘'은 인공지능 시스템이 어떻게 만들어지는지, 알고리즘, 빅데이터, 데이터마이닝, 머신러닝 등이 무엇이며 서로 어떻게 연결되어 있는지를 소개하고 있다. 책의 후반부에서는 인공지능 윤리의 필요성에 대해 소개하고 있다.
'무자비한 알고리즘'은 저자의 약력이나 책 제목을 보았을 때 딱딱하고 어려운 개념들이 나열되어 있는 교과서 같은 책일 것 같았는데, 개념을 쉽게 이해할 수 있도록 삽입된 그림들과 일상에서 찾아볼 수 있는 쉬운 예시들 덕분에 알고리즘에 대한 좋은 입문서라는 생각이 들었다. 무엇보다도 후반부에서 소개한 '인공지능 윤리'는 별로 생각해 본 적이 없었는데, 이 책 덕분에 얼마나 중요한지 알게 되었으며, 이와 함께 얼마전 화제가 되었던 두 이슈가 생각이 났었다.
그 하나는 '실시간 검색어를 폐지'한다는 기사였다. 순수하게 사람들이 궁금해서 검색한 결과가 보여지지 않는 사례들로 인해 계속 논란이 되었었다보니 결국 폐지를 결정한 것 같다. 이와 같은 검색 알고리즘에 대해서도 논란이 발생했던 것을 보면, 어떤 알고리즘을 개발하든지 간에 의도치 않은 윤리적인 문제가 발생하지 않도록 검토해야 함을 엿볼 수 있었다. 또다른 하나는 소수자 혐오 발언 등으로 논란이 되었던 인공지능 챗봇 '이루다'가 아닐까 싶다. 이 사건 덕분에 인공지능 윤리교육이 얼마나 중요한지를 실감할 수 있었고, 이 사건 덕분에 인공지능 개발자들에게 서비스 설계 단계부터 인공지능 윤리를 염두에 두도록 했다고 하니 말이다.
한줄평 (0건) 한줄평 이동
첫번째 한줄평을 남겨주세요.
