크레마클럽

『챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라』



트렌드연구소(지은이)

트렌드연구소 STAFF는 IT 컴퓨터, 패션계, 방송계, 문화계 등에서 경력을 쌓아왔고, 지난 2012년부터 본격적으로 트렌드 분야에서 활동하고 있다. 한 해의 트렌드를 연구해서 이듬해 트렌드를 제시하는 기존 방식이 아니라, 최소 3년간의 트렌드를 연구하고 분석하는 데 강점이 있다. 국내외 트렌드를 다루며 트렌드 프리텔러(Trend PreTeller)로서 활동영역을 확장하고 있다. 트렌드연구소 STAFF는 1990년 초에 XT컴퓨터와 AT컴퓨터에서부터 286, 386, 486과 586세대를 이어오며, 지금껏 컴퓨터로 일해 온 기간을 모두 합쳐 33년 만에 ‘챗GPT’를 만났다. 서울대학교 창업동아리 학생들과 실시간 즉문즉답 웹서비스를 구상하던 경험을 떠올리게 해준 챗GPT. 해외 최신기술 동향 파악은 물론, 출장 일정까지 세워주는 챗GPT의 효능(?) 덕분에 업무시간이 절감되는 걸 장점으로 생각한다. 하지만 자가학습을 통해 급속도로 발전하는 챗 GPT를 보며, 인간과 인공지능의 바람직한 공존 방향을 제시해야 할 필요성을 느꼈고, 이 책을 집필하게 되었다. 컴퓨터 초창기 DOS(Data Operating System) 시대부터 컴퓨터 프로그래밍을 경험해 온 노하우를 통해, 이 책에서는 일반인이 인공지능과 챗GPT에 대해 이해하기 쉽도록 설명한다. 또한, 챗GPT와 같은 인공지능에 의해 생길 수 있는 위험을 알리고 경각심을 주기 위해 책 제목을 ‘챗GPT의 거짓말’로 결정했다. 책에는 챗GPT의 태생적 한계와 약점, 앞으로 달라질 미래, 챗GPT와의 대결에서 살아남는 법 등에 대한 특별한 인사이트를 담았다.

목차
챗GPT에 출간 허락을 구하다
글 들어가며

1부 챗GPT의 등장

엄청난 뉴스에 놀라셨죠?
정말 쉽게 챗GPT를 소개합니다

1장 인공지능은 어떻게 공부하는가?
1. 깊게 공부하는 ‘딥러닝’
한꺼번에 다 외우는 ‘병렬학습’│순서대로 외우는 ‘직렬학습’
2. 기계처럼 공부하는 ‘머신러닝’

2장 인공지능은 어떻게 일하는가?
1. 냉장고가 말하는 ‘사물인터넷’
보안 문제│사물인터넷 시대엔 IP 문제
2. 아프리카 정글에서 당일배송 해주는 ‘위성통신’
3. 벽이 쓸모없는 세상 ‘전파망원경’

3장 인공지능이 작동하는 컴퓨터 이해하기
1. 양자컴퓨터 이해하기
꼬물꼬물 움직이는 ‘초끈 이론’│보는 대로 이뤄지는 ‘전자총 실험’
2. 광자컴퓨터 이해하기
살아있는 빛 입자 속 데이터 이야기│빅뱅 이론의 허구

4장 인공지능으로 직업이 어떻게 달라지는가?
1. 인공지능 시대에 사라질 직업
2. 인공지능 시대에 살아남을 직업
3. 인공지능 시대에 공존하게 될 직업

5장 인공지능 플랫폼에는 무엇이 있는가?
데이터 분석 인공지능 : 래피드마이너
동영상 효과 만들어주는 인공지능 : 비휴먼
디자인 만들어주는 인공지능 : 클립드롭
그림 그려주는 인공지능 : 달리
목소리 만드는 인공지능 : 데스크립트 오버덥
동영상 만드는 인공지능 : 크리에이티브 리얼리티
웹사이트 만들어주는 인공지능 : 듀러블
애니메이션 만들어주는 인공지능 : 카이버
고객 데이터 관리 인공지능 : 세일즈포스 아인쉬타인
캐릭터 그림을 사진처럼 만드는 인공지능 : 아트 브리더
소설 써주는 인공지능1 : 노블AI
소설 써주는 인공지능2 : 노션
라이트노벨 써주는 인공지능 : AI노블
게임 소설 써주는 인공지능 : AI던전
로맨스 소설은 물론 프러포즈 멘트도 가능 : 카피AI

2부 챗GPT의 거짓말

챗GPT에 어떤 약점과 한계가 있는가?
어떻게 거짓말을 하는가?

1장 인공지능이 가진 태생적 한계
1. 비트 알아보기
제곱씩 늘어나는 메모리│저장매체의 한계│0, 1 vs. x, y
2. 바이트 알아보기
데이터 저장│데이터 불러오기

2장 인공지능 데이터의 한계
1. 데이터 사용연한
영구적 데이터│휘발성 데이터
2. 데이터 종류
시각 데이터의 한계│문자 데이터의 한계│소리 데이터의 한계

3장 인공지능 학습의 한계
1. 본능적인 것 vs. 인공적인 것의 충돌
AI 본능│이성적인 AI│개인정보의 경계
2. 감정학습의 약점
감정문제 EP│감정지도 ET│문화적 감정반응 CED
3. 누구로부터, 누구에 의한 : from and by
누구로부터 AI│누구에 의한 AI│메인 혹은 서브 포지셔닝
4. 알고리즘의 약점
순정 데이터│데이터 만능주의│수정 알고리즘│플러그인 & 브라우징

4장 인공지능 대화(챗, Chat)의 한계
1. 화법 논리구조의 편향성
문어체와 구어체의 몰이해│생략형 함축어│뉘앙스 표현의 문제점
2. 반복 주입식 대화형 모델의 단점
사용자별 사용 행태에 따른 데이터 오염 가능성│단문, 장문 구조의 가중치 판단 기준│서치 & 리플라이 방식의 문제점
3. 텍스트 챗 방식의 획일성
톤다운과 톤업│자가수정 로직의 단순화│학습빈도와 데이터 축적의 불일치
4. 저작권 침해 문제
디지털 플랫폼의 한계│크리에이티브의 비협조│데이터 소유권 문제

3부 챗GPT vs. 인간

인공지능을 규제할 것인가?
자유를 줄 것인가?

1장 인공지능의 위협 : 2족 보행 로봇의 등장
1. 인공지능과 전기자동차
2. 인공지능과 위성통신
SNS 채팅│영상통화│스마트폰
3. 인공지능과 드론(무인기)
4. 인공지능과 CCTV

2장 인간의 방어 : 통신권역으로부터의 탈주
1. 인간의 지하 공간
2. 인간의 자연 에너지
3. 인간을 돕는 인공지능 vs. 맞서는 인공지능
4. 인간의 제3의 언어

글 나오며
참고문헌 및 함께 읽으면 좋은 문헌들





P28. 챗GPT는 글자 그대로 인간과 챗(Chat, 수다, 대화)하는 인공 지능입니다. GPT(지피티)란 의미는 Generative Pre-trained Transformer 의 약자입니다.'사전 처리 트랜스포머'라고 하며, 사용자의 질문을 분석해 미리 정보를 모아 답변을 생성해서 사용자에게 제시하는 컴퓨터 프로그램이라고 이해할 수 있습니다. 즉, '인간의 말을 알아듣고 인터넷에서 데이터를 찾아서 답변을 만들어서 제공한다'라는 뜻입니다.


이책 첫머리에 챗GPT의 약점, 즉 한계라고 시작한다. 인간적인 예의상, 챗GPT에게 4가지를 허락받고 출간한다.고 직접 물어본 결과를 출력하여 보여준다.재미있는 발상이다. 챗GPT대화 생성을위한 데이터가 2023년기준 2년전의 토대로 이루어 지고있다는걸 알고있었던가?만약 실시간 데이터기반 AI가 등장한다면 한계와 사회에 대한 심각성은 위험수준이 된다. 챗GPT 문제점(거짓말)의수준은 인공지능이 절대 할수 없는 것들, 인공지능이라서 않되는것을 이책에서 알려주고 있다책에선 저의를 내리고 있다 인공지능은 절대 인간을 이길수 없다고 말한다. 인공지능은 인간의 데이터를 먹고 살기 때문이다.

발행처 ㅣ 동양북스

#챗GPT의거짓말 #트렌드연구소 #동양북스 #인공지능 #챗GPT #AI
,챗GPT의거짓말 ,트렌드연구소 ,동양북스 ,인공지능 ,챗GPT ,AI

 

이 책의 첫 시작은 흥미롭게도 챗GPT에게 출간허락을 구하는 과정부터 저술되어 있다.

 

심지어 이 책의 제목이 챗GPT의 부정적인 부분을 드러내는 것이기에

챗GPT에게 책 제목을 뭘로할지 정해달라고 하기도 한다.

저자는 ＜챗GPT의 거짓말 VS 챗GPT의 약점＞ 중 어떤걸로 제목을 정할지 고민을 했다고 하는데,

챗GPT가 말하길 챗GPT의 거짓말로 하는게

더욱 논쟁적이고 독자들의 주목을 끌 수 있다고 해서

저자는 이 책의 제목을 '챗GPT의 거짓말'로 지었다고 한다.

 

 

챗GPT가 결국엔 인공지능의 한 종류인만큼

이 책은 인공지능에 대한 얘기도 많이 다루고 있는데

인공지능이 전지전능한가에 대한 의문을 제기한다.

그 예시로 바둑에 대해 말을 하는데

인상깊었던 점은 인공지능이 아무리 바둑의 모든 수를 외우고 있더라도

결국 그 반절은 사람이 두는 것이므로,

사람이 어떻게 두냐에 따라 인공지능의 대응도 달라진다는 것이다.

사람이 어떤 수를 뒀을 때 인공지능은 그 수의 약점을 찾는 것이므로

결국 인공지능과 바둑을 두는 것은 자신과의 싸움이라는 것이다.

즉 내 약점을 스스로 노출하고, 그 약점때문에 인공지능과의 바둑에서 진다는 것이다.

 

 

인공지능이 똑똑해서 이기기 어렵지 않나라고 막연히 생각했었는데

이런식의 관점이 신선했다.

거기다 이를 뒷받침하는 내용으로 2023년에 AI 연구소 켈린 펠린 연구원이

AI프로그램과의 바둑 대결에서 15판 중 14판을 이겼다는 기사가 있는데

AI를 이긴 전략으로 변칙 전략을 이용했다고 한다.

즉 이상한 수를 둬서 AI가 이미 학습했던 수로 대응할 수 없게 했다는 것이다.

 

 

그렇다면 인공지능의 한계는 명확해지는 것같다.

학습된 것은 인간이 따라갈 수 없지만,

학습하지 못한 부분에선 아직 인간이 우세할 수 있다는 것이다.

 

 

 

 

또 챗GPT의 경우 2021년 까지의 데이터를 토대로 답변을 하는데

이는 실시간 데이터를 완벽하게 활용할 수 없다는 한계를 가진다.

 

 

그렇다면 아직은 없지만 실시간 데이터를 활용하는 챗GPT가 나오면 어떻게 될까?

이것이 바로 이 책을 출간한 이유라고 저자는 말한다.

 

 

그렇게 되면 인공지능은 지구상에 CCTV가 비추는 모든곳에서 벌어지는 일들을 알 수 있고,

심지어 CCTV나 인터넷이 없는 곳이더라도 인공위성이나 위성통신으로 움직이는 드론을 통해

데이터를 축적할 수 있다고 한다.

이렇게 되면 비밀이 지켜질 거라는 확신을 가질 수 없게 되는데,

우리끼리의 대화여도 어딘가에서 인공지능이 우리의 대화를 데이터로 축적해 유출될 수 있기 때문이다.

 

 

개인정보보호법 등 데이터 관리에서 규제를 가할 수는 있으나

내용 자체를 볼 수 있는 기술이 없는 것은 아니므로,

기술을 가진 누군가가 마음을 먹으면 그 내용을 확인하고 악용할 수 있다는 것이다.

 

 

이제 이런 이야기가 더이상 소설이 아니고 우리의 미래라는 게 두려울 수 있다.

하지만 저자는 그럼에도 AI에 분명 한계가 있다고 한다.

 

 

이 책에서 그런 AI의 한계에 대해 분석하여 알려준다.

뿐만 아니라 AI가 아직 무엇인지 제대로 모르는 사람들을 위해

AI에 관련하여 총괄적인인 설명부터

AI의 위험성,

특히 이 책의 제목인 AI의 거짓말 (부정확한 정보) 등에 대해 이야기 하고 있다.

 

 

인공지능은 인간을 대체할 새로운 창조물이 아닙니다.

인간이 인간의 불편을 위해 만든 상품일 뿐입니다.

 

 

 

저자의 이런 생각에 기초하여 이 책은 인공지능에 대한 환상을 깨고,

인공지능을 제대로 사용하기 위한 가이드를 제공한다.

 

인공지능이 단점이 없다고 간과할게 아니라, 인공지능의 태생적인 문제점을 미리 인지하고

인공지능을 주체적으로 관찰하며, 사용해야 한다는 것이다.

 

 

 

이 책은 총 3부로 구성되어 있는데

 

 

1부는 ＜챗GPT의 등장＞ 파트로 인공지능이 어떻게 학습하고,

어떻게 일하며, 작동은 어떻게 하는지 등 이론적인 내용이 주를 이룬다.

이 부분은 처음보는 용어도 많고, 잘 모르는 분야여서 조금 어려웠다.

인공지능으로 직업생태계가 어떻게 변할지에 대해 나오는데

인공지능이 마냥 컴퓨터 부품 조립이나 단순 반복 작업등만 할 수 있다고 생각을 한 것은 아니지만

요리까지도 할 수 있다는게 뭔가 신기했다.

이제 인공지능은 모든 업무에 들어와 있으며, 직업이 사라지는게 아니라 일손을 대체하고 있는게 옳은표현인 것 같지 않냐며 저자는 질문을 던지고 있다.

 

 

 

 

2부는 ＜챗GPT의 거짓말＞로 본격적으로 챗GPT의 한계에 대해서 다루고 있다.

기계어의 태생적인 약점부터 데이터로서의 약점 등등 여러 오류들에 대해 나온다.

이 책의 가장 중요한 파트인것 같다는 생각이 들었다.

이 책을 다 읽을 시간이 없다면 2부만 골라서 읽어봐도 좋을것 같다.

 

 

 

 

3부는 ＜챗GPT VS 인간＞으로 인공지능의 발달이 어떻게 인간에게 위협이 되는지,

또 인간은 어떻게 방어를 해야하는지에 대해 다루고 있다.

 

 

 

 

이 책의 제목이 '챗GPT의 거짓말'이긴 하지만

책의 전체적인 내용은 인공지능에 대해 자세히 나와있다.

인공지능에 대해 알고 싶은사람이라면 이 책을 읽는 것을 추천한다.

 

 

 

＜출판사로부터 도서를 제공받아 솔직하게 작성한 리뷰입니다＞

 

 

#챗GPT #챗GPT의거짓말 #동양북스 #트렌드연구소 

 

 

 

 

 

 

 

'챗GPT의 거짓말'은 챗GPT에 관심이 많은 초보자를 대상으로 인공지능 뿐 아니라 IT기술 전반에 대해 원리를 통해 쉽게 설명하고 있습니다.  각 챕터마다 적절한 예시와 스토리텔링을 통해 어떤 책 보다 인공지능을 이해하는데 도움을 주는 책입니다. 

1부에서는 인공지능의 학습원리와 어떻게 동작 하는지를 일상생활에서 예시를 들어 쉽게 설명합니다.  또한 컴퓨터의 동작원리와 인공지능이 활성화 된 이후 세상에 대해서도 풀어서 설명합니다.

2부에서는 챗GPT의 위험성과 거짓말, 할루시네이션이라 불리는 환각 현상에 대해 이야기 하는데요. 다른 챗GPT 책과는 달리 챗GPT의 부정적인 면에 대해 심도 있게 이야기 하는 것이 인상깊었습니다.

그 중 몇가지 챗GPT의 거짓말에 대해 소개하면 다음과 같습니다.

챗GPT의 거짓말 '데이터의 한계'는 편향, 과적합으로 발생합니다.

데이터들의 편향성, 오류, 누락, 과적합, 크기 면에서 애초부터 약점을 갖고 있습니다. 데이터라고 해서 완전하지 않다는 점, 데이터를 수집하면 그 데이터가 가진 약점을 생각해서 데이터가 완전한 상태인지 아닌지를 먼저 검토해야 한다는 이야기 입니다. - page 149

인공지능 학습의 한계에 대해서는 인간과 유사한 학습을 얘기 합니다.

인공지능의 학습에는 약점이 있습니다. 그 이유는 인간의 학습에도 약점이 있기 때문입니다. 첫째 망각 현상 둘째 학습의 역효과 셋째 학습의 편향성 입니다.  - page 196

인공지능 대화(chat, 챗)의 한계에 대해서는 한국어 문맥의 이해와 지식에 대해 이야기 합니다.

인공지능 컴퓨터 성능이 부족해서가 아닌 인간의 자연어 구사 능력이 완전치 않고 이를 학습하기 때문에 한계가 있습니다. 첫째 대화의 한계성 둘째 대화 지식의 한계 셋째 문맥을 이해하는데 한계가 있기 때문입니다. - page 248

책 내용이 쉽게 설명되어 있는 점은 인공지능에 처음 관심을 갖을 독자들에게 도움이 됩니다.  다만 좀더 깊이 있는 인공지능의 동작원리나 알고리즘 데이터 파이프라인에 대한 지식이 필요하신 분들은 전문 서적과 함께 보시길 추천 드립니다.

 

 

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

챗GPT라는 단어를 들어보지 못한 사람은 없을 듯하다. 과연 얼마나 제대로 알고 있느냐가 관건인 이 시점에 눈길을 사로잡는 제목. [챗GPT의 거짓말]!! 응? 그간 여러 매체를 비롯해 출판사에서도 엄청나게 쏟아져 나오던 챗GPT와 인공지능 관련 서적 중에서도 단연 눈에 띄는 제목이었다. 실체를 정확히 알지 못해서 오는 막연한 불안감과 두려움에 선뜻 받아들이기 쉽지 않았던 차에 흥미롭게 읽을 수 있었다.

전지전능한 "인공지능"?? 과연 정말일까?
피할 수도 없고 이젠 더이상 AI 기술이 선택이 아닌 필수가 되는 세상에서 중립적인 시선으로 인공지능의 작동 원리부터 인공지능이 가지는 태생적인 한계점까지 들여다볼 수 있어서 좋았다.

마지막 장 "챗GPT vs 인간"에서는 우리가 나아가야 할 방향에 대해 설득력있게 호소한다. 어쨌거나 인공지능은 오로지 인간을 위한 도구로써만 의미가 있다는 것을 명심해야 할 것이다. 빛나는 장점 뒤에 가려진 어두운 측면을 무시해서는 안 될 것이다.

다행히 최근에는 각국 정부에서도 인공지능 발전에 따른 위험 요소에 대해 경계의 시선을 거두지 않고 법적인 규제들을 만들어 나가고 있다 하니 안심 되기도 한다.

"특정한 소수에게만 이득이 되는 기술"은 분명 많은 문제를 일으킬 것이다. 모두가 안전하게 이용할 수 있고, 기본권이 보호되는 범위에 대해 제대로 판단할 수 있는 노력이 필요할 것 같다.

신기술에 대한 무조건적인 선호와 지지보다, 이면의 모습까지 깊이 바라볼 수 있는 시선이 언제나 필요하다고 느낀다. 생각할 거리를 던져 준 좋은 책이었다.

??????????????????????????

93. 인공지능이 사람의 일을 대신에 하게 되면 인간의 가치와 인간의 필요성 문제가 대두될 것입니다. 인공지능 입장에선 인간의 존재가 불필요하게 느껴질 수 있죠. 물론, 인공지능이 느낀다는 것이 아니고 인공지능이 계산한다는 의미입니다.

126. 어쩌면 여러분이 골머리를 앓던 시간은 여러분의 성장에 도움이 되는 약이었을 수 있습니다. 대나무의 마디는 대나무가 쉬어가는 시간입니다. 대나무처럼 성장통을 겪지 않고 자라는 삶은 없습니다. 챗GPT가 해결해준다고 착각할 수 있는 여러 가지 일들에 대해 다시 생각해보는 계기가 되었으면 합니다.

314. 인공지능은 디지털 데이터로 움직이는 프로그램이라서 인간을 공격할 수단이 되지 않는다고 이야기합니다. 그런데 이 말을 바꿔 말하면, 인공지능은 디지털 데이터로 움직이는 프로그램이라서 누구라도 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있는 수단으로 변한다는 의미가 됩니다. 인공지능이 디지털 데이터 체계이기 때문에 위험한 수단이 아니라고 할 것이 아니라, 인공지능이 디지털 데이터 체계이기 때문에 누구의 손에 들어가느냐가 중요하다고 위험성을 주장해야 하는 것입니다.

*yes24 리뷰어 클럽 서평단 자격으로 작성된 리뷰입니다.

#트렌드연구소 #챗gpt의거짓말 #동양북스

챗GPT의 거짓말
트렌드연구소 지음
동양북스

딥 블루(Deep Blue)가 1996년과 1997년 세계 체스 챔피언 가리 카스파로프와 체스 대결을 하였고, 그후 10여년이 지나서 알파고(AlphaGo)는 2016년 이세돌 9단, 2017년 커제(柯?) 9단과 대결하며, 대중의 관심을 끌었지만 이내 시들해졌죠.

사람들은 관심을 가졌지만, 체스나 바둑처럼 경우의 수가 정해져 있는 분야에서 가능할 뿐 실생활과 거리가 있다고 여겼기 때문입니다.

반면 챗GPT는 인공지능이 실생활에 영향을 미칠 수 있다는 점에서 관심을 끌고 있습니다.

스타트업 기업들은 자금유치를 위해 너도 나도 인공지능을 내세우고 있고, 서점에 가면 인공지능이나 챗GPT 관련 서적들이 많이 나와있습니다.

이렇게 인공지능에 대한 대중의 관심에 불을 지핀 챗GPT는 대중에 공개된 직후 엉뚱한 답변을 하기도 해서 한때 챗GPT의 말도 안되는 답변을 인터넷에 올리는게 유행하기도 했습니다.

하지만, 사람들은 이내 챗GPT의 엉뚱한 답변은 챗GPT의 문제가 아니라, 챗GPT에게 제대로 된 질문을 하지 못해서라고 생각하게 됩니다.

챗GPT를 제대로 알고 활용하기 위해서는 챗GPT가 왜 또는 어떤 과정때문에 거짓말을 하게 되는지 이해할 필요가 있습니다.

그런 의미에서 이 책 '챗GPT의 거짓말'은 챗GPT를 잘 활용하고 그 한계를 이해하기 위해 한번쯤 읽어볼 책이 아닌가 싶습니다.

제목은 챗GPT의 거짓말이지만, 단지 챗GPT의 거짓말만 다루고 있는 것은 아니고 인공지능이 생활에 미치는 부분에 대해 포괄적으로 이야기합니다.

#챗GPT의거짓말 #트렌드연구소 #동양북스

이 글은 예스24 서평단에 당첨되어 업체로 부터 도서를 제공받아서 쓴 글입니다.