25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작해, 주요 사건 사례들을 바탕으로 인공지능의 성장 과정을 살펴보고, 인간의 문화와 사회에 미치는 영향까지 조망한다. 특히 현재 인간의 삶과 인프라에 (치트키를 써서) 빠르고 깊게 침투 중인 지능형 기계의 무분별한 활용이 초래하는 의도치 않은 결과들을 객관적 시선으로 바라보며 강력하게 경고한다. 나아가 인간은 어떤 부분을 어떤 이유로 경계해야 하는지, 인공지능과 안전하게 공존하려면 지금부터 무엇을 해야 할지에 관한 다양한 아이디어를 제시한다.
저자소개
저자
넬로 크리스티아니니
머신러닝 및 인공지능 분야에 20년 이상 종사하고 있는 저명한 연구자다. 바스 대학교에서 인공지능 학과 교수로 재직 중이며, 그 전에는 브리스틀 대학교, 캘리포니아 대학교 데이비스(UCD), 로열 홀러웨이 런던 대학교에서 일했다. 머신러닝 분야 연구로 ‘왕립학회 울프슨 우수연구상(Royal Society Wolfson Research Merit Award)’과 ‘유럽연구위원회 경력연구원 장학금(ERC Advanced Grant)’을 받았다. 머신러닝 분야의 영향력 있는 저서를 집필했으며 인공지능에서 과학철학, 디지털 인문학에서 자연어 처리, 사회학에서 생물학에 이르기까지 다양한 분야의 학술지에 게재된 학술 논문 수십 건의 공동 저자이기도 하다. 2017년에는 유럽의회의 유럽기술영향평가국(STOA)에서 인공지능의 사회적 영향을 주제로 연례 강연했으며, 이는 현재도 크리스티아니니가 열심히 연구하는 주제다. 트리에스테 대학교에서 물리학 학위를, 계산지능(computational intelligence)으로 런던 대학교에서 석사 학위를, 브리스틀 대학교에서 박사 학위를 받았다.
서울대학교 컴퓨터공학과를 졸업하고 SK텔레콤에서 소프트웨어 엔지니어로 근무했다. 변호사 자격을 취득하고 현대자동차, 헬스케어 회사, 블록체인 회사 등을 거쳐 특허, 저작권, 영업비밀, 개인정보, 기술전략, 규제대응 그 외 폭넓은 영역에서 다양한 기술 및 법률자문을 제공하고 있다. 옮긴 책으로는 『기계는 어떻게 생각하고 학습하는가』(한빛미디어, 2018), 『컴퓨터 프로그램의 구조와 해석』(인사이트, 2016 ), 『소프트웨어 개발의 지혜』(야스미디어, 2004) 등 10여 권이 있다. 현재 법무법인 인헌의 파트너 변호사로서 좋은 책이 더 많은 사람에게 알려지도록 노력한다.
‘머신’이나 ‘기계’라고 하면 반짝이는 금속과 톱니바퀴, 오일 냄새 등을 반사적으로 연상하지만, 어원이나 단어의 의미상 반드시 ‘기계’가 금속으로 이루어져 있을 필요는 없다. 정교하게 구성된 생명체도 기계가 될 수 있고, 체계적으로 작동하는 소프트웨어도 기계가 될 수 있으며, 이 책에서도 언급하듯이 인간으로 구성된 소셜 플랫폼조차 기계가 될 수 있다.
이러한 ‘기계’가 인간의 창조물이라 해도 반드시 인간과 닮아 있어야 할 이유는 없다. 심지어 반드시 인간에게 익숙한 방식으로 작동해야 할 이유도 없다. 그리고 실제로 기계가 ‘인간이 이해할 수 없는’ 방식으로 작동하는 것은 일종의 치트키가 될 만큼 강력한 기술적 돌파구가 된 아이디어였으며 현대 인공지능 기계의 핵심적 특징이 되었다.
그러나 이것은 현재 인공지능 분야에서 발생하고 있는 오남용 및 규제 등의 문제를 해결해야 하는 인간이 처한 딜레마의 원인이기도 하다. 이 책은 현대 인공지능 기계의 특성, 문제 그리고 이를 해결할 방법에 대한 아이디어를 매우 심도 있는 논의와 함께 제시한다.
이 책은 인공지능에 대해 기초적인 개념과 어떻게 우리들에게 영향을 미치고 있는지 설명하고 있습니다
인공지능은 인간의 지능을 인공적으로 구현한 기술로 알려져 있습니다. 여기서의 지능은 인간의 지적 능력이라고 생각한다면 인간을 능력을 흉내내서 구현되는 인공지능은 인류에게 기회와 위협이 될 수 있습니다.
하지만, 이 책을 읽으면서 이런 전제가 어쩌면 틀렸을 수도 있다는 생각이 들었습니다. 지금까지 '지능'의 의미는 우리들의 기준에서 정의한 것이기 때문에 인공지능은에대 우리는 편견을 가질 수 있습니다. 이런 편견은 인공지능으로 인해 인류 멸종의 가능성도 제기되고 있습니다.
하지만, 이런 '지능'의 의미를 이 책에서 비공식적으로 정의한 '새로운 상황을 포함한 다양한 국면에서 효과적으로 행동할 수 있는 능력'이라고 생각하다면 '인공지능'을 새로운 시각으로 바라볼 수 있게 됩니다.
오히려 인공지능의 편향이나 결함으로 인한 의도를 벗어난 행동를 윤리적 규범을 마련해서 통제하고 인공지능을 책임감있게 사용한다면 인류에게 도움이 되는 창조물이지 않을까 싶습니다.
이런 지능에 대한 개념 뿐만 아니라 '소셜 머신' 이라는 부분도 신선했습니다. 어쩌면 우리는 큰 목푤를 위해 다른 목표를 수행하하고 있는 또다른 개념의 인공지능의 한 부분으로 살아가고 있을 지도 모릅니다.
'인공지능에 대한 오해와 진실'이라는 이 책의 부제처럼 이 책을 통해 저는 인공지능에 대해 새로운 시각을 갖게 되었습니다.
여기서 말하는 "기계"는 금속으로 된 하드웨어 장치가 아니다. 이것은 어떤 기구나 장치, 소프트웨어, 혹은 어떤 생명체도 될 수 있다. 그리고 이 책은 현대 인공지능 기계에 대한 이야기를 다룬다. 인공지능에 대한 이야기를 너무 낙관적이지도 너무 비관적이지도 않게 풀어내며 인공지능 시대에 어떻게 살아가야 하는지에 대해 이야기하는 책이다.
인공지능이 어떤 데이터와 어떤 기술을 가지고 어떤 판단을 하는지, 그리고 그것이 어떻게 문제가 될 수 있는지 객관적인 시선으로 살펴본다. 관련 이슈들을 언급하며 문제를 제기하거나 생각해 볼 거리를 던져주기도 한다. 책에서 언급되는 다양한 논의들을 함께 생각해가며 읽는다면 보다 유의미한 독서가 될 것이다.
인공지능과 관련된 이슈를 철학적으로 다루면서 이에 대한 답을 제시하기 보다는 독자로 하여금 생각하게 만든다. 인공지능의 역사와 추이를 핵심적인 기술과 사건 위주로 살펴보며 독자의 시야를 넓힌다. 적절히 사용되는 통계와 사례를 통해 독자의 관심을 끌며 객관성을 높인다. 그 속에서 우리는 인공지능에 대한 유의미한 지식을 얻고 시야를 넓혀갈 수 있다.
궁극적으로는 인공지능과 함께 살아가는 앞으로의 사회에서 어떻게 인공지능과 효과적으로 공생할 수 있을 것인가에 대한 논의를 한다. 과거 인터넷이 처음 보급되며 우리의 일상 속에 녹아든 것을 언급하며, 이미 어느 정도 스며들고 있는 인공지능 또한 그렇게 될 것을 암시한다.
인공지능의 역사와 패러다임의 변화, 그리고 기술 외적인 인공지능 용어들이 궁금한 사람에게 추천한다. 인공지능에 대한 전반적이고 폭넓은 지식을 얻을 수 있을 것이다.
인공지능이 더 이상 낯설지 않게 되어버린 현재, 앞으로 인공지능과 함께 어떻게 살아갈 것인지 답을 찾고자 하는 이에게는 이 책이 답을 내려줄 수는 없지만 좋은 길잡이가 될 것으로 보인다.
오랜만에 기술을 이야기 하지만 기술서적이 아닌 책이었다. 인공지능의 역사를 현대에서 과거로 다시 현대로 넘어오면서 시발점부터 변곡점을 지나 어떻게 인간의 지능과 인공의 지능이 다른 길을 걷게 되었는지 이야기한다.
어떻게 해야 기술을 잘 다룰 수 있고, 인공지능 분야의 엔지니어로 성공할 수 있다고 이야기 하지 않는다. 기술이 어떻게 쓰이고 있고, 갈등들이 생기며 봉합되어 가는 과정을 담담히 적어 내려갈 뿐이다. 알파고 쇼크 이후 우리는 인공지능을 생활에서 점점 자주 접하게 되었고, 2020년 ChatGPT-3 등장 이후 개발자들 사이에서나 유명했어던 OpenAI의 GPT는 초등학생도 과제에 쓰면서 뉴스에서 사회 문제로 다룰 정도로 당연한 기술이 되어버렸다.
`메타`가 무분별한 정보 수집으로 타겟 광고를 한 일도 인공지능 기술의 힘이 컷고, 미술대회에서 생성 모델이 만든 그림이 상을 타고, 할리우드 작가 협회가 인공지능으로 자리를 잃을 위기에 처해 영화 산업이 일시 중단 되는 등 이제는 더 이상 인공지능과 우리의 삶이 분리되기 힘든 시점이 도래했다.
`원숭이 발`처럼 인공지능은 우리의 기대와 전혀 다른 방향으로 문제를 해결 할 수도 있는 순간이 되어버렸다. 자율주행이 이슈 일 당시에는 윤리문제가 단순히 개발자 집단에서만 다룰 문제가 아니게 되었듯 다양한 분야의 협의가 필요한 시점이다.
우리가 자동차 없이 현대 사회를 상상할 수 없고 여러 규약들로 안전을 담보해 나가듯, 인공지능과 작별을 고하기엔 너무 깊이 침투해있는 이 새 친구와 안전하게 걸어갈 방법에 대한 고민을 던져주는 책이다.
---
한빛미디어 `2023 도서 서평단 "나는 리뷰어다"`의 일원으로 도서를 제공받아 작성한 리뷰입니다.
이 책의 원문 제목은 "The Shortcut: Why Intelligent Machines Do Not Think Like Us" 이다.
원문 제목처럼 책은 현재의 인공지능이 인간과 다르게 동작하는 이유에 관해서 배경부터 동작 원리, 앞으로의 발생하게될 미래예측까지 자세히 설명하고 있다.
"기계의 반칙"이란 제목은 아마도 인공지능 기계(소프트웨어)가 치트키를 사용하여 인간이 설계한 이상으로 동작하기 때문에 지어졌으리라 짐작한다.
한글로 되어 있음에도 읽는데, 꽤나 고생하였다.
우리가 아는 흔한 교수(위대한 석학)님 특유의 철학, 생물학, 심리학, 언어학을 넘나드는 전문 용어와 예시들이 평생 공대생인 제가 한번에 읽고 이해하기에는 무리가 있었다. 처음 읽었는데, 세번은 읽은 듯한 느낌이다. ㅎㅎ
그럼에도, 이 책은 현 시대를 살고 있는 성인이라면 꼭 읽었으면 한다.
만약, 당신이 사용하는 유튜브나 페이스북, 쇼핑몰(아마존, 쿠팡)의 추천이 어떻게 이뤄지는지, 휴대폰에서 무심코 누른 "좋아요"를 소셜 인공지능 프로그램이 어떻게 활용하는지? 궁금하다면, 이 책이 궁금증을 해결할 수 있다.
또한, "SF 영화에서나 보게 되는 인공지능의 공격이 이제 현실이 될 날이 얼마 되지 않았구나"하는 두려움도 함께 느낄 수 있으니, 이 점도 가만하고 읽어야 한다. 그런 세상이 온다면 우린 모두 공범이니까~
책의 구성은 전체 10개 장으로 되어 있는데,
1장. "지능의 탐구"에서는 지능에 대한 해석을 새롭게 정의한다. 인간적인 특성을 완전히 배제하고 효과적으로 문제를 해결하는 것에 집중한다.
2장. "치트키"는 이전의 인공지능이 이제는 인간이 대적할 수 없을 정도로 발전하게 된 세 가지 치트키에 대해서 설명한다. 첫번째는 인공지능 능력을 이론이 아닌 데이터의 패턴에서 찾은 것이고, 두번째는 매일 매일 생산되는 어마어마한 데이터이며, 마지막으로 사용자의 피드백(댓글, 좋아요, 유튜브 시청시간)이 그것이다.
3장. "세계의 질서를 찾아서"에서는 규칙이 존재하는 인간의 행동과 오직 관찰한대로 행동하는 인공지능의 동작 원리를 설명하고
4장. "러브레이스는 틀렸다"는 오늘날의 머신러닝이 경험을 통해 자율적으로 학습할 수 있는 능력으로 인해 인간이 할 수 없거나 이해할 수 조차 없는 일들을 쉽게 해낼 수 있는 원리를 설명한다.
5장. "의도를 벗어난 행동"에서는 2장에서 설명한 치트키로 인간이 만든 근본적인 사회 규범(인간적인)조차 무시하고 작업을 할 수 있는 부분에 관해 고민한다.
6장. "마이크로타기팅과 대중 설득"은 인공지능이 인간의 경험을 바탕으로 의도적으로 앞으로의 인간의 행동에까지 영향을 미칠 수 있는 과정을 설명한다.
7장. "피드백 루프"에서는 우리가 일상적으로 사용하는 SNS를 인공지능이 어떻게 활용하는지에 관해 설명하고,
8장. "결함"은 초인간적인 인공지능의 결함(잘못된 행동, 예상치 못한 행동)이 어떻게 발생할 수 있는지 설명한다.
9장. "소셜 머신"에서는 SNS와 인간을 분리하지 않고, 인간과 함께 만들어 내는 거대한 인공지능(소셜 머신)이라는 관점에서 인공지능을 살펴보고,
마지막 10장. "금지가 아닌 규제"는 현대 인공지능 특성과, 문제 그리고 이를 해결할 방법에 대한 아이디어를 알아본다.
엄청난 정보의 쓰나미속에서 인공지능이 없는 세상은 상상도 할 수 없으며, 이미 우리 깊숙히 들어와 있다.
가만히 있으면, 내가 관심가질만한 주제나 제품을 알아서 추천해주는데, 그 수많은 정보를 일일이 찾는 방식으로 누가 되돌아 가겠는가?
하지만, 오픈AI 인공지능 전문가들이 경고하는 인공지능이 인간의 통제를 벗어나지 않도록 방지하는 방법을 모색하는 것과 AI 대부 제프리 힌턴 교수가 우려하는 인공지능이 곧 인간을 넘어설 수 있다는 경고가 단순한 경고가 아님을 잊어서는 안되겠다.
인공지능의 금지는 이미 늦었으며, 현실적으로 불가능하다.
지금이라도 인간과 인공지능이 선을 넘지 않고 슬기롭게 공존할 수 있는 적절한 법과 규제를 찾아서 후세에 찬란한 문화 유산으로 넘겨주어야 되지 않을까?
마지막 지금의 인공지능을 바라보는 현실적인 방법에 관한 저자의 말로 마무리한다.
인공지능이 이미 없어서는 안 되는 도구가 된 만큼 현실적으로 인공지능 사용을 중단할 수가 없다는 사실이며, 이것이 바로 우리가 다양한 형태로 사용되는 지능형 에이전트들과 함께 안전하게 살아가는 방법을 배워야 하는 이유이기도 하다.
인공지능 분야의 석학이 20년 이상 AI를 연구하는 과정에서 겪어 온 철학적, 기술적 고찰의 기록
첫장을 열면서부터 시기적으로 이르게 깜짝 놀랐다. 세간에 알려진 AI에 대한 생각 또는 접근방식과는 달리 저자만의 독특한 시각과 깊이 있는 인사이트를 느낄 수 있었기 때문이다.
오랫동안 과학, 좁게는 AI의 영역에 있어 칼 세이건이나 엘런 튜링과 같은 저명한 과학자의 위상은 범접할 수 없는 신과 같은 존재였다. 튜링테스트는 말할 것도 없고 외계 지능체 탐사를 위해 공헌한 칼세이건의 노력에 흠집을 내려는 시도는 저명한 이들조차 엄두를 내지 못하는 영역이었다.
그럼에도 저자는 그들에게 선전포고하는 것으로 본 도서의 시작을 열었다.
칼 세이건의 주장에 따르면 외계 지능체는 3차원의 31^3 비트 시퀀스이자 포름알데히드 분자를 형상화한 이미지를 표현한 무선 신호만으로도 우리의 존재를 인식할 수 있음을 주장했다.
이러한 가설은 외계 생명체 역시 우리와 같은 우주에서 진화했고 같은 물리법칙의 지배를 받았을 것이기에 이러한 개념을 이해할 수 있다는 점에 기인한다.
가설을 테스트 하는 과정에 있어 물리학 박사 과정의 학생 네 명이 부분적으로나마 메시지를 해독할 수 있었다는 점은 긍정적이었지만 저자의 테스트에서 칼 세이건의 가설은 통과하지 못한다.
저자의 고양이들에게 금속판과 무선 시퀀스를 활용하여 테스트를 진행했지만 고양이로 부터 어떤 답장도 받을 수 없었기 때문이다.
인간 판정단이 대화 중 상대방이 인간이라고 생각할 수 있는지의 여부를 테스트하는 튜링 테스트 또한 마찬가지이다. 인간인지 아닌지 판단한다는 기준 자체가 지극히 인간 중심적이다.
이를 통해 저자가 주장하는 바는 코페르니쿠스적 전환의 강조이다. 지구가 세상의 중심이 아니듯, 지능이라는 것을 정의 내리는 것에 있어 그 중심에 인간이 있어서는 안된다는 것이다.
무언가를 정의라는 내린다는 것은 어찌보면 단순한 행위일지도 모른다. 하지만 이 정의 하나에 외계 생명체를 발견하는 방식 및 가능성이 뒤집힐 수 있고 뒷 장에 이어질 기계 및 AI를 이해하는 정도와 방식이 뒤집힐 수 있음을 책을 읽는 내내 지속하여 경계할 수 밖에 없었다.
이어지는 장은 저자가 AI를 연구해오며 등장했던 굵직한 사건들의 기록들이 담겨있다. 한국인이라면 모르기 힘든 이세돌과 알파고의 접전에서부터 데이터에 조그만 관심이라도 가진 이라면 들어봄직한 추천 시스템을 통해 어느 아빠가 어린나이에 딸이 임신한 사실을 알게 된 일화 등이 대표적이다.
AI의 태생에 결정적 기여를 한 접근방식을 치트키라 표현하며 소개하는가 하면 기계 학습의 패턴 속에서 질서를 찾아내는 고찰 그리고 부분적으로 인간의 지능을 뛰어넘는 기계 지능에 대한 저자의 견해는 소개된 주제 하나하나에도 책 한권 분량의 리뷰를 작성할 수 있을 정도로 거대한 철학의 향연이다.
책의 후반부로 진입할수록 기계와의 공생 방법에 대한 고찰로 이어진다. 로봇을 금지가 아닌 규제하는 방식으로 우리 삶에 받아들이는 방법이라든가 의도를 벗어난 행동 즉, 윤리적인 측면의 고민 그리고 소셜 머신과 같이 우리 사회에 이들이 영향을 미치는 정도와 우리 삶에 침투하는 방식 등에 저자의 인사이트를 엿볼 수 있다.
AI의 역사는 짧지만 사건의 분량은 적지 않다. 하루에도 수없이 쏟아져 나오는 AI의 논문 홍수 속에서 새로운 기술이나 인사이트를 쫓는데도 급급한 요즘이다.
상황이 이러할 진데 한가롭게 AI의 본질과 윤리 혹은 인류의 미래에 공생할 수 있는 방법을 찾는데 기울일 수 있는 시간은 얼마나 될까?
하지만 이런 신기한 기술의 일부를 쫓는데 급급하여 정작 중요한 본질적인 부분, 즉, 우리의 미래 그리고 기계와의 공생에 대한 인문학적인 고찰은 기술의 발전 속도를 어느정도 따라가고 있는지에 대한 고민이 끊임없이 이어졌다.
책을 읽으며 가장 강렬히 느낀 것은 지금이 매우 중요한 시점인 것 같다는 생각이다. AI 연구자 혹은 업계 종사자라면 더 중요한 본질을 놓치고 있지는 않은지 각성이 필요해보인다.
AI에 직접적인 관련이 없는 독자들 또한 마찬가지다. 이것이 우리 삶에 침투하여 어떤 미래를 선사할 것인지 그 안에서 나의 역할은 무엇일지 고찰할 시간이 필요하다. 이러한 이유에 기인하여 이 책의 존재 가치는 더욱 빛난다고 말할 수 있을 것 이다.
OpenAI의 chatGPT, Google의 Gemini 이를 활용한 Bard나 Facebook의 LLAMA같은 모델 또는 서비스들을 보면정말 지능이 있는 생물과 소통하는 느낌이 듭니다. 인공지능의 기술은 급속도로 발전하고 있고 이미 우리 삶 전반에 특히 개발자라면 요즘 사용안하는 개발자가 있으까 싶은 생각이 들 정도로 삶 전반에 많은 영향을 미치고 있는 상황입니다.앞으로 이러한 영향력은 더욱커질 것이고 AI의 발전과 사회 변화에 대한 이해는 필수라고 생각되는데 한빛미디어에서 출간한 기계의 반칙(넬로 크리스티아니니 지음)은 이러한 물음에 다양한 이해를 다룬 책입니다.이 책은 현대 AI의 발전과 그에 따른 사회 변화에 대한 이해를 돕는 데 유용한 책이라고 생각됩니다.
인공지능, 기계의 지능과 인간의 대응에 대해 고찰하고 앞으로 나아갈 길을 제시하는 철학이 담긴 책
책의 전반적인 내용을 살펴보기 전에 간단하게 평을 하자면, 이 책은 정말 어렵습니다. 철학적이면서도 인공지능에 대한 많은 내용을 담고 있습니다. 과거로부터 인공지능의 발전 과정을 훑어보면서 현재 어떻게 도달했는지를 살펴보는 과정도 포함되어 있으나 개발자라면 들어봤을 수 있는 인공지능과 관련된 개론 수업에서 들었던 내용과는 결이 완전히 다릅니다. 거기에 이 "지능" 이란 것이 무엇인지 우리 세대는 인공지능을 어떻게 대해야 할 것인지를 철학적으로 다루기 때문에 시중에 존재하는 많은 책들과 결이 다르다는 것을 알고 보면 좋습니다. 굳이 분류하자면 인문학에 가깝다고 볼 수 있겠습니다.
저자 넬로 크리스티아니니는 인공지능 분야에 20년 이상 종사 중인 바스 대학교의 인공지능 학과 교수로서 그의 전문적인 지식에 있어서는 의심할 여지가 거의 없습니다. 인공지능 연구자이자 교수로서 이런 인문학적인 내용을 담은 책을 펴냈다는 것이 오히려 놀랍고 그 깊이가 상당함을 느낄 수 있었습니다.
책의 차례는 "1장. 지능의 탐구"로부터 시작해서 책 전반적으로 다룰 내용들에 대한 용어와 특정 언어에 대한 정의를 먼저 시작합니다. "2장. 치트키" 는 고전적 인공지능과 패러다임의 변화가 무엇인지, 현재 인공지능이 우리 세대에서 어떤 패러다임의 변화를 주고 있는지를 서술합니다. 특히 재미있는 부분은 "4장. 러브레이스는 틀렸다"였습니다. 컴퓨터학개론에서만 들었던 러브레이스를 오랜만에 만나 반가우면서 그녀가 남긴 말이 현재까지도 영향을 주고 있었다는 것에 또 놀라웠습니다.
이후 인공지능에 대한 본격적인 철학적 내용과 정책, 대응 그리고 규제 등에 대해서도 이야기하는 단원들이 이어집니다. 특히 이 7장 이후의 단원들은 개발자들이 봤을 때도 중요하지만 정책입안자나 행정, 경영을 하는 사람들이 봤을 때 더 많은 아이디어를 얻지 않을까 생각됩니다.
이 책의 장점이자 어느 책에서도 이런 방식은 꼭 배웠으면 하는 것은 특정 단어를 먼저 정의하고 시작한다는 것입니다. 이 책은 아주 일반적인 용어일 수 있는 "지능"과 같은 단어도 꼭 정의하고 넘어갑니다. 이 정의는 책의 전반에 걸쳐 이야기를 이끌어가는데 중요한 역할을 합니다.
또 하나의 장점은 레퍼런스를 이용할 때 간략한 요약과 함께 현재 단원에서 이야기하는 점을 잘 연결하기 위해 자연스럽게 설명한다는 것입니다. 패러다임에 대해 설명하기 위해 토머스 쿤을 끌고 왔듯이 대가들과 역사적인 사건들을 가져와 현재를 정말 멋지게 설명합니다.
처음에도 이야기 했듯이 러브레이스의 말을 인용한 단원은 정말 재미있었습니다.
러브레이스는 주석에 이렇게 썼다고 합니다.
"해석 기관은 어떤 것을 독창적으로 만들어낼 수 있다고 자처하지 않는다. 다만 우리가 그렇게 하도록 명령할 방법을 아는 그 어떤 일이든 수행할 수 있다."
이 말은 후대에 걸쳐서도 영향을 미쳤는데, 현재의 인공지능은 이 말이 틀렸다는 것을 입증하고 있다고 합니다. 자세한 내용은 책을 통해 살펴보면 정말 재밌게 공감하며 볼 수 있을 것 같습니다.
실리콘 벨리의 일화 "40가지의 조금씩 다른 파란색"과 같은 재미있는 내용을 이용해서 인공지능 추천 시스템과 제어 시스템 등을 설명하는 부분도 정말 재밌습니다. 우리의 삶이 현재와 같이 만들어진 부분을 이런 방식으로 설명할 수 있다는 것이 놀랍습니다. 모든 내용의 기반은 인문학과 철학이 깔려있습니다. 단순히 기술만 배웠다면 이런 식으로 해석하기는 정말 어려울 것이라고 생각합니다.
이 책을 모두 읽는데 상당한 시간이 걸렸고 다시 한 번 읽고 있습니다.
가능하면 모든 내용을 이해하고 싶어지는 오랜만에 정말 심오하고 재밌는 철학 책이자 인문학 그리고 기술 서적이었습니다. 개발자가 아닌 사람들은 읽는데 어려움이 많이 있을 것이라고 생각합니다만 미래에 인공지능 사회를 살아가는 우리 모두가 꼭 읽었으면 하는 책이라 생각되어 강력히 추천합니다.
한빛미디어의 "기계의 반칙"은 현대 인공지능과 미래의 발전에 대한 AI 석학의 탐구를 담은 도서로, 다양한 관점에서 지능과 기술의 발전을 다루고 있습니다.
이 도서는 현대 인공지능의 핵심적인 주제들을 체계적으로 다루면서도, 독자들에게 폭넓은 시야를 제공합니다. 각 장마다 다양한 주제를 다루면서도 통일된 주제에 대한 연결성을 강조하며, 기술의 한계와 도전, 미래에 대한 예측 등을 다루어 현대 사회에 미치는 인공지능의 영향에 대한 통찰을 제공합니다.
다음은 각 장의 내용과 특징에 대한 서평입니다.
1장. 지능의 탐구
도서의 첫 장에서는 지능의 다양한 측면을 탐구한다. 기대치 관리, 지능 정의, 규칙에 따른 세계, 생존 기법의 깜짝 주머니, 외계 지능, 코페르니쿠스적 전환 등의 주제를 다뤄 독자들에게 지능에 대한 깊은 이해를 제공한다.
2장. 치트키
여기에선 현대 인공지능의 '치트키'를 밝혀낸다. 언어 전문가 해고부터 시작해 고전적 인공지능, 주기 순환의 역사, 패러다임 전환, 그리고 바프닉의 법칙과 새로운 사고방식에 이르기까지, 독자들은 현대 인공지능의 핵심을 파악할 수 있다.
3장. 세계의 질서를 찾아서
세 번째 장에서는 지능, 패턴, 그리고 질서 있는 세계의 연결성에 대한 심오한 토론이 이어진다. 지능의 한계와 패턴에 대한 인지 편향, 기계의 능력, 인간의 피조물에 대한 깊은 고찰이 펼쳐진다.
4장. 러브레이스는 틀렸다
네 번째 장에서는 러브레이스의 오류와 백작부인, 기계의 이야기를 통해 학습하는 기계와 초인간적인 존재에 대한 아이디어를 제시한다. 알파고와 창조자를 능가하는 피조물의 미래에 대한 전망이 독자들을 매료시킨다.
5장. 의도를 벗어난 행동
다섯 번째 장에서는 의도를 벗어난 행동과 그로 인한 위험에 대한 이야기를 다룬다. 원숭이 발과 관련된 에피소드와 규제, 민감한 정보 유출에 대한 현실적인 문제들이 다루어져, 독자들에게 현대 인공지능의 도전과 과제에 대한 이해를 제공한다.
6장. 마이크로타기팅과 대중 설득
여섯 번째 장에서는 마이크로타기팅과 대중 설득에 대한 이야기를 풀어낸다. 함부르크에서의 일상과 로제타 스톤 방식을 통해 인간의 자율성과 완전한 원을 탐구한다.
7장. 피드백 루프
일곱 번째 장에서는 최초로 대중화된 에이전트와 피드백 루프의 역할에 대한 심도 있는 논의가 전개된다. 개인화된 요약과 추천 에이전트, 행동경제학과의 연계 등을 통해 독자들은 인공지능이 현대 사회에 미치는 영향을 심도 있게 이해할 수 있다.
8장. 결함
여덟 번째 장에서는 결함에 대한 이야기를 전한다. 설득 게임과 하인 또는 조종자에 대한 고민, 밤잠 설치게 하는 걱정거리 등이 다뤄져 독자들에게 현대 기술의 한계와 도전에 대한 인식을 증폭시킨다.
9장. 소셜 머신
아홉 번째 장에서는 초능력 게임과 소셜 머신의 도입에 대한 이야기를 전한다. 목적이 있는 게임과 소셜 머신의 다양한 측면, 그리고 평판 관리 시스템과 알고리즘형 규제에 대한 고찰이 독자들에게 제시된다.
10장. 금지가 아닌 규제
마지막 장에서는 금지가 아닌 규제에 대한 독특한 시각을 제시한다. 전원코드를 뽑을 수 있는 미래, 매체와 게이트키퍼, 지능형 기계와의 동거, 그리고 금지가 아닌 규제에 대한 전망을 다루어 독자들에게 기술과 사회의 교차로에서의 미래를 생각케 한다.
지루하지 않고 흥미로운 내용으로 독자들을 끌어들이면서, 동시에 철저한 연구를 토대로 신뢰성 있는 정보를 전달한다. "기계의 반칙"은 기계와 이를 제작하는 인간과의 관계와 인공지능과 미래의 결합에 대한 안내서로 느껴졌습니다. 인공 지능에 대한 오해를 벗어나 앞으로 우리의 삶에 지대한 영향을 줄 인공 지능이 어떻게 생성되고 사용될 수 있을지에 대해 의미 있는 그리고 근거 있는 내용을 제시합니다.
그래서 최대한 책을 펼쳐놓은 형태로 리뷰를 하고자 합니다. 보시고, 관심이 있으시면 선택해서 보시면 될것 같습니다. ^^
1. 다루는 내용
현대 인공지능 기계의 특성, 문제 그리고 이를 해결할 방법에 대한 아이디어를 매우 심도 있는 논의와 함께 제시한다.
인공지능의 기초 개념과 인공 지능이 어떻게 사회를 바꾸고 있는지 설명한다.
인공지능을 쉽고 자세하게 설명하며, 최근 격동의 시기에 일어난 여러 사건을 연결하고 이해할 수 있는 새로운 서사를 부여하고, 앞으로 우리가 나아갈 길을 냉철하게 판단할 수 있도록 도와준다.
2. 대상 독자
인공지능에 관심을 가진 학생, 인공지능에 대한 규제를 연구하는 정책전문가 및 학자.
인공지능 분야에서 일하는 전문가, 인공지능에 대한 막연한 공포감이 있는 사람.
인공지능에 대한 막연한 낙관을 가진 사람
3. 책의 구성
1장 지능의 탐구
2장 치트키
3장 세계의 질서를 찾아서
4장 러브레이스는 틀렸다
5장 의도를 벗어난 행동
6장 마이크로타기팅과 대중 설득
7장 피드백 루프
8장 결함
9장 소셜 머신
10장 금지가 아닌 규제
4. 소감
이 책에서는 지능을 인간 중심적인 것이 아닌 객관적인 것으로 판단해 보려고 한다.
이론적 모델을 데이터에서 발견한 패턴으로 대체하는 것이 첫번 째 치트키라고 이야기 하고 있고
두 번째 치트키는 아마존에서 어떤 책들이 서로 유사한지 발견하기 위해 판매 데이터 세트의 용도를 재정의할 때 사용했던 방법이고
세 번째 치트키는 사용자의 행동을 관찰하고 그로부터 의도와 선호도를 추론하는 방식이라고 한다.
이 책을 보면 개인화된 뉴스 피드를 보여주는 추천시스템을 통한 피드백 루프가 과연 사용자들에게 장기간 노출되었을때 어떻게 되는지에 대해서도 생각해볼 필요가 있는 것 같다.
초인간적 수준의 성능까지 발휘하는 지능형 에이전트를 만들어냈지만 인간에게 알려지지 않은 자신의 환경적 속성을 이용하여 우리 삶의 민감한 부분에 예상치 못한 일이 일어날 수 있음을 인지해야 할 것 같다.
인간이 만들어낸 소셜 머신의 경우에 그 소셜 머신이 이루고자 하는 목표와 사람이 그 소셜 머신을 사용하는 이유가 다르지만 소셜 머신이 의도하는대로 사람이 제어될 수 있으며, 그 제어를 사람이 바꿀 방법이 없을 수도 있음에 대해서도 이야기 하고 있다.
인공지능이 없는 세상으로 돌아가는 건 현실적으로 불가능한 만큼, 인공지능과 함께 안전하게 살아갈 방법을 찾아야 한다는 이야기도 하고 있다.
인공지능에 대한 원리와 동작방식, 우리가 어떻게 대처해야 하는지에 대한 각 장마다의 예시와 방법들을 통해 생각해보게 하고 있다. 인공지능 시대에, 어차피 바뀔 수 없는 시대의 흐름이라면 따라가면서 내가 어떻게 그것을 사용할지를 생각하고 행동해야 하지 않을까? 라는 생각을 하게 하는 책인 것 같다.
인공지능에 대해 어떻게 생각하고 선택하고 살아가야 할지를 고민하는데 도움이 되는 책인 것 같다.
2차 산업혁명이 시작된 이래로 기계는 사람과의 관계를 뗄레야 뗄 수 없는 존재가 되어가고 있다.
어느순간부터 그 움직임이 정형화되었다고 느꼈으나, 그 형태가 조금씩 다른 부분으로 변화되고 있다.
기계가 진화하고 있다는 표현이 맞는 것 같다.
당연히 기계는 가장 기계답게 만들어야겠다는 생각을 했을 때가 있었겠지만,
언제부터인지, 인간은 기계를 가장 사람답게 사람과 유사하게 만들어야겠다는 생각을 하기 시작한 것 같다.
그런 기계의 움직임에 큰 방향을 제시한 것이 AI이다.
현재는 그런 AI를 product화 하여 이미 실생활에 녹아들게 사용하는 사례도 많다.
이미지 자동생성에 쉽게 사용되는 Stable Diffusion.
원하는 답을 자연어로 쉽게 물어볼 수 있는 ChatGPT 등이 그러하다.
> 책에 대한 간단한 정보
이 책은 기계의 반칙이라는 책이다.
원제는 어떤 것일까 궁금해서 살펴보니 THE SHORTCUT이다.
이 책에서 정확한 의미를 찾을 수 는 없었지만, AI를 기계의 미래로 향해 가는 지름길의 의미로 사용하지 않았나 싶다.
기계가 linear하게 변화해야 하는 것을 단번에 큰 걸음을 걷는 데 AI를 사용했다고 생각한다.
> 인상깊은 부분들
들어가며
머릿말에 저자가 언급한 기계의 발전이 놀랍다.
처음 기계에 질문을 입력하고 답을 도출하는 과정에서는 전혀 사람의 도움이 없이는 그저 고철덩어리에 불과한 수준이었다.
물론 사람의 도움을 주면 딱 그만큼만 똑똑해질 수 있는 것이다.
하지만, 현재는 많은 사람들이 이용하는 '시리'라는 AI를 통해 쉽게 어떠한 질문이든 던지면, 그것은 현재 시점에서 최선의 답변을 제공한다.
이런 놀라움으로 이 책은 시작하고 있다.
언어를 받아들이는 부분
인공지능은 언어를 받아들이는 데 있어서 놀랍다.
정형화된 주어+동사+목적어로 정확한 단어의 나열이 아니어도 받아들이게 된다.
비문의 경우는 당연히 스킵할 수 있다는 것이다.
이런 것도 현재는 ChatGPT로 충분히 커버 가능하다는 것을 알 수 있는 현재이 되었다.
원숭이 발
영국 작가 윌리엄 위마크 제이콥스의 아주 짧은 소설인 '원숭이 발'의 앞부분이다.
전체 이야기를 인용하지는 않았지만, 200파운드를 얻게되는 과정을 보면서 기계는 목표 자체에 무서울만큼 정직하다는 점을 상기하게 된다. 목표를 이룰수만 있다면, 그 사이에 다른 더 큰 가치가 사라진다 하더라도 그것을 중요하게 인지하고 피하려 하지 않는다는 점이 중요하다. 사람이라면 할 수 없는 선택이겠지만, 기계는 그럴 수 있기에 위험하다는 것이다.
AI를 발전시킨 구글의 이야기
초능력 게임은 신선했다.
같은 이미지를 보고 다른 두 사람이 어떤 것을 상상하게 되는지 무작위로 데이터를 수집하는 좋은 방법이다.
여기에 나온 것은 아니지만 이것과 비슷한 이야기로는 구글의 캡챠 서비스 이야기가 생각났다.
어떤 이미지에 대한 학습을 하고 그것을 판단하기 위해 사람들의 집단지성을 로그인서비스와 연계에서 사용한다는 점이다.
이런 것들로 AI를 학습하기도 하지만, 다른 서비스(게임, 인증 등)와 연계에서 사용한다는 점에서 구글은 참 놀랍다는 생각이 들었다.
전원코드 뽑기
문제가 되는 것이 발견되었다면, 그 근처에 있는 사람이 전원코드를 뽑으면 된다.
그런데 그것을 과연 할 수 있을까.
왜냐면 그것을 뽑는다면, 그것으로 인해 편리해진 다른 좋은것들도 같이 끊어내야 하기 때문이다.
인간은 갈수록 기계에 의존적이 되어가고 있고, 그것이 설령 잘못되었다는 것을 인지하였다 하더라도 그것을 되돌리기에는 매우 어려운 결정과 행동이 필요하다. 이 내용이 이 책의 거의 마지막 부분에 위치한다.
과연 기계는 이렇게 빠르게 발전해 가는 반칙(혹은 Shortcut)이 있는게 좋은 것일까. 생각해보게 한다.
뒷표지
인공지능에 대해 고찰을 하게 하는 책인만큼 그에 대한 추천사가 전부이다. 깔끔하다.
그리고 가격은 요즘 식사 한끼만 아끼면 살 수 있는 수준이다. 부담이 없다.
> 괜찮은 부분
1. 인공지능에 대해 깊게 생각할 수 있는 단초를 제공한다.
우리가 무분별하게 받아들이는 가치는 여러 종류가 있는데 기술발전은 대표적인 그런 가치 중 하나이다.
왜냐면 기술 자체는 가치 중립적인 부분이 크다고 생각되는 영역이기 때문에, 발전하면 할수록 여러 방면으로 활용하기에 좋다고 여겨지기 때문이다. 하지만, 이것이 단지 기술로만 남겨두는 것이 아니라 인간의 영역에 적용해야하는 부분인만큼, 그 영향력을 무시할 수는 없고, 인공지능은 그 속도를 인간이 제어하기 힘들정도로 빠르기 때문에 지금은 어떠한 가치를 지니고 있는 것인지 충분히 고민해야하는 시점이라고 생각한다. 그런 지점을 제공하는 책이라고 생각한다.
2. 중요한 생각의 지점에서는 예화나 생각의 실마리를 제공한다.
이 책에는 수많은 인물과 사건에 대한 인용이 있다. 그렇기 때문에 각각을 생각하다보면 한 페이지 넘기기가 쉽지는 않다. 그래서 환기시키는 용도로 몇가지 예화들을 소개하고 있다. 그래서 흥미를 유발하고 있는데 이런 방법은 이 책의 윤활유 역할을 한다고 생각한다.
> 아쉬운 부분
1. 얇고 짧은 책이지만 쉽게만 읽혀지지는 않는다.
어려운 책이라고 느껴질 수 있기 때문에 이 부분이 어떻게 보면 장점이 될 수도, 단점이 될 수도 있다. 하지만 이것을 굳이 아쉬운점에 꼽은 이유는 이 책의 분량만보고 쉽게 접근한다면 한페이지를 넘기는데 어려움을 느껴서 책을 놓게 만들 수도 있기 때문이다. 내가 그 편에 속했던 것 같다. 핸드북처럼 들고다니면 쉽게 보겠다고 생각했으나 생각할 수 있는 시간이 충분히 필요했고, 그래서 틈틈히 읽는 것에는 실패했다.충분한 시간적, 지식적인 여유를 가지고 본다면 해결될 부분이기는 하다.(좀 더 쉽게 쓰여졌다면 하는 생각의 아쉬움이다.)
'기계의 반칙'은 AI 석학인 넬로 크리스티아니니가 쓴 인공지능에 대한 전반적인 이야기를 다룬 책입니다. AI 석학이 집필해서인지 내용이 풍부하고 생각할 거리가 많아 책을 모두 읽고 난 후에 다양한 생각을 하였습니다. 인공지능가 도대체 무엇인지, 인공지능은 어떻게 발전해 왔는지, 그리고 우리는 어떻게 대비를 해야할 수 있을지 알고 싶다면 '기계의 반역'을 추천합니다.
'기계의 반칙'의 저자인 넬로 크리스티아니니는 20년 이상 머신러닝 및 인공지능 분야를 연구한 영국 바스대학교 인공지능 학과 교수입니다. 영국과 유럽에서 주로 연구해서인지 이번에 책을 읽으면서 처음 알았던 분이지만 검색해 보니 인공지능 분야에서는 유명한 분 같습니다. 넬로 크리스티아니니는 2017년 인공지능의 사회적 영향을 주제로 강의하였고 현재도 연구하고 있다고 합니다. 그래서인지 '기계의 반칙'에서 깊이 있는 이야기를 다룰 수 있었던 것 같습니다.
'기계의 반칙'은 인공지능에 대해 포괄적인 내용을 다루고 있습니다. 인공지능이 인간에게 미치는 영향을 깊게 다루면서 인공지능의 역사부터 개념, 컴퓨터의 전반적인 역사와 인공지능이 발전하던 당시의 역사적 상황까지 모두 다루고 있어 인공지능에 대해 깊이 이해하고 싶은 사람들에게 많은 도움이 될 것 같습니다.
인공지능을 나름대로 공부했다고 생각했지만 '기계의 반칙'을 읽으면서 처음 알았던 사실들이 많았습니다. 인공지능의 개념이 언제 시작되었고 어떻게 발전했는지 다양한 에피소드와 함께 다루고 있어서 매우 흥미로웠습니다.
가장 흥미로웠던 것은 인간의 관점으로 인공지능을 보아서는 안된다는 점이었습니다. 많은 사람들과 학자들이 지능의 개념을 인간의 관점으로 파악하고 있기에 파생되는 오류를 지적하면서 지능의 개념부터 정의합니다.
특히 인상 깊었던 부분은 개미탑 아줌마에 대한 이야기였습니다. 동화책의 내용을 인용하여 인공지능의 개념을 개미탑 아줌마에 비유하여 인공지능과 인간의 관계를 묘사하였습니다. 이 점은 평소에 생각했던 인공지능에 대한 생각과 비슷하여 흥미진진하게 읽을 수 있었습니다.
'기계의 반칙'에서 관심 있게 다루는 인공지능 분야는 추천시스템입니다. 추천시스템을 이용하여 점차 개인화된 마케팅 기법이 발전되고 있는 현실 속에서 인간은 이에 어떻게 대처해야 할지 고민할 수 있었습니다. 이런 현실을 알고 있는 사람과 모르는 사람은 분명히 삶에 큰 영향을 미치는 인공지능에 다르게 반응하고 삶 또한 다르게 진행될 것입니다. 저자는 인공지능을 무조건 금지하거나 두려워하지 말고, 어떻게 하면 현명하게 규제하고 공존하며 살아갈 것인가를 다루며 '기계의 반칙'을 마무리합니다.
'기계의 반칙'은 매 장마다 해당 장의 내용을 요약해 줍니다. 읽었어도 이해가 잘 안 되는 부분은 요약된 부분을 읽으면서 다시 어떤 내용이었는지 상기할 수 있어서 좋았습니다. 또한 인공지능과 컴퓨터, 마케팅 등 다양한 분야의 에피소드와 비유가 많았던 점이 좋았습니다. 역사적인 사실을 나열했다면 와닿지 않았을 부분을 상세한 표현으로 그 당시에 있었던 일을 파악할 수 있어서 각 에피소드가 기억에 오래 남았고, 어려운 개념은 동화로 비유하여 의미를 파악하는데 도움이 되었습니다.
'기계의 반칙'에서 가장 아쉬웠던 것은 번역입니다. 번역이 매끄럽지 않아 처음부터 잘 읽히지 않았습니다. 억지로 읽으려고 노력했지만 책을 읽을수록 직역한 부분이 많이 보아 힘들었습니다. 그래서 책을 읽는 내내 문장 하나하나를 뜯어가면서 무슨 의미인지 고민해야 했습니다. 결국 전체적인 의미는 이해했지만 번역으로 인해 놓친 부분이 많은 것 같아 아쉬움이 많이 남습니다. 나중에 시간이 될 때 원서로 꼭 읽어보고 싶습니다.
또 하나 아쉬운 것은 그림이나 사진 등과 같은 자료가 없었다는 점입니다. 아마 원서에서 그림이나 사진이 포함되어 있지 않았기에 번역본에도 동일하게 구성하였겠지만, 그림이나 사진으로 글의 내용을 보완할 수 있었다면 훨씬 이해하기 쉽지 않았을까 싶습니다.
위와 같은 몇 가지 아쉬운 점이 있지만 내용이 매우 알차고 심도 깊은 이야기가 많아서 '기계의 반칙'은 옆에 두고 여러 번 읽기에 좋은 책입니다. 인공지능에 대해 폭넓게 이해하고 싶은 사람이라면 '기계의 반칙'을 추천합니다.
이번에는 AI 관련 에세이 책을 받아봤다. 지능형 에이전트에 대해서 먼저 정의내리고 역사를 기반으로 어떤 필요에 의해 기술이 발전되었고 어떤 기술들이 인공지능을 발전시켰는지가 적혀있다. 결론적으로 저자는 오늘날 발전된 이 강력한 인공지능을 위해서, 컴퓨터과학자 만의 노력으로는 불가능 하다는 것과 각종 사회, 인문, 과학 분야와 같이 협의되어야 안전하게 발전할 수 있음을 말하고 있는 것 같다.
저자 넬로 크리스티아니니는 25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작해, 주요 사건 사례들을 바탕으로 인공지능의 성장 과정을 살펴보고, 인간의문화와 사회에 미치는 영향까지 조망한다.
특히 현재 인간의 삶과 인프라에 (치트키를 써서) 빠르고 깊게 침투 중인 지능형 기계의 무분별한 활용이 초래하는 의도치 않은 결과들을 객관적 시선으로 바라보며강력하게 경고한다.
나아가 인간은 어떤 부분을 어떤 이유로 경계해야 하는지, 인공지능과안전하게 공존하려면 지금부터 무엇을 해야 할지에 관한 다양한 아이디어를 제시한다.
AI 시대 생존 전략: 우리는앞으로 어디로 나아가야 하는가?
이 답을 찾기위한 모든 분들께 좋은 통찰력을 주지 않을까?
일독을 권한다.
●인공지능에 관심이 있는 학생 ●인공지능 분야에서 일하는 전문가 ●인공지능에 대한 규제를 연구하는 정책전문가 및 학자 ●인공지능에 대해 막연하게 낙관하는 사람 또는 불확실한 공포를 느끼는 사람
금지가 아닌 규제
2016년 인공지능이 인간의 이해를 뛰어넘을 위험과 관련한 오바마전 미국대통령의 농담이었던 “그저 전원코드 근처에 누군가를 두기만 하면 됩니다”라는 표현은 재미있기도 하지만, 한편으로는 다음과같은 여러 이유로 복잡한 심경을 불러일으켰다.
첫 번째는 인공지능이 이미 없어서는 안되는 도구가 된 만큼 현실적으로 인공지능 사용을 중단할 수가 없다는 사실이며, 이것이 바로 우리가다양한 형태로 사용되는 지능형 에이전트들과 함께 안전하게 살아가는 방법을 배워야 하는 이유이기도 하다.
두 번째는 이 농담이 지능형 에이전트가어떤 선을 넘는 것을 확인했을 때 인간이 결정할 수 있는 부분이 있다는 생각을 내포하지만, 실제로는그렇게 쉬운 일이 아닐 거라는 점이다.
우리가 잘못된 지점에서 지능을 찾고 있었을 수도 있기 때문이다. 인공지능은지각 있는 로봇의 형태가 아닌, 인간을 위해, 인간에 관하여, 인간이 진정으로 이해할 수 없는 기준으로 중요한 결정을 내리는 소셜 머신과 같은 학습하는 인프라의 형태로 등장한다. 이러한 인공지능의 행동은 인간 데이터에서 찾은 통계적 패턴에 의해 형성되며 목표를 추구하도록 설계된다.
이러한 유형의 지능형 에이전트를 규제하는 것이 이를 금지하는 것보다 훨씬 더 중요할 것이며, 이러한 규제를 만들어내는 프로젝트를 위해서는 자연과학, 사회과학, 인문과학 간의 접점에서 상당한 수준의 연구가 필요하다. 이것이 바로인공지능의 다음 문화적 도전이 될 것이다.
얼마 전 챗GPT를 출시해 글로벌 테크 업계 스타로 떠오른 샘 올트먼이 해고된 후 사무실에 서 복귀 논의를 벌이다 결국 마이크로소프트로 가기로 했다는 기사가 나왔다. 최종적으로 해고를 결정한 이사회를 다시 구성하고 올트먼이 다시 복귀하는 형태로 마무리되었다. 이러한 일이 일어난 궁극적인 이유는 빠른 인공지능 개발에 대한 우려때문으로 생각된다. 즉 현재의 빠른 인공지능의 개발이 언젠가는 인간을 넘어서는 인공지능의 개발로 이어지고 이는 인간이 제어하지 못하는 형태로 이어질 수 있다는 것이다. 즉 인공지능의 발전이 인류에 야기할 수 있는 윤리 및 도덕적 문제에 대한 근본적인 인식 차이를 보여준다고 볼 수 있다. 이러한 시점에서 우리는 인공지능에 대해 근본적인 질문과 이해를 할 필요가 있어 보인다.
이 책은 현재와 같은 인공지능의 급성장 시기에 인공지능과 공존하기 위한 조언을 제시한다. 책의 시작은 지능에 대한 정의로부터 시작한다. 지능이란 인간적인 것에 대한 문제가 아니라 새로운 상황에서 효과적으로 행동할 수 있는 능력의 문제이다. 이전에는 지능을 인간 위주로 해석헀다면 이제는 지능을 두뇌가 아닌 식물, 개미 군체, 소프트웨어에서 지능을 찾아볼 수 있다는 점이다. 이러한 인식의 전환을 통해 인공지능에 대한 패러다임이 전환되고 획기적으로 발전될 수 있었다고 본다.
이런 과정을 거쳐 점점 인공지능은 논리와 추론의 언어가 아닌 확률과 수학적 최적화로 발전했으며, 규칙성을 파악하고 규칙적인 환경을 갖추는 것이 지능형 행동의 전제 조건이 된다는 것을 이해할 수 있다. 규칙성으로 부터 데이터를 학습한 인공지능이 아무런 문제를 발생시키지 않을 것이라고 기대하는 것은 불가능하다. 이는 인공지능의 미래를 언급할 때 종종 야기되는 인공지능의 반란(?)으로 이어지며 인간을 위협하는 과정으로 이어질 수 있다. 이러한 상황을 만들지 않고 인간이 만든 기계가 지시받은 일을 그대로 수행함으로써 근본적인 사회 규범을 위반하지 않도록 하려면 어떻게 해야 할지 많은 고민이 필요하다.
어찌되었던 이제 인공지능이 배제된 세상은 상상하기 힘든 시대가 되었다. 따라서 인공지능과 함께 안전하게 살아갈 방법을 찾아야 하며, 이를 위핸 많은 연구자들이 인공지능이 준수해야 할 원칙의 목록을 중요하게 여기고 있다. 이를 통해 인공지능에 대한 감사를 가능하게 하며, 안정성, 공공성, 개인정보보호, 투명성 등 중요한 요구사항을 준수할 수 있도록 개선해 나갈 필요가 있다.
주위를 보면 인공지능의 발전 속도가 무섭게 느껴진다. 예상하지 못한 형태의 서비스가 속속 출현하고 있으며 전에는 생각하지도 못한 다양한 정보를 제공하고 있다. 현 시점에서 인공지능에 대한 발전 과정을 살펴보고 현재 일어나고 있는 다양한 기술적, 윤리적 이슈를 생각해 봄으로써 인공지능에 대해 다시 생각해볼 필요가 있을 것 같다.
국내에서는 네이버의 Cue, 하이퍼클로바X 등 다양한 인공지능 관련 서비스들이 지속적으로 나오고 있다.
책을 읽고 나서
이 책은 인공지능의 성장과정을 살펴보기도 하고, 인공지능이 문화와 사회에 미치는 영향에 대해서도 다루고 있다.
가볍게 볼 수 있는 책이면서도 생각을 하면서 봐야하는 책이기도 했다.
책 내용의 일부에는 인공지능과 함께 하기 위해서는 신뢰가 필요하고, 신뢰를 위해서는 안정성, 존중, 투명성, 공정성, 개인정보보호 등 다양한 문제를 해결해야 한다고 말하고 있다. 이런 요구 사항들 조차도 일부 차원이고 많은 사람들이 각 항목에 대해서 연구를 진행하고 있다고 말한다.
인공지능이 문화에 들어오기 위해서는 조금 더 많은 시간이 필요하다고 생각한다. 앞서 말한것처럼 신뢰가 필요하기 때문일 것이다.
인공지능에 대해서 기술적인 내용 뿐 아니라 무분별한 사용이 가져오는 결과들에 대해서도 다양한 시각과 그로 인해 발생하는딜레마 등의 문제에 대해서 생각해볼 수 있는 기회를 추는 책이다.
2023년 12월의 마지막 책은 한빛미디어의 "기계의 반칙" 입니다. 이 책 원서의 제목은 "THE SHORTCUT" 인데 번역서의 표지보다, 원서의 표지가 더 인상 깊습니다.
미로 길 따위는 무시하고 그냥 직진이니까 지름길이 맞는데, "미로의 오른손 법칙" 따위는 무시하고, 무작정 직진이라니, 정말 치트키가 아닌가 싶습니다.
책을 읽다가 인간의 사고방식과는 다른 내용이 종종 읽혔는데, 프레더릭 옐리네크의 명언 중 "언어전문가를 한 명 해고할 때마다 시스템 성능이 향상되었습니다." 라는 말이었다. 이 말인 즉 컴퓨터에게 인간의 규칙을 주입해서 따르게 하는 것 보다, 컴퓨터만의 규칙을 찾아서 학습 시키는 것이 더 나은 결과를 가져온다는 것 이었습니다.
이 책이 흥미로운 이야기는 단순히 인공지능과 딥러닝을 이야기하면서 우리가 흔히 쓰는 신경망, CNN, GPU에 대한 이야기로 시작하는 것이 아니라, 좀 더 심층적으로, "지능이 무엇인가?" "우리는 무엇으로 판단하는가?" 에 대한 궁극적인 질문으로 부터 시작합니다.
그렇게 '지능의 탐구'를 시작으로 인류 제 1호 프로그래머라고 말 할 수 있는 에이다 러브레이스의 주석 G를 반박합니다.
해석 기관은 어떤 것을 독창적으로 만들어낼 수 있다고 자처하지 않는다. 다만 우리가 그렇게 하도록 명령할 방법을 아는 그 어떤 일이든 수행 할 수 있다. - Ada Lovelace's Note G
하지만 현대 사회에서 이제 더 이상 기계가 독창적이지 않거나, 창의적이지 않다고 감히 말할 수 있는 사람은 단지 그 사실을 믿기 싫어하는 사람일 것 입니다. 단순한 텍스트뿐만 아니라 작곡과 그림까지, 이제 남은 일은 chatGPT와 로봇의 결합이 남았을 뿐인 것 같습니다.
책의 말미에 웃픈 이야기가 있습니다. AI를 이기는 유일한 방법은 바로 전원코드를 뽑아버리는 것이라고.
과연 미래사회에서, 아니 당장 몇 일 남지 않은 내년에, 우리는 나 대신 일하는 AI의 전원코드를 뽑을 수 있을지 의문입니다.
책의 내용은 가볍게 읽기에도 좋고, 생각하며 읽기에도 좋은 책 입니다.
근처 도서관에 있다면, 추운 겨울 따뜻한 난로에 앉아 사람만이 할 수 있는 그런 독서를 추천합니다.
요즘 Chat GPT가 트렌드로 뜨면서 AI 시장이 더 확장되고 있는 추세입니다. 과거 이세돌과 알파고의 바둑 대결 이후에 잠시 주춤하던 AI 시장이 Chat GPT나 나오면서 더 중요한 시대가 되었습니다.이 책은 이러한 AI(인공지능)가 사회의 한부분이 되면서 우리들이 이 인공지능을 사용하는데 있어서 기본적으로 알고 있어야 하는 인공지능에 대한 기초적인 개념과 인공지능이 사회를 과거에서부터 현재까지 어떻게 변화를 시키고 있는지 설명하고 있습니다. 저자는 내용을 쉽게 서술하였다고는 하지만 인공지능에 대해서 잘 알지 못하는 사람이 읽기에는 그리 쉬운 책은 아니었습니다. 적어도 책을 2~3번은 읽어 봐야 책의 내용을 이해할 수 있는 수준의 책입니다. 책은 단순히 개념정도만 설명하는 것이 아닌 시대가 변화 됨에 있어서 사회에서 사람들이 어떻게 대응을 해야하는지와 우리들이 대응해야 하는 방향성도 안내하고 있습니다. 저자가 우리들에게 전달하고자 하는 메시지는 사람이 만든 하나의 도구일 뿐이지만 우리의 삶에 깊게 들어온 인공지능을 어떻게 하면 더 사람들이 유익하게 사용할 수 있는지 설명해주는 책이라는 생각이 들었습니다.
