한빛출판네트워크

인공지능을 어떻게 바라봐야 할지 생각해 본적이 있으신가요? 인공지능의 능력이 인간의 영역을 침범하거나 훨씬 뛰어날 때 인간은 나약해지고 허무해집니다. 심지어는 어떤 위협을 느끼기도 합니다.

 

 

 

chatGPT에게 인간보다 뛰어난 능력이 무엇인지 물어보았다.

 

 

인간보다 1. 속도 및 효율성, 2. 기억력, 3. 일관성, 4. 언어 능력이 뛰어나다고 인공지능 스스로 말하고 있는데요, 그렇다면 인공지능을 어떻게 바라봐야 할지 생각해 본적이 있으신가요? 인공지능 상용화 단계에서 불거지는 윤리적인 이슈와도 겹쳐 중요하게 대두되고 있습니다.

 

우선 큰 그림을 먼저 그려보면 인공지능은 의료, 연예, 제조, 교육, 유통, 군사 등에 이르기까지 산업 전반적으로 광범위하게 활용되고 또 빠르게 발전하고 있습니다. 우리는 이것이 사회뿐만 아니라 개인에게 미치는 영향을 깊게 살펴봐야 합니다. 과연 우리가 만든 인공지능이 올바른 과정을 거쳐 사회에 긍정적인 요소로 작용할지 말이죠.

 

인공지능 기술을 피상적으로만 이해하면 사회 다방면에서 들어 오는 피드백을 제대로 보지 못하고 엉뚱한 결론을 낳을 수 있으므로 인공지능의 본질을 기초부터 제대로 이해해야 합니다. 인공지능과 인공일반지능을 먼저 구분하고  정리가 되어야 제대로 된 대화를 시작할 수 있습니다.

 

 

1. 인공지능은 행위의 주체가 아니다.

 

인공지능에 대해 가장 많이 하는 착각은 인공지능이 마치 사람처럼 모든 행동을 스스로 할 수 있다고 생각하는 것입니다. 이런 잘못된 생각을 가지고 논의를 시작하면 처음부터 엉뚱한 방향으로 가기 쉽습니다. 대표적인 사례로 챗봇 ‘이루다’ 사건을 다시 들어보겠습니다. 이루다가 성차별적인 언행을 하도록 유도한 것은 결국 사람입니다. 사람이 잘못 학습시킨 데이터로 인해 잘못된 발언을 일삼은 것입니다. 우리는 이루다를 손가락질 하기 전에 이루다를 그렇게 만든 인간에 대해 먼저 생각해 봐야 합니다.

 

 

2. 인간의 뇌와 인공지능은 근본적으로 같지 않다.

 

컴퓨터의 연산 능력이 지금보다 수백만 배 빨라지면 인공지능 이 곧 인간의 뇌에 근접한다고 생각할 수 있습니다. 인간의 뇌는 스스로 생각할 수 있지만, 인공지능은 학습된 것만 판단할 뿐입니다. 따라서 아무리 인공지능 모델의 크기가 커지고 학습시키는 데이터 양이 많아지고 컴퓨터 속도가 빨라진다고 해도 절대로 인간의 뇌를 구현할 수 없습니다. 아직 뇌의 비밀을 전부 해결하지 못했는데 뇌를 만들어내는 것이 과연 가능할까요?

 

 

3. 인공지능은 자의식이 없다.

 

인공지능을 계속 훈련시키면 스스로 학습할 수 있다고 오해하지만, 인공지능은 자기 자신을 스스로 판단할 수 없습니다. 챗GPT와 대화가 된다고 생각하지만 결국 사람이 그렇게 할 수 있도록 만든 것에 불과합니다. 우리는 현재 인공지능이 할 수 있는 것에만 국한해서 생각해야 합니다.

 

 

4. 인공지능은 자유의지를 가질 수 없다.

 

인공지능이 자유의지를 가지면 어떻게 될까요? 마치 영화에 나오는 것처럼 자신의 의지대로 사람을 마구 죽이는 킬러 로봇이 될 수도 있을까요? 이미 카메라로 인식한 영상이 특정 인물과 일치하면 방아쇠를 당기는 인공지능 드론이 존재하긴 합니다. 이는 스스로 자유 의지가 생겨서 하는 행동이 아니라 그렇게 작동하도록 프로그램 되었기 때문입니다. 끔찍한 상황을 막으려면 킬러 로봇을 막는 것이 아니라 킬러 로봇을 만드는 인간을 막아야 하는 것입니다. 사실 킬러 로봇은 강대국이라고 하는 나라에서는 거의 모두 만들고 있죠. 

 

 

 

. . .

 

 

 

인공지능이 자의식, 자유의지, 감정이 없고 아직까지는 사람처럼 윤리적으로 법률적으로 책임과 권리가 없다는 것을 알겠습니다. 그렇지만 현실에서 경험하는 인공지능의 능력이 인간의 영역을 침범하거나 훨씬 뛰어날 때 인간은 나약해지고 허무해집니다. 심지어는 어떤 위협을 느끼기도 합니다.

그리고 이런 질문을 던질 수밖에 없습니다. 인간이 인공지능에 의해 대체되지 않을 부분이 무엇인가? 우리는 인간으로서의 자존감을 어떻게 지켜나갈 수 있는가? 인간보다 똑똑한 인공지능을 어떻게 이용하는 것이 지혜로운 길인가? 라고 말이죠.

인공지능과 바둑을 두어서 이긴 유일한 인간 이세돌 9단은 2019년 은퇴하면서 이런 말을 했습니다. “예전에는 제가 바둑의 일인자라고 하면 ‘세상에서 최고 바둑을 잘 두는 사람이다.’ 이런 자부심이 있었는데, 인공지능 컴퓨터가 나오면서 아무리 잘 둬도 못 이길 것 같더라. 상식적으로 봐도 이기기가 어렵다.”

이 9단은 바둑을 ‘둘이서 만들어가는 하나의 작품’으로 생각하며 예술로 배웠는데 과연 지금은 그런 것이 남아있는지 인공지능과 바둑을 두면 회의감이 든다고도 했습니다.

여기에서 우리는 한 인간의 절망을 읽을 수 있습니다. 알파고는 대국 당시로부터 6년이나 지난 역사 속의 기술입니다. 이세돌이 느낀 그 절망은 이제 현재를 살아가는 많은 사람들 곁으로 성큼 다가왔습니다. 특히 가장 체감이 된 것은 몇 개월만에 빠른 속도로 발전한 생성형 AI, DALL·E2나 stable diffusion입니다. 생성형 AI가 만들어내는 결과물을 보면서 인공지능 기술에 밀린 사람들이 이세돌과 같은 절망을 느끼기 시작한 것입니다.

이 시점에서 우리는 어떤 관점으로 인공지능을 바라봐야 할까요? 인공지능에 대체되지 않을 인간성 회복을 위해 어떻게 해야 할까요? 우선 “인간이란 무엇인가?”라는 질문을 스스로에게 던져봅니다.

우리는 인공지능을 연구하면 할수록 더더욱 인간에 대해 많이 알아가고 있습니다. 서양철학 사상 중에 인식론이 있습니다. ‘우리는 어떻게 알게 되는가?’, ‘우리는 어떻게 사물을 인식하는가?’, ‘안다는 것이 무엇인가?’ 등에 대한 토론이 수천 년에 걸쳐 이루어졌죠. 그런데 이 ‘인식’을 사람보다 인공지능이 훨씬 잘하는 것이 판명되었습니다.

하지만 아이러니하게도, 이렇게 인식을 잘하는 인공지능이 정작 인식 하지 못하는 한 가지가 있습니다. 바로 ‘자의식’입니다. 인간은 자신에 대해 인식하고 있고, 인식하는 나에 대한 인식도 할 수 있습니다. 이것을 메타인지라고 합니다. 인공지능 시대에 메타인지에 대한 이슈가 떠오르고 있는 것은 앞으로 최소 수십 년간은 인공지능에서 구현이 불가능하기 때문일지도 모릅니다.

메타인지는 생각하는 것을 생각하는 것, 즉 생각에 대한 생각입니다. 내가 무엇을 알고 무엇을 모르는지를 아는 것입니다. 이것은 자신의 약점을 알고 보완함으로써 상대방이 원하는 문제의 핵심을 바로 이해하는 능력을 말합니다.

소크라테스는 “너 자신을 알라”고 하지만 인공지능은 “너 자신을 모르기 때문에” 우리가 인공지능 시대에 찾아야 하는 것이 바로 “너 자신을 아는” 인간의 본성입니다.

 

 

 

. . .

 

 

 

동양철학은 시각을 사물에 대한 인식보다는 인간 대 인간의 관계에 둡니다. 나를 성찰하고, 나의 본성을 깨닫게 되면 나아가 사회 전체에 대한 인식도 개선된다는 것이죠. 이것은 인공지능 시대에 초라해져 가는 인간성을 회복 하는 데 많은 바를 시사합니다.

 

역사학자 유발 하라리는 인간을 뇌의 영역과 정신의 영역으로 나눌 수 있으며 인공지능이 추구하는 것은 뇌의 영역을 리버스 엔지니어링(reverse engineering)¹하는 것인데, 설사 그것이 성공한다고 해도 인간 정신의 영역은 또 다르다고 했습니다. 

 

다시 말해 우리의 뇌는 인공지능이 범접하지 못하는 수준인 것입니다. 인간이 꼭 인공지능보다 모든 면에서 잘해야 하는 법은 없습니다. 그러니 인공지능을 대결의 상대로 보기보다는 내가 활용할 수 있는 도구로 생각해야 하지 않을까요? 기술만 홀로 존재하는 인공지능은 없습니다. 인공지능을 활용하는 인간의 감독과 최종 판단이 가장 중요한 것이죠. 인간과 인공지능의 지혜로운 협업이 중요한 이유입니다. 

 

1. 리버스 엔지니어링:이미 만들어진 시스템을 구조 분석을 통해 역으로 추적하여 복원해내는 일

 

 

 

. . .

 

 

 

인공지능이 인간이 해야 하는 일을 빠른 속도로 대신하면서 인간이 어떤 임무를 완수하는 데까지 걸리는 시간이 엄청나게 줄어들었습니다. 이 줄어드는 시간은 사회적 잉여입니다. 노동 시간도 줄고, 그만큼 노동자도 필요 없는 상황이 올 수 있습니다. 그러므로 우리는 인공지능이 초래할 '잉여 에너지 사회'를 대비해야 합니다.

이는 쉽게 해소될 문제가 아닙니다. 잘못하면 직원들이 인공지능 도입을 거부하거나 적대시할 수 있습니다. 아니면 인공지능을 일부러 오용해 잘못된 결과를 낳을 수도 있습니다. 19세기에 영국에서 섬유 기계를 파괴했던 러다이트 운동(Luddite Movement)²이 발전한 네오 러다이트(Neo Luddite)³ 운동이 일어날 가능성도 있죠.

인공지능 도입으로 생기는 사회적 잉여를 해소하는 문제는 매우 중요합니다. 일하는 시간을 단축하면서 기업의 생산성을 올리기 위해서는 그것을 만들고 사용하는 직원의 적극적인 참여와 개선의 노력이 반드시 필요합니다. 이것은 기업이 ERP, 6시그마, CRM, 빅데이터를 처음 도입할 때와 비슷합니다. 그때에도 협업 부서의 적극적인 도움과 협조가 필요했습니다. 그러나 인공지능은 그 영향력이 훨씬 더 넓고 깊기 때문에 모든 직원의 도움과 협조가 필수적입니다. 그뿐만 아니라 초기에는 효과가 미미하고 정확도가 떨어질지라도 직원들이 적극적으로 개선에 참여하면 획기적으로 질을 높일 수 있습니다. 따라서 인공지능으로 생긴 사회적 잉여를 지혜롭게 나누고 활용하는 방안이 필요합니다.

2. 러다이트 운동: 1811~1817년 영국 중부·북부의 직물공업 지대에서 일어났던 기계 파괴 운동. 직조 공장의 노동자들 이 폭동을 일으켜 인간의 노동력을 대체하는 기계를 파괴하고 노동자의 일거리 확보를 주장했다.

3. 네오 러다이트 운동: 첨단기술의 수용을 거부하는 반기계 운동 

 

 

 

 

chatGPT에게 인간이 더 뛰어난 능력이 무엇인지 물어보았다.

 

 

 

---

 

위 콘텐츠는 『AI로 일하는 기술』을 재구성하여 제작하였습니다.