프리드리히 니체는 1844년에 개신교 목사 집안에서 태어났다. 어린 시절에 그는 이런 집안의 정신을 흠뻑 받아들인 것이 분명하다. 그가 "성서 구절과 종교적 노래들을 하도 훌륭하게 표현해서 듣는 사람이 울음을 터뜨리지 않을 수 없었다"라는 보고도 있다. '꼬마 목사'가 그의 별명이었다. 그러나 소년은 다른 분야에서도 아주 명석했다.
- 빌헬름 바이셰델의 《철학의 뒷계단》 중에서 -
* 어린 시절의 환경은 개인의 역사뿐 아니라 인류의 역사에도 지대한 영향을 미칩니다. 목사의 아들로 태어나 '꼬마 목사'라는 별명을 얻었을 만큼 신실했던 니체가 '신은 죽었다'는 폭탄선언을 했습니다. 왜 그랬을까요? 교회 안에서 자랐던 까닭에 교회의 비신앙적 내면을 더 잘 보았기 때문이 아닐까요?
행복은 얼마나 많은 것을 소유하고 누리며 사느냐에 있는 게 아니라, 작은 것이라도 서로 나누며 사랑하는 마음에 있다. 우리는 상대가 행복해하면 나도 행복해진다는 단순한 진리를 잘 알지 못한다. 성공해서 그 부를 이웃에게 베풀면서 살겠다는 믿음을 인생의 목적으로 삼는 순간, 성공할 수 있을 것이다. 그것이 바로 목적의 힘이다. - 호아킴 데 포사다, ‘난쟁이 피터’에서
이어지는 내용입니다. “남들이 행복해 지도록 돕는 건 그를 사랑한다는 뜻과 같은 뜻이지요. 이것이 궁극적인 행복이랍니다. 사랑하는 사람이 이루고자 하는 목표를 가지고 있다면, 그가 그걸 이룰 수 있도록 도와줘야만 해요. 인류의 수많은 현자가 찾아 헤매고 발견해낸 행복의 지름길이 바로 여기에 있어요.”
공개서한의 핵심 내용은 전세계 모든 AI 연구기관이 GPT-4 이상의 성능을 가진 AI 에 대한 연구를 6개월간 멈추고
‘고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현하자(Develop and implement a set of shared safety protocols for advanced AI design and development)’
는 것이에요. 어째서 일까요?
‘고등 인공지능은 지구상의 생명체의 역사에 중대한 변화를 가져올 수 있기 때문(Advanced AI could represent a profound change in the history of life on Earth)’
이라고 설명하고 있어요.
여기서 지구상의 생명체란 결국 ‘인간’을 뜻해요. 통제되지 않은 AI 의 발전은 인류를 멸망시킬 수도 있다는 두려움이 이 서한에는 담겨져 있어요. 이 서명에는 현재 약 2700여명이 서명.
AI 가 가져올 수 있는 여러가지 문제들은 많아요. 예를 들자면 AI 등장으로 일자리가 줄어들거나, AI에 의존하면서 인간의 능력이 떨어지는 점, AI가 사회적인 편향성을 강화하고, AI 사용이 늘어나면서 탄소배출이 증가하는 것이 대표적이겠죠.
하지만 AI 에 대한 여러가지 비판 중 가장 강력하면서도 ‘러다이트 운동(기계가 처음 등장했을 때 기계를 파괴하고자 하는 사회운동)’과 같은 파급력을 가져올 수 있는 것은 이 ‘AI에 의한 멸망론’이라고 생각해요.
미리 말씀드리고 싶은 것은 AI 의 기술적 진보와 AI 에 대한 공포는 동전의 양면처럼 항상 존재해왔다는 것이에요. 챗GPT 의 기술적 바탕이 된 트랜스포머가 등장하기 전에도, 딥러닝이 등장하기 전에도, AI 기술은 존재했고 이에 대한 인간의 상상력은 존재했어요. 수많은 과학소설이나 영화 에서도 AI 로 인한 인류의 멸망을 주제로 다뤘구요.
그래서 AI 기술이 사회적으로 부상될 때마다 바늘이 가는 곳에 실이 따라오듯 ‘AI 에 대한 공포’는 부상했습니다. 이제 챗GPT 로 AI 기술이 많이 진보했다는 것이 대중적으로도 알려지면서 다시 이 공포는 스멀스멀 올라오는 것 같아요.이런 ‘AI 에 의한 인류멸망’ 시나리오에 많은 아이디어를 준 한 사람이 있는데요. 이 사람의 생각을 알아볼 필요가 있을 것 같습니다.
"인류는 AI로 멸망한다"
엘리저 유드코스키(Eliezer Yudkowsky)는 기계지능연구소(Machine Intelligence Research Institute)라는 연구소의 설립자로 인공지능의 위험성에 대해서 2000년대 초부터 주장해왔어요. 하지만 그는 우리가 생각하는 아카데미에 속한 학자가 아니에요. 정통 유대교인으로 대학을 포함한 정규 교육을 받지 않은 것으로 알려져 있어요. 하지만 닉 보스트롬의‘슈퍼인텔리전스’, 제임스 배럿의‘파이널 인벤션’같은 AI 에 관한 책에 영향을 줬다고 해요. 최근 챗GPT 로 인해 AI 에 대한 관심이 높아지면서 엘리저 유드코스키도 다시 관심을 얻고 있어요. 타임지에기고를 하기도 하고, 유명팟캐스트에도 출연했습니다.
“일단 우리가 인공지능을 만들기 시작하면 인간을 훨씬 뛰어넘는 초지능의 등장은 막을 수 없다. 또, 초지능이 등장하더라도 그것이 등장했는지 알 수도 없다. 또, 인공지능을 인간의 필요에 맞게 얼라인먼트(Alignment) 시킬 수도 없다. 그러므로 AI 를 처음부터 만들어서는 안된다.”
앞서 공개서한은 AI 가 인류를 멸망시키는 것을 막기 위해 모두 모여서 규칙을 정하자고 호소하고 있는데, 엘리저 유드코스키는 이것이 6개월간 중단한다고 해서 해결되는 것이 아니라고 주장하고 있어요. 심지어 그는 AI 학습에 사용하는 모든 대규모 GPU 시설의 활동을 중단시키라고 합니다. 숨어서 AI 를 학습시키는 걸 막기 위해서요.
* 인류는 두 부류로 나뉩니다. 연인이 있는 사람과 연인이 없는 사람. 연인의 범주에는 아내, 남편, 친구도 포함되고, 첫 연인과 마지막 연인이 다를 수도 있습니다. 어찌 되었건 자신의 삶에서 '마지막 연인'은 특별합니다. 죽어서도 사랑하고 교감하는 영혼의 동반자가 될 테니까요.
제2차 세계대전이 막바지에 치닫던 1945년경 영국의 미생물학자 알렉산더 플레밍이 개발한 페니실린이 대량으로 보급되면서 매독은 현저히 줄어듭니다. 페니실린은 인류에게 복음과도 같은 약이 되었습니다. 페니실린의 등장과 함께 인류의 평균수명도 크게 길어졌습니다. 의학계에서는 페니실린이 없었다면 현재 인구 수가 절반도 되지 않았을 거라고 추정하는 견해도 있습니다.
- 박광혁의《히포크라테스 미술관》중에서 -
* 페니실린이 인류를 살려냈습니다. 그러나 그 위대한 페니실린도 코로나 바이러스를 막지는 못합니다. 새로운 백신 개발과 접종에 전 세계가 집중하는 이유입니다. 그래도 안심할 수 없는 것은 코로나 변종이 나타나 어렵게 개발한 새 백신마저 무력하게 만들 수 있다는 염려 때문입니다. 이럴수록 기본으로 다시 돌아가야 합니다. 그 어떤 바이러스도 범접하기 어려운 자기 면역력을 키워야 합니다.
