행복은 얼마나 많은 것을 소유하고 누리며 사느냐에 있는 게 아니라, 작은 것이라도 서로 나누며 사랑하는 마음에 있다. 우리는 상대가 행복해하면 나도 행복해진다는 단순한 진리를 잘 알지 못한다. 성공해서 그 부를 이웃에게 베풀면서 살겠다는 믿음을 인생의 목적으로 삼는 순간, 성공할 수 있을 것이다. 그것이 바로 목적의 힘이다. - 호아킴 데 포사다, ‘난쟁이 피터’에서
이어지는 내용입니다. “남들이 행복해 지도록 돕는 건 그를 사랑한다는 뜻과 같은 뜻이지요. 이것이 궁극적인 행복이랍니다. 사랑하는 사람이 이루고자 하는 목표를 가지고 있다면, 그가 그걸 이룰 수 있도록 도와줘야만 해요. 인류의 수많은 현자가 찾아 헤매고 발견해낸 행복의 지름길이 바로 여기에 있어요.”
공개서한의 핵심 내용은 전세계 모든 AI 연구기관이 GPT-4 이상의 성능을 가진 AI 에 대한 연구를 6개월간 멈추고
‘고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현하자(Develop and implement a set of shared safety protocols for advanced AI design and development)’
는 것이에요. 어째서 일까요?
‘고등 인공지능은 지구상의 생명체의 역사에 중대한 변화를 가져올 수 있기 때문(Advanced AI could represent a profound change in the history of life on Earth)’
이라고 설명하고 있어요.
여기서 지구상의 생명체란 결국 ‘인간’을 뜻해요. 통제되지 않은 AI 의 발전은 인류를 멸망시킬 수도 있다는 두려움이 이 서한에는 담겨져 있어요. 이 서명에는 현재 약 2700여명이 서명.
AI 가 가져올 수 있는 여러가지 문제들은 많아요. 예를 들자면 AI 등장으로 일자리가 줄어들거나, AI에 의존하면서 인간의 능력이 떨어지는 점, AI가 사회적인 편향성을 강화하고, AI 사용이 늘어나면서 탄소배출이 증가하는 것이 대표적이겠죠.
하지만 AI 에 대한 여러가지 비판 중 가장 강력하면서도 ‘러다이트 운동(기계가 처음 등장했을 때 기계를 파괴하고자 하는 사회운동)’과 같은 파급력을 가져올 수 있는 것은 이 ‘AI에 의한 멸망론’이라고 생각해요.
미리 말씀드리고 싶은 것은 AI 의 기술적 진보와 AI 에 대한 공포는 동전의 양면처럼 항상 존재해왔다는 것이에요. 챗GPT 의 기술적 바탕이 된 트랜스포머가 등장하기 전에도, 딥러닝이 등장하기 전에도, AI 기술은 존재했고 이에 대한 인간의 상상력은 존재했어요. 수많은 과학소설이나 영화 에서도 AI 로 인한 인류의 멸망을 주제로 다뤘구요.
그래서 AI 기술이 사회적으로 부상될 때마다 바늘이 가는 곳에 실이 따라오듯 ‘AI 에 대한 공포’는 부상했습니다. 이제 챗GPT 로 AI 기술이 많이 진보했다는 것이 대중적으로도 알려지면서 다시 이 공포는 스멀스멀 올라오는 것 같아요.이런 ‘AI 에 의한 인류멸망’ 시나리오에 많은 아이디어를 준 한 사람이 있는데요. 이 사람의 생각을 알아볼 필요가 있을 것 같습니다.
"인류는 AI로 멸망한다"
엘리저 유드코스키(Eliezer Yudkowsky)는 기계지능연구소(Machine Intelligence Research Institute)라는 연구소의 설립자로 인공지능의 위험성에 대해서 2000년대 초부터 주장해왔어요. 하지만 그는 우리가 생각하는 아카데미에 속한 학자가 아니에요. 정통 유대교인으로 대학을 포함한 정규 교육을 받지 않은 것으로 알려져 있어요. 하지만 닉 보스트롬의‘슈퍼인텔리전스’, 제임스 배럿의‘파이널 인벤션’같은 AI 에 관한 책에 영향을 줬다고 해요. 최근 챗GPT 로 인해 AI 에 대한 관심이 높아지면서 엘리저 유드코스키도 다시 관심을 얻고 있어요. 타임지에기고를 하기도 하고, 유명팟캐스트에도 출연했습니다.
“일단 우리가 인공지능을 만들기 시작하면 인간을 훨씬 뛰어넘는 초지능의 등장은 막을 수 없다. 또, 초지능이 등장하더라도 그것이 등장했는지 알 수도 없다. 또, 인공지능을 인간의 필요에 맞게 얼라인먼트(Alignment) 시킬 수도 없다. 그러므로 AI 를 처음부터 만들어서는 안된다.”
앞서 공개서한은 AI 가 인류를 멸망시키는 것을 막기 위해 모두 모여서 규칙을 정하자고 호소하고 있는데, 엘리저 유드코스키는 이것이 6개월간 중단한다고 해서 해결되는 것이 아니라고 주장하고 있어요. 심지어 그는 AI 학습에 사용하는 모든 대규모 GPU 시설의 활동을 중단시키라고 합니다. 숨어서 AI 를 학습시키는 걸 막기 위해서요.
* 인류는 두 부류로 나뉩니다. 연인이 있는 사람과 연인이 없는 사람. 연인의 범주에는 아내, 남편, 친구도 포함되고, 첫 연인과 마지막 연인이 다를 수도 있습니다. 어찌 되었건 자신의 삶에서 '마지막 연인'은 특별합니다. 죽어서도 사랑하고 교감하는 영혼의 동반자가 될 테니까요.
제2차 세계대전이 막바지에 치닫던 1945년경 영국의 미생물학자 알렉산더 플레밍이 개발한 페니실린이 대량으로 보급되면서 매독은 현저히 줄어듭니다. 페니실린은 인류에게 복음과도 같은 약이 되었습니다. 페니실린의 등장과 함께 인류의 평균수명도 크게 길어졌습니다. 의학계에서는 페니실린이 없었다면 현재 인구 수가 절반도 되지 않았을 거라고 추정하는 견해도 있습니다.
- 박광혁의《히포크라테스 미술관》중에서 -
* 페니실린이 인류를 살려냈습니다. 그러나 그 위대한 페니실린도 코로나 바이러스를 막지는 못합니다. 새로운 백신 개발과 접종에 전 세계가 집중하는 이유입니다. 그래도 안심할 수 없는 것은 코로나 변종이 나타나 어렵게 개발한 새 백신마저 무력하게 만들 수 있다는 염려 때문입니다. 이럴수록 기본으로 다시 돌아가야 합니다. 그 어떤 바이러스도 범접하기 어려운 자기 면역력을 키워야 합니다.
타인에게 인정받고자 하는 욕망은 다른 동물과 달리 우리 인간만이 지닌 두드러진 특성 중 하나다. 사람들은 스스로 거둔 성과를 주변 사람들이 인정해주고 중요한 인물로 대접해 주기를 바란다. 만약 인류에게 이러한 욕망이 없었다면 문명은 지금처럼 발전하지 못했을 것이다. 우리는 아직도 미개한 삶을 살고 있을 것이다. - 데일 카네기
사람들의 가장 원초적이고, 또 가장 갈망하는 욕구가 바로 인정받고자 하는 욕구일 것입니다. 다른 사람들의 인정받고 싶어 하는 욕구를 이해하지 못하거나, 애써 무시하고, 이를 제대로 충족시켜 주지 못하는 사람은 결코 좋은 리더가 될 수 없습니다. 리더의 자리를 탐해서도 안됩니다.
인류는 늘 좋은 것을 파괴함으로써 스스로 거듭난다. 뇌는 안전한 것을 놀라운 것으로, 익숙한 것을 알 수 없는 것으로 대체할 때 창의성이 극대화된다. 하지만 그러한 정신적 도약에는 ‘그 만큼 더 위험해진다’는 대가가 따른다. 아무도 가보지 않은 길을 갈 때는 그 결과를 확신할 수 없다. - 데이비드 이글먼, ‘창조하는 뇌‘에서
우리는 늘 안전하고 익숙한 것을 찾는 경향이 있습니다. 그러나 익숙하고 안전한 곳에서는 발전 보다는 퇴보의 가능성이 더 큽니다. 발전을 원한다면, 더 나은 미래를 원한다면, 익숙하고 편안함을 거부하고 불확실하고 위험한 곳을 향해 과감하게 나아갈 수 있어야 합니다.
인류의 사명은 각 세대가 자신이 받은 것 보다 더 많은 것을 전할 수 있도록 가진 것을 주고, 다음 세대가 보상을 받을 수 있도록 투자하는 것이다. 이 고귀한 대의를 추구하지 않는다면, 또한 혼란에 빠진 이 세상을 우리가 죽은 뒤에라도 더 살기 좋은 곳으로 만들려고 노력하지 않는다면 삶이 무슨 의미가 있을 것인가? - 윈스턴 처칠
“자기가 태어나기 전 보다 세상을 조금이라도 살기 좋은 곳으로 만들어 놓고 떠나는 것, 자신이 한 때 이곳에 살았음으로 해서, 단 한 사람의 인생이라도 행복해지는 것, 이것이 진정한 성공이다.“ 랄프 왈도 에머슨의 ‘무엇이 성공인가’의 한 대목입니다.
