반응형

낸시 메리키는 열 살 때 소아마비로 목발을 짚게 되는 장애를 입었습니다.
부모는 낸시가 걸을 수 있도록 다리 근육 강화에 좋다는 수영을 가르쳤습니다.
그 후 열아홉 살 때 낸시는 전국 수영대회에서 1등을 거머쥐었습니다.
루즈벨트 대통령이 낸시에게 물었습니다.
"불편한 몸으로 어떻게 챔피언이 될 수 있었죠?"
"계속했을 뿐입니다. 각하" 낸시의 대답입니다.


확실한 목표를 향해 좌고우면하지 않고 끝까지 돌진한다면
무슨 일이든 다 해낼 수 있을 것입니다.
그래서 인간은 누구나 위대하고 소중한 존재입니다.

반응형
반응형
공개서한에 담긴 두려움

 

공개서한의 핵심 내용은 전세계 모든 AI 연구기관이 GPT-4 이상의 성능을 가진 AI 에 대한 연구를 6개월간 멈추고

 

‘고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현하자(Develop and implement a set of shared safety protocols for advanced AI design and development)’

 

는 것이에요. 어째서 일까요? 

 

‘고등 인공지능은 지구상의 생명체의 역사에 중대한 변화를 가져올 수 있기 때문(Advanced AI could represent a profound change in the history of life on Earth)’

 

이라고 설명하고 있어요.

 

여기서 지구상의 생명체란 결국 ‘인간’을 뜻해요. 통제되지 않은 AI 의 발전은 인류를 멸망시킬 수도 있다는 두려움이 이 서한에는 담겨져 있어요. 이 서명에는 현재 약 2700여명이 서명. 

 

AI 가 가져올 수 있는 여러가지 문제들은 많아요. 예를 들자면 AI 등장으로 일자리가 줄어들거나, AI에 의존하면서 인간의 능력이 떨어지는 점, AI가 사회적인 편향성을 강화하고, AI 사용이 늘어나면서 탄소배출이 증가하는 것이 대표적이겠죠. 

 

하지만 AI 에 대한 여러가지 비판 중 가장 강력하면서도 ‘러다이트 운동(기계가 처음 등장했을 때 기계를 파괴하고자 하는 사회운동)’과 같은 파급력을 가져올 수 있는 것은 이 ‘AI에 의한 멸망론’이라고 생각해요.

 

미리 말씀드리고 싶은 것은 AI 의 기술적 진보와 AI 에 대한 공포는 동전의 양면처럼 항상 존재해왔다는 것이에요. 챗GPT 의 기술적 바탕이 된 트랜스포머가 등장하기 전에도, 딥러닝이 등장하기 전에도, AI 기술은 존재했고 이에 대한 인간의 상상력은 존재했어요. 수많은 과학소설이나 영화 에서도 AI 로 인한 인류의 멸망을 주제로 다뤘구요.

 

그래서 AI 기술이 사회적으로 부상될 때마다 바늘이 가는 곳에 실이 따라오듯 ‘AI 에 대한 공포’는 부상했습니다. 이제 챗GPT 로 AI 기술이 많이 진보했다는 것이 대중적으로도 알려지면서 다시 이 공포는 스멀스멀 올라오는 것 같아요. 이런 ‘AI 에 의한 인류멸망’ 시나리오에 많은 아이디어를 준 한 사람이 있는데요. 이 사람의 생각을 알아볼 필요가 있을 것 같습니다. 

"인류는 AI로 멸망한다" 

 

엘리저 유드코스키(Eliezer Yudkowsky)는 기계지능연구소(Machine Intelligence Research Institute)라는 연구소의 설립자로 인공지능의 위험성에 대해서 2000년대 초부터 주장해왔어요. 하지만 그는 우리가 생각하는 아카데미에 속한 학자가 아니에요. 정통 유대교인으로 대학을 포함한 정규 교육을 받지 않은 것으로 알려져 있어요. 하지만 닉 보스트롬의 ‘슈퍼인텔리전스’, 제임스 배럿의 ‘파이널 인벤션’ 같은 AI 에 관한 책에 영향을 줬다고 해요. 최근 챗GPT 로 인해 AI 에 대한 관심이 높아지면서 엘리저 유드코스키도 다시 관심을 얻고 있어요. 타임지에 기고를 하기도 하고, 유명 팟캐스트에도 출연했습니다.

 

그의 메시지의 핵심은 이래요.

 

“일단 우리가 인공지능을 만들기 시작하면 인간을 훨씬 뛰어넘는 초지능의 등장은 막을 수 없다. 또, 초지능이 등장하더라도 그것이 등장했는지 알 수도 없다. 또, 인공지능을 인간의 필요에 맞게 얼라인먼트(Alignment) 시킬 수도 없다. 그러므로 AI 를 처음부터 만들어서는 안된다.”

 

앞서 공개서한은 AI 가 인류를 멸망시키는 것을 막기 위해 모두 모여서 규칙을 정하자고 호소하고 있는데, 엘리저 유드코스키는 이것이 6개월간 중단한다고 해서 해결되는 것이 아니라고 주장하고 있어요. 심지어 그는 AI 학습에 사용하는 모든 대규모 GPU 시설의 활동을 중단시키라고 합니다. 숨어서 AI 를 학습시키는 걸 막기 위해서요. 

https://www.youtube.com/watch?v=CCaPGRpFaO4 

 

반응형
반응형

우리의 뇌는 스스로 어떤 일을 할 때와
남이 시킨 일을 할 때를 정확히 구분한다.
스스로 노력하여 성과를 거두었을 때에만 보상 시스템이 장기적으로 활성화된다.
그렇지 않고 자기 노력 없이 성공을 거두면 행복이 오래가지 못한다.
인간은 누구나 지금 보다 더 나은 인간이 되고자 한다.
- 헤닝 백, ‘틀려도 좋다’에서


이어지는 내용입니다. ‘역사를 볼 때 진짜 위대한 성공은
돈 때문에 나온 것이 아니다. 대부분의 발명가들은
돈을 벌고 싶어 발명을 할 것이다.
하지만 진정한 발명은 더 중요한 목표를 뒤쫓을 때에만 가능하다.
물론 성공을 해서 보너스까지 받으면 기분은 좋을 것이다.
하지만 그 돈이 목적이 될 수는 없다.
우리 인간에겐 독립적 인격체로서 능력을 존중받는 것이 더 중요하다.’

반응형
반응형

다른 동물과 마찬가지로 인간도 환경으로 형성된다.
하지만 인간에게는 새로운 환경에 적응하거나,
새로운 환경을 창조해내는 능력이 있다.
- 스키너, 행동주의 심리학자


“자금도 풍부하고 모든 장비를 쉽게 제공받는 환경에서는
굳이 지혜나 아이디어를 짜내지 않아도 된다.
그렇기 때문에 세계를 놀라게 할 만한 창조적인 물건을 개발할 수 없다.
스스로 노력하는 과정에서 새로운 발상이 싹트는 것이다.”
노벨 물리학상 수상자 나카무라 슈지의 글입니다.
“비범한 사람들은 가장 비참한 환경에서도 살아남고, 그 때문에 더 비범해진다.”
로베트손 데이비스의 주장입니다.

반응형
반응형

변화는 기회다.
계속 같은 환경에 있으면 노력이 100을 초과할 일이 거의 없다.
환경이 바뀌면 인간은 적응하려고 120의 노력을 한다.
그런 변화 속에 인간은 성장한다.
- 오니스 히로시, 미스코시 이세탄 홀딩스 사장


승자는 어제의 나를 버릴 줄 아는데, 패자는 변화를 두려워합니다.
평범함 속에 안주하고 있는 나를 깨우는 것은 변화와 위협입니다.
외부의 위협과 그로 인한 변화는 피할 일이 아니라, 감사해야 할 일입니다.
변화와 혁신이라는 단어에서 즐거움과 기쁨, 행복을 연상할 수 있다면,
Change(변화)는 Chance(기회)가 될 것입니다.

반응형
반응형

대단히 고통스러운 상황에서 조차 인간은 희망을 찾고,
선택을 내리며, 의미를 만들어낼 줄 아는 능력을 타고났다.
스트레스를 더 이상 거부하지 않는다면 스트레스는 연료를 제공해 줄 것이다.
스트레스가 유용하다고 생각하면 실제로도 그렇게 된다.
스트레스 상황에서 성공을 거둔 사람들은 스트레스를 성장의 기회로 생각했다.
- 켈리 맥고니걸, ‘스트레스의 힘’에서


켈리 맥고니걸 교수는 말합니다. “불안감을 흥분되는 일, 에너지 또는 동기부여로
여긴다면 여러분의 잠재력을 충분히 발휘하는데 도움이 된다.
긴장감은 곧이어 저지를 실수의 징조가 아니라,
뛰어난 성과를 낼 준비에 돌입했다는 증거다.
자신을 불안하게 만드는 요소를 회피한다면
오직 공포심이 커지고 미래의 불안감에 대한 걱정만 불어날 뿐이다.”

반응형
반응형

이야기의
가장 본질적인 속성은,
그것이 인간과 인간 사이에 다리가
되어준다는 것입니다. 이야기를 찾을 수 있는
첫 장소는 바로 여러분의 기억 뒷마당입니다.
각자 살아온 인생 말입니다. 나는 이것을
'과거에서 금광을 발견하는 방법'이라고
부릅니다.


- 더그 스티븐슨의《명강의 무작정 따라하기》중에서 -


* 인간에게는, 특별하게도
'기억'이라는 뒷마당이 있습니다.
무궁무진한 이야기의 금광입니다.
내가 살아온 삶의 기억이 반짝이는 이야기를 만들고
그 이야기가 더러는 전설이 되고 신화가 됩니다.
때로는 불멸의 역사가 됩니다.  

반응형

'생활의 발견 > 아침편지' 카테고리의 다른 글

모든 순간에 잘 살아야 한다  (0) 2023.02.13
감동과 행복의 역치가 낮은 사람  (0) 2023.02.11
깨달음  (0) 2023.02.09
살아야 할 이유  (0) 2023.02.08
'우리편'이 주는 상처가 더 아프다  (0) 2023.02.07
반응형

https://www.youtube.com/watch?v=CBtQfmHHON0

 

 

인간의 가장 큰 약점 중 하나는
너무 쉽게 당연 심리에 빠진다는 것이다.
보이는 게 당연하고, 걷는 게 당연하고,
배불리 먹을 수 있는 게 당연하다.
이런 것들을 모두 당연한 것처럼 생각한다면
우리 마음속에 감사의 마음이 일어날 리가 없다.
당연 심리는 인간성을 말살시키고 영혼을 병들게 한다.
- 이시형, ‘둔하게 삽시다’에서

수십조에 이르는 세포가 문제없이 정상 작동되어야만
건강한 아침을 맞이할 수 있는데도
우리는 이를 너무 당연하게 생각합니다.
이것은 당연한 것이 아니라 기적에 가까운 일입니다.
그동안 당연하게 생각하던 것에
감사하는 마음을 갖기 시작하는 것, 그것이야말로
불행 끝, 행복 시작으로 가는 비법입니다.

반응형

+ Recent posts