반응형
반응형

인공지능이
인간을 넘어설지에 대하여
많은 논의가 진행되고 있습니다.
인공지능은 데이터를 바탕으로 지식을 추출하고
미래를 예측합니다. 반면에 인간은 창의적인 사고로
인류가 경험하지 못한 상황에서도 적절한 판단이 가능할
것입니다. 이러한 면에서 인공지능은 인간을 넘어서기
어려워 보입니다. 단, 데이터는 감정이 없습니다. 모든
상황에서 객관적인 평가를 할 수 있습니다. 반대로
인간은 감정에 치우치며 종종 일을 그르치곤
합니다. 인공지능과 공존하기 위해서
인간에게 필요한 것이 무엇인지
생각하게 됩니다.


- 김용대의 《데이터 과학자의 사고법》 중에서 -


* 시대가 변하고 있습니다.
이전과는 전혀 다른 세상이 열리고 있습니다.
인류가 경험하지 못했던, 한 번도 걸어보지 않은 길을
가고 있습니다. 인공지능이 사람의 일을 대신하고 있고,
모든 것은 데이터로 남아 스스로 학습하며 진화하고
있습니다. 그 정점에 메타버스가 있습니다. 그러나
인공지능에는 온기가 없습니다. 사랑과 감사,
따뜻한 감성, 정서적 교감이 없습니다.
인공지능은 인간이 사용하는 도구일 뿐,
사람은 사람과 더불어 살아야 합니다.

반응형

'아침편지' 카테고리의 다른 글

두려울 게 없다  (1) 2025.10.23
겨울 채비  (0) 2025.10.22
지옥 같은 고통은 왜 올까  (0) 2025.10.20
바보  (0) 2025.10.20
'거대한 가속'의 시대  (0) 2025.10.17
반응형

종교를 미끼로
정치적 이익을 추구하는 지도자들은
불을 가지고 노는 것이며, 그들은 이 나라의
평화와 조화를 자신의 정치적 야욕을 위해
희생시키고 있다. 우리는 함께 일어나
종교적 편견을 직시하고 단호히
거부하며 미국인으로서 우리를
하나로 묶는 자유와 원칙으로
지켜내야 한다.


- 털시 개버드의 《민주당을 떠나며》 중에서 -


* 불은 유용합니다.
인류의 문명도 불의 사용에서 비롯되었습니다.
하지만 '불장난'은 위험하기 짝이 없습니다.
모든 것을 한순간에 잿더미로 만듭니다.
이렇듯 종교도 정치적 이득의 미끼로 이용되는
순간, 우리 사회는 위험에 빠집니다.
미국도 한국도 예외가 없습니다.

 

 

반응형

'아침편지' 카테고리의 다른 글

내기  (0) 2025.09.22
곁가지들을 쳐낸다  (0) 2025.09.19
동물들이 더 잘 안다  (0) 2025.09.17
단 한 사람이라도 행복해진다면  (0) 2025.09.16
김장하 어르신의 부탁 말씀  (0) 2025.09.15
반응형

프리드리히 니체는
1844년에 개신교 목사 집안에서 태어났다.
어린 시절에 그는 이런 집안의 정신을 흠뻑
받아들인 것이 분명하다. 그가 "성서 구절과
종교적 노래들을 하도 훌륭하게 표현해서
듣는 사람이 울음을 터뜨리지 않을 수
없었다"라는 보고도 있다. '꼬마 목사'가
그의 별명이었다. 그러나 소년은
다른 분야에서도 아주 명석했다.


- 빌헬름 바이셰델의 《철학의 뒷계단》 중에서 -


* 어린 시절의 환경은
개인의 역사뿐 아니라 인류의 역사에도
지대한 영향을 미칩니다. 목사의 아들로 태어나
'꼬마 목사'라는 별명을 얻었을 만큼 신실했던
니체가 '신은 죽었다'는 폭탄선언을 했습니다.
왜 그랬을까요? 교회 안에서 자랐던 까닭에
교회의 비신앙적 내면을 더 잘 보았기
때문이 아닐까요?

반응형

'아침편지' 카테고리의 다른 글

체중계에 찍히는 숫자  (2) 2024.11.15
사랑한다면 춤을 춰라  (1) 2024.11.14
전쟁터의 샘물에서  (0) 2024.11.12
정장 차림으로 서재에 들어간다  (0) 2024.11.11
아메리카  (0) 2024.11.11
반응형

행복은 얼마나 많은 것을 소유하고 누리며 사느냐에 있는 게 아니라,
작은 것이라도 서로 나누며 사랑하는 마음에 있다.
우리는 상대가 행복해하면 나도 행복해진다는 단순한 진리를 잘 알지 못한다.
성공해서 그 부를 이웃에게 베풀면서 살겠다는 믿음을
인생의 목적으로 삼는 순간, 성공할 수 있을 것이다.
그것이 바로 목적의 힘이다.
- 호아킴 데 포사다, ‘난쟁이 피터’에서


이어지는 내용입니다.
“남들이 행복해 지도록 돕는 건 그를 사랑한다는 뜻과 같은 뜻이지요.
이것이 궁극적인 행복이랍니다.
사랑하는 사람이 이루고자 하는 목표를 가지고 있다면,
그가 그걸 이룰 수 있도록 도와줘야만 해요.
인류의 수많은 현자가 찾아 헤매고 발견해낸 행복의 지름길이 바로 여기에 있어요.”

반응형
반응형
공개서한에 담긴 두려움

 

공개서한의 핵심 내용은 전세계 모든 AI 연구기관이 GPT-4 이상의 성능을 가진 AI 에 대한 연구를 6개월간 멈추고

 

‘고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현하자(Develop and implement a set of shared safety protocols for advanced AI design and development)’

 

는 것이에요. 어째서 일까요? 

 

‘고등 인공지능은 지구상의 생명체의 역사에 중대한 변화를 가져올 수 있기 때문(Advanced AI could represent a profound change in the history of life on Earth)’

 

이라고 설명하고 있어요.

 

여기서 지구상의 생명체란 결국 ‘인간’을 뜻해요. 통제되지 않은 AI 의 발전은 인류를 멸망시킬 수도 있다는 두려움이 이 서한에는 담겨져 있어요. 이 서명에는 현재 약 2700여명이 서명. 

 

AI 가 가져올 수 있는 여러가지 문제들은 많아요. 예를 들자면 AI 등장으로 일자리가 줄어들거나, AI에 의존하면서 인간의 능력이 떨어지는 점, AI가 사회적인 편향성을 강화하고, AI 사용이 늘어나면서 탄소배출이 증가하는 것이 대표적이겠죠. 

 

하지만 AI 에 대한 여러가지 비판 중 가장 강력하면서도 ‘러다이트 운동(기계가 처음 등장했을 때 기계를 파괴하고자 하는 사회운동)’과 같은 파급력을 가져올 수 있는 것은 이 ‘AI에 의한 멸망론’이라고 생각해요.

 

미리 말씀드리고 싶은 것은 AI 의 기술적 진보와 AI 에 대한 공포는 동전의 양면처럼 항상 존재해왔다는 것이에요. 챗GPT 의 기술적 바탕이 된 트랜스포머가 등장하기 전에도, 딥러닝이 등장하기 전에도, AI 기술은 존재했고 이에 대한 인간의 상상력은 존재했어요. 수많은 과학소설이나 영화 에서도 AI 로 인한 인류의 멸망을 주제로 다뤘구요.

 

그래서 AI 기술이 사회적으로 부상될 때마다 바늘이 가는 곳에 실이 따라오듯 ‘AI 에 대한 공포’는 부상했습니다. 이제 챗GPT 로 AI 기술이 많이 진보했다는 것이 대중적으로도 알려지면서 다시 이 공포는 스멀스멀 올라오는 것 같아요. 이런 ‘AI 에 의한 인류멸망’ 시나리오에 많은 아이디어를 준 한 사람이 있는데요. 이 사람의 생각을 알아볼 필요가 있을 것 같습니다. 

"인류는 AI로 멸망한다" 

 

엘리저 유드코스키(Eliezer Yudkowsky)는 기계지능연구소(Machine Intelligence Research Institute)라는 연구소의 설립자로 인공지능의 위험성에 대해서 2000년대 초부터 주장해왔어요. 하지만 그는 우리가 생각하는 아카데미에 속한 학자가 아니에요. 정통 유대교인으로 대학을 포함한 정규 교육을 받지 않은 것으로 알려져 있어요. 하지만 닉 보스트롬의 ‘슈퍼인텔리전스’, 제임스 배럿의 ‘파이널 인벤션’ 같은 AI 에 관한 책에 영향을 줬다고 해요. 최근 챗GPT 로 인해 AI 에 대한 관심이 높아지면서 엘리저 유드코스키도 다시 관심을 얻고 있어요. 타임지에 기고를 하기도 하고, 유명 팟캐스트에도 출연했습니다.

 

그의 메시지의 핵심은 이래요.

 

“일단 우리가 인공지능을 만들기 시작하면 인간을 훨씬 뛰어넘는 초지능의 등장은 막을 수 없다. 또, 초지능이 등장하더라도 그것이 등장했는지 알 수도 없다. 또, 인공지능을 인간의 필요에 맞게 얼라인먼트(Alignment) 시킬 수도 없다. 그러므로 AI 를 처음부터 만들어서는 안된다.”

 

앞서 공개서한은 AI 가 인류를 멸망시키는 것을 막기 위해 모두 모여서 규칙을 정하자고 호소하고 있는데, 엘리저 유드코스키는 이것이 6개월간 중단한다고 해서 해결되는 것이 아니라고 주장하고 있어요. 심지어 그는 AI 학습에 사용하는 모든 대규모 GPU 시설의 활동을 중단시키라고 합니다. 숨어서 AI 를 학습시키는 걸 막기 위해서요. 

https://www.youtube.com/watch?v=CCaPGRpFaO4 

 

반응형
반응형

나는 인류가
어느 시대건 똑같은 양의 광기와 어리석음을
분출하도록 만들어졌다고 굳게 믿는다.
광기와 어리석음은 어떤 방식으로든
열매를 맺어야 하는 자본이다.


- 아나톨 프랑스의《에피쿠로스의 정원》중에서 -


* 놀랄 일이 아닙니다.
광기는 언제나, 어느 시대나 있습니다.
어리석음도 언제나, 어느 시대든 흘러넘칩니다.
불처럼 타오르는 광기를 열정으로, 에너지로 바꾸고
어리석음을 현명함으로, 지혜로 전환하는 것이
그 시대가 추구해야 할 사회적 열매입니다.

반응형

'아침편지' 카테고리의 다른 글

누가 뭐래도 당신은 소중하다  (0) 2022.04.11
평생 '소년'처럼 사는 방법 두 가지  (0) 2022.04.11
공부가 가장 잘 되는 시간  (0) 2022.04.06
국경이란 뜻의 '시마나'  (1) 2022.04.05
한 사람의 잠재력  (0) 2022.04.04

+ Recent posts