알트만 가라사대  자본주의의 종언

오픈AI의 창업자이자 CEO이자 실리콘밸리의 전설 샘 알트만이 이틀 전 포브스와 인터뷰를 통해 이런 말을 했습니다. “우리가 왜 챗GPT를 공개한지 모르시죠?”, “자본주의는 인공지능을 감당하지 못할 수 있어요.” 샘 알트만은 와이컴비네이터의 CEO였는데요. 와이컴비네이터는 오늘날 스타트업을 육성하고 투자하는 액셀러레이터 모델의 원조입니다.

알트만은 루프트라는 스타트업을 설립해 4330만 달러에 매각 한 뒤 와이컴비네이터에 합류했는데요. 2014년부터 2019년까지 CEO를 역임했어요. 그러면서 2015년 일론 머스크 등과 함께 별도로 설립한 것이 오픈AI입니다. 그럼, 샘 알트만을 불러서, 어떤 메시지를 던졌는지 볼게요.

🤔 오픈AI는 왜 비영리 단체로 출발했나요. 혹자는 반자본주의 운동이라고도 하던데요.

👦 저는 자본주의를 사랑해요. 하지만 자본주의는 현존하는 모든 나쁜 시스템 중에서 가장 좋은 시스템일 수 있기 때문에, 더 나은 방안을 찾았으면 해요. 그리고 우려되는 것이 있어요. 인공 일반 지능(AGI)가 개발될 경우 자본주의를 무너뜨릴 수 있어요. 이 때문에 오픈AI는 다른 기업과 다른 방식으로 만들어졌어요.

📚 용어 : 인공 일반 지능(Artificial General Intelligence·AGI)

인간의 지시 없이도 스스로 학습과 훈련이 가능한 인공지능입니다. 인간만큼 경제적으로 중요한 일을 할 수 있습니다. 마크 구브루드 노스캐롤라이나대 교수가 1997년 ‘나노기술과 국제 안보’라는 논문에서 자기 복제 시스템을 갖춘 군사용 인공지능의 출현을 전망하며 처음 사용한 단어고요.

🤫 그게 무슨 뜻인가요.

👦 인공 일반 지능이 정말 제대로 개발되면 좋겠어요. 하지만 만약에 고장이 날 경우 무엇인가 다른 조치가 필요할 수 있고, 이 때문에 특정 회사가 이런 인공지능을 소유해서는 안 된다고 생각해요.

😳 자본주의가 무너진다고요?

👦 (알트만은 인공 일반 지능이 개발될 경우 현재 시장 메커니즘인 자본주의의 작동이 어려울 것으로 내다봤어요) 인공 일반 지능은 (스스로 일해) 수익을 발생시킬 텐데 이를 어떻게 배분해야 할지가 관건일 것 같아요. 또 이런 인공지능을 누가 통제 할 수 있으며, 이를 소유한 회사는 어떤 지배구조(거버넌스)로 구성이 되어야 할까요. 정말 새로운 생각이 필요할 것 같아요.

🤔 그럼 왜 만드셨어요?

👦 순전히 ‘오버톤 윈도우(Overton Window)’ 효과를 위해서입니다. 구글은 연구 실적을 공개하지 않고 있고, 인공지능이 안전하지 않을까 두려워하는 사람들이 많죠. 하지만 정말 중요한 것은 앞으로 세상에 일어날 일을 사람들이 이해하기 시작할 수 있도록 하는 것이에요. 때로는 (생각하는 것이) 불편하겠지만 건강하게 생각하는 것이 중요해요.

📚 용어: 오버톤 윈도(Overton Window)

오버톤 윈도는 극단적 선택지 가운데 대중이 받아들일 수 있는 정책과 사고의 범위를 뜻해요. 정책 분석가 조셉 오버톤이 명명했는데요. 사실 정책의 선호는 정치인에 대한 개인 선호가 아니래요. 군중의 사고 범위에서 결정지어진대요. 예를 들면 이래요. 1998년 외환위기를 계기로 국제통화기금(IMF)이 대규모 정리해고를 권고하자, 국민이 이를 받아들였죠? 그 이전에는 상상조차 할 수 없었던 일인데...

🔎 크게 보기

마라 무라티 최고기술책임자 CTO 역시 사회적 담론의 필요성을 주장했어요. 특히 무라티 CTO는 챗GPT를 규제해 달라고까지 역설을 했는데요. 지금이라도 규제를 하는 것이 늦지 않았으니, 정부 규제당국 일반인이 머리를 맞대자고 했어요.

ChatGPT: Optimizing
Language Models
for Dialogue

https://openai.com/blog/chatgpt/

[모두의 말뭉치 활용 방법] 모두의 말뭉치 소개 및 파일 신청하기 (1회차)

https://www.youtube.com/watch?v=bEWw5oqNugA 

[tensorflow] 한글 음절 인식기 - hangul-syllable-recognition

https://github.com/junstar92/hangul-syllable-recognition

Introduction

한글은 조합이 다양하기 때문에 영어에 비해서 OCR 성능이 조금 떨어진다고 알고 있다.

다양한 폰트와 손글씨 데이터를 가지고, 얼마나 한글을 잘 인식하는지 확인하기 위해서 프로젝트를 진행했다.

Getting started

python and pakage version

python3 == 3.8.3

tensorflow_gpu == 2.3.0

numpy == 1.19.5

argparse == 1.1

pandas == 1.2.0

cv2 == 4.5.1

streamlit == 0.74.1

streamlit_drawable_canvas

BERT 톺아보기  docs.likejazz.com/bert/

‘감성 분석 뜬다는데 해볼까’는 위험 어떤 문제에 왜 필요한지 정의 먼저

dbr.donga.com/article/view/1101/article_no/8893/ac/special

그러나 ‘진짜’ 감성 분석, 데이터 과학에 기반해 실제 언어를 맥락에 맞게 이해하고 분석하는 것은 결코 쉬운 일이 아니었다. 그 현란했던 시각화와 프레젠테이션이 지나가고 난 자리에는 오히려 회의감이 남았다. 고객들이 많이 언급했다던 단어와 연관 단어들은 비즈니스에는 큰 도움이 되지 않았다. 실제 ‘어떤 감정에서 왜’ 그 단어가 나왔는지, 실제 소비자들이 어떤 단어나 문장을 통해 말하고자 하는 맥락적 의미가 무엇인지는 전혀 분석되지 않았기 때문이다. 실제로 데이터 과학자들은 감성 분석의 기반이 되는 자연어 처리에 대해 ‘되는 거 몇 개 빼고는 다 안 된다’고 자조적으로 말하기도 했다.