일부 과학자들은 항생제에 내성을 가진 감염 때문에 2050년까지 3억 명의 인구가 목숨을 위협받고 세계 경제에 100조 달러의 부담을 안길 것이라 예상한다. 박테리아는 그저 항생제에 저항하기만 하는 게 아니라 그것을 먹잇감으로 삼는 경향까지 보인다. 어떻게 그럴까?
- 프레드 프로벤자의 《영양의 비밀》 중에서 -
* 박테리아 같은 미생물들은 인간이 생각하는 것보다 휠씬 무섭고 '지혜로운' 존재인 듯합니다. 그들은 고도의 의식 체계를 갖추고 있으며, 어쩌면 우리보다 한걸음 더 빨리 진화하고 있는지도 모릅니다. 그러니 그들을 싹 없애야 하는 적으로 간주할 것이 아니라 함께 공생해 가는 길을 모색할 필요가 있지 않을까 생각해 봅니다.
인공지능이 인간을 넘어설지에 대하여 많은 논의가 진행되고 있습니다. 인공지능은 데이터를 바탕으로 지식을 추출하고 미래를 예측합니다. 반면에 인간은 창의적인 사고로 인류가 경험하지 못한 상황에서도 적절한 판단이 가능할 것입니다. 이러한 면에서 인공지능은 인간을 넘어서기 어려워 보입니다. 단, 데이터는 감정이 없습니다. 모든 상황에서 객관적인 평가를 할 수 있습니다. 반대로 인간은 감정에 치우치며 종종 일을 그르치곤 합니다. 인공지능과 공존하기 위해서 인간에게 필요한 것이 무엇인지 생각하게 됩니다.
- 김용대의 《데이터 과학자의 사고법》 중에서 -
* 시대가 변하고 있습니다. 이전과는 전혀 다른 세상이 열리고 있습니다. 인류가 경험하지 못했던, 한 번도 걸어보지 않은 길을 가고 있습니다. 인공지능이 사람 일을 대신하고 있고, 모든 것은 데이터로 남아 스스로 공부하며 진화하고 있습니다. 그러나 인공지능에는 온기가 없습니다. 사랑과 감사, 따뜻한 감성, 영적 정서적 교감이 없습니다. 인공지능은 인간이 사용하는 도구일 뿐 사람은 사람과 더불어야 삽니다.
생성형 AI를 도입한 소프트웨어 개발 작업에 인간 프로그래머와는 근본적으로 다른 실수가 포함된다는 사실은 잘 알려져 있다. 그럼에도 대부분의 기업에서 AI 코딩 실수를 수정하는 계획은 단순히 숙련된 인간 프로그래머를 루프에 투입하는 것에 의존하고 있다.
숙련된 인간 프로그래머는 인간 프로그래머가 저지르는 실수와 지름길의 종류를 직관적으로 알고 있다. 하지만 소프트웨어가 소프트웨어를 만들 때 발생하는 실수의 종류를 찾아내는 훈련은 별도로 필요하다.
이러한 논의는 이르면 2026년부터 대부분의 개발자가 더 이상 코딩을 하지 않을 것으로 예상한다는 AWS CEO 매트 가먼의 발언으로 더욱 가속화되었다. 개발 도구 분야의 많은 업체는 AI 코딩 앱을 관리하기 위해 AI 앱을 사용하면 이 문제를 해결할 수 있다고 주장했다. 2번째 열차 사고의 신호탄이나 마찬가지다. 금융 대기업인 모건 스탠리조차도 AI를 사용해 AI를 관리하는 방법을 고민하고 있다.
현실적으로 안전하고 원격으로 실행 가능한 유일한 접근 방식은 생성형 AI 코딩 오류의 특성을 이해하도록 프로그래밍 관리자를 교육하는 것이다. 사실 AI 코딩 오류의 특성이 매우 다르다는 점을 고려할 때, 인간의 코딩 실수를 발견하는 데 익숙하지 않은 새로운 사람을 AI 코딩 관리자로 교육하는 것이 더 나을 수도 있다.
문제의 일부는 인간의 본성이다. 사람들은 차이를 확대하고 잘못 해석하는 경향이 있다. 관리자는 자신이 절대 하지 않을 실수를 사람이나 AI가 저지르는 것을 보면 그 실수가 코딩 문제에서 관리자보다 열등하다고 생각하는 경향이 있다.
하지만 자율 주행 차량에 비추어 가정해 보자. 통계적으로 자율주행차는 사람이 운전하는 자동차보다 훨씬 더 안전하다. 자동화된 시스템은 피로를 느끼지도 않고, 취하지도 않으며, 고의적으로 난폭해지지도 않는다.
하지만 자율주행차는 완벽하지 않다. 그리고 교통 체증으로 정차한 트럭을 전속력으로 들이받는 등의 실수를 저지르면 인간은 “나라면 저런 멍청한 짓은 절대 하지 않았을 텐데...인공지능을 믿을 수 없어”라고 반문하게 된다. (웨이모 주차 차량 참사는 꼭 봐야 할 동영상이다.)
하지만 자율주행차가 이상한 실수를 한다고 해서 인간 운전자보다 안전하지 않다는 의미는 아니다. 그러나 인간의 본성은 이러한 차이를 조정할 수 없다.
코딩 관리도 마찬가지다. 생성형 AI 코딩 모델은 매우 효율적일 수 있지만, 자칫 잘못하면 엉뚱한 방향으로 흘러갈 수 있다.
AI는 미친 외계인 프로그래머
SaaS 기업 쿼리팰(QueryPal) CEO인 데브 내그는 생성형 AI 코딩 작업을 해오면서 많은 기업 IT 경영진이 이 새로운 기술이 얼마나 다른지에 대해 준비가 되어 있지 않다고 느꼈다.
내그는 “마치 다른 행성에서 온 외계인처럼 이상한 실수를 많이 했다. 인간 개발자가 하지 않는 방식으로 코드가 잘못 작동한다. 마치 우리처럼 생각하지 않는 외계 지능처럼 이상한 방향으로 나아간다. AI는 병적으로 시스템을 조작할 방법을 찾아낼 것”이라고 말했다.
올해 ‘AI 보조 프로그래밍’을 포함해 여러 권의 AI 프로그래밍 책을 펴낸 톰 타울리에게 물어보자.
타울리는 “예를 들어 LLM에 코드 작성을 요청할 수 있으며, 때로는 원하는 작업을 수행하기 위해 프레임워크나 가상의 라이브러리 또는 모듈을 구성할 수도 있다”라고 말했다. (타울리는 LLM이 실제로는 새로운 프레임워크를 만드는 것이 아니라 그렇게 하는 척하는 것이라고 설명했다.)
타울리는 “(인간 프로그래머가) 미치지 않는 한, 가상의 라이브러리나 모듈을 만들어서 허공에서 만들어내지는 않을 것”이라고 지적했다.
이런 일이 발생하면 누구든 찾아보면 쉽게 발견할 수 있다. 타울리는 “직접 설치하려고 하면 아무것도 없다는 것을 알 수 있다. 이 경우 IDE와 컴파일러에서 오류가 발생한다"라고 설명했다.
실행 파일의 창의적인 제어를 포함해 애플리케이션 전체 코딩을 주기적으로 환각을 일으키는 시스템에 넘긴다는 생각은 끔찍한 접근 방식인 것 같다.
생성형 AI 코딩의 효율성을 활용하는 훨씬 더 좋은 방법은 프로그래머가 더 많은 작업을 수행할 수 있도록 돕는 도구로 사용하는 것이다. AWS의 가먼이 제안한 것처럼 인간을 배제하는 것은 자살 행위나 다름없다.
만약 생성형 AI 코딩 도구가 마음대로 돌아다니면서 백도어를 만들어 나중에 사람을 귀찮게 하지 않고도 수정할 수 있도록 한다면 공격자들도 사용할 수 있는 백도어를 만들면 어떨까?
기업은 앱, 특히 자체 개발한 앱의 기능을 테스트해 앱이 제대로 작동하는지 확인하는 데 매우 효과적인 경향이 있다. 앱 테스트가 실패하기 쉬운 부분은 앱이 수행해서는 안 되는 작업을 수행할 수 있는지 확인하는 경우이다. 이것이 바로 모의 침투 테스트 사고방식이다.
하지만 생성형 AI 코딩 현실에서는 이러한 펜 테스트 방식이 기본이 되어야 한다. 또한 생성형 AI의 실수라는 엉뚱한 세계에 대해 잘 교육받은 감독자가 이를 관리해야 한다.
기업 IT는 확실히 더 효율적인 코딩 미래를 기대하고 있다. 프로그래머는 앱이 무엇을 해야 하는지, 왜 해야 하는지에 더 집중하고 모든 줄을 힘들게 코딩하는 데 시간을 덜 할애하여 더 전략적인 역할을 맡을 것이다.
하지만 그러한 효율성과 전략적 이득은 막대한 대가를 치러야 한다. AI가 생성한 코드가 올바른 방향으로 나아가도록 하기 위해 더 뛰어나고 다르게 훈련된 인력을 고용해야 하기 때문이다.
평화에도 종류와 단계가 있다. 마음의 평화, 가정의 평화, 나라의 평화, 세계의 평화 등 수많은 평화가 있다. 공자는 이미 2,500년 전에 "수신제가 치국평천하"의 진리를 가르쳤다. 필자는 여기에 생태적 평화를 덧붙이고 싶다. 지금 지구의 생태계는 인류의 욕심으로 평화가 깨지고 있다. 인류가 직면한 최대의 과제는 인간들끼리의 대립이 아니라 인간과 환경의 대립이다.
- 김성곤의 《새로운 평화의 길》 중에서 -
* 인간이 함께 살아가는 것은 인간뿐만이 아닙니다. 자연과 함께, 환경과 함께 살아갑니다. 자연이 병들고 환경이 깨지면 인간의 삶도 많은 것을 잃게 됩니다. 마음의 평화, 가정의 평화, 나라의 평화, 세계의 평화도 물거품이 됩니다. 인간도 자연의 하나입니다. 자연의 작동 원리는 순리입니다. 극단의 대립, 편가르거나 반목하지 않는 것, 그것이 순리이고 공존의 길입니다. 평화의 길입니다.
인간은 누구나 자신의 영적 의식을 개발하여 자신의 상위 자아와의 관계를 강화할 수 있으며, 이를 통해 지능적 정신만으로는 상상도 하지 못했던 지식에도 접근할 수 있다.
-윌리엄 워커 앳킨슨의 《그대, 아직도 '나'를 찾고 있는가?》중에서-
* 자아(自我)에도 여러 이름과 차원과 단계가 있습니다. 소아(小我}, 대아(大我), 진아(眞我)가 있고 명상에서 말하는 '경험자아', '배경자아'도 있습니다. 상위 차원의 자아는 어디 먼 곳에 있는 것이 아니라 바로 내 안에 있습니다. 근시가 심한 사람이 도수에 맞는 안경을 써야 사물이 선명하게 보이듯, 영적 의식이 깨어나야 보이지 않던 세상이 눈에 들어오기 시작합니다. 전에는 상상하지도 못했던 지식을 얻을 수 있습니다.
사람들은 이 세상이 더없이 변한다고 느끼며 자신이 물결치는 대로 표류하고 있다고 느낀다. 이는 불안을 야기한다. 이 세상이 덧없는 세상이면, 거기서 살아가는 나 또한 아무 의미 없는 존재가 된다. 이 때문에 정말 이 세상이 아무 의미 없는 곳이면 어쩌나 하는 일말의 불안이 잠재해 있는 것이다.
-강기진의 《50에 읽는 주역》 중에서-
* 살다 보면 일말의 불안감이 스멀스멀 밀려오는 때가 있습니다. 덧없는 세상에서 덧없이 소멸되어가는 것은 아닌가 하는 허망함도 느낍니다. 누구든 자신이 의미 없는 존재임을 느낄 때는 뜻 모를 불안감과 두려움에 휩싸입니다. 나는 누구인가? 나의 존재 의미는 무엇인가? 나 역시 덧없이 소멸되어 가는가? 이와 같은 질문은 인간을 더 깊은 명상으로 이끕니다.
