벤 프랭클린 같은 미래주의자도 과거라는 견고하고 든든한 기반 위에 설 필요가 있었다. 그는 역사를 매우 중요하게 여겼다. 펜실베이니아 대학교의 전신인 필라델피아 아카데미를 설립했을 때는 역사를 핵심 과목으로 편성했다. 프랭클린은 진취적인 사람이었지만 앞으로 내달리면서도 절대 자기 뿌리를 놓치지 않았고 '인간은 역사를 지닌 동물'임을 절대 잊지 않았다.
- 에릭 와이너의 《프랭클린 익스프레스》 중에서 -
* 맞습니다. 인간은 역사를 지닌 동물입니다. 인간만이 역사를 만드는 존재이기 때문입니다. 현재는 곧 과거가 되고, 과거가 쌓여 역사가 됩니다. 쌓인 과거 역사가 견고하고 든든할 때 현재도 미래도 그 뿌리가 단단해질 수 있습니다. 오늘도 우리는 역사의 뿌리를 심고 있습니다. 뿌리를 공고히 하지 않고서 어찌 가지가 무성하길 바랄 수 있겠습니까.
인간은 물리적인 존재가 아니다. 우리가 활보하는 공간은 사회적 공간이다. 우리 인간은 서로 '이해'할 수 있다는 점에서 사물과 구별된다. 사회적 공간 속에서 우호적 공존과 연대가 가능하도록 방향을 잡아주는 기술 중 하나가 바로 공감이다.
- 요아힘 바우어의 《공감하는 유전자》 중에서 -
* 우리가 숨쉬며 살고 있는 것이 사회적 공간이 되려면 이해와 공감 능력이 필요합니다. 소리도 공명하면 동조 현상이 일어납니다. 하나의 진동이 다른 진동과 합해져 조화를 이룹니다. 이른바 동조 현상입니다. 사람도 이와 같습니다. 이해하고 수용하고 공감했을 때, 물리적인 거리는 사라지고 하모니가 일어납니다. 함께 살만한 따스한 공간이 생겨납니다.
일부 과학자들은 항생제에 내성을 가진 감염 때문에 2050년까지 3억 명의 인구가 목숨을 위협받고 세계 경제에 100조 달러의 부담을 안길 것이라 예상한다. 박테리아는 그저 항생제에 저항하기만 하는 게 아니라 그것을 먹잇감으로 삼는 경향까지 보인다. 어떻게 그럴까?
- 프레드 프로벤자의 《영양의 비밀》 중에서 -
* 박테리아 같은 미생물들은 인간이 생각하는 것보다 휠씬 무섭고 '지혜로운' 존재인 듯합니다. 그들은 고도의 의식 체계를 갖추고 있으며, 어쩌면 우리보다 한걸음 더 빨리 진화하고 있는지도 모릅니다. 그러니 그들을 싹 없애야 하는 적으로 간주할 것이 아니라 함께 공생해 가는 길을 모색할 필요가 있지 않을까 생각해 봅니다.
인공지능이 인간을 넘어설지에 대하여 많은 논의가 진행되고 있습니다. 인공지능은 데이터를 바탕으로 지식을 추출하고 미래를 예측합니다. 반면에 인간은 창의적인 사고로 인류가 경험하지 못한 상황에서도 적절한 판단이 가능할 것입니다. 이러한 면에서 인공지능은 인간을 넘어서기 어려워 보입니다. 단, 데이터는 감정이 없습니다. 모든 상황에서 객관적인 평가를 할 수 있습니다. 반대로 인간은 감정에 치우치며 종종 일을 그르치곤 합니다. 인공지능과 공존하기 위해서 인간에게 필요한 것이 무엇인지 생각하게 됩니다.
- 김용대의 《데이터 과학자의 사고법》 중에서 -
* 시대가 변하고 있습니다. 이전과는 전혀 다른 세상이 열리고 있습니다. 인류가 경험하지 못했던, 한 번도 걸어보지 않은 길을 가고 있습니다. 인공지능이 사람 일을 대신하고 있고, 모든 것은 데이터로 남아 스스로 공부하며 진화하고 있습니다. 그러나 인공지능에는 온기가 없습니다. 사랑과 감사, 따뜻한 감성, 영적 정서적 교감이 없습니다. 인공지능은 인간이 사용하는 도구일 뿐 사람은 사람과 더불어야 삽니다.
생성형 AI를 도입한 소프트웨어 개발 작업에 인간 프로그래머와는 근본적으로 다른 실수가 포함된다는 사실은 잘 알려져 있다. 그럼에도 대부분의 기업에서 AI 코딩 실수를 수정하는 계획은 단순히 숙련된 인간 프로그래머를 루프에 투입하는 것에 의존하고 있다.
숙련된 인간 프로그래머는 인간 프로그래머가 저지르는 실수와 지름길의 종류를 직관적으로 알고 있다. 하지만 소프트웨어가 소프트웨어를 만들 때 발생하는 실수의 종류를 찾아내는 훈련은 별도로 필요하다.
이러한 논의는 이르면 2026년부터 대부분의 개발자가 더 이상 코딩을 하지 않을 것으로 예상한다는 AWS CEO 매트 가먼의 발언으로 더욱 가속화되었다. 개발 도구 분야의 많은 업체는 AI 코딩 앱을 관리하기 위해 AI 앱을 사용하면 이 문제를 해결할 수 있다고 주장했다. 2번째 열차 사고의 신호탄이나 마찬가지다. 금융 대기업인 모건 스탠리조차도 AI를 사용해 AI를 관리하는 방법을 고민하고 있다.
현실적으로 안전하고 원격으로 실행 가능한 유일한 접근 방식은 생성형 AI 코딩 오류의 특성을 이해하도록 프로그래밍 관리자를 교육하는 것이다. 사실 AI 코딩 오류의 특성이 매우 다르다는 점을 고려할 때, 인간의 코딩 실수를 발견하는 데 익숙하지 않은 새로운 사람을 AI 코딩 관리자로 교육하는 것이 더 나을 수도 있다.
문제의 일부는 인간의 본성이다. 사람들은 차이를 확대하고 잘못 해석하는 경향이 있다. 관리자는 자신이 절대 하지 않을 실수를 사람이나 AI가 저지르는 것을 보면 그 실수가 코딩 문제에서 관리자보다 열등하다고 생각하는 경향이 있다.
하지만 자율 주행 차량에 비추어 가정해 보자. 통계적으로 자율주행차는 사람이 운전하는 자동차보다 훨씬 더 안전하다. 자동화된 시스템은 피로를 느끼지도 않고, 취하지도 않으며, 고의적으로 난폭해지지도 않는다.
하지만 자율주행차는 완벽하지 않다. 그리고 교통 체증으로 정차한 트럭을 전속력으로 들이받는 등의 실수를 저지르면 인간은 “나라면 저런 멍청한 짓은 절대 하지 않았을 텐데...인공지능을 믿을 수 없어”라고 반문하게 된다. (웨이모 주차 차량 참사는 꼭 봐야 할 동영상이다.)
하지만 자율주행차가 이상한 실수를 한다고 해서 인간 운전자보다 안전하지 않다는 의미는 아니다. 그러나 인간의 본성은 이러한 차이를 조정할 수 없다.
코딩 관리도 마찬가지다. 생성형 AI 코딩 모델은 매우 효율적일 수 있지만, 자칫 잘못하면 엉뚱한 방향으로 흘러갈 수 있다.
AI는 미친 외계인 프로그래머
SaaS 기업 쿼리팰(QueryPal) CEO인 데브 내그는 생성형 AI 코딩 작업을 해오면서 많은 기업 IT 경영진이 이 새로운 기술이 얼마나 다른지에 대해 준비가 되어 있지 않다고 느꼈다.
내그는 “마치 다른 행성에서 온 외계인처럼 이상한 실수를 많이 했다. 인간 개발자가 하지 않는 방식으로 코드가 잘못 작동한다. 마치 우리처럼 생각하지 않는 외계 지능처럼 이상한 방향으로 나아간다. AI는 병적으로 시스템을 조작할 방법을 찾아낼 것”이라고 말했다.
올해 ‘AI 보조 프로그래밍’을 포함해 여러 권의 AI 프로그래밍 책을 펴낸 톰 타울리에게 물어보자.
타울리는 “예를 들어 LLM에 코드 작성을 요청할 수 있으며, 때로는 원하는 작업을 수행하기 위해 프레임워크나 가상의 라이브러리 또는 모듈을 구성할 수도 있다”라고 말했다. (타울리는 LLM이 실제로는 새로운 프레임워크를 만드는 것이 아니라 그렇게 하는 척하는 것이라고 설명했다.)
타울리는 “(인간 프로그래머가) 미치지 않는 한, 가상의 라이브러리나 모듈을 만들어서 허공에서 만들어내지는 않을 것”이라고 지적했다.
이런 일이 발생하면 누구든 찾아보면 쉽게 발견할 수 있다. 타울리는 “직접 설치하려고 하면 아무것도 없다는 것을 알 수 있다. 이 경우 IDE와 컴파일러에서 오류가 발생한다"라고 설명했다.
실행 파일의 창의적인 제어를 포함해 애플리케이션 전체 코딩을 주기적으로 환각을 일으키는 시스템에 넘긴다는 생각은 끔찍한 접근 방식인 것 같다.
생성형 AI 코딩의 효율성을 활용하는 훨씬 더 좋은 방법은 프로그래머가 더 많은 작업을 수행할 수 있도록 돕는 도구로 사용하는 것이다. AWS의 가먼이 제안한 것처럼 인간을 배제하는 것은 자살 행위나 다름없다.
만약 생성형 AI 코딩 도구가 마음대로 돌아다니면서 백도어를 만들어 나중에 사람을 귀찮게 하지 않고도 수정할 수 있도록 한다면 공격자들도 사용할 수 있는 백도어를 만들면 어떨까?
기업은 앱, 특히 자체 개발한 앱의 기능을 테스트해 앱이 제대로 작동하는지 확인하는 데 매우 효과적인 경향이 있다. 앱 테스트가 실패하기 쉬운 부분은 앱이 수행해서는 안 되는 작업을 수행할 수 있는지 확인하는 경우이다. 이것이 바로 모의 침투 테스트 사고방식이다.
하지만 생성형 AI 코딩 현실에서는 이러한 펜 테스트 방식이 기본이 되어야 한다. 또한 생성형 AI의 실수라는 엉뚱한 세계에 대해 잘 교육받은 감독자가 이를 관리해야 한다.
기업 IT는 확실히 더 효율적인 코딩 미래를 기대하고 있다. 프로그래머는 앱이 무엇을 해야 하는지, 왜 해야 하는지에 더 집중하고 모든 줄을 힘들게 코딩하는 데 시간을 덜 할애하여 더 전략적인 역할을 맡을 것이다.
하지만 그러한 효율성과 전략적 이득은 막대한 대가를 치러야 한다. AI가 생성한 코드가 올바른 방향으로 나아가도록 하기 위해 더 뛰어나고 다르게 훈련된 인력을 고용해야 하기 때문이다.
