긍정적 사고, 음식의 절제, 규칙적인 운동

https://www.cio.com/article/3575332/%eb%b8%94%eb%a1%9c%ea%b7%b8-%ec%8b%a0%eb%a2%b0%ec%9d%98-%ec%9c%84%ea%b8%b0%ec%9d%bc%ea%b9%8c%c2%b7%c2%b7%c2%b7-it-%eb%b6%80%ec%84%9c%ec%9d%98-%eb%b6%80%eb%8b%b4%ec%9d%84-%ec%a4%84.html

오늘날 ‘혁신적 CIO’로 인정받는 일은 명예의 상징과도 같다. 디지털화와 혁신에 초점을 맞춘 CIO닷컴의 ‘2024 CIO 현황 조사’에 따르면 IT 리더의 40%가 스스로를 ‘혁신적’이라고 생각했다. 반면 23%는 자신을 ‘기능적’이라고 했는데, 이는 여전히 기존 기술 인프라를 최적화하고 현대화하며 보안을 유지하는 등 기능적인 측면에 중점을 두는 이들이 많다는 의미다.

IT 리더 응답자의 거의 절반(49%)은 향후 더 전략적인 역할을 맡게 될 것으로 예상했다. 36%는 혁신적 업무에 큰 비중을 둘 것으로 전망했다. 기능적 업무에 전념할 준비를 하고 있다고 답한 비율은 14%에 그쳤다. 이번 조사는 875명의 IT 리더와 251명의 사업 부서 참가자를 대상으로 실시됐다.

경영 고문이자 신흥 기술 분석가인 케이트 오닐은 “더 현대적으로 변화하지 않고 예상되는 미래 요구에 맞춰 혁신하지 않으면 CIO는 조직을 더 큰 취약점과 경쟁상의 열세에 노출시킬 수 있다”라고 말했다. 오닐은 출간을 앞둔 책 ‘다음에 중요한 것(What Matters Next)’의 저자이기도 하다.

다만 CIO가 기능적 업무에 중점을 둔다고 해서 효율적이지 않다는 것은 아니다. 센라(Cenlar)의 수석 부사장 겸 CIO인 스티브 테일러는 “특히 IT 리더가 기존 시스템의 지속적인 개선을 우선시하고 있다면 충분히 효율적일 수 있다”라고 말했다. 그는 강력한 운영 통제와 최신 보안 및 기술을 갖추면 조직 전반에 걸쳐 높은 성과를 유지하면서 효율성을 높일 수 있다고 덧붙였다.

그렇다면 CIO가 혁신적인지 아닌지를 어떻게 알 수 있을까? 몇 가지 분명한 징후와 좀 더 미묘한 징후가 있다. 혁신적이지 않은 CIO의 7가지 징후와 변화할 수 있는 방법을 소개한다.

일상적인 업무에만 집중한다
오닐은 기능 중심 CIO의 주요 관심사가 새로운 역량에 투자하는 대신 레거시 시스템과 오래된 기술을 유지하는 데 집중하며 비용을 지출하는 것이라고 말했다.

테일러는 기능 중심 CIO가 일상적인 IT 업무에만 집중하는 경향이 있다고 덧붙였다. 그가 말한 일상적 업무에는 시스템 및 서비스 안정성 유지, 비용 절감 및 효율성 향상, 리스크 관리 및 IT 시스템의 보안과 신뢰성 확보, 기존 기술의 지속적인 지원 및 일일 지표 추적 등이 있다.

테일러는 “이들은 비즈니스 효율성을 높이기 위해 혁신적인 방법을 도입하려는 도전을 기피하고 현상 유지하려는 경향이 있다. 새로운 기술에 대한 대화를 피하며 기존 프로세스를 유지하는 것을 선호한다”라고 설명했다.

그는 “이런 사고방식은 창의성과 성장을 제한하고, 변화하는 시장 역학에 발맞추려는 조직의 노력을 방해할 수 있다”라고 언급하면서, 변화를 수용하고 지속적인 운영 개선을 추구하는 경쟁사에 조직이 뒤처지도록 할 수 있다고 지적했다.

비전이 없다
MIT 정보 시스템 연구센터(CISR)의 연구 과학자인 이나 세바스찬 박사는 “기능 중심 CIO는 비즈니스 모델을 재구상할 비전이 부족하고 혁신을 주도하기보다는 기존 시스템을 유지하는 데 너무 좁게 초점을 맞추는 경우가 많다”라고 말했다.

그는 “이런 CIO는 고객 요구에 맞도록 기술 투자를 조정하거나, 디지털 전략을 논의하고 우선순위를 정하기 위한 공통 프레임워크와 언어를 만들거나, 디지털 혁신의 복잡성을 탐색하기 위한 명확한 전략을 개발하는 데 우선순위를 두지 않을 수 있다”라고 진단했다.

기술이 어떻게 비즈니스를 변화시킬 것인지에 대한 명확한 비전을 CIO가 표현할 수 없다면 직원은 영감을 받기 어려울 수 있다. 일부 CIO는 AI나 머신러닝과 같은 신흥 기술에 투자하는 것을 꺼리며, 이를 경쟁 우위를 얻기 위한 도구라기보다는 실험적인 것으로 여긴다.

또한 이들은 장기적인 전략적 목표보다는 단기적인 이익에 집중하는 경향이 있다. 다른 부서의 요구와 과제를 이해하기 위해 소통하지 않는 것도 하나의 지표인데, 이는 운영의 사일로화를 초래하고 혁신을 이끌 기회를 놓치는 원인이 될 수 있다.

한편 탬파 종합병원의 수석 부사장 겸 최고 디지털 및 혁신 책임자인 스콧 아놀드는 기능 중심 CIO가 “기본적인 IT 운영과 유지보수 업무가 잘 수행되도록 한다는 장점”이 있지만, 속도가 부족하고 시장 변화에 대응하는 데 다소 느릴 수 있다고 말했다. 그는 혁신을 추진하는 기술 리더들과 달리 기능 중심의 CIO가 성장과 시장 리더십의 가치를 제대로 파악하지 못하는 경우가 있다고 언급했다.

테일러도 이에 동의하며, 팀의 효율성을 높이고 비용을 절감하려면 작업 자동화, 품질 관리, 규정 준수, 고객 상호 작용, 배송 속도 개선 등이 필요하다고 지적했다.

에코스토어 테크놀로지의 다니엘 클라이즈데일-코터 CIO는 “전통적인 방식의 CIO는 비용 중심 개념을 중요시한다. 다시 말해 특정 비즈니스 프로세스를 개선해 비즈니스 가치를 창출하는 대신, 차지백/쇼백 모델을 만들거나 특정 비즈니스 프로세스의 비용에 초점을 맞춰 작업을 수행한다”라고 말했다.

리스크를 회피하고 변화에 쉽게 적응하지 못한다
기능 중심의 CIO는 당장의 리스크를 피하는 경향이 있는데, 이는 단기적으로 안전해 보이지만 종종 회사가 뒤처지는 결과를 초래할 수 있다.

이들은 일반적으로 현상 유지에 집중하며, 혁신보다는 안정성을 우선시한다. 기존 비즈니스 모델을 방해할 수 있는 신기술에 대한 투자를 피한다. 기능에 집중하는 CIO는 일반적으로 IT를 전략적 파트너가 아닌 지원 역할로 보는데, 이는 의미 있는 변화를 주도할 능력을 제한할 수 있다.

반대로 디지털 혁신 마인드를 가진 CIO는 새로운 것을 시도하고, 실패로부터 배우며, 빠르게 반복하는 것을 즐긴다. 다시 말해 혁신을 통해 성장한다.

불가리아의 디지털 마케팅 기업 퍼포말리스(Performalis)의 IT 부문장인 파나요트 칼리노프는 “조직 전체를 현대화하려는 기업의 CIO와 함께 일한적이 있었다. 문화적 저항, 오래된 프로세스, 제한된 리소스 때문에 현대화가 쉽지 않았다”라고 언급했다.

칼리노프는 리스크를 기꺼이 감수하고 기술이 고객 경험을 향상시킬 방법에 대해 전략적으로 접근하려는 CIO의 의지가 중요한 차이를 만들었다고 설명했다. 그는 “해당 기업은 애자일 방법론을 구현하고 고객 중심의 혁신에 집중함으로써 현대화 과제를 달성했을 뿐 아니라 업계의 리더가 됐다”라고 말했다.

전략적 IT 이니셔티브를 회사 목표에 맞추지 않는다
오닐은 IT 이니셔티브를 더 광범위한 비즈니스 목표 및 미래 시장 트렌드에 맞추지 못하는 것이 혁신적이지 않은 CIO의 주요 징후라고 지적했다.

칼리노프는 CIO의 비즈니스 통찰력이 부족하고 기술과 비즈니스 목표 간의 연관성을 파악하지 못할 때 이런 일이 발생할 수 있다며, 이것이 혁신의 주요 장애물이 된다고 말했다.

그는 “기술 팀이 혁신을 추구하고 있지만 회사의 목표와 일치하지 않아 실제 가치를 창출하지 못하는 조직에서 일한 적이 있다. 비즈니스의 언어를 구사하지 못하는 CIO는 회사의 수익에 영향을 주지 않는 기술 프로젝트만 이끌게 될 수 있다”라고 언급했다.

마빈(Marvin)의 최고 디지털 책임자 릭 존슨은 “CIO가 조직의 목표와 IT 이니셔티브를 일치시킬 때만 진정한 혁신이 일어날 수 있다. 현대 기술은 과거에는 불가능했던 새로운 비즈니스 성과를 창출할 수 있다. 혁신적 CIO는 조직이 그 가능성을 볼 수 있도록 비전을 제시하고, 실현을 위한 로드맵을 만들어 실행한다. 전통적인 CIO는 다른 부서에 비전을 맡기고 높은 수준의 실행을 보장하는 데만 집중했다”라고 설명했다.

데이터를 충분히 활용하지 않는다
결국 모든 것이 데이터에 달려 있다. CIO 현황 조사에 따르면 IT 리더는 향후 AI 이니셔티브 외에도 사이버 보안(70%), 데이터 프라이버시 및 규정 준수(61%), 데이터 분석(54%)과 관련된 노력을 더 많이 지원할 것으로 예상했다.

클라이즈데일-코터는 “혁신적이거나 비전이 있는 CIO는 모든 디지털 트랜스포메이션의 핵심 원칙인 데이터 기반 혁신 방식을 활용한다. CIO가 기존 IT 관리를 넘어서는 데 집중하지 않으면 AI와 자동화를 포함한 분야에서 비즈니스 관련 결정을 내리는 데 필요한, 정확하고 시의적절한 정보에 대한 의사 결정자들의 요구를 충족시키기 어렵다. 데이터는 CIO의 비전에 있어 그 어느 때보다 중요해졌다”라고 말했다.

존슨은 “CIO는 방대한 양의 데이터에서 가치를 창출하는 방법을 조직이 이해할 수 있도록 지원해야 한다”라고 덧붙였다. 그는 “특히 고급 분석과 생성형 AI가 데이터에 의존하고 있고, 많은 리더가 AI의 잠재력에 관심을 갖고 있다. 혁신적 CIO는 가능한 것에 대한 비전을 제시할 뿐만 아니라 그 비전을 실현하는 데 무엇이 필요한지 조직이 이해하도록 도와야 한다”라고 설명했다.

존슨은 “기능 중심 CIO는 데이터 웨어하우스와 데이터 인프라를 관리하는 데 집중하고, 데이터 큐레이션과 인사이트 도출은 다른 사람에게 맡기는 경향이 있다. 반면 혁신적 CIO는 데이터가 어떻게 가치를 창출하는지를 이해하고 설계하며, 전체 데이터 가치 사슬을 관리한다”라고 덧붙였다.

커뮤니케이션 기술이 부족하고 이해관계자와 소통하지 않는다
커뮤니케이션에 능숙하지 않고 이해관계자와 정기적으로 소통하지 않는 CIO는 대개 실질적인 변화를 이끌어내기 어렵다. 또한 IT와 비즈니스 부서 간의 상호 협력을 장려할 수 없다.

새로운 기술의 이점을 다른 임원이나 비즈니스 관계자에게 명확히 설명하지 못하는 CIO는 중요한 프로젝트에 대한 동의를 얻는 데 어려움을 겪을 가능성이 높다. 기술 관련 역량만으로는 충분하지 않다. 결정을 내린 이유를 비전문가인 이해관계자들이 공감할 수 있는 방식으로 설명해야 한다. 그렇지 못한 CIO는 지원 부족으로 인해 주요 이니셔티브가 지연되거나 아예 시작조차 하지 못하는 상황을 겪을 수 있다.

CIO 현황 조사에 따르면 63%의 CIO가 향후 12개월 동안 비즈니스 요구를 결정할 때 사업 부서 임원들과 더 자주 협력할 계획이라고 밝혔다.

IT 부서의 실험과 업스킬링을 돕지 않는다
CIO는 전략적 혁신 업무와 최적화 의무 사이에서 균형을 잡는 데 어려움을 겪고 있다. 이로 인해 숙련도를 높일 여유가 거의 없다. CIO 현황 조사에 따르면 전략적이고 혁신적인 업무에서 IT 리더들이 시간과 에너지를 빼앗기는 가장 큰 요인은 인력 및 기술 부족이었다. IT 리더 응답자의 39%가 이를 지적했으며 교육(71%)과 정부(67%) 분야에서 특히 높게 나타났다.

클라이즈데일-코터는 “계속해서 ‘문제없이 작동하는’ 데만 집중해 온 CIO는 이제 심각한 과제에 직면해 있다. 업무 기능 자동화를 위해 수용력이 떨어지는 인력을 재교육하지 않으면 운영 효율성 경쟁에서 뒤처질 수 있다”라고 말했다. 지속적인 학습과 개발을 우선시하지 않으면 IT팀은 새로운 기술을 효과적으로 활용하는 데 필요한 기술을 갖추지 못하게 될 가능성이 높다.

더욱이 새로운 아이디어가 장려되지 않으면 IT팀은 목적의식이나 흥미를 잃을 수 있다. 칼리노프는 “팀이 실험할 권한을 부여받으면 혁신을 이끌 수 있는 획기적인 아이디어를 더 쉽게 떠올릴 수 있다. 팀원들이 자신의 프로젝트에 주인의식을 갖고 새로운 접근 방식을 시도하도록 장려하면 혁신적 리더로서의 역할이 더욱 강화될 것”이라고 조언했다.

혁신을 이끄는 CIO가 되는 방법
센라의 테일러는 혁신을 이끄는 CIO가 “변혁, 혁신, 기능적 운영 모두에 집중할 수 있는 최고의 인재를 고용하려고 노력한다”라고 말했다. 또한 혁신적 CIO는 전반적인 비즈니스 목표를 지원하는 새로운 기술과 혁신 전략에 대한 명확한 비전을 선제적으로 제시한다고 그는 설명했다.

테일러는 “팀원들이 지속적으로 프로세스를 개선하고 창의성과 솔루션 지향적인 운영 문화를 조성할 수 있는 방법을 모색할 수 있도록 권한을 부여하고 있다. 그 결과 IT팀은 고객의 요구와 운영 트렌드에 적응하는 데 그치지 않고 혁신을 주도하는 위치에 있다”라고 말했다.

오닐은 혁신적인 CIO가 되려면 비즈니스 전략과 일치하는 미래 지향적인 비전을 개발하고 IT팀 내에서 지속적인 학습과 실험의 문화를 조성해야 한다고 조언했다. 또한 CIO는 비즈니스 가치를 창출하고 미래의 과제에 대비하는 프로젝트에 우선순위를 두는 것이 중요하다. 이를 위해 다른 최고 경영진과 협력해 비즈니스 요구 사항을 이해하고 구체화할 수 있다. 물론 잠재적인 경쟁 우위를 제공할 신기술에도 투자해야 한다.

오닐은 “사후 대응적인 사고방식에서 사전 예방적인 사고방식으로 전환해야 빠르게 진화하는 디지털 환경에서 조직이 단순히 따라잡는 데 그치지 않고 앞서 나가도록 이끌 수 있다”라고 말했다.

“CIO가 반응적 사고방식에서 선제적 사고방식으로 전환함으로써 급속히 진화하는 디지털 환경에서 조직이 단순히 따라잡는 것이 아니라 앞서 나가도록 이끌 수 있다”라고 말했다.

탬파 종합병원의 아놀드는 좀 더 소프트한 측면을 부각했다. 그는 “진정성, 친절, 투명성의 문화를 발전시키기 위해 열심히 노력하는 것은 지속적인 변화를 받아들일 준비가 된 팀을 만드는 비결”이라고 말했다. 그는 혁신적인 사고방식을 가진 영감 넘치는 팀이 100%를 발휘할 가능성이 더 높다고 덧붙였다.

아놀드는 CIO가 새로운 아이디어를 지원하기 위해 코칭과 피드백에 열려 있어야 한다고 조언했다. 그는 “기술의 구성 요소뿐만 아니라 비즈니스에 관심을 가지면 협업을 통해 아이디어를 더 효과적으로 만들 수 있다. 실제 문제를 해결할 수 있는 새로운 솔루션에 먼저 관심을 갖고 팀원들에게 그렇게 하도록 장려하는 것이 좋은 출발점이다”라고 말했다.

클라이즈데일-코터는 혁신적 CIO가 업무의 모든 측면을 조율할 방법을 알고 있을 뿐 아니라 비즈니스의 강점을 훨씬 더 잘 파악하고 있다고 말했다. 그는 “혁신적 CIO가 되려면 기존의 업무를 잘 관리하면서도 수익을 창출하는 디지털 트랜스포메이션을 이끌어야 한다”라고 조언했다.

https://www.cio.com/article/3563670/%ed%98%81%ec%8b%a0%ec%9d%84-%ec%a3%bc%eb%8f%84%ed%95%98%eb%8a%94-it-%eb%a6%ac%eb%8d%94%ea%b0%80-%ec%95%84%eb%8b%90-%ec%88%98-%ec%9e%88%eb%8a%94-%ec%a7%95%ed%9b%84-7%ea%b0%80%ec%a7%80.html

생성형 AI의 가능성은 부인할 수 없다. 그러나 기업에서 이를 적용하는 데 대규모 언어 모델(LLM)을 꼭 선택해야 하는 건 아니다. IT 리더가 제어권을 유지할 수 있는 특정 데이터를 기반으로 하는, 그리고 에너지 소비가 적은 소규모 언어 모델이 뜨는 배경이다.

구글의 GPT-4가 튜링 테스트를 통과했다. 마이크로소프트가 AI 비서 코파일럿을 기업용 제품에 적용했다. 구글이 이탈리아에서 스마트폰용 제미니 앱을 출시했다. 이러한 가운데 CIO들은 기술적 흥분이나 상업적 현혹에 휘둘리지 않고 최신성을 확보하기 위해 생성형 AI 기술을 연구하고 있다.

이탈리아 연구 및 교육 커뮤니티 전용 광대역 네트워크인 GARR의 CTO이자 인프라 부서 책임자인 마시모 카보니는 "생성형 AI는 많은 이점을 제공할 수 있지만 적절한 검토가 필수적이다. 가능성을 과대평가할 위험도 몹시 높다. AI와 생성형 AI에 대한 첫 번째 위험은 이를 지나치게 믿는 것이다”라고 말했다.

최근 가트너는 생성형 AI 기술에 대한 전 세계 기업의 지출이 아직까지는 그다지 크지 않다고 추정했다. 또 올해 예상되는 총 5조 달러(2023년 대비 8% 증가) 규모의 IT 투자 중에서도 생성형 AI가 차지하는 비중은 크지 않을 것으로 전망했다. 오히려 전통적인 IT 서비스와 같은 전통적인 세력이 지출을 주도한다는 관측이다.

그럼에도 불구하고 대형 서비스 제공업체들은 생성형 AI 기술에 대한 지출을 늘리고 있다. 2024년에 하이퍼스케일러들이 지출하는 서버 비용 중 거의 60%가 AI 애플리케이션 서버에 집중될 전망이다. 하지만 기업들은 좀 더 신중한 입장이다. 가트너는 2023년에 논의, 2024년에 구현 계획, 2025년에 실행될 것으로 예상되는 생성형 AI의 주기를 '스토리, 계획, 실행'으로 보고 있다. 

CIO가 면밀히 검토하는 생성형 AI
바이오가스 및 바이오메탄 생산과 에너지 효율 분야에서 활동하는 이네바의 CIO 에도아르도 에스포지토에 따르면, 현재 이네바의 IT는 모두 마이크로소프트 시스템으로 구성되어 있고 이 생성형 AI 제품이 오피스 제품군과 완벽하게 통합된다. 회사가 현재 코파일럿을 테스트하는 배경이다. 그는 CFO, 법무 책임자, 기관 관계 및 규제 책임자 등 다른 관리자들과 함께 실험을 진행하고 있다고 전했다.

"우리는 수입과 지출에 대한 재무 분석과 같은 재무 분야에서의 사용을 테스트하고 있다. 가장 큰 기회가 있는 분야라고 생각한다. 아직은 법률 분야에서의 활용이 제한적이라고 보지만, 계약 관리와 법률 연구에 대해서도 생성형 AI를 사용하려고 시도 중이다"라고 그는 말했다. AI가 법률 자문을 제공하지는 않지만, 지속적으로 업데이트되거나 변경되는 방대한 양의 규칙을 탐색하는 데 도움이 되기 때문이다. 

그는 "AI로 생성된 새로운 법률에 대한 간단한 글머리 기호 요약본을 경영진에게 보내 검토를 요청하는 것만으로도 도움이 된다. 결국, 한 달에 30달러를 지불하는 소규모 기업 입장에서는 사무실에 사람이 한 명 더 있는 것과 마찬가지다"라고 설명했다.

하지만 에스포지토는 생성형 AI가 복잡한 업무를 완전히 자동화할 수 있을지에 대해서는 확신하지 않고 있다. "지속가능성이 한 이유다. 매개변수가 방대하고 훈련하는 데 많은 에너지가 필요하기 때문이다"라고 그는 말했다.

AI의 지속 불가능성
GARR의 카보니에 따르면 AI는 이미 몹시 에너지 집약적이며, 기술 비용의 부담을 더욱 늘린다. 그는 "전 세계 ICT는 2023년에 전체 에너지 비용의 9%, 즉 약 3,000억 달러어치의 에너지를 소비한다. 이 비중은 지난 10년 동안 최대 60% 증가했으며 앞으로 더 늘어날 것"이라고 말했다.

카보니에 따르면 훈련 측면에서도 문제가 있다. "생성형 AI는 기존의 인간 중심 접근 방식을 뒤집고 있다. 이제는 인간들이 시장에서 나온 모델에 적응해야 한다. 만약 생성형 AI 플레이어가 줄어들면 줄어들수록 기업 입장에서는 의존성이 커지고 통제력을 잃게 된다"라고 말했다.

또한, 생성형 AI의 진입 문턱이 높고 대부분의 기업이 제품간 차이를 구분할 지식 없이 서비스를 구매할 수 있기 때문에 소수가 결정을 주도할 가능성이 높다. 선택의 여지가 협소하고 기업 내 맞춤형 구축이 어렵다는 문제도 있다. "따라서 내 생각에는 사내에서 무언가를 구축하려는 접근법이 확산될 가능성이 크다"라고 그는 말했다.

빅 테크와 경쟁하는 기업
기업 간 경쟁이 치열해지고 있는 가운데, 카보니를 비롯한 많은 기업의 IT 임원들은 대형 공급업체의 모델 판매 방식이 여러 측면에서 불공평하다고 바라본다. "마이크로소프트와 구글 같은 기업은 제품 생태계를 보유하고 있으며, 데이터 시장의 최대 80%를 장악하고 있다. 이들은 또 지배력을 강화할 수 있도록 스타트업을 인수하려 한다. 따라서 경쟁할 수 있는 새로운 플레이어의 진입을 기대하기 어려운 상황이다”라고 그는 말했다.

카보니에게 이는 직접 탐구할 필요성을 의미한다. "활용할 수 있는 데이터가 많기 때문에 GARR에서 이를 직접 연구할 방침이다. 내부 지식 기반을 더 잘 정의하기 위해 생성형 AI 모델을 도출하는 것이 목적이다. 이를 위해 작은 언어 모델을 눈여겨보고 있다”라고 말했다.

SLM과 CIO의 통제권
소규모 언어 모델(SLM)은 GPT와 같은 제품의 기반이 되는 대규모 딥러닝 모델인 LLM보다 훨씬 더 작고 구체적인 데이터 세트에 대해 학습된 ML 알고리즘을 의미한다. 초기 테스트 결과, 더 효율적이고 비용이 적게 들며 작업 정확도가 부족하지 않은 것으로 나타나기도 한다. 에스포지토는 또한 SLM을 탐색한 결과 비즈니스 용도로 훨씬 더 유망하고 지속 가능하다고 보고 있다.

에스포지토는 "API를 통해 대규모 생성형 AI 모델을 사용하여 자체 데이터로 자체 생성형 AI 제품을 학습시키려면 상당한 에너지 자원이 필요하다. 비용이 많이 드는 디지털 동료다. 또 전기도 막대하게 공급해야 한다. 그래서 나는 소규모 언어 모델에는 매우 흥미를 느낀다. 기업들은 편견과 개인정보 누출의 위험이 적고 보다 타깃화된 무언가가 필요하다"라고 말했다.

예를 들어, 에스포지토는 IT 부서가 SLM을 가져와 클라우드에 배치하고 기업 문서 데이터베이스에만 액세스 권한을 부여할 수 있다며, 이를 통해 모델에 해당 문서와 관련된 질문만 할 수 있다고 설명했다.

"첫 번째 실험에서 에너지 소비가 줄어들었을 뿐만 아니라 환각 확률도 감소함을 확인했다. 결국 기업의 AI 모델은 모든 것을 알 필요는 없고 특정 애플리케이션에만 응답하면 된다. SLM 또한 번역, 시장 동향 분석, 고객 서비스 자동화, IT 티켓 관리, 비즈니스 가상 비서 생성 등의 작업을 수행할 수 있다. 도메인을 제한하고 전문화하여 IT 관리 하에 두는 것이 더 효율적이라고 본다"라고 말했다.

생성형 AI 비즈니스와 소규모 모델 저울질
일부 IT 리더에게는 통제권이 핵심이다. 브루노 케슬러 재단(FBK)의 증강 센터 책임자인 알레산드로 스페르두티는 AI 분야에서 민간 기업이 지배하는 현상에 부정적이다 "과거에는 주요 AI 시스템이 대학에서 개발되었지만 오늘날에는 그렇지 않다. 그 이유는 민간 기술 대기업이 공공을 넘어서는 자본력을 갖췄기 때문"이라고 그는 말했다.

사실 물리학 실험을 위해 여러 국가가 협력해 설립한 기관인 CERN처럼 공공 분야가 AI를 다시 통제할 수 있어야 한다는 관점이 있다. 그러나 유럽 연합의 AI 법처럼 정부가 AI 도구의 사용을 규제하는 한, 몇몇 민간 조직의 지배적 입지가 그리 문제되지 않는다는 시각도 있다.

스페르두티는 "물리학계과 다른 점이 있다. 물리학계에는 큰 사업성이 없는 반면 AI 분야에는 엄청난 이익이 걸려있다는 점이다. 이것이 바로 오늘날 마이크로소프트와 구글 같은 기업들이 치열하게 경쟁하는 이유다. 이 분야에 스타트업이 존재하지만 다른 분야에 비해 그 수가 적은 이유는 필요한 투자가 막대하기 때문이다. 스타트업들이 기존 플레이어의 우위를 위협하고 강력한 경쟁 구도를 만들기란 거의 불가능하다"라고 말했다.

이러한 관점에서 스페르두티는 검색 증강 생성(RAG) 시스템의 존재를 강조했다. 소규모 모델에서 로컬 데이터베이스에 저장된 문서에 대한 질문에 답하기 위해 LLM을 사용하는 방식으로 요긴하다는 평가다. 문서의 누출을 막을 수도 있다. RAG를 통해 기업은 데이터에 대한 통제력을 높이고 비용을 절감할 수 있다고 그는 강조했다.

스페르투티는 "로컬에서 오픈소스 언어 모델을 사용할 수도 있다. LLM보다 규모는 작지만 성능이 낮으므로 SLM으로 간주할 수 있다"라고 말했다.

비용 측면의 지속 가능성에 대해서도 의미를 지닌다. LLM과 달리 SLM을 사용하면 전력 관리 부담이 덜하다. 그는 "경제성 평가 작업을 반드시 해야 한다. 전력 비용, 모델 비용, 업데이트, 모델에 투입되는 인력 등을 고려하여 신중하게 선택해야 한다”라고 말했다.

주도권을 쥔 CIO: 거버넌스와 전문성
한편 카보니 SLM 선택에 따라 감당해야 할 부담이 있다고 지적했다. "하이퍼스케일러 LLM에서는 데이터 작업의 대부분이 통계적으로 수행되고 IT 부서는 특정 주제에 대해 모델을 학습시켜 오류를 수정함으로써 목표에 맞는 양질의 데이터를 제공하게 된다. SLM은 훨씬 적은 비용으로 더 적은 데이터를 필요로 하지만, 바로 이러한 이유로 통계적 효율성이 떨어진다. 매우 높은 품질의 데이터가 필요하다. 그렇지 않으면 일반 데이터를 사용하면 모델에 많은 오류가 발생할 위험이 있다"라고 말했다.

SLM은 구글, 마이크로소프트와 같은 거대 기술 기업에서도 이를 제안하고 광고하는 기술이다. 그러나 에스포지토는 기업이 이를 폐쇄형 시스템으로 유지하는 게 낫다는 입장이다. 그는 "SLM은 관리가 더 쉬우며 AI에서 부가가치를 창출하기 위해 회사의 중요한 자산이 된다. 나는 SLM을 맞춤형으로 개발하고 내부 폐쇄형 시스템으로 구축할 수 있도록 시스템 통합업체와 협력하는 것을 선호한다. 데이터 및 AI 거버넌스는 기업에게 필수적이다”라고 말했다.

결국 CIO의 역량이 중요하다는 언급도 있었다. 카보니는 "서비스 액세스 비용뿐만 아니라 서비스에 영향을 미칠 수 있는 능력을 평가하는 것도 중요하다. CIO는 제품을 구매하고 성과를 기대하는 데 그치지 않고 해당 제품이나 서비스에 영향을 미칠 수 있어야 한다"라고 말했다.

https://www.ciokorea.com/news/346364

CxO 중에서도 어려운 직책인 CIO 역할을 수행하려면 다양한 기술이 필요하다. 여기에 필요한 능력과, 집중력을 발휘하면 나머지 능력을 끌어올릴 수 있는 2가지 영역을 소개한다.
 

ⓒ Getty Images Bank
기업은 CIO에게 많은 것을 기대한다. 비즈니스에 대한 총체적 지식, 가시적인 재무 성과, 민첩성뿐만 아니라, 변화를 관리하고 비즈니스 리더와 적극적으로 협업해 쉬운 영어로 IT를 설명할 수 있는 능력까지도 그렇다.

이는 광범위한 기술이 요구되는 까다로운 사항이다. 한 번은 어느 CFO가 "나는 그 많은 기대치를 모두 충족시킬 수 없는데, 당신이 CIO라 다행이다"라고 말한 적이 있다.

지금도 마찬가지지만, CIO는 맡기 어려운 CxO 역할 중 하나이며, 기술이 비즈니스에 더 깊이 뿌리내리면서 역할의 중요성은 더욱 커질 전망이다.

오늘날 점점 더 중요해지는 CIO의 역할을 성공적으로 수행하기 위해 IT 리더가 준비해야 할 사항을 정리한다.

총체적 비즈니스 지식
CIO는 비트와 바이트를 넘어 비즈니스와 그 성공 방법을 철저하게 이해해야 한다. 모든 CIO가 알아야 하는 기본적인 비즈니스 개념에는 회사 운영, 투자 수익, 대차대조표, 손익계산서, 주요 재무 비율뿐만 아니라, 당면한 주제가 IT와 직접적인 관련이 있는지를 떠나 회사의 전략적 비즈니스 계획을 인식하는 것까지 포함된다. 현재 많은 기업이 MBA 학위 또는 비IT 비즈니스 경력을 가진 CIO를 찾고 있는 것도 그 때문이다.

IT 투자를 통한 가시적인 재무 성과
투자 성과를 명확히 보여줄 수 없다면 이제는 더 많은 장치, 저장 공간, 네트워크 시스템을 요청하는 것만으로 충분하지 않다. 제조업에서 새로운 라우터와 와이파이6 네트워크에 대한 투자가 정말 필요한가? 이 투자가 어떻게 운영 비용을 절감하고 시장 출시 기간을 단축할 수 있는가? 와이파이6 설치에 따른 운영 비용 절감 및 매출 증가를 금액으로 표현할 수 있는가?

민첩성과 변화 관리 능력
새로운 원격 영업 시스템을 개발하던 중 CEO가 찾아와 보완 제품 라인을 갖춘 경쟁사 인수를 고려 중이라고 알리는 상황을 가정해 본다. CEO는 CIO의 의견을 묻는다. CIO는 비즈니스 관점에서 보면 당연한 일이라고 답한다. 하지만 이제 원격 영업 프로젝트를 중단하고 새로운 회사를 ERP 시스템으로 전환하기 위해 IT 직원을 마이그레이션해야 한다. 얼마나 신속하고 원활하게 절차를 진행하고 직원들의 집중력을 다시 높일 수 있을까?

협업
기업에서 재무팀이 IT팀과 소통하지 않고 새로운 소프트웨어를 자체적으로 구입해 노코드 애플리케이션을 추진하는 경우가 있다. 하지만 그럴 때면 얼마 뒤 회사의 다른 시스템과 통합을 요청하기 위해 IT팀을 찾아올 가능성이 높다. 재무팀의 연락을 기다리는 편인가, 아니면 당장 아는 내용은 없더라도 적극적으로 협업하기 위해 연락을 취하는가?

쉬운 언어를 쓰는 대화
이사회는 제조업에 와이파이6 네트워크가 필요한 이유와 이미 모든 것이 정상적으로 작동하는 것 같은데 왜 라우터와 기타 네트워크 장치를 업그레이드해야 하는지 알고 싶어 한다. 새로운 와이파이 프로토콜에 대한 기술 논의로 너무 깊이 들어가지 않고도 업그레이드의 필요성을 쉬운 언어와 적절한 비즈니스 용어로 설명할 수 있는가? 그렇게 할 수 있다면 IT 투자에 있어 최고 경영진을 설득하는 데 도움이 될 뿐만 아니라 꼭 필요할 때 비즈니스 동료의 지원을 받을 가능성이 높아진다.

'슈퍼맨(또는 슈퍼우먼) 증후군' 관리
80여 년 전 꼬마 기자 지미 올슨(편집자 주: 만화 '슈퍼맨' 속 슈퍼맨의 친구)은 "저기 하늘을 봐. 새야! 비행기야! 슈퍼맨이야!"라고 외쳤다. 의심할 여지 없이 CIO라면 망토를 두르고 즉각적인 IT 솔루션으로 회사의 최우선 과제를 해결하러 빠르게 날아가고 싶은 날이 많았을 것이다. 하지만 안타깝게도 대부분의 IT 리더는 '슈퍼맨'이 되기 어렵다고 느낄 날이 더 많을 터다.

그렇다면 한 명의 사람일 뿐이라는 사실을 인정하고 CIO로서 2가지 주요 영역에만 집중하기로 결정했다면, 그 영역은 무엇일까?

비즈니스 통찰력
첫 번째 영역은 비즈니스 통찰력이다. CIO는 비즈니스를 예리하게 이해하고 회사의 성공을 위해 무엇이 필요한지 보여줄 때 자신의 가치와 IT의 가치를 확립한다.

CIO는 CFO 및 CEO와 회사의 모든 재무 주제에 대해 대화할 수 있어야 한다. 재무적, 운영적, 전략적 비즈니스 측면에서 IT의 투자 가치를 설명할 수 있어야 하며, 적자로 보이기 시작하는 IT 프로젝트를 멈출 준비가 돼 있어야 한다.

이런 비즈니스 통찰력은 중간 비즈니스 관리자와의 대화로도 확장돼야 한다. 관리자의 비즈니스 고충을 이해하고 IT가 이를 해결할 방법을 제공하면 그들의 성공을 위해 노력하고 있음을 보여줄 수 있기 때문이다. CIO는 정기적으로 현업 관리자를 방문해 운영상의 장애물과 IT가 이를 해결하는 방법에 대해 논의할 수 있다.

마지막으로 CIO는 비즈니스 통찰력과 감수성을 직원에게 전달하고 가르쳐야 한다. 어느 CIO는 매월 직원 회의에서 15분씩 특정 회사의 재무적 사실이나 비율을 강조하고, IT가 이에 어떻게 기여했는지 설명하는 시간을 가졌다. 이를 통해 IT 직원의 비즈니스 지식도 향상됐고 직원들이 IT의 기여에 민감하게 반응하기 시작했다. 이 방식이 IT 업무에 비즈니스 관련성과 목적을 불어넣은 것이다.

대인관계 기술
CIO가 발전시켜야 할 두 번째 중요 영역은 민첩성, 변화 관리 및 협업의 기초가 되는 대인관계 기술이다.

비즈니스 글쓰기와 효과적인 프레젠테이션을 위해 외부 강의를 듣는 CIO들을 알고 있다. 함께 일했던 어느 CEO는 기술 약어에 대해 매우 불안감을 느끼면서도 잘 모르는 것처럼 보이기 싫어 CIO나 IT 직원에게 물어보기를 두려워하기도 했다.

CIO는 '기술적 화법'을 줄이고 평범한 영어로 글을 쓰고 말해야 기술에 대한 비즈니스 사례를 더욱 설득력 있게 만드는 동시에 주변 사람들을 편안하게 할 수 있다. 사람들은 자신의 언어로 이해하고 이야기할 수 있는 기술 이니셔티브나 요청을 더 기꺼이 지지할 것이다.

이 아이디어의 중심에는 공감도 있다. 누군가가 어디에서 왔는지, 무엇을 필요로 하는지, 그들의 눈높이에서 소통하고 진정으로 경청한다면 협업과 프로젝트를 진전시키는 '마음의 만남'이 필요할 때 큰 도움이 될 수 있다. 비즈니스 방향이 바뀌어 민첩성이 요구되는 경우, 모두가 이미 같은 생각을 갖고 있다면 더 쉽게 전환할 수 있다. 

https://www.ciokorea.com/news/333834