반응형
반응형

죄가  
갈등 속으로
들어왔다는 징조는
우리가 신이 되려 할 때, 우월한 척할 때,
다른 이들을 억압할 때, 다른 사람 위에
군림하려고 할 때, 듣기를 거부할 때,
타인을 무시하고 배제할 때, 깊은
감정을 억누를 때, 회피할 때,
남을 미워할 때, 자기 성찰
없이 비난을 퍼부을 때
나타난다.


- 존 폴 레더락의 《화해》 중에서 -


* 신적(神的) 우월감, 억압, 군림,
무시, 회피, 불통 등의 위험한 징조는
개인의 차원에 머물지 않습니다. 사회 전반에
번지고 퍼져 상상을 넘어서는 치명상을 초래합니다.
위험한 징조가 보일 때는 재빨리 그 반대되는 덕목,
곧 겸손, 이해, 경청, 수용, 사랑, 진정 등이 스스로
자리 잡도록 자기 성찰이 필요합니다. 그래야
위험한 징조가 희망의 징조로
바뀔 수 있습니다.

 

반응형

'생활의 발견 > 아침편지' 카테고리의 다른 글

인생의 축(軸)  (2) 2024.09.23
사슬  (0) 2024.09.14
타인의 존엄성  (0) 2024.09.12
책 100권을 읽으면  (2) 2024.09.11
디테일의 힘  (0) 2024.09.10
반응형

" 웃어라, 세상이 너와 함께 웃을 것이다, / 울어라, 너 혼자만 울 것이다."




'웃어라, 세상은 너와 함께 웃을 테니, 울면, 너 혼자 울게 되리라' 

(Laugh, and the world laughs with you; Weep, and you weep alone)


Solitude (고독)

by 엘라 휠러 윌콕스 (Ella Wheeler Wilcox, 1850-1919)

웃어라, 세상은 너와 함께 웃을 테니,
울면, 너 혼자 울게 되리라.
이 낡고 슬픈 세상은 즐거움은 빌려와야 하나,
고통은 이미 가진 것만으로도 충분하니까.
노래 부르면 언덕들이 따라 부르나,
한숨 쉬면 허공에 흩어질 뿐.
메아리는 기쁜 소리엔 함께 뛰놀지만,
근심 깃든 소리는 멀리할 뿐이네.

기뻐하라, 사람들이 널 찾을 테니,
슬퍼하면, 그들은 뒤돌아 떠나리라.
그들은 너의 기쁨 전부를 함께 하길 원하나,
너의 근심은 하나도 원치 않으니.
기뻐하라, 네 친구들이 많을 테니,
슬퍼하면, 그 모두들 잃으리라, -
누구도 너의 달콤한 와인을 사양하지 않지만,
인생의 쓴 잔은 너 혼자 마시게 되리라.

연회를 베풀면 네 집은 사람들로 붐비지만,
네가 굶주리면, 온 세상이 너를 피하리라.
성공하여 베풀면, 너의 삶에 도움이 되지만,
어느 누구도 너의 죽음을 도울 수 없으리라.
쾌락의 연회실에는 많은 사람을 위한
넓고 품위 있는 행렬의 공간이 있으나,
우리 각자는 고통의 좁은 복도를
한 사람씩 줄지어 통과해야만 하네.


Laugh, and the world laughs with you;
Weep, and you weep alone;
For the sad old earth must borrow its mirth,
But has trouble enough of its own.
Sing, and the hills will answer;
Sigh, it is lost on the air;
The echoes bound to a joyful sound,
But shrink from voicing care.

Rejoice, and men will seek you;
Grieve, and they turn and go;
They want full measure of all your pleasure,
But they do not need your woe.
Be glad, and your friends are many;
Be sad, and you lose them all, -
There are none to decline your nectared wine,
But alone you must drink life’s gall.

Feast, and your halls are crowded;
Fast, and the world goes by.
Succeed and give, and it helps you live,
But no man can help you die.
There is room in the halls of pleasure
For a large and lordly train,
But one by one we must all file on
Through the narrow aisles of pain.

 

 

 

 

 
반응형
반응형

IT 프로젝트는 점차 추진력과 지원을 잃을 수 있다. 만약 그런 징후를 감지한다면, 지금 바로 진행 방향을 바로잡거나 중단하기 위한 조치를 취해야 한다.
 
Y2K 날짜 변환은 기록상 최장 IT 프로젝트 중 하나였다. 장기간의 일정과 막대한 자원이 투입된 이 프로젝트가 끝까지 이어질 수 있었던 유일한 이유는 세기 말에 시스템이 중단되지 않도록 모든 날짜 형식을 변경해야 한다는 절대적인 필요성 때문이었다.

다시 말해 Y2K 프로젝트는 시급성 때문에 성공했다. 모두가 무엇이 위험한지, 그리고 프로젝트가 왜 그렇게 오래 걸리는지 알고 있었다.

다른 IT 프로젝트는 그렇지 않다. 프로젝트가 지연되거나 열정이 식어가기 시작하면 CIO와 프로젝트 매니저는 점검해야 한다. 죽어가는 프로젝트를 진행하고 있는 것은 아닌가?

프로젝트 실패로 인한 비용은 상당하다. 생성형 AI 이니셔티브, 소프트웨어 프로젝트 또는 대규모 디지털 트랜스포메이션 등 IT 프로젝트는 여전히 놀라울 정도로 높은 비율로 실패하고 있다. 실패한 프로젝트를 언제 복구할지 알아내는 것은 IT 리더가 개발해야 할 핵심 기술이다. 육감 같은 것이다. 때로는 프로젝트를 중단하는 것이 최선의 방법일 수 있다.

한때 열정적으로 지지받던 프로젝트가 흔들리기 시작하는 데에는 여러 가지 이유가 있다. IT 프로젝트가 위기에 처했음을 나타내는 몇 가지 주요 위험 신호를 소개한다.

벤더가 투자를 철회할 조짐을 보일 때
벤더 기반 시스템에 대한 일련의 자체 보고서를 작성하고 있으며, 이러한 보고서를 작성하기 위해 벤더 도구를 활용하는 경우가 있다. 프로젝트가 진행되고 있을 때 벤더의 수정 및 개선 사항 제공 속도가 느려지기 시작하는 것을 알게 된다. 벤더의 소프트웨어 릴리스 주기는 점점 길어진다. 심지어 벤더에서 감원이 임박했다는 소식도 들린다.

이는 프로젝트 위험 신호가 될 수 있는데, 프로젝트가 벤더의 도구와 플랫폼에 의존하고 있기 때문이다. 벤더의 활동이 서서히 중단되는 것처럼 보인다면, 프로젝트에도 비슷한 종말을 알리는 신호일 수 있다.

주요 벤더의 투자 의욕을 파악하는 것은 IT 이니셔티브가 장기적으로, 때로는 단기적으로 어떻게 진행될지 파악하는 데 필수적이다.

사용자가 프로젝트 플랫폼에 자주 접속하지 않는 경우
사내 시스템을 대폭 개선했지만, 지난 몇 달 동안 사용량이 꾸준히 감소했다는 것을 알게 된다. 사용자들이 이 시스템을 예전만큼 가치 있게 여기지 않는다는 신호일까? 사용자와 상의할 때다.

사용량 지표를 추적하고, 사용자 기반과 협력 관계를 구축해 요구 사항과 관심사를 더 잘 파악하는 것이 사용자 관심 저하를 확인하는 2가지 핵심 방법이다.

프로젝트 마감일이 계속 재협상되는 경우
프로젝트는 시작부터 순조롭게 진행되고 사용자와 IT 부서는 흥분하고 참여한다. 3개월이 지나자, 프로젝트 스폰서가 문을 두드리며 급한 일로 직원을 다른 곳으로 이동시켜야 하니 프로젝트 마감일을 미룰 수 있는지 묻는다. 스폰서는 모든 사람이 여전히 프로젝트를 지지하고 있다면서 일정을 미루게끔 한다. 그러나 프로젝트가 다시 시작될 즈음 스폰서는 또 찾아와 프로젝트 연기를 요청한다. 한때 높았던 프로젝트의 열정이 식어가고 있는 것일까?

잠재적인 비즈니스 이해관계자의 ‘무관심’ 신호를 읽는 법을 배우고, 이해관계자를 프로젝트 파트너로 변화시켜 위험에 처한 프로젝트를 바로잡거나, 다른 IT 우선순위를 방해하거나 더 많은 시간, 예산 및 자원을 소모하지 않고 프로젝트를 보류하기로 상호 결정할 수 있도록 해야 한다.

예산 지원이 축소되거나 연기될 때
지난 예산 편성 과정에서는 모든 사람이 프로젝트를 매우 기대했기 때문에 요청한 자금을 모두 지원받았다. 이제 새로운 예산 회의에서 CEO와 CFO는 초기 프로젝트 자금의 일부를 축소하거나, 적어도 회사가 프로젝트를 추진하기에 더 나은 재정 상태가 될 때까지 연기할 것을 요청한다.

모든 비즈니스 환경에서 긴축은 이해할 만한 일이지만, 프로젝트 긴축 요청이 두 분기 연속 발생하면 프로젝트의 실행 가능성에 의문을 제기할 때다.

CFO와 긴밀한 관계를 구축하면 도움이 될 수 있으며, 프로젝트 예산을 잘 관리하는 것도 중요하다.

프로젝트 지지자가 퇴사할 때
프로젝트의 슈퍼유저, 프로젝트 관리자 또는 기술 전문가 중 한 명 이상이 다른 직장을 위해 회사를 떠나기로 결정하면, 원래 프로젝트를 홍보하고 경영진에게 판매했던 리더의 부재로 타격을 입을 수 있다. 이러한 빈자리를 메울 수 있는 사람이 남아 있지 않다는 것은 프로젝트에 여전히 미래가 있는지 건강 상태를 측정해야 할 중요한 시기라는 의미다.

물론 직원 유지 노력이 도움이 될 수 있으며, 우수한 인재가 떠나는 일반적인 이유를 파악하는 것도 중요하다.

벤더 또는 회사에서 경영진이 바뀔 때
처음에 프로젝트를 지지했던 회사 또는 벤더의 주요 관리자가 떠나면 해당 프로젝트 지원이 그대로 유지될지 확인해야 한다.

벤더 영역에서는 회사가 합병되거나 인수될 때 경영진이 바뀌는 경우가 많다. 이 경우 프로젝트 기반이 되는 벤더 소프트웨어가 폐기 대상이 될 수도 있다.

조직에서 주요 비즈니스 스폰서가 떠나고 새로운 관리자가 들어올 경우, 새로운 사람은 자신이 사용하고 싶은 제품이나 소프트웨어에 대한 자신만의 아이디어를 가질 수 있으며, 여기에는 해당 프로젝트가 포함되지 않을 수 있다. 좋은 방법은 당사자에게 프로젝트를 계속 지원하는지 직접 묻는 것이다. 외부 종속성이 바뀌는 경우 벤더 관리 모범 사례를 참고하는 것도 도움이 될 수 있다.

비즈니스 방향이 변화할 때
고객이 온라인, 전화, 오프라인 매장에서 원활하게 소통할 수 있는 옴니채널 판매 플랫폼으로 전환하려는 기업은 이런 모든 판매 채널을 통합하는 IT 통합 프로젝트를 시작한다. 그러나 프로젝트가 진행됨에 따라 회사는 예상치 못한 극도의 시장 압박을 경험한다. 경영진은 통합이 불가능하더라도 방향을 바꿔 온라인 판매 채널을 즉시 운영해야 한다는 결론을 내린다. 이는 채널 통합 프로젝트에 어떤 영향을 미칠까?

변화를 항상 예측할 수는 없지만, 다른 주요 임원들과 긴밀한 관계를 구축하면 조기 경고 신호와 필요한 방향 전환을 위한 가치 있는 대화를 나누는 데 도움이 될 수 있다.

30여 년 전 하버드 비즈니스 리뷰(Harvard Business Review)는 "전략은 무엇을 할 것인가에 대한 선택만큼이나 무엇을 하지 않을 것인가에 대한 선택도 중요하게 만든다”라고 언급했다. 기술과 프로젝트 접근 방식은 상당히 변화했지만, 이 오래된 격언은 여전히 유효하다.

순조롭게 진행되던 프로젝트가 갑자기 진흙탕에 빠져 움직이지 않거나, 비즈니스 또는 환경 조건이 급변해 프로젝트의 미래가 의심스러울 때는 한 걸음 물러서서 실행 가능성을 고려할 때이자 프로젝트 이해관계자에게도 동일한 질문을 던져야 할 때다. 프로젝트를 갱신, 연기 또는 취소해야 할 수 있지만, 솔직한 대화를 통해 적어도 합의와 명확한 전략적 방향을 얻을 수 있다.

 

https://www.ciokorea.com/news/350137

 

칼럼 | IT 프로젝트가 실패에 이르고 있다는 전조 7가지

IT 프로젝트는 점차 추진력과 지원을 잃을 수 있다. 만약 그런 징후를 감지한다면, 지금 바로 진행 방향을 바로잡거나 중단하기 위한 조치를 취해

www.ciokorea.com

 

반응형
반응형

증오와
혐오의 말과
장벽이 넘치는 사회는
자신의 생존을 위해 타인의 존엄성 따위는
거추장스러울 뿐인 야만의 사회입니다.
위로는 사치이거나 사기일 뿐이고,
오히려 위협이 되어 버립니다.


- 인문무크지 아크 7호 《위로》 중에서 -


* 진정한 위로는
많은 말이 필요하지 않습니다.
공감의 깊은 한숨, 혼이 담긴 따스한 시선,
귀 기울여 온몸으로 들어줌, 이런 것들입니다.
그것이 상대의 존엄성을 살려내고, 나의
존재 가치를 높이는 일도 됩니다.  

반응형

'생활의 발견 > 아침편지' 카테고리의 다른 글

사슬  (0) 2024.09.14
위험한 징조, 희망의 징조  (0) 2024.09.13
책 100권을 읽으면  (2) 2024.09.11
디테일의 힘  (0) 2024.09.10
아내의 비밀 서랍  (0) 2024.09.09
반응형

비영리 AI 기술 연구 기관 AI2(Allen Institute for AI)가 AI 스타트업 컨텍스추얼AI(Contextual AI), 프린스턴대학, 워싱턴대학과 공동으로 개발한 오픈소스 AI 모델 ‘OLMoE’를 4일 공개했다.
 

사진 제공 : AI2 논문
OLMoE는 희소 혼합 전문가(sparse Mixture of Experts, MoE) 구조를 활용한 것이 특징이다. 여기서 말하는 ‘MoE’는 AI 모델의 성능을 높이고 계산 효율성을 극대화하기 위한 구조다. 전통적인 대규모 AI 모델이 주어진 입력에 대해 모델의 모든 매개변수를 사용하여 계산을 수행하는데, 이 과정은 매우 많은 연산 자원을 요구한다. 반면, MoE는 입력 데이터에 맞춰 모델의 일부만 활성화해 연산을 수행하는 방식으로, 불필요한 연산을 피하고 자원을 절약한다. 이때 말하는 ‘전문가(experts)’는 일종의 하위 모델들이며, 희소라는 용어는 이들 중 일부만을 활성화해서 사용하는 방식을 뜻한다.

OLMoE는 70억 개의 매개변수를 보유하고 있으나 실제로 입력되는 데이터(토큰)당 10억 개의 매개변수만 사용한다. 또한 64개의 작은 전문가 네트워크 중 8개만이 각 입력에 대해 활성화된다. 연구진에 따르면, 이러한 구조 덕분에 OLMoE는 성능 저하 없이 연산 자원을 절감하여 효율성을 크게 높인다. 업계에서 공개된 모델 중 제미나이, 미스트랄, 그록 등이 MoE 구조를 활용하고 있다.

개발진은 OLMoE가 MoE 구조를 통해 지연 시간에 민감한 사용 사례에서 더 빠른 RAG 시스템 개발에 유용할 수 있다고 설명했다. 또한 모바일 기기, 차량, IoT 장치 등 상대적으로 성능이 낮은 엣지 디바이스에서도 활용 가능성이 높아 AI 기술의 적용 범위를 확장할 수 있다고 밝혔다. OLMoE는 OLMoE-1B-7B와 OLMoE-1B-7B-Instruct 두 가지 버전으로 제공되며, 각각 범용적 사용과 지시 기반 튜닝을 지원한다.

연구진은 OLMoE가 ‘오픈소스 형태의 AI 모델’이라고 소개했다. 논문을 통해 연구진은 “업계에 공개된 MoE 모델은 폐쇄된 형태이며, 일부 공개된 모델에서도 가중치를 제공하지만, 대부분 훈련 데이터, 코드, 또는 방법론에 대한 정보는 거의 또는 전혀 제공되지 않는다”라며 “MoE는 활성화되는 매개변수 개수, 전문가 수의 규모, 전문가 공유 여부, 라우팅 알고리즘 선정 방식 등 복잡한 설계 질문이 활용되므로, 업계 연구를 위해 더 많은 것이 공개되어야 한다”라며 오픈소스 모델의 필요성을 강조했다.

이번에 공개된 OLMoE는 모델 가중치뿐만 아니라 훈련 데이터, 코드, 로그, 중간 훈련 체크포인트까지 오픈소스 라이선스(Apache 2.0 또는 ODC-By 1.0) 하에 공개됐다. 연구진은 이를 통해 MoE 모델의 과적합 여부, RAG 파이프라인 최적화 등 다양한 연구 질문을 탐구할 수 있을 것으로 기대하고 있다. 연구진은 “완전한 오픈소스 형태인 OLMoE가 다양한 AI 모델 연구에 도움을 줄 수 있을 것”이라고 밝혔다.

한편 AI2는 2014년 마이크로소프트 공동 창립자 폴 앨런이 설립한 비영리 연구 기관이다. 이 기관은 인공지능 기술의 오용 방지와 함께 공정성 및 투명성 강화를 위한 활동을 주도하고 있다. https://www.ciokorea.com/news/349955

 

“저지연·모바일 특화 MoE 모델”··· AI2, AI 모델 ‘OLMoE’ 오픈소스로 공개

비영리 AI 기술 연구 기관 AI2(Allen Institute for AI)가 AI 스타트업 컨텍스추얼AI(Contextual AI), 프린스

www.ciokorea.com

 

반응형
반응형

CxO 또는 기술 전략 담당자라면 지난 몇 달 동안 AI에 대한 태도가 변화했을 가능성이 크다. 거대 기업의 생성형 AI 서비스가 헤밍웨이와 같은 이메일/문자 품질을 만들어줄 것이라고 기대하지 않으며, 이러한 서비스가 전반적인 수익과 주가를 높여줄 것이라고 기대하지도 않는다. GPU 칩도 일개 하드웨어로 무심히 바라보게 됐을 것이다. 그렇다고 해서 AI를 포기했다는 의미는 아니다. 현실을 직시했다는 뜻이다. 그렇다면 실제 행동 측면에서 현실의 기업들은 어떤 모습일까? '현실의' AI란 무엇일까?

일단은 점점 더 사내에서 실행하는 애플리케이션을 향해가고 있다. AI 계획을 공유한 292개 기업 중에서 164개 기업은 자체 호스팅 AI를 통해서 진정한 AI 혜택이을 얻을 수 있을 것으로 예상했다. 또 105개 기업만이 AI에 대해 잘 알고 있다고 답했고, 47개 기업은 확신을 가지고 있다고 답했다. 전반적으로 사내 AI(in-house AI)가 초기 단계에 있다고 말하는 것은 정확한 표현이다. 기업 내 AI 배포에는 많은 영역이 있으며 대부분이 아직 혼란스럽기 때문이다.

이러한 어려움에도 불구하고 벤더들은 셀프 호스팅 옵션을 내세우는 듯하다. 시스코와 주니퍼( HPE의 인수가 순조롭게 진행되고 있음)는 모두 엔터프라이즈 데이터센터에서의 AI에 더 집중하겠다는 의사를 밝혔다. AI 모델 제공업체들도 생성형 AI 도구의 라이선스를 강조한다. 두 그룹 모두 기업들의 구매를 고대하고 있지만, 앞서 언급한 혼란으로 인해 기업 대부분은 어떻게 시작해야 할지조차 모른다.

전반적으로 기업들은 AI 호스팅 계획의 시작으로 GPU와 데이터센터 장비를 생각하곤 한다. 그러나 응답을 분석한 결과 앞선 기업들은 그렇지 않다고 말하고 있었다. “애플리케이션 요구 사항에 대한 예상에 맞춰 하드웨어를 구매하면 안 된다. AI가 수행하기를 원하는 작업부터 시작한 다음 어떤 AI 소프트웨어가 필요한지 물어봐야 한다. 그런 다음 데이터센터 계획을 시작할 수 있다”라고 한 CIO는 말했다.
 


LLM과 SLM 비교
자체 AI 호스팅 경험을 가진 기업 다수는 챗GPT로 시작했다고 전한다. 퍼블릭 AI 서비스 중 하나에서 사용되는 대규모 언어 모델(LLM)의 프라이빗 버전을 호스팅해야 한다고 가정하는 것이다. 기업 3분의 1은 이러한 경로를 밟고 있었다. 그러나 3분의 2는 자체 호스팅하는 AI가 '오픈소스' 모델을 기반으로 해야 한다고 생각하고 있었다. 또 이들 중 대부분은 이제 특정 미션에 '전문화'된 AI 모델을 찾고자 한다고 응답했다. 

오늘날 사내 구현 형태로 제안될 가능성이 가장 큰 AI 프로젝트는 AI 챗봇이었다. 비즈니스 사례로서의 성공 가능성도 크다고 할 수 있다. 이러한 프로젝트는 대개 사전 판매 및 판매 후 미션, 즉 마케팅/영업 및 고객 지원을 목표로 한다. 이러한 애플리케이션을 우선적으로 고려하는 기업은 퍼블릭 AI 서비스나 클라우드 호스팅을 고려할 가능성이 높았다. 즉 독점 모델을 유지하는 기업들인 1/3의 대부분을 차지하고 있었다.

비즈니스 사례를 만들 가능성이 다음으로 높은 AI 애플리케이션 분야는 비즈니스 분석 및 인텔리전스다. 대부분의 기업이 AI를 자체 호스팅해야 한다고 처음부터 생각하는 분야이기도 하다. IBM 고객들은 이 분야에서 IBM의 왓슨X 전략을 이용하는 경향이 있으며, 모든 기업 중에서 모델 선택 방식에 가장 큰 자신감을 보이고 있었다. 다른 기업들 사이에서는 메타의 라마가 블룸과 팔콘 모델을 제치고 가장 선호하는 전략이 됐다. 하지만 이러한 변화는 상당히 최근에 나타났기 때문에 계획 측면에서는 앞서 있지만 구축은 뒤처져 있었다.

한편 고객 대면 업무의 챗봇 사용자, 의료 업계 종사자, 심지어 비즈니스 분석 분야에서 AI를 계획하는 많은 기업들이 소규모 언어 모델(SLM)에 점점 더 많은 관심을 보이고 있다. SLM은 특정 임무에 맞게 학습된다. 덕분에 환각의 위험을 획기적으로 줄이고 전문 영역에서 더 유용한 결과를 생성할 수 있다. 몇몇 SLM은 기본적으로 특수 임무에 맞게 조정된 LLM이기에 적당한 LLM을 선택하면 SLM 선택이 끝난다. AI 전략에 대해 신뢰할 수 있는 공급업체가 있다면 해당 공급업체와 미션별 SLM에 대해 논의하는 것이 현명한 수순이다. 전문 SLM을 사용해 본 기업(총 14개)은 SLM이 현명한 선택이었으며 호스팅 비용을 크게 절감할 수 있다는 데 동의했다.

GPU 및 이더넷 네트워크
하드웨어는 어떨까? 엔비디아 GPU를 떠올리기 쉽지만 기업들이 실제 구매하는 기기는 GPU가 포함된 서버다. 델이나 HPE, 슈퍼마이크로와 같은 벤더들이 기업의 GPU 정책에 영향을 끼친다. 기업들은 AI 호스팅을 위해 약 50개에서 거의 600개까지 다양한 수의 GPU를 보유하고 있었으며, 100개 미만의 GPU를 보유한 기업의 3분의 2가 초기 테스트 중에 추가했다고 보고했다. 500개 이상을 보유한 기업 중 일부는 현재 너무 많다고 생각하고 있었다. 대부분의 엔터프라이즈 셀프 호스팅 계획자는 200~400개 사이를 배포할 것으로 예상했으며, 450개 이상을 사용할 것이라고 답한 기업은 단 두 곳에 그쳤다.

GPU를 직접 설치하려는 기업은 거의 없었다. 즉 표준 서버용 GPU 보드를 구매하려는 경우는 드물었다. 그저 끼운다고 끝이 아님을 잘 알고 있기 때문일 터다. 좋은 GPU에는 빠른 메모리, 빠른 버스 아키텍처, 빠른 I/O 및 네트워크 어댑터가 필요하다.

한편 이더넷을 사용할지 인피니밴드를 사용할지에 대한 오래된 논란은 자체 호스팅 AI를 사용 중이거나 계획 중인 기업들에게 그리 고민거리가 아니었다. 이들은 이더넷이 정답이라는 데 동의하며, 가능한 한 빨라야 한다는 데도 동의했다. 우선순위 흐름 제어와 명시적 혼잡 알림 기능을 모두 갖춘 800G 이더넷은 기업에서 권장하고 있으며, 화이트박스 장치로도 제공되고 있다. 

기업들은 또 AI를 표준 서버와 혼용해서는 안 된다는 데 동의하고 있었다. AI 배포를 자체 고속 클러스터 네트워크를 갖춘 새로운 클러스터로 볼 수 있는 셈이다. 또한 학습이나 프롬프트 등 회사 데이터에 액세스하기 위해 데이터센터에 빠르게 연결하고 사용자 액세스를 위해 VPN에 연결하는 것이 중요하다.

여러 개의 AI 애플리케이션을 사용할 예정이라면 두 개 이상의 AI 클러스터가 필요할 수 있다. 필요에 따라 SLM 또는 LLM을 클러스터에 로드할 수는 있지만, 데이터를 보호하면서 동일한 클러스터에서 여러 모델을 동시에 실행하는 작업은 더 복잡하다. 

일부 기업에서는 하나의 LLM 도구를 선택하여 고객 지원, 재무 분석 및 기타 애플리케이션에 맞게 학습시킨 다음 다른 애플리케이션에 병렬로 사용할 수 있다고 생각하고 있었다. 문제는 응답을 격리하는 것이 어렵다는 점이다. 모델 내에서 미션을 혼합하는 것은 현명하지 않을 가능성이 크다.

그렇다면 최종 권장 사항은 무엇일까? 테스트... 테스트… .테스트다. 시간을 들여 모델 옵션을 평가해야 한다. 시간을 들여 구성을 선택하고, 특히 커밋하기 전에 AI를 시험해 볼 수 있을 때 가능한 한 자주 테스트하라. AI 전략을 수립한 후에는 제품, 비즈니스, 운영 중인 세금 및 규제 프레임워크의 변화에 따라 모델을 최신 상태로 유지할 수 있도록 계속 테스트하라. AI는 인간과 마찬가지로 상황이 변화함에 따라 재교육을 필요로 한다 그리고 인간 또한 AI에 대한 새로운 시각을 지속적으로 업데이트해야 한다. 

 

https://www.ciokorea.com/news/349969

 

칼럼 | 기업들의 현실적 AI 준비 상태를 알아봤다

CxO 또는 기술 전략 담당자라면 지난 몇 달 동안 AI에 대한 태도가 변화했을 가능성이 크다. 거대 기업의 생성형 AI 서비스가 헤밍웨이와 같

www.ciokorea.com

 

반응형

+ Recent posts