긍정적 사고, 음식의 절제, 규칙적인 운동

책임감 있는 AI, 일명 RAI(Responsible AI)에 대한 관심이 더욱 높아지고 있다. RAI는 신뢰와 도입부터 LLM 환각 관리, 유해한 생성형 AI 콘텐츠 제거에 이르기까지 모든 것을 추진하는 핵심 요소다. 효과적인 RAI로 기업은 더 빠르게 혁신하고, 비즈니스를 더 개선하고, 미래의 AI 규정을 준수하고, 평판이 손상되거나 규제를 어기는 일 없이 계속 경쟁에 참여할 수 있다.

안타깝게도 RAI가 실제로 무엇인지, 무엇을 제공하는지, 어떻게 달성할 수 있는지에 대한 혼란이 있다. 치명적인 결과를 초래할 수 있는 문제다. 그러나 RAI 이니셔티브가 제대로 수행되지 않으면 혁신이 방해받고 지연과 비용이 추가된다. RAI의 정의와 목적에 대한 좋은 해석도 있지만 잘못된 통념과 오해도 만연해 있다. 기업은 RAI는 비용이 많이 들고 비효율적이며 시간 낭비라는 잘못된 통념을 깨뜨리고 AI에 기반해 가치를 창출하는 원동력으로 전환해야 한다.

RAI에 대한 오해 중 가장 문제적인 것은 무엇일까? 그리고 지속 가능한 이니셔티브를 추진하기 위해 RAI를 가장 잘 정의하려면 어떻게 해야 할까?

잘못된 통념 1 : RAI는 원칙론일 뿐

어느 거대 IT 기업에서나 설명 가능성, 공정성, 개인정보 보호, 포용성, 투명성과 같은 RAI 원칙을 찾아볼 수 있 수 있다. 이렇게 널리 퍼진 여러 원칙이 있으니 RAI의 중심에 원칙이 있다고 해도 문제가 없을 것이다. 이런 기본적인 기업 원칙은 책임감 있는 개인에게 기대하는 것과 정확히 같은 종류이므로 책임감 있는 AI 보장에 핵심이 된다고 하면 맞는 말일까?

아니, 틀렸다. 모든 기업에는 이미 원칙이 있다. 일반적으로 기업 원칙은 RAI와 정확히 동일할 것이다. 공정, 투명성, 포용에 반대한다고 밝힐 기업이 있을까? 만약 그런 기업이 있다고 해도, AI에는 투명성을 적용하고 기업의 나머지에는 투명성을 적용하지 않을 수가 있을까?

또한 원칙은 AI에 대한 신뢰를 불러일으키는 것보다 사람과 기업에 대한 신뢰를 끌어내는 데에 훨씬 효과적이다. 항공사의 비행기가 목적지까지 안전하게 데려다 줄 것이라고 믿는 이유가 그 회사가 원칙을 지키기 때문인지 생각해 보자. 아니, 엄격하게 시행되는 프로세스를 따르고, 신중하게 테스트하고 정기적으로 검사한 장비를 사용하는 숙련된 조종사, 기술자, 항공 교통 관제사가 있어서 신뢰하는 것이다.

비행기 여행과 마찬가지로 RAI의 핵심은 원칙을 실현하고 시행하는 사람, 프로세스, 기술이다. 독자 모두 이미 올바른 원칙을 정해두었을 것이다. 문제는 실행이다.
 

잘못된 통념 2 : RAI는 윤리와 관계가 있다

RAI는 AI를 윤리적으로 사용하고, 모델이 공정하게 작동하도록, 새로운 차별이 생겨나지 않도록 하는 지침일 뿐이라고 생각한다면 틀렸다.

신용 평가에 사용되거나 이력서를 심사하거나 실직 여부를 결정하는 모델 등 실제로 윤리나 공정성을 고려하는 AI 사용례는 극히 일부일 뿐이다. 당연히 이러한 사용례를 책임감 있게 처리하는 것도 RAI의 목적이지만, 다른 모든 AI 솔루션의 안전과 안정적 개발 및 사용, 또 기업의 성능 및 재무 요구 사항 충족도 RAI가 필요한 부문이다.

설명 가능성을 제공하고, 편향성을 확인하고, 개인정보 보호를 보장하는 데 사용하는 도구는 정확성, 신뢰성 및 데이터 보호를 보장하는 데 사용하는 도구와 정확히 같다. RAI는 공정성을 고려해야 할 때 AI를 윤리적으로 사용하는 데 도움이 되지만, 다른 모든 AI 사용례에서도 마찬가지로 중요하다.
 

잘못된 통념 3 : RAI를 알려면 설명 가능성부터 알아야 한다

AI를 신뢰하고 책임감 있게 사용하기 위해서는 설명 가능성, 즉 해석 가능성이 필요하다는 것이 일반적인 생각이지만, 사실은 아니다. 비행기 여행에 안심하기 위해서 비행기의 작동 원리를 알아야 할 필요가 없듯, AI를 신뢰하기 위해 설명 가능성을 꼭 이해할 필요는 없다.

인간의 결정이 좋은 예다. 인간은 거의 대부분 자신의 결정 이유를 설명할 수 있지만, 사실 설명은 의사 결정 행동의 실제 동인과는 거의 관련이 없는, 사후에 지어낸 이야기라는 증거가 많다.

그러나 쉽게 이해할 수 있는 '화이트박스' 모델과 LIME 및 ShAP과 같은 방법을 사용하는 AI 설명 가능성은 모델이 올바르게 작동하는지 테스트하는 데 중요하다. 잘못된 상관관계와 잠재적인 불공정한 차별을 식별하는 데 도움이 되기 때문이다. 패턴을 쉽게 감지하고 설명할 수 있는 간단한 사용례에서는 신뢰도를 높이는 지름길이 될 수 있다. 그러나 패턴이 충분히 복잡한 경우에는 어떤 설명도 기껏해야 어떤 결정이 어떻게 내려졌는지에 대한 암시만 제공할 뿐이며, 최악의 경우 완전한 중언부언이나 횡설수설에 지나지 않을 것이다.

즉, 요컨대, 설명 가능성은 있으면 좋지만, 이해관계자와의 신뢰를 의미 있게 이끌어내는 방식으로 제공하는 것은 불가능할 때가 많다. RAI는 모든 AI 사용례에 대한 신뢰를 보장하는 것으로, 이는 개발 및 운영에 사용되는 사람, 프로세스, 기술(특히 플랫폼)을 통해 신뢰를 제공하는 것을 의미한다.
 

책임감 있는 AI는 곧 위험 관리

결국 RAI는 AI 및 머신러닝 모델을 개발하고 사용할 때 위험을 관리하는 관행이다. 여기에는 비즈니스 위험(성능 저하 또는 신뢰할 수 없는 모델 등), 법적 위험(규제 벌금, 고객사나 또는 직원 소송 등), 심지어 사회적 위험(차별이나 환경 피해 등)까지 관리해야 한다.

이러한 위험은 사람, 프로세스, 기술의 형태로 RAI 역량을 구축하는 다층적 전략을 통해 관리된다. 사람 측면에서는 RAI를 책임지는 리더(예: 최고 데이터 분석 책임자, 최고 AI 책임자, 데이터 과학 책임자, ML 부사장)의 역량을 강화하고 실무자와 사용자가 책임감 있게 AI를 개발, 관리, 사용할 수 있도록 교육해야 한다.

프로세스 측면에서는 데이터 액세스 및 모델 학습에서 모델 배포, 모니터링 및 재학습에 이르는 엔드투엔드 수명 주기를 관리하고 통제해야 한다. 기술 측면에서 특히 중요한 것은 측면에서 플랫폼은 대규모로 사람과 프로세스를 지원하고 활성화하는 플랫폼이다. 플랫폼은 설명 가능성, 편향성 감지, 편향성 완화, 공정성 평가, 드리프트 모니터링 등 RAI 방법에 대한 액세스를 민주화하고, AI 아티팩트 거버넌스, 계보 추적, 문서 자동화, 승인 워크플로 조율, 데이터 보안은 물론 RAI 프로세스를 간소화하는 수많은 기능을 제공한다.

제약, 금융 서비스, 보험 등 규제가 심한 산업의 고급 AI 팀이 이미 이러한 기능을 구축하여 가치 창출에 나서고 있다. 이들 선도 업체는 빠른 구현, 더 큰 채택, 더 나은 성능, 향상된 안정성 등의 이점을 통해 모든 AI, 특히 생성형 AI에 대한 신뢰를 대규모로 구축하고 있다. AI 규제 마련에 대비하여 AI 이니셔티브를 미래에 대비할 뿐 아니라 무엇보다도 모든 사용자를 더 안전하게 만드는 데에도 유용하다. 책임감 있는 AI는 대규모의 AI 가치를 실현하는 열쇠지만, 그러려면 먼저 잘못된 통념을 깨야 한다.

https://www.itworld.co.kr/news/335878

복기는 자기반성의 시간이다.
승리한 대국의 복기는 이기는 습관을, 패배한 복기는 이기는 준비를 만들어준다.
아플수록 복기해야 한다.
승자는 무엇을 보고 패자는 무엇을 보지 못하는 지 짚어봐야 한다.
진 날에는 상처에 소금을 뿌리는 것처럼 쓰라려도 우리는 복기를 한다.
같은 실수를 되풀이 하지 않아야 하니깐. 인생도 마찬가지다.
- 조훈현 국수


“성공하면 그것을 당연한 것으로 받아들이죠.
성공에 질문을 던지는 사람은 없어요. 하지만 실패엔 자기반성이 따릅니다.
무엇이 잘못 되었을까? 내가 무엇을 했어야 했나?
실패는 책임감을 가질 수 있는 기회입니다.
다른 누군가를 탓하지 않고 실패의 원인을 자신에게서 찾아야 합니다.
나는 여러 번 실패했고 거기에서 많은 것을 배웠으며 항상 더 강해져 돌아왔습니다.”
데이비드 포트럭 찰스 스왑 CEO의 고백입니다.

리더가 되기로 선택했을 때
우리는 다른 사람들을 위해 봉사하기로 선택한 것이다.
리더가 된다는 것은
다른 사람들로부터 무언가를 얻는 것이 아니라
다른 사람들이 우리들로부터 무언가를 얻는 것이다.
- James M. Kouzes and Barry Z. Posner, 리더십 챌린지 공동 저자


사람들이 리더를 기억하는 것은 그가 그 자신을 위해 한 일 때문이 아니라
다른 사람들을 위해 한 일 때문입니다.
리더의 지위가 올라갈수록 커지는 것은 권한이 아니라
책임감이라는 것을 제대로 인식하는 것,
그것 하나만으로도 당신의 리더십은 크게 신장될 수 있습니다.

일선에서 일하는 사람들만이 매장에서의 실상을 제대로 알고 있다.
최고 아이디어는 평사원으로부터 나온다.
조직 하부에 까지 책임감을 부여하라.
그리고 그 안에서 아이디어가 솟아나도록 하라.
당신은 동료들이 무슨 말을 하는지 ‘들어야만’ 한다.
- 샘 월튼, 월마트 창업 회장


경영자가 10번을 얘기해야 직원들이 비로소 이해하기 시작하듯이
직원이 10번은 얘기해야 경영자도 비로소 관심을 기울이게 됩니다.
경영자는 많은 정보에 노출되어 있는 반면,
직원들은 경영자에게 좋지 않은 정보를 전달하는 것을 매우 꺼려합니다.
경영자는 직원들의 자그마한 소리를 온전히 듣는 자세로 경청해줘야 합니다.
말을 안하기 시작하는 조직은 죽어가는 조직이라 할 수 있습니다.

직원이 자신의 운명에 대해 좀더 많이 책임감을 느끼기를 바란다면
관리자는 내적 헌신을 이끌어내야 한다.
원칙적으로 내적 헌신은 참여를 전제로 하기 때문에 권한이양과 밀접한 관계가 있다.
직원의 내적 헌신을 원한다면 원대한 목표를 정하고
세부 목표를 수립하며 목표를 성취할 방법을 모색하는 과정에
직원들을 더 많이 참여시켜야 한다.
- 크리스 아지리스, 하버드 대학 교수


일찍이 18세기에 영국 법리학자 윌리엄 앨턴 존스는
‘가장 뛰어난 두뇌의 소유자보다는 동료의 두뇌와 재능을 조화롭게 이용하는 사람이
가장 만족스러운 결과를 얻는다’고 말한 바 있습니다.
동료의 재능을 활용하고 싶다면 오너십을 심어주어야 하고,
이를 위해선 중요한 의사결정에
가능하면 많이 참여할 수 있는 장치를 마련하는 것이 좋습니다.

몸을 단련하고
건강함을 지켜나가는 일은
어떻게 보면 내가 살아가는 동안
나에 대한 책임감이 아닐까 한다.
여러 가지 습관들이 크고 작은 내 삶의 방향을
끌고 가게 되며 지금 나를 만들어가는 것처럼
좋은 습관을 만들어가며 살아야겠다.

- 김재덕의《나는 오늘도 수련하러 갑니다》중에서 -


* 나의 행복을 위해서,
나의 안녕을 바라며 행동하는 많은 것들이 있습니다.
내 주변을 깨끗하게 정리하거나 땀 흘려 운동을 하는 것,
몸에 좋은 음식을 챙겨 먹는 것도 한 방법입니다.
그것들이 내 몸에 배게 하는 것이 중요합니다.  
나를 위해 몸에 밴 좋은 습관이 오늘도
나를 편안히 잠들 수 있게 해줍니다.