[AI] “인공지능 규제? 상시적 영향평가 필요해”

[AI] “인공지능 규제? 상시적 영향평가 필요해”

http://www.bloter.net/archives/289201

AI 규제를 논하기 위해선 AI에 규제가 필요한 이유가 설명돼야 한다. 심우민 교수는 ‘알고리즘 기반 규제’로 이를 설명했다. 알고리즘 기반 규제는 기술적 구조가 인간 행위, 인간 자유에 제약을 가하는 것을 뜻한다. 기술은 편리를 제공해 인간 행위의 자유를 증진하는 동시에 기술적 구조 안에서만 판단하고 행동하도록 제약하기 때문이다.

예를 들어, 미국 법원은 피고인의 재범 가능성을 추측하는 컴퓨터 프로그램을 사용한다. 과거 재범 가능성을 예측하는 것은 인간의 영역이었다. 그런데 이제는 알고리즘의 영역으로 넘어간 것이다. 판사는 알고리즘이 추측한 재범 가능성을 바탕으로 피고인의 형량, 보석금 액수 등을 결정한다. 결과적으로 판사의 판단이 알고리즘의 제약을 받게 된 것이다.

심우민 교수는 국가가 법을 통해 AI 규제에 개입하는 건 되도록 자제해야 한다는 입장이다. 국가가 인허가 혹은 행위규제 방식으로 AI 산업을 규제하면 당연한 순리로 자율성이 저하된다. 엔지니어도 폭발적인 아이디어를 내기 어렵다. 심 교수는 또 “사람들이 우려하는 인간 수준의 AI는 아직 세상 어느 곳에도 없다”라며 직접적 법적 규제는 현 단계에서 논의할 수준이 아니라고 말했다.

심 교수는 ‘상시적 영향평가’라는 규제 방식을 제시했다. 그는 “반드시 무언가를 ‘하지 말라’라고 하는 것만이 규제가 아니다”라며 “지속해서 추적 평가하는 것도 법적 규제의 한 방식”이라고 말했다. 심 교수는 구글, 페이스북 등 유수 기업이 자발적으로 AI 기술 윤리위원회를 만들어 운영하는 사례를 들며 “한계는 있지만, 사업자들이 스스로 윤리위원회를 구성해 자발적 성찰을 하도록 하는 게 바람직하다”라고 말했다.

물론 기업의 손에 전적으로 인류와 AI의 미래를 맡기자는 게 아니다. 

AI 기술에 대한 상시적 추적 평가는 국가적 차원에서 필요하다. 

심 교수는 국가적 차원의 관리감독 기관이 AI 기술에 대한 상시적이고 실질적인 영향평가를 해야 한다고 말했다.

...