Rethinking AI + X

About the roles of AI

우리는 현재 AI가 널리 활용되고 있는 사회에 살고 있다. 이제 막 시작한 분야도 있고, 이미 서비스의 뿌리깊게 AI가 활용되고 있는 분야도 있다. 가장 잘 활용되고 있는 곳은 단연 마케팅이다. 마케팅에서는 고객들의 데이터를 Machine Learning, Deep Learning을 활용해 분석하고 있고, Recommendation System에서도 고객들을 위한 다양한 서비스를 머신러닝 알고리즘을 활용해 추천하고 있다. 반면, 비교적 이제 막 활용하고자 하는 분야도 있다. 대표적으로 의료, 법률이다. 이 분야들의 가장 큰 특징은 Domain Knowledge가 매우 필요한 곳이다. 전문가들이 매우 큰 힘을 가지고 있는 분야이기도 하고 그만큼 전문적 지식을 얻고 활용하기가 어렵고 노력이 많이 들어가 진입장벽이 높다는 말이다. 우리 사회는 이러한 곳에도 AI의 역할을 부여하고자 다양한 노력을 하고 있다.

이따금, 사람들은 AI의 무궁무진한 활약과 뻗쳐가는 가지들에 대해 우려를 표출한다. AI가 일자리를 대체한다 등의 말로 경계심을 드러내기도 한다. 실제로, 우리 사회에서 많은 부분들이 자동화되고 있고 AI를 통해 조금 더 정확한 자동화시스템이 개발되어 일부분을 대체하고 있기도 하다. 비교적 단순 노동자, 라고 할 수 있을진 모르겠지만, 그러한 부분들에 AI가 어떠한 역할을 하고 있는 것은 분명한 듯 하다. 이러한 우려에 대해 AI를 개발하고 활용하고 있는 사람들 입장에서는 AI가 대체할 수 있는 부분이 있고 없는 부분이 있으며, AI가 내 일 전부를 대체하는 것이 아닌 typical works를 대체하고 나는 AI를 다뤄야 하는 부분이 생기는 것이다, 라고 말하고 있다. 두 입장 다 이해가 안되는 것은 아니지만, 확실히 비교적 typical 한 부분들은 AI를 이용해서든 Computer를 이용해서는 대체되고 생산성을 높이고 있고 앞으로 이 것은 계속될 것이라고 생각한다. 다만, 꼭 짚고 가야할 부분들은 있겠다.

각 분야에 대한 관점

각 professional한 분야에 대해서는 AI가 한계가 있으며 AI와 함께 일해야 한다고 대부분 의견을 모으고 있는 듯 하다. 각 분야에 대해 나는 전문적인 지식은 일절 없으나, 이 사회를 살아가고 또 변화에 적응하면서 느끼고 있는 것들을 짚고 적어보고자 한다. 짧은 생각이지만 기록을 함으로써 내 생각을 조금 더 탄탄히 하고자 한다.

금융

생각보다 AI, ML이 가장 많이 활용되고 있다. 정말 critical 할텐데.. 여러 관점도 있고 여러 분야가 있겠지만, 생각나는 부분들을 적어보고자 한다.

1. Interpretable AI or Explainable AI

2. responsible AI

3. MyData, Data 주권

의료

법률

내가 이 글을 시작한 이유이다. 고민하게 된 계기는 크게 두 가지이다. 첫째, 혹자가 질문을 했고, 둘째, 로스쿨을 가려 했었고 나의 역할에 대해 고민하게 되었다.

먼저, 혹자의 질문은 다음과 같았다.

AI 판사가 도입되면 공정하고 좋을거 같아! 어떻게 생각해?

여기엔 사실 여러 가정이 내포되어 있다.

1. fairness 와 bias

   먼저, AI 판사 혹은 변호사는 어떤 데이터로 어떤 과정을 통해 판단(Decision Making)을 하게 될까. 이전 판결문, 현재 재판의 상황소취서, 사회적 분위기 등을 데이터로 받게 될 것이며 대부분 text data일 것이다. 어떤 모델을 통해 학습을 하게 될 것이며 어떠한 판단을 내린다. 이 과정에서 과거 데이터를 사용한다. 과거 데이터로부터 판결을 내린다면, 현재 진행되고 있는 재판이 비슷했던 과거 재판을 가져와 비슷한 판결을 내릴 가능성이 크다. 그렇다면 새로운 경우의 새로운 판결을 내야 한다면? 혹은 사회적 분위기가 바뀜으로써 비슷한 경우이지만 새로운 판결을 내야 한다면? 그 새로운 경우도 incremental learning으로 학습할 수 있을까?

   우선, 데이터에 bias가 포함되어 있다면 우리의 모델은 bias가 포함된 결과를 낼 수 밖에 없다. 선험적 지식이 있지 않은 한, 우리의 모델들은 그런 구조이다. 따라서, 오용하기 가장 쉬운 것이 AI이다. data에 포함된 어떤 bias들을 둔 채로, model 내에서도 inductive bias를 가지고 learning을 한다. 그렇다면 결과도 bias가 내포되어 있다. bias가 있는지도, 없는지도, 어디에 있는지도, 없는지도 모른다. 이 bias에 의해 우리는 이미 AI의 fairness를 잃고 ‘생각보다’ 객관적이지 않고, 뇌물을 찔러받지 않아도 공정하지 않은 구조가 된다.

2. Responsibility of AI

   가장 많이 언급되는 문제점이다.

   AI가 잘못된 판단을 내렸을 때의 책임성은 모델 개발자에 있는 것인가, 활용하고 있는 법조인 혹은 법률전문가에게 있는 것인가. 결국 AI를 보조적 역할로밖에 사용할 수 없다는 것은 바로 이 이유에서 있다. 하물며, 헌법재판소 재판관도 9명인데 AI도 9명 중 하나라 해도 무척 큰 영향력을 가지고 있는 것이다.

3. Democratic AI

   내가 가장 중요하게 생각하고 있는 부분이다.

   Democratic AI는 보통 Google에서 AutoML을 만들면서 한 말이다. 세상 모든 사람들이 AI를 쉽게 이용할 수 있게 하겠다! 라는 의미에서 Democracy인 것이다. 나는 그 의미에서 말하고 있는 것은 아니다.

   다시, Democracy.

   적어도 우리는 Democratic 사회를 채택하고 있는 나라에 살고 있고 나도 자유민주주의가 (현재로써는) 가장 옳다고 생각한다. 그러니까, 더 좋은 사회 형태가 있을 순 있지만 뭔진 모르겠고 일단 좋다! 라는 의미. 아, 난 정말 잘 모르는데 잘 알지도 못하면서 글을 쓰는 것일 수도 있다. 그런 사회에서 법이라는 것을 다시 생각해보자. 공포된 법은 명확하고 엄격한 구속력을 가지는 데에 비해 법은 사회와 국민에 의해 수정될 수는 있다. 법이 바뀌지 않고 딱딱하게 옳고 그름만을 판단할 수 있는 부분이 있다면, AI가 잘 할수는 있겠다. 단순 계약서 오류 분석 정도. 다만, 우리는 적어도 그러한 사회에 살고 있지 않다고 생각한다. 사회적 분위기는 계속해서 바뀔 수 있고 그에 따라 헌법이 수정되고 하위 법 조항들이 수정되고 추가되고 제거되며, 정책에 따라 또한 세부 규정들이 개정된다. AI는 그러한 경직된 사회 속에 살아간다. 어떠한 (ground) truth 속에서 다양한 관계들을 주어진 범위 내의 모델에서 잠재적 관계를 파악해 Decision making을 한다. 다시 말해, 적어도 지금 우리 사회에, 혹은 내가 생각하는 우리 사회에, ground truth는 없다, 있다 해도 일시적이며 수정될 수 있다. 우리가 생각하는 “truth”에 변화를 주는 주체는 국민이라는 말이다. 그러니까, AI는 truth가 뭔지 사회적, 정치적, 경제적, 철학적 질문을 내지 못하고, 결국 한정적 부분에서의 역할만을 가질 것이라는 말이다.

   나의 짧은 생각에서 나오는 말들인데 글로 적는게 이렇게 힘들다니 ㅠㅠ

   결론적으로, 우리는 AI와 함께 살아가고 있다. 누구도 대체되지 않으며 AI가 세상을 지배하진 않는다. 다만, 언제나 그랬듯 paradigm은 바뀌고 시간은 흐르며 누군가는 재밌는 것들을 발명하고 발견하고 발전시킨다. AI의 역할과 나의 역할, 그리고 변화를 맞이하고자 하는 우리 사회의 역할을 계속해서 고민해야 한다.

** 제가 이 사회의 곁두리에서 짧게나마 공부하며 느낀 점들인데, 이견이나 추가 의견이 있다면 언제든지 환영입니다. **

초고 2020.11.13