AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI)
•
2 recomendaciones•5,146 vistas
KERIS 학술정보 글로벌 동향 2019년 Vol.10 인공지능 기술이 학술연구, 의료 등 전문분야를 넘어 일상생활로 파고들면서 인공지능의 오류에 대한 우려 또한 함께 증가하고 있음. 흔히 인공지능 블랙 박스로 부르는 이런 문제점들과 이를 해결하기 위한 대안으로 설명 가능한 인공지능에 대해 살펴보고 학술연구, 도서관에서의 활용성을 검토함
![1
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI)
1
인공지능 기술이 학술연구, 의료 등 전문분야를 넘어 일상생활로 파고들면서 인공지능의 오류에
대한 우려 또한 함께 증가하고 있음. 흔히 인공지능 블랙 박스로 부르는 이런 문제점들과 이를
해결하기 위한 대안으로 설명 가능한 인공지능에 대해 살펴보고 학술연구, 도서관에서의
활용성을 검토함
1. 배경
1) 알파고(AlphaGo)가 가져온 기대와 우려
우리에게는 이세돌 9단과의 대결로 엄청난 흥행과 관심을 유발한 기계와 사람간의 게임을
매개로 한 대결은 최근의 일은 아님
이미 1996년 IBM의 체스 게임 기계 딥 블루(Deep Blue)는 세계 체스 챔피언 가리 카스
파로프(Га́рри Ки́мович Каспа́ров)를 상대로 승리한 바 있음
이 대결의 최종 결과는 카스파로프의 승리였지만 최초로 인간을 이긴 기계로 기록되었고,
이후 딥 블루는 1997년 디퍼 블루(Deeper Blue)라는 이름으로 재대결에서 최종 승리를
거둠
같은 해 로지스텔로(Logistello)는 오델로 세계 챔피언 무라카미 타케시(Murakami
Takeshi)와 대결에서 6전 전승으로 승리함
2011년 IBM은 자연어 처리가 가능한 인공지능 시스템 왓슨(Watson)으로 퀴즈쇼
제퍼디(Jeopardy)에서 승리함
그러나 바둑처럼 복잡한 게임에서 기계가 인간을 이기는 것은 좀 더 오랜 시간이 걸린다는
예측이 대부분이었으며, 과학계의 다양한 전문가들도 이세돌과 알파고의 대결에서 이세돌의
우세를 점쳤음1)
1) 이세돌-알파고 ‘반상대결’ 과학계도 예측 엇갈려. 2016. 3. 6.『한겨레』.
<http://www.hani.co.kr/arti/science/science_general/733490.html> [online][cited 2019.07.20.]](https://image.slidesharecdn.com/2019reportvol10-190930054606/85/AI-XAI-eXplainable-AI-1-320.jpg)
![2
2019학술정보 글로벌 동향
결과적으로 2016년 3월 9일부터 15일까지의 5회 대결에서 알파고는 이세돌과의 대결에서
4:1 승리를 가져갔고 일반 대중의 인공지능에 대한 관심과 우려가 증폭하는 계기로 작용함
알파고는 딥 블루, 왓슨과 다르게 인공지능이 보다 일반적인 상황 즉 일상생활로 파고들고
있다는 증거로 볼 수 있음2)
이 후 국내외에서 인공지능의 발전에 대한 관심이 지속적으로 증가했으며, 부작용에 대한
부정적 시선과 우려 또한 증가함
<그림 1>은 Google Trends에서 XAI 키워드에 대한 관심도 변화를 추적한 것임
[그림 1] Google Trends로 확인한 XAI에 대한 관심도 변화
Google Trends에서의 데이터 수집 방식 변경이 2016년에 있었다는 점을 감안하더라도
2016년 이후 XAI에 대한 관심도 변화가 꾸준히 증가하고 있음을 확인할 수 있으며, 앞서
언급처럼 학술적인 영역을 넘어서 일반 시민과 일상생활로 AI가 확대하면서 관심도가 더욱
높아지고 있음을 짐작할 수 있음
2) 인공지능(Artificial Intelligence, AI)의 시작과 도약
인공지능의 구현 가능성과 아이디어는 본격적인 컴퓨터 장치가 개발 보급되기 전인 1950년
영국 수학자 앨런 튜링(Alan Mathison Turing)이 시작함3)
앨런 튜링은 1950년 ‘계산 기계와 지성(Computing Machinery and Intelligence)’에서
컴퓨터의 지능 여부를 판단하기 위한 시험 방법을 제안했는데 이것이 오늘날 잘 알려진
튜링 테스트임
2) AlphaGo: Google's artificial intelligence to take on world champion of ancient Chinese board game.
2016. 『Australian Broadcasting Corporation』. 3월 9일.
<https://www.abc.net.au/news/2016-03-08/google-artificial-intelligence-to-face-board-game-champion/7231192>.
[online][cited 2019.07.20.]
3) Lass｀egue, Jean. 2003. Turing. 임기대 옮김. 2003. 『튜링: 인공지능 창시자』. 서울: 東文選.](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Recomendados
Más contenido relacionado
La actualidad más candente
La actualidad más candente (20)
Similar a AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI)
Similar a AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI) (20)
Más de Hansung University
Más de Hansung University (20)
AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI)
- 1. 1 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI) 1 인공지능 기술이 학술연구, 의료 등 전문분야를 넘어 일상생활로 파고들면서 인공지능의 오류에 대한 우려 또한 함께 증가하고 있음. 흔히 인공지능 블랙 박스로 부르는 이런 문제점들과 이를 해결하기 위한 대안으로 설명 가능한 인공지능에 대해 살펴보고 학술연구, 도서관에서의 활용성을 검토함 1. 배경 1) 알파고(AlphaGo)가 가져온 기대와 우려 우리에게는 이세돌 9단과의 대결로 엄청난 흥행과 관심을 유발한 기계와 사람간의 게임을 매개로 한 대결은 최근의 일은 아님 이미 1996년 IBM의 체스 게임 기계 딥 블루(Deep Blue)는 세계 체스 챔피언 가리 카스 파로프(Га́рри Ки́мович Каспа́ров)를 상대로 승리한 바 있음 이 대결의 최종 결과는 카스파로프의 승리였지만 최초로 인간을 이긴 기계로 기록되었고, 이후 딥 블루는 1997년 디퍼 블루(Deeper Blue)라는 이름으로 재대결에서 최종 승리를 거둠 같은 해 로지스텔로(Logistello)는 오델로 세계 챔피언 무라카미 타케시(Murakami Takeshi)와 대결에서 6전 전승으로 승리함 2011년 IBM은 자연어 처리가 가능한 인공지능 시스템 왓슨(Watson)으로 퀴즈쇼 제퍼디(Jeopardy)에서 승리함 그러나 바둑처럼 복잡한 게임에서 기계가 인간을 이기는 것은 좀 더 오랜 시간이 걸린다는 예측이 대부분이었으며, 과학계의 다양한 전문가들도 이세돌과 알파고의 대결에서 이세돌의 우세를 점쳤음1) 1) 이세돌-알파고 ‘반상대결’ 과학계도 예측 엇갈려. 2016. 3. 6.『한겨레』. <http://www.hani.co.kr/arti/science/science_general/733490.html> [online][cited 2019.07.20.]
- 2. 2 2019학술정보 글로벌 동향 결과적으로 2016년 3월 9일부터 15일까지의 5회 대결에서 알파고는 이세돌과의 대결에서 4:1 승리를 가져갔고 일반 대중의 인공지능에 대한 관심과 우려가 증폭하는 계기로 작용함 알파고는 딥 블루, 왓슨과 다르게 인공지능이 보다 일반적인 상황 즉 일상생활로 파고들고 있다는 증거로 볼 수 있음2) 이 후 국내외에서 인공지능의 발전에 대한 관심이 지속적으로 증가했으며, 부작용에 대한 부정적 시선과 우려 또한 증가함 <그림 1>은 Google Trends에서 XAI 키워드에 대한 관심도 변화를 추적한 것임 [그림 1] Google Trends로 확인한 XAI에 대한 관심도 변화 Google Trends에서의 데이터 수집 방식 변경이 2016년에 있었다는 점을 감안하더라도 2016년 이후 XAI에 대한 관심도 변화가 꾸준히 증가하고 있음을 확인할 수 있으며, 앞서 언급처럼 학술적인 영역을 넘어서 일반 시민과 일상생활로 AI가 확대하면서 관심도가 더욱 높아지고 있음을 짐작할 수 있음 2) 인공지능(Artificial Intelligence, AI)의 시작과 도약 인공지능의 구현 가능성과 아이디어는 본격적인 컴퓨터 장치가 개발 보급되기 전인 1950년 영국 수학자 앨런 튜링(Alan Mathison Turing)이 시작함3) 앨런 튜링은 1950년 ‘계산 기계와 지성(Computing Machinery and Intelligence)’에서 컴퓨터의 지능 여부를 판단하기 위한 시험 방법을 제안했는데 이것이 오늘날 잘 알려진 튜링 테스트임 2) AlphaGo: Google's artificial intelligence to take on world champion of ancient Chinese board game. 2016. 『Australian Broadcasting Corporation』. 3월 9일. <https://www.abc.net.au/news/2016-03-08/google-artificial-intelligence-to-face-board-game-champion/7231192>. [online][cited 2019.07.20.] 3) Lass｀egue, Jean. 2003. Turing. 임기대 옮김. 2003. 『튜링: 인공지능 창시자』. 서울: 東文選.
- 3. 3 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 앨런 튜링은 이 논문에서 시험 방법 외에 지능 기계의 개발 가능성과 학습하는 기계에 대해서도 함께 기술하여 일반적으로 앨런 튜링을 인공지능의 시초로 봄 1950년 이후 2000년까지 인공지능을 구현하기 위한 다양한 노력으로 새로운 알고리즘, 이론들이 등장했지만 사람들의 기대를 충족시키기에는 부족했음 - 오늘날 인공지능의 핵심을 이루는 퍼셉트론(Perceptron: 인공신경망 1958년 등장), 데이터 마이닝(1970년대 이후), 전문가 시스템(Expert System: 지식베이스와 추론을 근간으로 한 시스템) 등이 비교적 초기에 등장했으나 최근에 빛을 보고 있음 2000년 이후 웹의 구조화와 다양한 오픈 데이터(open data)의 양이 증가하고 기계 학습은 물론 기계 독해력(Machine Reading Comprehension)이 가능한 데이터의 증가로 인공지능 기술을 활용한 다양한 응용서비스가 등장함 기계독해는 기계가 주어진 문서를 읽고 그와 관련된 질문을 할 경우 정답을 찾아 답해주는 시스템에 활용하는데 대표적인 데이터셋이 스탠포드 대학의 SQuAD임 [그림 2] SQuAD 홈페이지(출처: https://rajpurkar.github.io/SQuAD-explorer/explore/v2.0/dev/) - SQuAD는 위키피디아 문서를 기반으로 질의, 응답, 해당 문장을 함께 데이터로 제공 - 학습용 데이터용 활용 가능(질문-정답-정답 단락의 트리플 구조)
- 4. 4 2019학술정보 글로벌 동향 국내의 경우도 인공지능 학습을 위한 학습용 한글 데이터셋 구축이 이루어지고 있음 [그림 3] AIHUB(출처: http://www.aihub.or.kr/) - AI Chatbot, 안면인식 등 지능형 서비스 구현에 필요한 지식베이스와 기계학습용 데이터를 제공함 - 법률, 특허, 관광, 농업, 일반상식, 이미지, 헬스케어별 지식베이스와 학습용 데이터를 제공함 - 지식베이스는 온톨로지로 제공하며 관련 데이터는 RDF 형태를 유지함 현재는 인공지능 스피커, 자율주행 자동차, 챗봇(Chat Bot) 등 다양한 서비스가 등장하면서 본격적인 AI 시대를 맞이하고 있음 2. 현황 인공지능의 오류 사례 마이크로소프트의 인공지능 챗봇 테이(Tay) - 2016년 3월 트위터(twitter)로 서비스를 시작했으나 인종차별, 성차별, 히틀러 옹호, 혐오와 폭력 발언으로 문제를 일으켜 24시간 만에 운영을 중단하여 현재(2019년 7월)까지 서비스를 재개하지 못하고 있음 - 같은 해 12월 마이크로소프트는 매시징 앱 킥(KiK)에서 사용가능한 새 인공지능 챗봇 조(Zo)를 발표했으나 정치 등 민감한 주제에 대해서는 응답하지 않도록 제한하였음 마이크로소프트의 사례는 가장 일반적이고 활발하게 사용하고 있는 인공지능 챗봇에 관한 것이며, 그 외 다양한 분야에서 오류와 원인이 밝혀지고 있음 <표 1>은 다양한 사례를 소개하고 있는 The Science Times4)의 기사를 요약한 것임
- 5. 5 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 구분 사례 원인 범죄 2013년~2014년 미국 플로리다주 브로워드 카운티(Broward County) 약 18,000명의 범죄자를 중심으로 향후 2년 내 재발 가능성을 확인하기 위한 범죄 예측 알고리즘 분석 그 결과 흑인이 백인보다 45% 높게 범죄 재발 가능성이 높음을 파악 그러나 동일 기간 내 실제 데이터 분석결과 백인의 재범율이 흑인 보다 높음 인간이 가진 인종차별의 편견이 컴퓨터 알고리즘에 영향 드론 (무인기사고) 영국 히스로공항에서 착륙하던 항공기와 드론으로 보이는 물체가 충돌 미국 매사추세츠 주에서는 드론이 오작동해 인근 건물과 충돌하고 인명 피해 발생 일본 총리 관저 옥상에서 미량의 방사성 물질이 든 드론 발견 오류, 오작동 로봇 미국 캘리포니아 쇼핑몰에서 순찰 중이던 나이트스코프사의 로봇 ‘K5’는 16개월 아기를 들이 받음 중동 예멘에서 무인기에 탑재한 인공지능 프로그램이 오작동을 일으켜 결혼식장을 향하던 차량을 공격해 10여 명이 사망하는 대형 사고 발생 오류, 오작동 금융 2010년 인공지능이 특정한 매도 거래에 과도하게 개입하는 오류가 발생해 다우존스 지수가 1분 만에 998.5포인트가 급락(당시 손실액은 1조 달러) 2012년 미국 뉴욕 초단타 매매에서 인공지능시스템 오류 발생으로 440만 달러 손실 발생 오류, 오작동 <표 1> 다양한 분야에서의 인공지능 오류 유럽연합의 일반 개인정보 보호법 기술발전과 문제점들이 계속 등장하면 이에 대처하기 위한 기술적 조치도 필요하지만 사회적 안전장치인 법, 제도 측면에서의 규정도 필요함 발 빠르게 대처한 곳이 유럽연합으로 2018년 5월 25일 일반 개인정보 보호법(General Data Protection Regulation, GDPR)을 시행하였음 - 이는 인공지능의 오류로 발생하는 문제는 인간의 기본권을 침해할 소지가 있다는 배경을 갖고 있음 - 특히, 기계학습, 딥 러닝 기술을 활용해 특정 개인의 정보를 취합하여 예측, 추론하는 과정에서 특정 개인이나 집단 정보를 활용해 프로파일링(profiling)을 구현하는 것 자체가 기본권을 침해한다고 보고 있음 - 오늘날 다양한 서비스에서 추천 등의 형태로 우리에게 전달하는 정보는 개인의 선호, 관심사, 신용도, 위치 등의 수집하여 분석한 결과임 - GDPR 22조는 ‘프로파일링을 포함한 자동화된 의사결정’을 다루고 있는데, 알고리즘에 의한 자동화된 결정 대신 인간이 개입할 권리를 기술하고 있음 4) 인공지능 오작동, 새로운 위험. 2019. 『The Science Times』. 7월 1일. [online][cited 2019.07.01.] <https://bit.ly/2XMXG5C>
- 6. 6 2019학술정보 글로벌 동향 인공지능 블랙 박스(AI Black Box) 블랙 박스는 컴퓨팅, 엔지니어링 및 일반적인 과학분야에서 내부 구조를 구분하는 다양한 방식 중 하나임5) - 보통 블랙 박스(black box), 화이트 박스(white box), 회색 박스(grey box)로 구분 하는데 블랙 박스는 내부 설계, 구조에 대한 정보를 알 수가 없는 다시 말해 비공개를 의미 하며, 화이트 박스는 완전히 노출한 것을 의미함 인공지능 분야에서 블랙 박스는 시스템이 내놓은 답변이나 결론의 과정 혹은 방법에 대해 적절한 설명이 없을 경우를 말함 - 특히 인공지능 분야 중 딥러닝(Deep Learning)이 발전하면서 은닉층(hidden layer)의 복잡한 구조, 다시 말해 학습 신경망 내의 수많은 관계와 연결을 사람이 이해하거나 추적 하는 것은 거의 불가능함 - 인공지능 블랙 박스는 다른 말로 불투명성이라고도 하는데 인공지능이 결정을 추론하는 방법과 과정을 이용자는 물론 개발, 설계자조차 알 수 없는 경우를 의미함 - 의사결정 방식과 과정을 모른다는 것은 향후 발생할 수 있는 실패의 가능성이 커지거나 실패 확률은 적더라도 그로 인해 발생하는 피해가 막대할 수 있는 점에서 위험성이 큼 - 또한 누군가 악의적으로 알고리즘을 조작하거나 특정 사안에 대해 편향성을 보일 경우 인공지능 기술 자체에 대한 신뢰도 문제로 이어질 수 있음 블랙 박스가 모든 인공지능 관련 문제의 원인은 아니지만 결과에 대한 과정, 이유를 알 수 없다는 점에서 가장 주목해야하는 원인 중 하나임 인공지능을 구현하기 위해서는 다양한 기술적 요소들과 데이터가 필요함 - 서두에 언급한 것처럼 70∼80년대 전문가 시스템은 운영에 필요한 데이터에 해당하는 지식베이스와 결과 도출이 가능한 추론 엔진과 추론 알고리즘, 언어 등이 필요함 - 전문가 시스템 발전이 지속적으로 이어지지 못한 것은 데이터와 기술 기반의 미성숙에도 기인하지만 기계가 제시한 답변에 대한 이해의 어려움도 존재함 - ‘설명 가능한 인공지능(Explainable AI, XAI)’에 대한 논의는 이때부터이지만 본격적인 방법 제시와 필요성은 최근 다양한 서비스가 등장하면서 부터이며 인터넷의 핵심 기술은 개발한 미국 국방성의 연구개발부서 DARPA(Defense Advanced Research Projects Agency)가 주도하고 있음 5) Suman, R. R., Mall, R., Sukumaran, S., & Satpathy, M. (2010). Extracting State Models for Black-Box Software Components. Journal of Object Technology, 9(3), 79-103.
- 7. 7 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 3. 주요 내용 인공지능에 활용하기 적합한 데이터의 양적 증대와 기술적 진보가 이룬 성과는 대단하지만 여전히 이용자인 사람은 왜, 어떻게, 언제 문제가 발생하는지 정확한 파악이 어려움 인공지능의 성공에 결정적인 역할을 한 것은 기계학습, 특히 딥 러닝(Deep Learning)의 성공에 있다고 볼 수 있음 대표적인 사례가 구글의 알파고(AlphaGo)로 알파고는 기보 학습을 넘어 스스로 학습할 수 있는 단계까지 진보하였음 ※ 초기 AlphaGo는 바둑 기보를 학습한 인공지능 모델이며 가장 최근 버전인 AlphaZero는 AlphaGo Zero 인공지능과 대결을 통해 스스로 학습한 인공지능임 그러나 바둑과 같은 게임과 달리 일상생활에 인공지능을 적용하기에는 인공지능 시스템의 의사결정을 설명할 수 없는 시스템이 갖는 문제점을 보완할 필요가 있음 즉, 인간과 공생하기 위해서는 인공지능을 신뢰할 수 있어야하며 현재 제시하는 설명할 수 있는 인공지능을 통해 어떤 방법으로 왜 결과를 도출했는지를 인간이 알고 이해할 수 있는 과정이 필요함 XAI에 가장 대표적인 문서는 DARPA의 프로젝트 보고서 「Explainable Artificial Intelligence (XAI)」임 현재의 AI는 자신이 출력한 결과물에 대한 근거, 다른 가능성에 대한 제시, 성공 혹은 실패한 이유와 경과, 결과에 대한 신뢰성, 오류 수정 방법을 제시할 수 없음 반면 XAI는 새로운 기계학습 프로세스, 설명모델과 사람과 소통이 가능한 설명 인터페이스를 사용함으로써 사람이 과정, 이유, 실패 원인, 오류 원인 등을 이해할 수 있도록 함 <그림 4>는 ‘고양이 사진’을 예로 현재의 AI와 XAI가 어떤 차이가 있는지를 보여줌
- 8. 8 2019학술정보 글로벌 동향 [그림 4] XAI 개념 설명 (출처: Gurnning(2017)6)) - <그림 4>에서 보는 것처럼 현재의 AI는 학습용 데이터(Training Data)를 학습 프로세스에 맞추어 분석하여 결과는 이용자에게 전달하는 구조를 가지고 있음 - 학습을 마친 AI는 분석 대상 객체가 주어지면 ①과 같이 학습된 기능(기계학습, 딥 러닝)을 통해서 결과 값을 이용자에게 전달함 - 현재의 AI는 고양이 그림을 대상 객체로 입력했을 때 ②와 같이 유의확률(p-value)을 계산하여 결과 값을 이용자에게 전달하는데 위의 그림에서는 해당 객체가 유의 확률 ‘0.93’의 ‘고양이’임을 사람에게 결과 값으로 제시함 - 그러나 사람은 ③과 같이 왜 AI가 이런 결과를 도출했는지에 대한 근거는 물론 성공과 실패가 언제 발생한 것인지와 오류 원인에 대한 파악이 불가능함 - 결과적으로 현재의 AI는 문제가 발생했을 경우 인간이 이에 대한 대처와 개선 원인을 알 수 없고 프로세스를 수정하는데 막대한 시간과 비용을 소모해야 함 - 반면 XAI가 추구하는 바는 ⑥과 같이 AI가 왜 해당 객체를 ‘고양이’이로 제시했는지에 대한 이유 성공과 실패가 발행한 시점과 오류 원인 파악이 가능함 - 이는 ④와 같이 기존의 학습된 기능 즉, 기계학습과 딥 러닝 알고리즘을 개선함으로써 가능함 6) Gunning, D. (2017). Explainable artificial intelligence (xai). Defense Advanced Research Projects Agency (DARPA), nd Web.
- 9. 9 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 - 여기에 ⑤와 같이 단순히 계산 결과값을 보여주는 것이 아니라 인간이 즉시 이해하고 해석할 수 있는 설명 인터페이스(explanation interface)을 추가함으로써 기존의 문제점을 개선하고자 함 DARPA의 1차 목표는 2021년까지 AI 블랙 박스의 내부를 사람이 확인할 수 있는 설명 모델과 인터페이스 프로그램을 개발하는 데 있음 - DARPA는 높은 수준의 예측 정확도를 유지하면서 설명 가능한 모델을 만드는 것임 - 또한 사람이 인공지능의 결정사항을 이해하고 결과를 믿을 수 있어 효율적인 업무를 수행할 수 있도록 하는 것임 기술관점에서 DARPA의 개발 영역을 구체적으로 살펴보면 <그림 5>와 같음 [그림 5] XAI 프로그램의 구조 (출처: Gurnning(2017)) - 첫 번째 XAI 개발영역은 데이터 분석(data analytics)으로 멀티미디어 데이터의 유형을 구분하는 것이 목적임 ※ XAI는 미국 국방부에 속하는 프로젝트로 데이터 분석은 구체적으로 기계학습으로 기밀정보를 분석하고 데이터 분석가들이 보다 신뢰성 있는 분석이 가능하도록 데이터 간의 관계, 연관성, 추론 과정을 이해할 수 있도록 하는데 중점을 둠 - 두 번째 XAI 개발영역은 자율시스템(autonomy)으로 인공지능 강화학습(reinforcement) 으로 인간의 개입 없는 무인시스템에서의 의사결정 과정과 내용을 인간이 이해할 수 있도록 하는데 목적을 두고 있음 - 위의 두 가지 문제는 설명 가능한 학습자(explainable learners)와 심리학적 설명 모델 구축(psychological model of explanation)으로 구현 가능함 ※ 설명 가능한 학습자는 설명 가능한 모델과 설명 인터페이스를 모두 포함하는 프로토타입의 설명 가능한 학습 시스템을 개발하는 것이 최종 목적임
- 10. 10 2019학술정보 글로벌 동향 ※ 심리학적 설명 모델은 설명 심리학 이론을 요약하고 그 이론을 실현할 수 있는 기계처리가 가능한 모델을 개발하는 것이 최종 목적임 국내의 경우도 2018년부터 울산과학기술원을 중심으로 XAI 연구가 진행 중에 있으며 중점적 으로 추진하고 있는 기술은 다음의 네 가지임7)) 설명 가능한 인과관계 학습 추론 기술 - 딥 러닝에서 입력 데이터의 특징들 간 상관관계 및 인과관계를 규명하여 딥러닝 모델이 제시하는 예측 결과의 이유를 파악할 수 있도록 하는 기술 - 인공지능 모델이 잘못 학습된 경우 사용자가 피드백을 주어 수정하도록 하는 능동학습 기술을 적용하여 상호작용을 통해 점진적으로 학습하는 모델 개발 설명 가능한 원샷/제로샷 학습 모듈 - 설명 가능한 원샷(One-shot)/제로샷(Zero-shot) 학습 모듈은 적은 양의 데이터, 또는 학습 과정에서 경험하지 못한 입력 데이터에 대해 클래스 예측이 가능한 학습 모듈 - 데이터가 절대적으로 부족한 의료 등과 같은 분야에 인공지능을 적용하기 위한 필수 기술 의사결정의 이유 제시를 위한 설명 가능한 인터페이스 - XAI 과제는 인공지능의 의사결정에 대한 이유를 시각 및 언어적 설명으로 제시하는 인터페이스를 개발함 - 구체적으로 시계열 데이터를 설명하는 모델을 개발하고 그에 대한 설명을 자연어로 제시하여 자동으로 보고서를 작성하는 기술, 심층 학습 특징의 시각적 해석이 가능한 입력 시각화 기술 등이 있음 의료 및 금융 분야에 실제로 적용할 수 있는 모듈 - XAI 과제의 최종 목표인 산업분야 실적용을 위하여 의료에서는 설명 가능한 인공지능 모델과 원샷/제로샷 학습을 이용하여 중환자실의 중요 항목을 예측할 수 있는 모듈 개발 - 금융에서는 각종 금융 데이터를 바탕으로 분석 및 예측 결과뿐만 아니라 실제 금융 거래에 참고할 수 있는 근거자료를 자동으로 작성하는 기술 개발 현재의 인공지능 문제를 해결하기 위한 인간의 개입을 강조하는 노력은 XAI가 대표적이고 가장 최근의 노력이지만 이전에도 다양한 시도들이 있었음 엘론 머스크(Elon Musk)는 인공지능 연구기관인 Open AI를 2015년 10월 설립함 7) 지능정보산업협회 2017. 의사결정 이유를 설명할 수 있는 인공지능, XAI. AI 동행 프로젝트. 서울: 인공지능 국가 전략프로젝트 사업단, 지능정보산업협회
- 11. 11 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 - Open AI는 인간에 좀 더 친화적인 인공지능을 개발하고 관련 특허와 연구를 모두 공개하여 자유롭게 협업하는 것을 목적으로 함8) - 이는 언젠가 진보적인 인공지능이 스스로를 재설계할 능력을 갖게 되면 인류 종말이 올 수 있다는 위험성에 근거하고 있음 루이스 로젠버그(Louis Rosenberg)는 ‘인간과 이해를 공유하지 않는 일종의 외계 지능’이 아닌, 알고리즘을 통해 인간 지성을 확장함으로써 ‘일반적인 인간 그룹을 고도의 전문 지성으로 변모시킬 수 있는 인공 지능’을 제안함(Greg Freiherr 2015)9) - 이러한 접근법을 ‘집단 AI(swarm AI)’로 불리며, 의사결정 과정에 반드시 인간이 개입 해야하고 인간이 빠지면 인공지능 자체가 동작을 멈추도록 구성함 XAI 등장한 이후 관련 기술 선점을 위한 다양한 연구, 특허 개발과 등록이 이어지고 있는데 윤태승(2018)10)은 XAI 관련 특허 동향 분석에서 기술 분류별 분포와 국가별 출원 현황을 제시한 바 있음 [그림 6] XAI 기술의 분야별, 국가별 특허 동향 - 전체 특허 중 네트워크 구조에 관한 특허가 54%를 차지하며, 미국 특허가 38%, 중국 특허가 22%, 국제출원이 21%를 차지하고 있어, 미국과 중국 시장을 중심으로 발전하고 있음을 알 수 있음 - <그림 7>의 연도별 출원 현황과 국적별 분포를 살펴보면, 미국, 중국, 국제출원, 한국, 일본 등 주요 국가에서 모두 2012년 이후 특허 출원이 급증하는 추세를 보이고 있음 - <그림 8>은 출원인별 출원 현황을 보여주는데 마이크로소프트, 구글, IBM, FACEBOOK 등 글로벌 정보통신 기업이 강세를 보이고 있음 8) Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI. 2015. 『BBC』. 12월 12일. [online][cited 2019.07.01.] <https://www.bbc.com/news/technology-35082344> 9) 인공지능에의 안전한 접근법, ‘집단 AI’에 쏠리는 관심. 2015. 『CIO Korea』. 12월 24일. [online][cited 2019.07.01.] <http://www.ciokorea.com/tags/18283/집단+AI/27917> 10) 윤태승. 2018. 설명 가능한 AI 기술을 포함한 인공지능의 IP-R&D 전략. 『주간기술동향』.
- 12. 12 2019학술정보 글로벌 동향 [그림 7] XAI 기술의 연도별 출원 현황과 국적별 분포 [그림 8] XAI 기술의 출원인별 출원현황
- 13. 13 Vol.10. IT 기반 분야 지 능 정 보 기 술 기 반 서 비 스 데 이 터 기 반 학 술 서 비 스 4. 시사점 ‘기술 중심 문제해결 방식’을 벗어난 ‘인간 중심의 문제해결’ 필요 인공지능 기술이 비약적으로 발전하면서 이 기술이 가져올 역기능에 대한 우려도 늘어나고 있음 대표적인 역기능이 일자리 감소로 미래학자들은 로봇 즉 기계에 의한 정치까지 언급하고 있으며 다보스 포럼에서는 500만개 이상의 일자리 소멸과 감소를 예측하기도 함 XAI와 같은 연구개발이 보여주는 바는 인공지능 기술을 인간을 대체하기 위한 기술로 접근하는 것이 아니라 인간에게 도움을 줄 수 있는 보조도구라는 인식임 - 인공지능이 제시하는 의견은 인간이 참고할 수 있는 다양한 참고 정보 중 하나로 최종 의사결정은 인간이 해야 함 - 특히 전문분야(법률, 군사, 의료, 지식관리 등)의 영역으로 들어갈수록 인간의 개입이 필수적임 - 인공지능이 발전할수록 이를 판단하고 조정할 수 있는 분야 전문가, 실무자의 역량이 중요함 - 인공지능이 인간을 대체한다는 기술적 접근보다는 인간이 인공지능 기술을 이해하고 주체로서 판단할 수 있는 능력을 키워야할 필요가 있음 - 분야 전문가, 실무자는 자신의 분야에 좀 더 전문성을 갖추어야하고 인공지능 기술에 대한 이해가 필요함 ‘인공지능 기술’이 가져올 ‘사회전반의 대처’ 필요 새로운 기술이 등장했을 때 일반적으로 우리가 접근하던 방식은 ‘이 기술을 어떻게 쓸 것인가?’, ‘신 기술이니 반드시 사용하고 무엇인가 만들어내야 한다’, ‘우리가 먼저 사용 하고 만드는 것이 앞서가는 것이다’와 같은 것들이었음 인공지능에 대한 우려와 XAI의 등장은 ‘도구로써의 기술’이 인간의 영역이었던 ‘사고’ 영역으로 인식되면서임 이제는 기술의 선 도입보다는 기술이 가져올 파급력과 변화를 예상하고 법/제도, 교육과 같은 다양한 관점과 시각에서 사회전반의 대처가 필요함 정보, 지식에 대한 ‘기술교육’과 ‘인문학’교육의 조화 필요 인공지능 기술은 결국 인간에 의해서 만들어진 것임 기술의 한계와 문제점은 인간의 사고 체계, 방식과 관련이 있는 것으로 현재 인간의 사고 체계, 지식의 한계 문제점을 명확히 이해할 수 있는 인문학 교육의 병행이 필요함
- 14. 14 2019학술정보 글로벌 동향 인공지능 기술의 대학도서관 적용과 이용자 서비스 구현 시 관점 전환 필요 인공지능 기술을 대학도서관 업무에 적용할 경우 전문가인 ‘사서’의 개입이 가능한 구조 설계 기계적 처리 결과를 사서가 이용자에게 전달할 경우 ‘과정’에 대한 설명이 가능한 서비스 시스템 구축 - 연구자 지원을 위한 데이터 분석 등 다양한 플랫폼과 서비스 구현 시 단순한 AI 서비스 구현이 아니라 분야 전문가인 연구자의 요구 해결 과정까지 설명 가능한 서비스 시스템 구현 전통적인 도서관의 영역 중 하나인 ‘정보 문해’와 최근의 ‘데이터 문해’ 교육 과정에 인문학적 소양 교육 배치 필요 - 도구로써 기술을 바라보고 주체인 인간의 사고 중요성에 대한 리터러시 과정 필요