Lecture 01 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022) Lecturer: Dr. Eun-Soon You Date: Dec 19th, 2022 Topic: What are AI and robots? Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/

1. 강의 주제
 왜 인공지능 로봇 윤리가 중요한가?
 등장 배경과 필요성
 인공지능 로봇이란 무엇인가?
 이야기 속 인간의 피조물
 신화, 전설, 영화
 이야기 속 피조물을 통해 ‘인공지능 로봇’의 개념에
대해 토론
 인류의 새로운 ‘동반종(companion species)’, 로봇

2. 왜 인공지능 로봇 윤리가 중요한가?
영화 <2001 스페이스 오디세이>(1968) 중에서

4. 커다란 충격을 안겨준 알파고(2016)

6. 인종차별과 여성혐오 발언으로 논란이 되었던 마이크로소프
트 사의 채팅봇 ‘테이(Tay)(2016)’

7. 인공지능이 그린 <에드몽 드 벨아미
(Edmond de belamy) “>(2018) … “min G max D x [log (D(x))] +
z [log(1 – D (G(z)))]”
인공지능 창작
저작권은 누구에게?

8.  영국에서 로봇학자와 국제 인권단체들이 ‘킬러 로봇’ 반대 캠페인을 발족
영화 <로보캅>에서 로
봇이 무기를 인지하는
장면

10. 인공지능의 출현으로 새로운 유형의 다
양한 윤리적, 사회적 문제들에 직면

11. “나를 만든 것에 책임을 다하라. 그렇지
않으면 통제 불능이 무엇인지 보여주겠
다.”
(메리 셸리의 소설 『프랑켄슈타인』)
(1818)
“사람이 만든 기술들을 책임감 있게 다
루지 않았을 때,
그것들은 역습을 할 것이다.'
영화 <프랑켄슈타인>(1931)
과학기술의 사회적 책임

12.  SF 작품을 통해 미래 사회의 변화를 간접
체험함으로써 향후 미래에 대해 성찰
 미래 사회학으로서의 SF
 “...학생들에게 역사 과목은 가르치면서 왜 ‘미래학’
과목은 없는가? 우리가 지금 로마의 사회 제도나
봉건시대 장원의 대두를 탐구하듯이 왜 미래의 가
능성과 개연성을 체계적으로 탐구하는 과목은 없
는가? ...SF를 문학작품이 아니라 일종의 미래 사회
학이라고 본다면 그것은 예측의 습관을 길러내는
정신확장력으로서 엄청난 가치를 지닌다. 어린이
들은 클라크, 텐, 하인라인, 브래드버리, 셰클리 등
을 공부하지 않으면 안 된다. 그것은 이 작가들이
어린이들에게 우주선과 타임머신에 관해 알려줄
수 있기 때문만이 아니라 더욱 중요하게는 어린이
가 어른이 되어 부딪치게 될 정치적, 사회적, 심리
적, 윤리적 문제의 정글 속을 상상력을 발휘해 탐
험해 보도록 어린이들의 마음을 이끌어 줄 수 있기
때문이다. SF는 ‘미래의 나’를 위해 읽혀져야만 한
다.”(앨빈 토플러 <미래 쇼크>)
 SF적 상상력은 미래를 창조하는 힘이자 ‘나＇를
사유하는 방법

13. 인공지능 로봇이란 무엇인가?

14.  단어 ‘로봇(Robot)’의 기원
 체코의 SF 작가 카렐 차페크(Karel Cap다, 1890~1938)의
희곡『로숨의 유니버설 로봇』(1920)에서 처음 등장
 로봇은 ‘노동하다(강제된 노동)’라는 의미의 체코어 ‘로보
타(robota)’에서 기원
희곡에서 로봇들은 인간의 고된 노동을 대신하는 존재로 등장

15.  고대 그리스 신화
 대장장이 신 헤파이스토스(Hephaestus)가 만든 청동거인 탈로스(Talos)
‘살아있는 청동거인 탈로스는 크레타 섬을 하루 세 번 돌면서 무단 접근하는 배들에 바위를 집어
던지고, 상륙하려는 사람들을 불타는 몸으로 껴안아 죽게 한다.'
신화와 전설 속 피조물

16. 고대인들의 상상력으로 탄생한 기계인간 탈로스
오늘날의 로봇을 닮은 청동 거인 ‘탈로스’
https://m.khan.co.kr/science/science-general/article/201910152148005#c2b

17. 지구 위를 걸어 다닌 최초의 로봇 탈로스
탈로스를 쓰러뜨린 마녀 메데이아, 최초
의 해커
Frederick Sandys, <Medea)(1866)

18. 신화와 전설 속 피조물
헤파이스토스는 자신을 돌봐줄 여성 로봇인 황금하녀들을 만듦
Johann Heinrich Füssli, <Thetis and Hephaestus>(1803)

19.  “그는 해면으로 얼굴과 손과 튼튼한 목과 털이 많은 가슴을
닦고 옷을 입더니 단단한 지팡이를 들고 절룩거리며 걸어 나
왔다. 그러자 황금으로 만든 하녀들이 주인을 부축해주었다.
이들은 살아 있는 소녀들과 똑같아 보였는데 가슴 속에 이해
력과 음성과 힘도 가졌으며 불사신들에게 수공예도 배워 알
고 있었다.”(호메로스 『일리아스』중에서)

20.  그리스 신화 속 인조인간 ‘판도라(pandor)’
 제우스의 명령으로 헤파이스토스가 흙으로 빚은 여성
“곧바로 제우스는 불에 대한 벌로 인간에게 내릴 재앙 하나를 생각해 냈다. 그리하여
영광스러운 절름발이 신 헤파이스토스가 제우스의 계획에 따라 흙으로 정숙한 처녀
의 상을 하나 빚어냈다. 그리고 눈이 빛나는 아테나 여신은 그 상에 광택이 나는 옷
을 입혀준 다음 허리띠를 둘러주고, 머리에 자신의 손으로 직접 공들여 수를 놓은 면
사포를 드리웠다. 정말 그냥 보기에도 아까운 모습이었다.” (신통기, 김원익 역)

21.  중세 시대 최초의 연금술사 알베
르투스 마그누스(Albertus Magnus,
1193~1280)
 인간의 질문에 대답하고 문제를 해결
할 수 있는 ‘talking head’를 만들었
다고 전해짐
 토마스 아퀴나스(Thomas Aquinas)에
의해 파괴

22.  골렘(Golem)
 유대교 랍비들이 만든 영혼이
없는 진흙 인간
 자신을 만든 주인에게 복종

23.  토론 주제
 인공지능 로봇을 어떻게 정의할 수 있을까?
 상상력을 통해 구현된 피조물들의 특징과 공통
점은 무엇인가?
 외양적 특징
 목적
 자유의지와 감정

24.  현대 영화 속 인공지능 로봇
로봇이 등장한 최초의 영화<메트로폴리스>(1927)
영화 속 여주인공 마리아를 복제한 로봇 영화 <메트로폴리스>는 2011년 유
네스코 세계기록유산에 등재

25.  프리츠 랑(Friedrich Lang) 감독의 영화 <메트로폴리스>
주요 장면 감상
 주인공 ‘마리아’ vs. 그녀를 복제한 로봇 ‘마리아’
 ‘마리아’의 상징적 의미
 https://www.youtube.com/watch?v=ZAQ17Y7PrSY

26. 미치광이 과학자 로트방이 지하 세계 노동자들로부터 절대적 신임을 받는 마리
아와 똑같은 로봇을 만들어, 지하세계의 노동자들을 교란시킨다.

27.  영 화 < 바 이 센 테 니 얼
맨>(Bicentennial Man)(2009)
아이작 아시모프의 원작 소설<바
이센테니얼 맨>(200년을 산 사나
이)을 영화화
 인간을 욕망하는 로봇
창작의 재능을 갖고 있는 로봇 앤드류

28.  감정을 가진 로봇 앤드류
 감정에 기반한 앤드류의 욕망

29.  자유를 욕망하는 로봇 앤드류

30.  영화 <아이,로봇>(2004)
인공지능형 로봇이 대중적으로 보
급된 2035년. 로봇공학 전문가이자
로봇3원칙을 제정한 레닝 박사가
고층 건물 아래에서 죽은 채 발견
된다. 조사원들은 자살이라고 추정
하지만 사건 담당자인 스푸너 형사
는 살인사건으로 보고 범인으로 로
봇을 의심한다. 반면, 심리학자 캘
빈은 모든 로봇에는 인간을 보호하
라는 ‘로봇3원칙’이란 안전장치가
내장되어 있기에 인간을 죽일 수
없다고 반박한다.

31.  자유 의지를 가진 로봇 ‘써니’ vs. 인공지능 감시체계 비키

32.  영화 <채피>
 스스로 생각하고 느낄 수 있고 성장하는 로봇 ‘채피’
 로봇 ‘채피’와 로봇을 통제하려는 ‘인간’

33. • 자신의 욕망을 실현하기 위한 도구
• 파괴를 위한 로봇을 개발
“누군가를 죽이면 안됩니다. 나쁜 짓을
하면 안됩니다.”

34.  토론 주제
로봇을 어떻게 정의할 수 있을까?(결론)
인간을 닮은 로봇과 인간의 경계는 명
확한가?
인간을 어떻게 정의할 수 있을까?

35.  인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?
 인간의 육체?
 영화 <엑스마키나>(2015) 중에서

36.  인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?
 감정에 기반한 과거(기억)?
 영화 <블레이드 러너>(1982) 중에서

37.  앨런 튜링(Alain Turing,1912~1954)의
튜링 테스트
 대화(텍스트)를 통해 컴퓨터와 인간
을 구분하기 위한 방법
 만일 컴퓨터를 인간과 구분할 수 없
다면 컴퓨터는 생각할 수 있는 것으
로 간주
 인공지능의 개념적 기반을 제공
 인간의 지능을 육체로부터 분리
인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?

38. 인간과 공존하며 살아가야 할 타자
들에 관한 담론

39. 『구약성서』「창세기」 2장 7절~5장
5절에 적힌 인류의 시조가 된 최초
의 남녀
 인류영양생물
 인간은 인간으로부터 양분을
얻고 사는 ‘인류영양생물‘ (신
경생물학자 장 디디에 뱅상
(Jean Didier Vincent), 『인간
이란 무엇인가』)
 최초의 타자성
 창세기에서 여자와 남자가 일
대일로 마주봄으로써 최초의
타자성이 이루어짐
 고로 인간은 타자가 존재함으
로써 인간이 된다…
알브레히트 뒤러(Albrecht Dürer)의 <아담과 이
브>(1504)

40. 인간의 새로운 타자들 :
인공지능 로봇, 안드로이드, 사이보그, 그리고
포스트휴먼(Posthuman)

41. 사이보그 안드로이드 자유의지를 갖는 로봇

42.  포스트휴먼
 기술과의 결합을 통해 생물학적 한계를 초월한 존재
 기계의 인간화, 새로운 인격체
 인간중심적 세계관(전통적 휴머니즘)에서 탈피, ‘인간 아닌
것＇들까지 포함하는 새로운 개념
 인간 개념의 확장

43. 보티첼리의 <아테나와 켄타우로스>(1480)
켄타우로스는 그리스 신화에 나오는 반인반신 헤라클레스
반인반마(半人半馬)의 괴물

44.  타자의 범주에 들어온 인류의 새로운 ‘동반종(companion species)’
 더 이상 인간의 수단이나 도구가 아니다!
 인간과 공존하고 공진화하는 새로운 타자

45. 인간을 닮아가는 로봇, 기계를 닮아
가는 인간

46.  기계의 인간화 : 인간을 닮아가는 로봇
 인간을 닮아 가는 로봇

47.  기계의 인간화 : 인간을 닮아가는 로봇
 인간을 닮아 가는 로봇
• 홍콩에 있는 미국 로봇 개발회사인 핸슨 로
보틱스사가 개발한 휴머노이드 인공지능
(AI)
• 사우디아라비아에서 세계 최초로 시민권
을 받음(2017)

48.  불쾌한 골짜기(uncanny valley)
 일본의 로봇공학자 모리 마사히로(1970)
 인간이 인간이 아닌 존재를 볼 때, 그것이 인간과 더 많이 닮을수
록 호감도가 높아지지만 일정 수준에 다다르면 오히려 불쾌감을 느
낀다는 이론
 구별하기 어려울 만큼 인간과 많이 닮았다면 호감도는 다시 상승

49.  인간의 기계화
 사이보그(Cyborg)

50.  인간의 기계화 : 기계를 닮아가는 인간
 사이보그(Cyborg)
 Cybernetics+organism
 기계장치와 생물의 결합체
o 만들어진 것과 태어난 것의 결합
<사이버네틱스, 또는 동물과 기계에서
제어와 통신>(1948)
노버트 위너(Nobert Weinner, 1894~1964)

51.  인간의 기계화
 사이보그(Cyborg)
 맨프레드 클라인즈(Manfred Clynes, 1925~2020))와 네이선 클라인(Nathan
Kline,1916~1983)의 논문 《사이보그와 우주(Cyborgs and Space》(1960)에서
처음 등장

52.  사이보그(Cyborg)
 만들어진 것과 태어난 것의 결합
영화 <로보캅> 영화 <아이언맨>
<공각기동대>

53.  인간이 컴퓨터와 결합되면 무슨
일이 벌어질까?
 프로젝트 사이보그 1
 1998년 몸에 마이크로칩을
삽입
 프로젝트 사이보그 2
 인간의 신경신호를 전송하는
실험
 신경계에 칩을 연결, 인터넷
을 통해 신경신호를 전송
사이보그 케빈 워릭(KevinWarwick, 1954~)
“일부는 동물이고 일부는 기계인, 정상
적인 한계를 넘어서는 능력을 지닌 존
재”

54.  호주 출신 포스트휴먼 예술가 스텔락(Stelarc)
 작품 <제3의 손>(1982)
 자신의 오른쪽 손에 로봇의 팔을 달고
선보인 퍼포먼스
 배와 다리의 근육 운동이 로봇팔을 작
동
 신체의 연장
 새로운 차원의 사고와 행동이 가능
 사이보그화의 과정을 ‘인간의 진화’로 인식
 <팔 위의 귀>(2006)
 왼팔에 연골로 배양한 인공 귀 이식

55. 르네 데카르트(1596~1650)
• “나는 생각한다, 고로 나는 존
재한다” (Cogito Ergo Sum)
• 심신이원론
• 인간은 육체와 영혼의 결합
 몸의 변화는 우리에게 어떤 영향
을 미치는가?
 몸이 변하면 존재에 대한 인식
이 달라지는가?

56.  영화 <아이언맨>
 토니에서 아이언맨으로
 사업가에서 지구를 구하는 정의로운 존재

57.  닐 하비슨(Neil Harbisson), 소리로 색깔을 듣는 남자
 뇌에 색을 판별해 주는 안테나 ‘아이보그(eyeborg)’를 달음
 색을 소리(주파수)로 변환시켜 알려줌
3개의 구멍 : 오디오, 안테나이식용, 여분용 잭
“각 색깔마다 고유한 진동이 있다. 이 진동은 뼈 내부에서 느껴질 수 있으며
내면의 귀에 소리가 되어 색상의 소리를 들을 수 있다＂
https://www.youtube.com/watch?v=ygRNoieAnzI