자율주행차의 운리적 딜레마 |패트릭 린(Patrick Lin)
-
0:07 - 0:09이건 사고 실험입니다.
-
0:09 - 0:12언젠가 그리 멀리 않은 미래에
-
0:12 - 0:16당신은 자율주행차를 타고
고속도로를 달릴 것 입니다. -
0:16 - 0:20그리고 다른 차에 둘러싸인
자신을 발견하게 될 것 입니다. -
0:20 - 0:24갑자기 앞에서 달리던 트럭에서
크고 무거운 물체가 떨어집니다. -
0:24 - 0:27당신의 차는 충돌을 피하기 위해
제시간에 멈출 수 없습니다. -
0:27 - 0:29그렇다면 결정을 해야 합니다.
-
0:29 - 0:32직진해서 물체에 충돌한다.
-
0:32 - 0:34SUV를 향에 왼쪽으로 방향을 튼다.
-
0:34 - 0:37혹은 오토바이를 향해
오른쪽으로 방향을 튼다. -
0:37 - 0:40당신의 안전을 우선으로 고려해서
오토바이와 충돌해야 할까요? -
0:40 - 0:43타인의 위험을 최소화하기 위해
방향을 틀지 않아야 할까요? -
0:43 - 0:47비록 큰 물체에 충돌해 당신의
목숨을 희생하는 것이라도요. -
0:47 - 0:50혹은 SUV에 충돌할 수도 있습니다.
-
0:50 - 0:53SUV는 안전등급이 높기 때문입니다.
-
0:53 - 0:56자, 그럼 자율주행차는
어떤 선택을 해야 할까요? -
0:56 - 1:00만약 우리가 저 상황에서 차를
직접 운전하고 있었다면 -
1:00 - 1:04어떠한 결과든 단순한
반사반응이라고 생각할 것입니다. -
1:04 - 1:07의도적인 결정이 아니라요.
-
1:07 - 1:11비계획적이고 악의없는
본능적인 움직임말입니다. -
1:11 - 1:15그러나 같은 선택이라도 프로그래머가
미리 설정해 놓은 것이라면요? -
1:15 - 1:17미래의 이러한 상황에 대비해서요.
-
1:17 - 1:22그건 좀 더 계획된 살인처럼 보이네요.
-
1:22 - 1:23객관적으로 말하자면
-
1:23 - 1:27자율주행차는 교통사고를
획기적으로 줄일 것입니다. -
1:27 - 1:28교통사고 사망률도요.
-
1:28 - 1:31주행 시 일어날 수 있는 사람의
실수를 없애기 때문입니다. -
1:31 - 1:34이것뿐만이 아닙니다.
-
1:34 - 1:35교통체증을 줄이고,
-
1:35 - 1:37배기가스를 감소시키며,
-
1:37 - 1:41비생산적이고 스트레스 받는
운전 시간을 최소화합니다. -
1:41 - 1:44그래도 교통사고는 피할 수 없습니다.
-
1:44 - 1:45그러나 사고가 일어날 때,
-
1:45 - 1:49그 결과는 몇 달 혹은 몇 년 전에
미리 정해질 겁니다. -
1:49 - 1:52프로그래머 혹은 정책결정자에 의해서요.
-
1:52 - 1:54그리고 그들은 결단을 내려야합니다.
-
1:54 - 1:57일반적인 의사결정 규칙을
적용하는 것은 쉽습니다. -
1:57 - 1:59인명 피해를 최소화하는 것처럼요.
-
1:59 - 2:02그러나 비도덕적인 결정일 수 있습니다.
-
2:02 - 2:04예를 들어,
-
2:04 - 2:06동일한 초기 상황을 가정해 봅시다.
-
2:06 - 2:09그러나 이번에는 왼쪽에
헬멧을 쓴 운전자가 있습니다. -
2:09 - 2:11그리고 헬멧을 쓰지 않은
운전자가 오른쪽에 있습니다. -
2:11 - 2:14당신의 차는 누구와 충돌해야 할까요?
-
2:14 - 2:18만약 헬멧을 쓴 운전자가
생존확률이 높기 때문에 선택한다면 -
2:18 - 2:22책임감 있는 오토바이 운전자에게
불이익을 가하는 건 아닐까요? -
2:22 - 2:23대신 무책임하다는 이유로
-
2:23 - 2:26헬멧을 쓰지 않은
운전자를 선택한다면, -
2:26 - 2:31상해를 최소화한다는 설계
원칙에서 이미 한참 벗어났고, -
2:31 - 2:36이 로봇 차는 제멋대로 정의를
따르고 있는 것뿐입니다. -
2:36 - 2:38윤리적 고려사항은
여기서 더 복잡합니다. -
2:38 - 2:44앞의 두 선택지 모두 타겟팅
알고리즘을 기본으로 하고 있습니다. -
2:44 - 2:45다시 말해서,
-
2:45 - 2:48어떤 물체에 충돌할지에 대해
-
2:48 - 2:51선호나 차별이 있다는 거죠.
-
2:51 - 2:54(충돌)대상 차량의 소유자는
-
2:54 - 2:57그들의 잘못이 아님에도
이 알고리즘의 부정적 결론에 따라 -
2:57 - 2:59고통을 받을 것입니다.
-
2:59 - 3:03우리의 신기술은 새로운
도덕적 딜레마를 만듭니다. -
3:03 - 3:05예를 들어, 차를 사야하는데
-
3:05 - 3:10사고시 가능한 많은 목숨을 살리는 차와
-
3:10 - 3:13어떤 댓가를 지불하더라도
당신을 살리는 차 중 -
3:13 - 3:14당신은 어떤 걸 구입할 건가요?
-
3:14 - 3:21만약 차량이 승객의 삶을 분석하고
평가한다면 어떻게 될까요? -
3:21 - 3:24여전히 반사적 반응이
-
3:24 - 3:28피해를 최소화하기 위해
미리 설정된 것 보다 나을까요? -
3:28 - 3:31그리고 이 모든 결정은 누가
그리고 어떻게 내려야 할까요? -
3:31 - 3:32프로그래머?
-
3:32 - 3:33회사?
-
3:33 - 3:34정부?
-
3:34 - 3:38현실은 아마 우리의 사고실험과
정확히 일치하진 않을겁니다. -
3:38 - 3:39하지만 그건 핵심이 아닙니다.
-
3:39 - 3:44사고실험은 윤리에 대한 우리의 직관을
규정하고 시험하기 위해서 설계되었습니다. -
3:44 - 3:47마치 물리적 세계에 대해
과학실험을 하는 것 처럼요. -
3:47 - 3:50이렇게 미묘한 윤리적 쟁점을
지금 발견하는 것은 -
3:50 - 3:54우리가 익숙치 않은
기술윤리의 길을 나아가고, -
3:54 - 3:57우리가 확신을 가지고 양심적으로
-
3:57 - 4:00멋진 미래를 항해하도록 할 겁니다.
- Title:
- 자율주행차의 운리적 딜레마 |패트릭 린(Patrick Lin)
- Speaker:
- Patrick Lin
- Description:
-
전체강의 보기: http://ed.ted.com/lessons/the-ethical-dilemma-of-self-driving-cars-patrick-lin
스스로 운전하는 자동차들이 이미 오늘날 거리를 달리고 있다. 그렇다면 이 차들은 수동으로 운전해야 하는 차에 비해서 궁극적으로 더 안전할까? 그 차들은 사고를 완전히 피할 수 있을까? 만약 사고를 피할 수 없는 상황이라면 이 차들을 어떻게 하도록 프로그밍 해야할까? 패트릭 린은 이 자율주행차의 확실하지 않은 윤리를 알려준다.
강의: Patrick Lin, 동영상: Yukai Du.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TED-Ed
- Duration:
- 04:16
Michelle Mehrtens edited Korean subtitles for The ethical dilemma of self-driving cars | ||
Jihyeon J. Kim approved Korean subtitles for The ethical dilemma of self-driving cars | ||
Jihyeon J. Kim edited Korean subtitles for The ethical dilemma of self-driving cars | ||
Jihyeon J. Kim edited Korean subtitles for The ethical dilemma of self-driving cars | ||
Jihyeon J. Kim edited Korean subtitles for The ethical dilemma of self-driving cars | ||
Lee Juwon accepted Korean subtitles for The ethical dilemma of self-driving cars | ||
Lee Juwon edited Korean subtitles for The ethical dilemma of self-driving cars | ||
Lee Juwon edited Korean subtitles for The ethical dilemma of self-driving cars |