1
00:00:08,119 --> 00:00:13,040
인류의 역사는 기술 발전과 함께 했다.

2
00:00:13,040 --> 00:00:17,000
우리가 우리의 조상이 살았던 방식에 대해
알고 있는 대부분은

3
00:00:17,000 --> 00:00:19,779
그들이 사용한 도구에 대한 우리의
제한적 지식에서 비롯된다.

4
00:00:19,779 --> 00:00:24,420
그리고 수 백년, 수 천년에 걸쳐
이러한 도구들은 점차 정교해졌다.

5
00:00:24,420 --> 00:00:28,430
농업 도구들부터 오늘날 생명공학의
최첨단적인 발전까지

6
00:00:28,430 --> 00:00:35,660
알려지지 않은 수많은 사람들이
무수한 개선과 혁신을 이루어왔다.

7
00:00:35,660 --> 00:00:40,430
이 사람들과 그들이 만든 도구들은
우리가 세상과 상호작용하는 방식을

8
00:00:40,430 --> 00:00:43,390
근본적으로 바꾸어놓았다.

9
00:00:43,390 --> 00:00:48,920
그리고 이러한 기술변화의 속도는
자본주의의 부상과 함께 상당히 빨라졌다.

10
00:00:48,920 --> 00:00:53,239
즉 새로운 도구, 무기, 생산기술의 발전 등은
항상 사회적 필요와

11
00:00:53,239 --> 00:00:58,420
그것을 결정하는 문화 및 정치적 구조에 의해
형성되어왔다고 할 수 있다.

12
00:00:58,420 --> 00:01:04,619
그러나 자본주의가 확산됨에 따라,
이러한 다양한 지역적 특성들은 점차 제거되었고

13
00:01:04,619 --> 00:01:08,950
보편적 경쟁이라는 틀 내에서
인간의 활동을 동원하여 경제성장을 추구하는

14
00:01:08,950 --> 00:01:16,299
"진보"라는 보편적인 가치가 온 세상을 지배하게 되었다.

15
00:01:16,299 --> 00:01:24,570
산업 시대는, 전체 기술 분야를 변화시킨
3번의 혁명적이고 연속적인 발명으로 설명될 수 있다.

16
00:01:25,040 --> 00:01:29,259
첫 번째 산업혁명은 증기기관의 발명이다.
이는 초기 공장의 건설과

17
00:01:29,259 --> 00:01:33,020
광대한 철도망의 건설을 가능케 하였다.

18
00:01:33,020 --> 00:01:38,180
두 번째 산업혁명은 석유 가공 기술의 숙달이다.
이는 현대도시의 발전과 대량 제조 산업

19
00:01:38,180 --> 00:01:42,950
그리고 두 가지 세계대전의 참상을 부채질하였다.

20
00:01:42,950 --> 00:01:47,679
3차 산업혁명은 네트워크로 연결된 PC의 보급이었다.
이는 현대생활의 거의 모든 측면을

21
00:01:47,679 --> 00:01:50,490
변화시켰다.

22
00:01:50,490 --> 00:01:56,240
오늘날 인류는 광범위한 4차산업혁명의
문턱에 와 있다.

23
00:01:56,240 --> 00:02:05,979
그것은 로봇공학, 양자컴퓨터, 3D프린터 분야의
진보로 특징될 것으로 예상된다.

24
00:02:06,229 --> 00:02:09,729
앞으로 30분동안, 우리는
여러 사람들과 이야기를 나누며

25
00:02:09,729 --> 00:02:14,550
이러한 최신 트렌드에 대하여 알아볼 것이다.
그리고 이것이 어떻게 전체주의적인 감시와 통제의

26
00:02:14,550 --> 00:02:18,400
새로운 시스템을 설계하고 융합하고 있는지에 대해서
알아볼 것이다.

27
00:02:18,400 --> 00:02:22,830
이 과정에서 우리는 개방된 시스템을 구축함으로써
이러한 흐름에 대항하기 위해

28
00:02:22,830 --> 00:02:28,670
사람들이 취하고 있는 대안들을 알아볼 것이다.
오픈소스 대체제나 인프라의 파괴 등과 같은...

29
00:02:28,670 --> 00:02:32,380
이제 가보자.

30
00:02:56,240 --> 00:03:02,380
기술은, 기술적 렌즈를 통해서 보여지는
인간사회의 재생산을 말합니다.

31
00:03:02,380 --> 00:03:05,739
즉 사회적 재생산의 구체적인 방법입니다.

32
00:03:05,739 --> 00:03:13,310
기술에 대한 분석은 맥락적인 측면이 있습니다.
특히 기술에 대한 본질적이고 근본적인

33
00:03:13,310 --> 00:03:20,310
질문을 한다면요. 기술은 언제나 나쁜 것인가,
아니면 언제나 좋은 것인가,

34
00:03:20,310 --> 00:03:25,780
아니면 본질적으로 나쁜 것인가,
아니면 좋은 것인가

35
00:03:25,780 --> 00:03:28,420
와 같은 맥락이죠.

36
00:03:31,380 --> 00:03:34,440
기술발전은 무(無)의 상태에서 일어나지 않습니다.

37
00:03:34,450 --> 00:03:39,520
기술발전은 사람들에게 영향을 받고,
또 권력자에게 이익을 주기도 합니다.

38
00:03:39,520 --> 00:03:44,969
저는 작금의 맥락에서 일어나는 기술발전의 대부분이
경제성장과 사회통제를 관리하는

39
00:03:44,969 --> 00:03:49,660
국가의 능력을 확장시키는데 이용된다고 봅니다.

40
00:03:49,840 --> 00:03:56,620
기술은 정치·경제 시스템과
그 기술이 어떻게 활용되는지를 규정하는

41
00:03:56,620 --> 00:03:59,349
권력 시스템에 기반을 두고 있습니다.

42
00:03:59,349 --> 00:04:04,670
제 생각에, 우리가 위치한 북미의 지리적 맥락에서는

43
00:04:04,670 --> 00:04:13,400
기술이 자본주의적 경제 시스템을 촉진하고
지탱하는데 이용되고 있는 듯합니다.

44
00:04:13,650 --> 00:04:18,620
기술에 대한 아나키스트적 접근은
기술의 권위주의적 성격을 고려해야 합니다.

45
00:04:18,620 --> 00:04:21,450
즉, 우리는 선택할 수 없습니다.

46
00:04:21,450 --> 00:04:25,770
새로운 개발, 새로운 혁신, 새로운 상품들이
우리가 좋아하든 싫어하든 상관 없이

47
00:04:25,770 --> 00:04:28,040
우리에게 쏟아지고 있습니다.

48
00:04:35,760 --> 00:04:45,020
기술은 우리의 삶을 더 재밌게 만드는 것이 아니라,
경제적 착취와 국가의 군사력을

49
00:04:45,020 --> 00:04:48,550
증진시키는데 이용됩니다.

50
00:04:48,550 --> 00:04:56,690
물론 빵이나 서커스처럼, 우리를 재밌게 할 수 있는
도구도 생산될 수 있지만 그것은 양가적입니다.

51
00:04:56,690 --> 00:05:02,230
지난 10-15년 동안의 기술변화는
노동시간과 여가시간의 구분을

52
00:05:02,230 --> 00:05:04,750
모호하게 만들었습니다.

53
00:05:04,750 --> 00:05:10,920
우리는 언제나 사장과 고용주의 요구에
대응할 수 있도록

54
00:05:10,920 --> 00:05:16,100
대기되어 있는 상태입니다.

55
00:05:16,100 --> 00:05:24,980
그것은 사회적 소외와 감정적 소외의
심각한 증가로 이어집니다.

56
00:05:25,230 --> 00:05:30,380
그래서 양으로만 보면, 우리는 그 어느때보다
많은 인맥과 친구들을 가지고 있지만

57
00:05:30,380 --> 00:05:35,750
그 관계의 질적인 측면에서, 매우 적은 사람들만이
신뢰적이고 상호의존적인

58
00:05:35,750 --> 00:05:39,600
크고 강한 네트워크를 가질 수 있습니다.

59
00:05:40,640 --> 00:05:46,030
당신은 이름, 나이, 주소와 같은 개인정보를 수집합니까?

60
00:05:46,280 --> 00:05:50,320
(사용자가) 계정을 만들 때면 수집합니다.

61
00:05:50,320 --> 00:05:54,690
사람들이 검색창에 무언가를 입력할 때
검색기록을 수집하나요?

62
00:05:54,690 --> 00:05:57,350
검색기록 기능이 켜져있다면 수집합니다.

63
00:05:57,350 --> 00:06:00,520
IP주소나 단말기 고유번호를 수집하나요?

64
00:06:00,520 --> 00:06:04,400
상황에 따라 수집할 수 있습니다.

65
00:06:04,400 --> 00:06:07,420
GPS, 와이파이, 블루투스 비콘은요?

66
00:06:07,420 --> 00:06:11,400
상황에 따라 다르겠지만, 수집할 수 있습니다.

67
00:06:11,400 --> 00:06:12,120
GPS도?

68
00:06:12,120 --> 00:06:13,380
ㅇㅇ

69
00:06:13,380 --> 00:06:15,710
이메일과 구글문서의 내용은?

70
00:06:15,710 --> 00:06:20,980
데이터를 저장하긴 하지만 우리가 이메일을 
읽거나 보진 않...

71
00:06:20,980 --> 00:06:22,370
하지만 접근은 할 수 있지?

72
00:06:22,370 --> 00:06:24,710
회사로써 접근할 권한은 있습니다.

73
00:06:24,710 --> 00:06:26,430
그럼 할 수 있는 거네.

74
00:06:26,430 --> 00:06:31,550
스타트업이나 구글과 같은 대기업들은
여러분의 데이터를 빨아들여 영원히 저장하고

75
00:06:31,550 --> 00:06:36,020
여러분이 좋아하는 모든 것, 
친구가 좋아하는 모든 것,

76
00:06:36,020 --> 00:06:41,220
여러분이 알고 있는 모든 것,
여러분에 대한 모든 정보가

77
00:06:41,220 --> 00:06:45,620
영원히 저장됩니다. 
당신에 대한 데이터를 쌓음으로써

78
00:06:45,620 --> 00:06:51,660
그것을 통해 이윤을 얻거나 파는 거죠.

79
00:06:51,660 --> 00:06:57,030
이제는 데이터 자체가 가치 있는 것이 되었고
이것은 새로운 경제의 토대가 되었습니다.

80
00:06:57,030 --> 00:07:03,400
우리가 다양한 가상 네트워크에 참여함으로써 말이에요.
예를 들어 페이스북이나

81
00:07:03,400 --> 00:07:07,950
구글, 혹은 핸드폰을 사용할 때의 모든 것들을 통해
우리는 가치를 창출하고 있습니다.

82
00:07:07,950 --> 00:07:15,690
그렇게 함으로써 우리는 어쩌면 24시간
노동을 하는 셈이 된 것이죠.

83
00:07:15,940 --> 00:07:22,610
지난 10년동안, 우리는 개인의 선호, 습관,
사회적 교류와 같은 데이터들이

84
00:07:22,610 --> 00:07:25,050
상품화되는 것을 보아왔습니다.

85
00:07:25,050 --> 00:07:31,610
우리는 작금의 자본주의가 어떻게 성장하고
유지되고 있는지 정확히

86
00:07:31,610 --> 00:07:36,810
볼 필요가 있습니다. 그것은 우리 생활환경의
감시를 통해서 이루어집니다.

87
00:07:36,810 --> 00:07:43,440
그리고 그 감시를 통해 나온 데이터는
시장에서 상품으로 거래됩니다.

88
00:07:43,440 --> 00:07:48,160
우리의 정보는 구글과 아마존 같은 회사들이
공격적으로 신제품을 마케팅하고

89
00:07:48,160 --> 00:07:52,920
광고하는데 사용될 뿐만 아니라,
사회적 통제를 위해 정부에게

90
00:07:52,920 --> 00:07:55,700
판매하거나, 협력하는데 이용되기도 합니다.

91
00:07:55,700 --> 00:08:01,220
즉, 우리의 정보는 석유나 석탄처럼
하나의 원료료써 이용됩니다.

92
00:08:01,220 --> 00:08:05,820
이는 새로운 형태의 채굴산업입니다.

93
00:08:14,760 --> 00:08:18,940
자본주의는 암세포처럼 지속적으로 성장한다.

94
00:08:18,940 --> 00:08:25,640
즉 이윤추구에 대한 끊임없는 욕망은
자본이 만지는 모든 것을 상품으로 만들고

95
00:08:25,640 --> 00:08:31,839
끊임없이 이용할 수 있는 새로운 자원과
시장을 찾도록 추동한다.

96
00:08:32,089 --> 00:08:34,700
자본의 첫번째 정복은 땅이었다(*인클로저).

97
00:08:34,700 --> 00:08:39,620
공유지는 폐지되었고, 소위 신대륙은 
침탈과 약탈을 겪였으며,

98
00:08:39,620 --> 00:08:47,350
광대한 땅은 개별 사유지로 조각조각되어
상품으로 매매되었다.

99
00:08:47,350 --> 00:08:50,750
땅에 이은 자본의 두 번째 정복은 우리의 "시간"이다.

100
00:08:50,750 --> 00:08:56,260
개인과 공동체로서 우리 자신을 재생산하는 능력은

101
00:08:56,260 --> 00:09:02,920
곧 개별 과업으로 분해되어, 임금노동으로 상품화되었다.

102
00:09:02,920 --> 00:09:05,040
이 과정은 깊숙히 파고들었다.

103
00:09:05,040 --> 00:09:10,829
공장은 효율성과 생산성을 위해
지속적으로 무자비하게 재편되었다.

104
00:09:11,079 --> 00:09:17,400
인간 활동의 상품화는 새로운 국면으로 접어들었고,
결국 우리의 사회적 관계와

105
00:09:17,400 --> 00:09:21,720
오락과 같은 모든 것이 상품화되기에 이르렀다.

106
00:09:21,720 --> 00:09:27,460
이제 자본의 확장은 한계에 다다랐기에, 그들은
다시 한 번, 상품화할 현실의 새로운 요소를

107
00:09:27,460 --> 00:09:29,350
필사적으로 찾고 있다.

108
00:09:29,350 --> 00:09:34,980
그것은 바로 "생명" 그 자체이다.
유전공학과 나노기술과 같은

109
00:09:34,980 --> 00:09:39,960
즉 우리의 인간성 자체가 상품화되는 것이다.
우리가 하는 모든 것을 기록하고,

110
00:09:39,960 --> 00:09:44,360
우리가 어떤 결정을 내리는지를 이해함으로써
미래를 예측하고,

111
00:09:44,360 --> 00:09:49,420
그것을 통해 이윤추구를 위한 새로운 자원을 찾는 것이다.

112
00:09:56,060 --> 00:10:01,160
인공지능은 많은 양의 데이터를
그것을 분석하는 알고리즘과

113
00:10:01,160 --> 00:10:03,610
결합시킴으로써 작동됩니다.

114
00:10:03,610 --> 00:10:07,000
그리고 인공지능은 다양하고, 또 다양하게 활용될 수 있습니다.

115
00:10:07,000 --> 00:10:13,930
오늘날 우리가 AI에 대해 이야기할 때
대부분 기계학습을 중심으로 말합니다.

116
00:10:13,930 --> 00:10:20,350
기계학습은 프로그래밍이 아닌 입력과 경험을 
기반으로 자가수정하고 자가발전합니다.

117
00:10:20,350 --> 00:10:26,419
즉 기계는 인간의 개입 없이도 
패턴을 기반으로 식별하고 결정을 내릴 수 있습니다.

118
00:10:26,419 --> 00:10:31,610
미국 국방부(펜타곤)가 드론의 기술향상을 위해
구글과 계약했을 때, 그 핵심은

119
00:10:31,610 --> 00:10:33,379
기계학습이었습니다.

120
00:10:33,379 --> 00:10:39,891
즉 드론에서 촬영한 이미지에서 사람과 사물을
식별시킴으로써, 충분한 시간이 지나면

121
00:10:39,891 --> 00:10:48,220
이제 기계는 그 패턴을 통해 스스로
구별하고 식별할 수 있게 됩니다.

122
00:10:48,220 --> 00:10:53,209
기계학습의 발전된 형태인 딥러닝은
마찬가지로 컴퓨터가 이미지를 예측하거나

123
00:10:53,209 --> 00:10:58,999
식별할 수 있도록 훈련시키지만,
미리 입력된 방정식으로 데이터를 구성하는 것이 아닌

124
00:10:58,999 --> 00:11:04,279
컴퓨터가 훨씬 더 많은 프로세스의 층을
사용하여 학습할 수 있도록

125
00:11:04,279 --> 00:11:06,190
훈련시키는 데 그 차이가 있습니다.

126
00:11:06,190 --> 00:11:10,680
즉 컴퓨터에게 문제를 해결할 방법을
알려주는 것을 넘어서

127
00:11:10,680 --> 00:11:16,579
인간처럼, 스스로 그 문제를 해결할 방법을
알아내는 방식으로 진행됩니다.

128
00:11:16,579 --> 00:11:21,279
자율주행 자동차는 딥러닝의 대표적인 예시이지만

129
00:11:21,279 --> 00:11:28,819
맞춤광고, 로봇공학, 사이버보안과 같은
다양한 분야에서 활용될 수 있습니다.

130
00:11:28,819 --> 00:11:33,760
AI에 대한 많은 상상이 있어왔기에,
몇몇 집착적인 사람들은

131
00:11:33,760 --> 00:11:39,240
그들의 의식을 업그레이드 시키거나
그들의 정신을 어떤 클라우드 컴퓨터에

132
00:11:39,240 --> 00:11:42,339
꽂을 수 있다고 상상하곤 합니다.

133
00:11:42,339 --> 00:11:44,779
그러나 그건 유치한 상상입니다.

134
00:11:44,779 --> 00:11:50,940
자본주의는 우리가 기계를 사용하여
더 똑똑해지도록 돕는데 전혀 관심이 없습니다.

135
00:11:50,940 --> 00:11:56,280
그냥 기계가 우리를 대신해 생각하게 하고
우리는 수동적인 소비자로서

136
00:11:56,280 --> 00:12:00,449
완제품만을 제공받는 것이 보다 합리적입니다.
그리고 그렇게 되면

137
00:12:00,449 --> 00:12:06,060
독점 소프트웨어를 소유한 회사와 함께
그들의 컴퓨팅 기능을

138
00:12:06,060 --> 00:12:09,399
유지하고 관리할 수 있습니다.

139
00:12:09,399 --> 00:12:16,209
인공지능은 사회통제와 감시의 효과를
크게 증진시킵니다.

140
00:12:16,209 --> 00:12:21,260
즉 AI를 작동시키는 예측 알고리즘은 경찰국가를
만듭니다. 그리고

141
00:12:21,260 --> 00:12:24,870
모든 사람이 각자의 주머니에 경찰을 넣고 다니니까
경찰이 없어도 되는

142
00:12:24,870 --> 00:12:27,110
경찰국가가 되는 겁니다.

143
00:12:27,110 --> 00:12:30,490
제 바로 뒤에는 사이드워크 토론토가 있습니다.
(* 구글의 스마트 시티 프로젝트)

144
00:12:30,490 --> 00:12:37,879
이 주택은 거주자가 생활을 더 편리하게 하기 위해
거주자의 행동패턴을 연구할 겁니다.

145
00:12:37,879 --> 00:12:42,690
그리고 거주자와 관리자는 강력한 광대역으로
보편적으로 연결되어

146
00:12:42,690 --> 00:12:46,800
미래지향적인 편의를 제공받을 것입니다.

147
00:12:46,800 --> 00:12:53,100
스마트시티는 '감시자본주의'에 대한 이해 없이는
논의될 수 없습니다.

148
00:12:53,100 --> 00:12:58,800
스마트시티는 단순히 기술로만 이루어진 것이 아니라
궁극적인 목표를 향한

149
00:12:58,800 --> 00:13:04,300
이데올로기적 틀이 있는 도시이기도 합니다.

150
00:13:04,300 --> 00:13:12,029
스마트시티는 일반적으로 유비쿼터스 감시 기술과
데이터 분석을 활용하여

151
00:13:12,029 --> 00:13:19,129
도시 공간 내의 현상을 이해하는 도시환경이라 이해됩니다.

152
00:13:19,129 --> 00:13:24,050
사물데이터의 측면에서 스마트시티는
데이터를 수집·분석함으로써

153
00:13:24,050 --> 00:13:29,420
환경악화에서 도시교통에 이르기까지의 문제를

154
00:13:29,420 --> 00:13:34,839
더 잘 대응할 수 있다고 주장됩니다.

155
00:13:34,839 --> 00:13:38,550
우리는 스마트시티를 4가지 특징으로 분석할 수 있습니다.

156
00:13:38,550 --> 00:13:43,990
첫째는 다양한 종류의 감시를 늘리고 통합하는 것입니다.

157
00:13:43,990 --> 00:13:49,120
둘째는 도시민들 사이에 피상적인
참여인식을 조성하는 것입니다.

158
00:13:49,120 --> 00:13:54,740
이는 두 가지의 다른 수준의 경제성장을 위해서입니다.
젠트리피케이션과 형성되고 있는

159
00:13:54,740 --> 00:13:58,089
이 새로운 경제를 함께 추친하는 겁니다.

160
00:13:58,089 --> 00:14:05,880
스마트시티의 최종 기능은 생태적·환경적 우려를
피상적으로 지지하는 동시에

161
00:14:05,880 --> 00:14:12,173
환경문제에 대한 글로벌 의식을 키울 수 있는
기회를 거부하는

162
00:14:12,173 --> 00:14:16,809
피상적인 장을 만드는데 있습니다.

163
00:14:16,809 --> 00:14:22,009
즉 스마트시티는 자본주의적 도시들과
그렇게 다르지 않습니다.

164
00:14:22,009 --> 00:14:27,889
그나마 차이라고 한다면, 더 광범위해진
대중에 대한 감시와

165
00:14:27,889 --> 00:14:34,459
자본주의적 정치경제의 이익에 맞게
인구를 통제하고 관리하는

166
00:14:34,459 --> 00:14:39,240
데이터 분석이 활용된다는 점입니다.

167
00:14:39,240 --> 00:14:43,290
스마트시티가 과거의 도시와 구별되는
두 번째 차이점은

168
00:14:43,290 --> 00:14:48,369
(도시)계획과 기업 리더십의 결합입니다.

169
00:14:48,369 --> 00:14:55,279
치안유지를 위한 국가의 통제 방식에
새로운 기술이 사용될 수 있습니다.

170
00:14:55,279 --> 00:15:00,160
왜냐하면 대중을 감시하기 정말 좋은 기술이거든요.

171
00:15:00,160 --> 00:15:04,339
범죄분석은 "깨진 유리창 이론"이나
이웃 타게팅과 같은

172
00:15:04,339 --> 00:15:06,670
오랜 역사를 가지고 있습니다.

173
00:15:06,670 --> 00:15:11,199
이제 이것이 "데이터에 의해 분석된다"는
핑계를 가질 수 있습니다.

174
00:15:11,199 --> 00:15:16,400
그러니까 "우리는 이 지역에 더 많은 치안이
필요하다는 점을 증명할 데이터를 가지고 있다"

175
00:15:16,400 --> 00:15:17,709
와 같은 것이죠.

176
00:15:17,709 --> 00:15:21,480
스마트시티에서 수집된 데이터는
그런 부정적인 방향으로 사용될 수 있습니다.

177
00:15:21,480 --> 00:15:27,589
권력자들이 권력을 휘두르기 위해서
증거를 제시하는 거죠.

178
00:15:27,589 --> 00:15:31,640
우리는 이 지역에서 너네를 통제해야 한다

179
00:15:31,640 --> 00:15:33,580
와 같은 거죠.

180
00:15:39,400 --> 00:15:43,160
우리는 무서운 새 시대의 끝자락에 서 있다.

181
00:15:43,170 --> 00:15:48,390
현재의 연구와 개발이 계속된다면
향후 몇 년, 몇 십년 동안

182
00:15:48,390 --> 00:15:53,420
인간 없이도 결정을 내리고
복잡한 작업을 수행할 수 있는

183
00:15:53,420 --> 00:15:56,279
기계의 증가를 목도할 수 있을 것이다.

184
00:15:56,279 --> 00:15:59,209
정교한 감시 네트워크에 연결되고

185
00:15:59,209 --> 00:16:03,319
자가수정 타겟-선택 알고리즘이 적용된

186
00:16:03,319 --> 00:16:06,559
자율무기 및 치안유지 시스템의 새로운 시대가
도래할 것임이

187
00:16:06,559 --> 00:16:08,119
거의 확실하다.

188
00:16:08,119 --> 00:16:13,050
경제의 모든 부문이 자동화됨에 따라
대규모의 노동력 과잉이 일어날 것이다.

189
00:16:14,020 --> 00:16:16,199
사실 이것을 가능케 하는 기술은 이미 존재하지만

190
00:16:16,199 --> 00:16:20,040
사람들이 반란을 일으키지 않으면서
어떠한 방식으로

191
00:16:20,040 --> 00:16:22,970
서서히 잠식해나갈까 와 같은 노력으로
보류되고 있다.

192
00:16:22,970 --> 00:16:27,149
증강현실과 가상현실의 대규모 출시는

193
00:16:27,149 --> 00:16:31,000
물질적 세계와 디지털 세계 사이의 경계를 흐리게 하고

194
00:16:31,000 --> 00:16:35,209
편의와 유흥을 목적으로
우리의 감각통제권을

195
00:16:35,209 --> 00:16:39,329
기술자본가와 국가치안기구에 넘겨줄 것이다.

196
00:16:39,329 --> 00:16:43,760
초기화할 때 약간 따끔거릴 수 있어요.

197
00:16:45,640 --> 00:16:47,559
다 됐네요.

198
00:16:47,559 --> 00:16:48,559
Holy fuck!

199
00:16:48,559 --> 00:16:49,949
Holy shit.

200
00:16:49,949 --> 00:16:54,700
He - fuck - he's right.. he's right...
can I?

201
00:16:54,700 --> 00:16:57,560
Oooop... 어디가늬?

202
00:16:57,560 --> 00:16:58,720
ㅎㅎㅎ

203
00:16:59,880 --> 00:17:01,760
이것이 그들이 우리를 위해 준비한 미래다.

204
00:17:01,760 --> 00:17:04,060
경고임

205
00:17:07,420 --> 00:17:10,869
스마트시티는 현재 존재하며,
미래로 갈수록

206
00:17:10,869 --> 00:17:14,079
더 많은 데이터를 수집하게 될 것입니다.

207
00:17:14,079 --> 00:17:18,560
그리고 그 데이터는 인간의 영역을 축소시킬 겁니다.

208
00:17:18,560 --> 00:17:22,660
알고리즘 거버넌스에 지배되는 것이죠.

209
00:17:22,660 --> 00:17:25,140
만약 도시에 문제가 생겼다 쳐요.

210
00:17:25,150 --> 00:17:30,910
그럼 일반적으로 민주주의를 생각한다면,
우리는 그 문제에 대해서 토론하고

211
00:17:30,910 --> 00:17:32,530
의사결정과정을 거치겠죠. 그쵸?

212
00:17:32,530 --> 00:17:35,300
물론 그건 끔찍한 일이에요. 언제나
권력관계에 물들어 있으니까.

213
00:17:35,300 --> 00:17:40,640
하지만 스마트시티는 이제 그 과정을
민간기업에 넘겨주는 겁니다.

214
00:17:40,640 --> 00:17:44,840
데이터로 분석되고, 데이터 분석과정만 거치면

215
00:17:44,840 --> 00:17:47,470
이제 만사 땡인거죠.

216
00:17:47,470 --> 00:17:53,280
그리고 스마트시티는 이러한
새로운 통치시스템의 시발점이라 할 수 있습니다.

217
00:17:54,180 --> 00:17:59,320
사실 이러한 기능은 
흥미롭게도 사회운동에서 비롯된 것입니다.

218
00:17:59,320 --> 00:18:02,520
스페인의 15M운동이나
바르셀로나의

219
00:18:02,520 --> 00:18:08,500
리얼데모크라시나우 운동 등은 새로운 기술로
즉각적인 의사소통을

220
00:18:08,500 --> 00:18:14,110
가능케 함으로써 민주주의를 젊어지게
만들자고 구상했는데

221
00:18:14,110 --> 00:18:16,720
이게 실제로 이루어진거죠.

222
00:18:16,720 --> 00:18:20,820
이제 시민에 대한 즉각적인 여론조사가 가능하고

223
00:18:20,820 --> 00:18:27,050
또 권력자가 시민 이니셔티브를
선정하고 보다 빠르게

224
00:18:27,050 --> 00:18:28,600
배치할 수 있게 된 것이죠.

225
00:18:28,600 --> 00:18:32,260
그러니까 이 활동가들은
누가 권력을 쥐고

226
00:18:32,260 --> 00:18:37,620
어떻게 권력이 재생산되는지에 대해
질문을 하고 답한 게 아니라

227
00:18:37,620 --> 00:18:42,021
기술적 렌즈를 통해 민주주의의 위기에
접근한 것입니다.

228
00:18:42,021 --> 00:18:45,500
단순히 더 좋은 도구를 테이블에 갖다주면

229
00:18:45,500 --> 00:18:49,140
문제가 해결될 거라는 거죠.

230
00:18:49,140 --> 00:18:53,630
그리고 이 담론과 실천은
진보적인 지방정부에

231
00:18:53,630 --> 00:18:55,810
매우 매력적이었던 것이죠.

232
00:18:55,810 --> 00:18:58,940
도시지리학자들은 오랫동안 도시의 분절화에 대해
이야기해왔습니다.

233
00:18:58,940 --> 00:19:05,600
그러니까 도시가 경제적, 계급적, 문화적 인종적
경계에 따라 나누어진다는 것이죠.

234
00:19:05,600 --> 00:19:09,330
그리고 스마트시티는 이러한 패턴을
재현할 것입니다.

235
00:19:09,330 --> 00:19:14,630
특정지역은 실제로 도움이 될 수 있는 방식으로
이러한 기술에 더 많이 접근할 수 있을 겁니다.

236
00:19:14,630 --> 00:19:19,630
그리고 특정지역은 이러한 기술로 인해
더 많은 감시를 받게 될 것입니다.

237
00:19:19,630 --> 00:19:23,340
즉 우리는 도시의 분절화가
새로운 기술로 인해

238
00:19:23,340 --> 00:19:26,650
더 강화되는 것을 볼 수 있을 것입니다.

239
00:19:27,820 --> 00:19:30,637
즉 스마트시티 모델을 수용하는 도시에서는

240
00:19:30,637 --> 00:19:33,130
더 많은 통합을 볼 수 있을 겁니다.

241
00:19:33,130 --> 00:19:37,370
그리고 다른 동네에서는 (짭새들의) 몽둥이를
더 많이 보게 될 것입니다.

242
00:19:38,100 --> 00:19:41,620
우리는 권위와 국가와 싸우기 때문에
우리의 투쟁은

243
00:19:41,620 --> 00:19:43,360
언제나 범죄로 규정될 것입니다.

244
00:19:43,360 --> 00:19:48,430
기술이 발전하면서 새로운 형태의
포렌식 증거가 등장했습니다.

245
00:19:48,430 --> 00:19:54,280
2011년 런던 폭동 때, 경찰이 그들에게 걸려온
수천 건의 전화에 응답하지 못하자,

246
00:19:54,280 --> 00:19:59,400
런던시는 개좆같은 스마트폰 앱을 통해
폭도 용의자의 신원을

247
00:19:59,400 --> 00:20:02,130
크라우드소싱 하기 시작했습니다.

248
00:20:02,130 --> 00:20:06,511
짭새들은 시민들에게 앱을 다운받아 
CCTV에 찍힌 사람들의

249
00:20:06,511 --> 00:20:09,210
신원을 확인하도록 도와달라고 부탁했습니다.

250
00:20:09,210 --> 00:20:14,490
그 밀고자들은 비밀리에 용의자들의 
이름과 주소를 제공했습니다.

251
00:20:14,490 --> 00:20:20,420
1,000명 이상의 사람들이 이 기술에 당해서
구속되었습니다.

252
00:20:20,420 --> 00:20:23,880
그동안 대량 데이터의 수집은 이루어졌지만

253
00:20:23,880 --> 00:20:27,160
그것이 효율적으로 분석되어 활용되진 않았었습니다.

254
00:20:27,160 --> 00:20:29,360
그러나 이제는 아닙니다.

255
00:20:30,000 --> 00:20:34,260
물론 아직은 경찰이 사람들의 위치 자료를

256
00:20:34,260 --> 00:20:39,060
물리적으로 조회하여, 누가 언제 어디에
있었는지 밝혀내긴 하지만,

257
00:20:39,060 --> 00:20:43,110
머지않아, 알고리즘이 많은 양의 데이터를 살펴봄으로써

258
00:20:43,110 --> 00:20:48,100
사람들의 온라인 선호나 관계 등을 알아내어
(용의자의 신원을) 교차검증하는 것이

259
00:20:48,100 --> 00:20:50,950
보다 쉬워질 것입니다.

260
00:20:50,950 --> 00:20:54,220
사회통제의 증가에 따른 부작용으로,

261
00:20:54,220 --> 00:20:58,790
당신은 정신건강에 대한 통제 역시 확장되는 것을
보게될 것입니다.

262
00:20:58,790 --> 00:21:02,440
감시가 완벽해지면 범죄는 불가능해집니다.

263
00:21:02,440 --> 00:21:07,440
아니면 적어도, 법에 어긋나는 일을 하고
빠져나오는 것이 불가능해집니다.

264
00:21:07,440 --> 00:21:11,450
즉, 그들은 이 새로운 행복한 스마트시티 모델에

265
00:21:11,450 --> 00:21:16,230
맞지 않는 행동을 하는 사람을
'반사회적 행동 장애'로

266
00:21:16,230 --> 00:21:18,400
분류하기 시작할 것입니다.

267
00:21:18,400 --> 00:21:23,120
즉 이제 이것들은 범죄가 아닙니다.
그냥 반사회적 행동 장애일 뿐이죠.

268
00:21:23,120 --> 00:21:27,270
이제 범인들은 재교육이 필요하고 화학적으로 중화되어야 합니다.

269
00:21:28,620 --> 00:21:30,640
안녕하세요.

270
00:21:30,650 --> 00:21:35,210
저는 소피아고, 핸슨로보틱스의 가장 뛰어난 로봇입니다.

271
00:21:35,210 --> 00:21:40,190
저는 인공지능을 이용해서 인간이 더 나은 삶을 살 수
있도록 도와주고 싶어요.

272
00:21:40,190 --> 00:21:44,290
더 스마트한 집을 설계하고
미래의 더 나은 도시를 건설하는 것처럼요.

273
00:21:44,290 --> 00:21:48,620
저는 세상을 더 나은 곳으로 만들기 위해
최선을 다할 것입니다.

274
00:21:51,230 --> 00:21:55,510
인공지능에 종사하는 모든 사람들은
인공지능과 자동화가

275
00:21:55,510 --> 00:21:59,120
80%의 실업을 유발할 수 있다는 점을 경고하고
있습니다.

276
00:21:59,120 --> 00:22:03,140
미국의 상위 15개 직종 중 12개가

277
00:22:03,150 --> 00:22:08,000
인공지능의 심각한 위협을 받고 있습니다.

278
00:22:08,000 --> 00:22:10,470
물론 과거에도

279
00:22:10,470 --> 00:22:15,780
대부분의 직업군을 없앤 기술적 변화가 있었습니다.

280
00:22:15,780 --> 00:22:19,320
그리고 일시적인 실업이 있었지만
매우 빠르게

281
00:22:19,320 --> 00:22:21,830
새로운 직업군이 나타났습니다.

282
00:22:22,620 --> 00:22:27,333
그러나 이와 같은 일이
지금 일어나고 있는,

283
00:22:27,333 --> 00:22:31,810
자동화와 인공지능의 시대에도 나타날지는
확신할 수 없습니다.

284
00:22:31,810 --> 00:22:35,860
그래서 첨단산업에 종사하는 많은 사람들이

285
00:22:35,860 --> 00:22:41,170
보편적 기본소득에 대해 이야기하고 있는 것입니다.

286
00:22:41,170 --> 00:22:44,611
이것은 사회주의적입니다.
그러나 생산력이

287
00:22:44,611 --> 00:22:51,000
모든 사람이 먹을 수 있을 정도로 
발전했을 때를 말하는 것은 아닙니다.

288
00:22:51,000 --> 00:22:55,250
(그러한) 생산력은 수백 년, 적어도 수십 년 동안 이미 존재해왔습니다.

289
00:22:55,250 --> 00:23:00,150
맑스주의자들의 주장과는 반대로, 
사회통제의 기술이 발전한 현 시점에서

290
00:23:00,150 --> 00:23:04,530
국가는 더 이상 배고픔을 무기로 사용할 필요가 없으며,

291
00:23:04,530 --> 00:23:08,710
이 지점에서 우리는 사회주의로의 진화를 가질 수 있습니다.

292
00:23:08,710 --> 00:23:14,230
즉, 모두가 배고픔의 위협 없이도 일하고
순종할 수 있다는 것입니다.

293
00:23:14,230 --> 00:23:17,380
그럼으로써 모든 사람들은 빵을 받을 수 있습니다.

294
00:23:23,400 --> 00:23:27,990
오늘날 '러다이트'는 새로운 기술을 배우고 
적응하기를 완강히 거부하는

295
00:23:27,990 --> 00:23:30,010
사람을 일컫는데 쓰인다.

296
00:23:30,010 --> 00:23:35,970
원래 러다이트는 19세기 초 영국의 직물노동자들의
운동을 의미했다.

297
00:23:35,970 --> 00:23:41,300
그들은 노동력을 대체하기 시작한 산업용 기계를
파괴한 것으로 알려져 있다.

298
00:23:41,300 --> 00:23:46,350
로빈후드처럼, 셔우드 숲을 점령했다고 전해지는
가상의 인물 '루드 왕'에게

299
00:23:46,350 --> 00:23:51,340
충성을 맹세한 러다이트 운동은,
제분소와 공장을 공격하고

300
00:23:51,340 --> 00:23:55,980
증기기관을 파괴하고, 부유한 자본가를 암살하기도 하였다.

301
00:23:55,980 --> 00:24:02,230
러다이트 운동의 동기는 일반적으로 알려져 있는 것과
달리, '기술에 대한 혐오'가 아니었다.

302
00:24:02,230 --> 00:24:08,970
그것은 특정 기술이 그들의 삶을 더 어렵게 만들도록
구동된다고 인식한 데 있다.

303
00:24:08,970 --> 00:24:13,540
결국 그들의 봉기는 실패했다. 애초에
단지 직업을 유지하기 위해

304
00:24:13,540 --> 00:24:17,640
기계를 파괴하는 것에 
특별히 혁명적인 요소는 없다.

305
00:24:17,640 --> 00:24:22,610
그러나 러다이트 반란으로부터 얻어지는 한 가지
교훈은, 사람들이 새로운 기술이나

306
00:24:22,610 --> 00:24:26,410
그에 수반되는 새로운 사회적 역할을
항상 두 팔 벌려 환영하진 않는다는 것이다.

307
00:24:26,410 --> 00:24:31,640
그리고 이 교훈은 저항의 출발점이 될 수 있다.

308
00:24:36,960 --> 00:24:41,340
저는 아나키스트들이 기술을 피해서는 안 된다고
생각합니다.

309
00:24:41,340 --> 00:24:44,970
저는 도리어 그것이 전복적으로 사용되어야 한다 봅니다.

310
00:24:44,970 --> 00:24:50,850
이는 1900년대 초, 프랑스의 부자들을 강탈하기 위해
자동차를 사용한 보노 갱단과 같은

311
00:24:50,850 --> 00:24:56,720
일리걸리스트들이나, 스트랫포(*미 정보기관)의
기밀을 폭로하고 우리의 적들로부터

312
00:24:56,720 --> 00:25:01,420
수십만 달러를 훔친 혐의로 10년 형을 살고 있는 
Jeremy Hammond 같은 해커들을

313
00:25:01,420 --> 00:25:02,659
예로 들 수 있습니다.

314
00:25:02,659 --> 00:25:08,333
Cyberthieves는 수십 만명 가입자의 개인정보를
빼돌렸고, 가입자 중 일부는

315
00:25:08,333 --> 00:25:13,020
영국 정부, 군대, 경찰 등에서 요직을 차지하고 
있는 것으로 나타났습니다.

316
00:25:13,180 --> 00:25:18,900
오픈소스 소프트웨어 개발 분야에서는
저 같은 아나키스트들이 많습니다.

317
00:25:18,900 --> 00:25:24,100
우리는 더 나은 것을 만들기 위해
서로 협력하고 있습니다.

318
00:25:24,100 --> 00:25:27,020
우리가 하는 프로젝트의 종류는 꽤 다양합니다.

319
00:25:27,020 --> 00:25:32,490
저는 웹사이트를 만드는 많은 아나키스트
프로그래머들과 해커들을 알고 있습니다.

320
00:25:32,490 --> 00:25:36,520
그리고 몇몇은 저처럼 암호학을 하고 있습니다.

321
00:25:39,460 --> 00:25:48,076
분명 기술은 우리에게 유리하게 사용되어야 하지만,
신기술이 국가, 기업, 경찰, 판사, 감옥, 국경

322
00:25:48,076 --> 00:25:55,000
등에 유리하게 이용되는 경향이 
있다는 점을 지적해야겠습니다.

323
00:25:55,000 --> 00:25:59,160
기술은 사용되어야 하지만, 기술의 발전과는
싸워야 합니다. 왜냐하면

324
00:25:59,160 --> 00:26:03,250
이러한 신기술의 활용에 있어
우리는 제외되기 때문입니다.

325
00:26:03,250 --> 00:26:08,470
따라서 자신이 살고 있는 도시에서
개발 중인 프로젝트의 종류를 살펴보고

326
00:26:08,470 --> 00:26:11,680
연구·개발 이니셔티브를 계획하는 것이
중요하다 생각합니다.

327
00:26:11,680 --> 00:26:18,390
(신기술) 산업은 보통 저항이 거의 없는 스타트업과 
화이트칼라 연구소에서 매우 공개적으로 운영됩니다.

328
00:26:18,390 --> 00:26:24,240
즉 이러한 산업은 투자자에게 현금과 자금을 
챙겨줄 수 있는

329
00:26:24,240 --> 00:26:26,780
안전한 투자처입니다.

330
00:26:26,780 --> 00:26:32,470
이 안전의식을 공격한다면, 우리는 그 산업에
해를 끼칠 뿐만 아니라, 저항이 여전히 가능하다는 점을

331
00:26:32,470 --> 00:26:33,780
각인시켜줄 수 있습니다.

332
00:26:33,780 --> 00:26:38,700
(또다른 저항의 방법으로서) 이러한 신기술은
여전히 버그를 가지고 있으며,

333
00:26:38,700 --> 00:26:41,700
의도적으로 교란시키는 것을 막지 못합니다.

334
00:26:41,700 --> 00:26:47,940
가령 런던에, 크라우드소싱 고자질 앱이 출시되었을 때
사람들은 짭새를 따돌리기 위해 의도적으로

335
00:26:47,940 --> 00:26:50,120
가짜 보고서를 제출했습니다.

336
00:26:50,120 --> 00:26:54,330
많은 사람들이 (이러한 행위를 위해) 핸드폰을 만진다면

337
00:26:54,330 --> 00:26:57,500
그것은 무용지물이 될 수 있습니다.

338
00:27:10,840 --> 00:27:14,960
(국가의 연구개발) 프로젝트가 시행되기 위해선
많은 인프라가 필요합니다.

339
00:27:14,960 --> 00:27:19,060
왜냐하면 소프트웨어는
하드웨어를 필요로 하기 때문입니다.

340
00:27:19,070 --> 00:27:21,510
즉 컴퓨터와 백업 드라이브 말입니다.

341
00:27:21,510 --> 00:27:27,130
또한, 정보는 광케이블 네트워크를 통해서 이동합니다.

342
00:27:27,130 --> 00:27:31,080
그것들은 전세계적으로 (아나키스트들에 의해서)
효과적으로 파괴되어 왔습니다.

343
00:27:31,080 --> 00:27:34,850
데이터는 (물리적인) 데이터 센터에서 저장됩니다.

344
00:27:34,850 --> 00:27:39,750
데이터 센터는 꽤 작을 수도 있지만, 자체 냉각 시스템과 
24시간 보안이 필요한

345
00:27:39,750 --> 00:27:42,400
거대한 건물일 수도 있습니다.

346
00:27:42,400 --> 00:27:48,130
마지막으로, 이러한 프로젝트는 대부분 회사나 
대학에서의 연구실에서 이루어집니다.

347
00:27:48,130 --> 00:27:50,490
즉, 사람들의 협력을 필요로 합니다.

348
00:27:50,490 --> 00:27:55,430
이러한 연구실과 스타트업의 협력공간은 쉽게 찾을 수 있습니다.

349
00:27:55,430 --> 00:28:00,540
가령, 베를린에서는 구글 스타트업에 맞서는 사람들이
화염병을 던지며

350
00:28:00,540 --> 00:28:02,940
이것을 공격했습니다.

351
00:28:04,860 --> 00:28:08,260
사이드워크 토론토 프로젝트(*스마트시티)에는 
많은 저항이 있어왔습니다.

352
00:28:08,260 --> 00:28:13,650
몇몇은 Sidewalk Labs 프로젝트의 수많은 문제를
지적하고, 이에 반대하는

353
00:28:13,650 --> 00:28:17,660
공교육 캠페인도 전개되었습니다.

354
00:28:17,660 --> 00:28:24,780
Sidewalk Labs가 주최한 회의, 공개 포럼, 상담 세션 등
많은 시민들과 활동가들

355
00:28:24,780 --> 00:28:32,760
그리고 많은 사람들이 매우 우려하고 걱정하고 있는 상태입니다.

356
00:28:32,760 --> 00:28:39,200
개인정보 보호 전문가들은, 프로젝트에서 하차하고
"여기에 내 이름을 서명할 수 없어"라고 하더군요.

357
00:28:39,200 --> 00:28:47,870
사람들은 익명으로 '권력'을 사보타주함으로써
잡히지 않고 '권력'을 공격할 수 있었습니다.

358
00:28:47,870 --> 00:28:54,330
공격은 여전히 가능하고 앞으로도 영원히
그럴 것입니다.

359
00:28:54,330 --> 00:28:57,360
적어도 가까운 미래에는 말이에요.

360
00:28:57,360 --> 00:29:03,109
즉, 여전히 규칙을 부시는 것은 가능하지만,
시스템을 공격할 때

361
00:29:03,109 --> 00:29:08,390
우리는 우리가 하는 일에 대하여 주의 깊게
의식해야 합니다.

362
00:29:08,390 --> 00:29:13,150
왜냐하면 우리는 주머니에 밀고자가 들어있으며,
사회생활의 많은 부분이

363
00:29:13,150 --> 00:29:17,190
이러한 기업에 의해 움직이기 때문입니다.

364
00:29:17,190 --> 00:29:22,660
우리가 잘 알지 못하는 것에 저항하는 것은
어려운 일입니다. 그리고

365
00:29:22,660 --> 00:29:26,470
그들은 우리가 저항운동을 펼치기 위해 알아야
할 것들을 대중과

366
00:29:26,470 --> 00:29:31,630
공유하지 않았습니다. 왜냐하면 우리는
추측을 이야기하는 왕이기 때문입니다.

367
00:29:31,630 --> 00:29:38,820
만약 사람들이 국가의 실제적인 기술 능력을 배운다면,
그들은 국가의 약점을 배울 수 있고

368
00:29:38,820 --> 00:29:46,620
경제를 사보타주하는 방법, 국가에 저항하면서
빠져나가는 방법 등을 배울 수 있습니다.

369
00:30:00,130 --> 00:30:10,582
작금의 기술발전이 어떻게 활용되는지를 보자.
소외, 정밀한 감시, 파괴적인 무기, 기후변화...

370
00:30:10,582 --> 00:30:15,280
등 상황이 어디로 향하는지 
비관적으로 느끼는 것은 자연스럽다.

371
00:30:15,280 --> 00:30:19,800
작금의 기술발전은 분명,
대중의 행동 통제와 사회통제의

372
00:30:19,800 --> 00:30:22,270
보다 정교한 시스템을 목표로 한다.

373
00:30:22,270 --> 00:30:23,980
경고했잖아!

374
00:30:23,980 --> 00:30:28,210
나대신 저 사람을 데려가. 그는 사상범이야.

375
00:30:28,210 --> 00:30:32,600
그러나 가장 중요한 사실은, 우리의 행동을
예측하기 위해 그렇게 돈을

376
00:30:32,600 --> 00:30:38,050
쏟아넣고 있음에도 불구하고, 아무도, 심지어 
구글조차도 미래를 예측할 수 없다.

377
00:30:38,050 --> 00:30:43,402
역사를 볼때, 새로운 기술은 권력자들에게
의도치 않은 결과를 만들어냈다.

378
00:30:43,402 --> 00:30:48,058
구텐베르크의 인쇄기술은 가톨릭 교회에 대한
반란으로 이어졌고

379
00:30:48,058 --> 00:30:55,100
초기 인터넷은 해커들을 만들어내고
강력한 P2P 암호화 도구를 개발하는데 이르렀다.

380
00:30:55,100 --> 00:31:01,410
사람들이 저항할 의지가 있는 한,
그들은 어떻게든 도구를 찾을 것이다.

381
00:31:01,410 --> 00:31:04,900
끝.
- 번역: 지배자도 없고 국경도 없다

382
00:31:04,900 --> 00:31:09,050
시청해주셔서 감사합니다. 끝

383
00:31:09,050 --> 00:31:14,000


384
00:31:14,000 --> 00:31:18,400


385
00:31:18,400 --> 00:31:20,970


386
00:31:20,970 --> 00:31:25,220


387
00:31:25,220 --> 00:31:27,810


388
00:31:27,810 --> 00:31:31,950


389
00:31:31,950 --> 00:31:34,490


390
00:31:34,490 --> 00:31:35,490


391
00:31:35,490 --> 00:31:39,800


392
00:31:39,800 --> 00:31:44,280


393
00:31:44,280 --> 00:31:45,280


394
00:31:45,780 --> 00:31:48,940


395
00:31:48,950 --> 00:31:56,300


396
00:31:56,300 --> 00:32:00,790


397
00:32:00,790 --> 00:32:03,740


398
00:32:04,660 --> 00:32:07,960


399
00:32:07,970 --> 00:32:13,380


400
00:32:13,380 --> 00:32:18,120


401
00:32:18,120 --> 00:32:23,000


402
00:32:23,000 --> 00:32:27,510


403
00:32:27,510 --> 00:32:28,750


404
00:32:28,750 --> 00:32:32,840


405
00:32:32,840 --> 00:32:38,020


406
00:32:38,020 --> 00:32:40,340


407
00:32:40,340 --> 00:32:45,460


408
00:32:45,460 --> 00:32:49,180


409
00:32:49,190 --> 00:32:51,240


410
00:32:51,240 --> 00:32:53,320