0:00:01.000,0:00:03.018
약 5년 전쯤에

0:00:03.042,0:00:05.434
저는 제 사상을 [br]공유하지 않는 사람들과

0:00:05.458,0:00:07.958
소통할 능력을 상실하고 있음을 [br]알게 되었습니다.

0:00:08.917,0:00:12.559
제 동료 미국인들과 민감한 [br]문제에 대해 논의하는 것이

0:00:12.583,0:00:19.276
바다 건너편에 있는 극단주의자들과[br]논의하는 것보다 더 답답할 때가 많았죠.

0:00:19.750,0:00:23.351
이 문제는 저를 더욱 더 찜찜하고[br]불편하게 만들었습니다.

0:00:23.375,0:00:24.809
그래서

0:00:24.833,0:00:26.643
저는 제 초점을

0:00:26.667,0:00:29.101
범세계적 국가 안보 위협에서

0:00:29.125,0:00:32.351
미국의 극단적 양극화에 대한[br]

0:00:32.375,0:00:35.601
근본적인 원인 분석으로 옮겼습니다.

0:00:35.625,0:00:37.976
지난 몇 년간 양극화 이슈에 관한 [br]연구를 해오던

0:00:38.000,0:00:41.434
전 CIA 요원과 외교관으로서

0:00:41.458,0:00:45.309
저는 이 양극화가 우리 민주주의의 [br]그 어느 적보다 더 큰

0:00:45.333,0:00:47.851
위협이 될 수 있음을 직감했습니다.

0:00:47.875,0:00:49.684
그래서 저는 이 문제에 깊숙이 파고들고

0:00:49.708,0:00:51.226
제 목소리를 높이기 시작했죠.

0:00:51.250,0:00:54.059
이런 일들을 바탕으로 저는[br]페이스북에 고용이 됐고

0:00:54.083,0:00:56.768
지금 이 기회를 통해

0:00:56.792,0:00:59.601
여러분들에게 이 플랫폼들이 [br]어떻게 우리의 사상을

0:00:59.625,0:01:03.643
극단적으로 치우치게 만드는지,[br]그리고 어떻게 하면 이 플랫폼들을

0:01:03.667,0:01:06.625
다시 우리의 것으로 만드는지에 [br]대한 대화를 나누고자합니다.

0:01:07.625,0:01:09.601
저는 9/11 테러 [br]사건으로부터 몇 년 후

0:01:09.625,0:01:12.684
케냐에 외무직 요원으로 일하면서

0:01:12.708,0:01:15.268
많은 사람들이 말하길 [br]"마음과 사상" 이라 하는 캠페인을

0:01:15.292,0:01:17.226
소말리아 국경 근처에서 주도했습니다.

0:01:17.250,0:01:20.559
이 일의 큰 부분은 극단주의적 사상에 [br]잠식될 가능성이 가장 높은

0:01:20.583,0:01:23.292
커뮤니티 내에서 [br]신뢰를 쌓는 것에 있었습니다.

0:01:24.125,0:01:28.309
저는 반서방주의인 성직자들과[br]몇 시간이나 차를 마시고

0:01:28.333,0:01:31.559
심지어 테러범으로 의심되는 자들과도[br]대화를 나눴습니다.

0:01:31.583,0:01:34.976
이러한 대화 중 다수는 [br]상호적 의심으로부터 시작됐으나

0:01:35.000,0:01:38.809
이것이 욕설이 난무하는[br]경우로 변한 적은 기억하지 못합니다.

0:01:38.833,0:01:42.917
몇몇 사례에서는 [br]상호 이해관계를 맺고 협력했죠.

0:01:44.000,0:01:48.143
우리가 가지고 있던 가장 [br]강력한 대화수단은 경청하는 것과 배우는 것,

0:01:48.167,0:01:49.893
그리고 상대방을 이해하는 것이었습니다.

0:01:49.917,0:01:52.976
이것이 우리 캠페인의 본질이었죠.

0:01:53.000,0:01:56.268
제가 보았을 때 이 사람들이 [br]우리한테 가장 바랬던 것은

0:01:56.292,0:02:00.059
우리가 자신들의 이야기를[br]들어주는 것과 존중받는 것이었습니다.

0:02:00.083,0:02:02.726
대부분 우리는 이것들을 원하죠.

0:02:02.750,0:02:06.059
그렇기에 지금 일어나고 있는 일들이[br]특히나 가슴 아프고

0:02:06.083,0:02:08.167
해결하기 어려운 문제이기도합니다.

0:02:08.917,0:02:12.684
우리들은 현재 이 정보 네트워크에 의해[br]한쪽 사상으로 극단적으로 치우치고

0:02:12.708,0:02:16.476
절대주의에 깊이 빠지어[br]타협은 생각도 못하게

0:02:16.500,0:02:19.476
교묘히 이용당하고있습니다.

0:02:19.500,0:02:20.809
왜냐면 지금 현재

0:02:20.833,0:02:22.976
페이스북을 비롯한 많은 기업들이

0:02:23.000,0:02:26.851
우리의 편견에서 비롯된 [br]개인화된 콘텐츠로

0:02:26.875,0:02:30.726
우리를 분열시킴으로써[br]이득을 보기 때문입니다.

0:02:30.750,0:02:34.184
이런 회사들은 격한 감정을 이끌어 내고,[br]우리의 시선을 끄는 콘텐츠를

0:02:34.208,0:02:35.893
제공하는데 의존하기 때문에

0:02:35.917,0:02:40.184
극단론자들의 콘텐츠를 우선적으로[br]제공함으로써 우리들에게

0:02:40.208,0:02:44.643
협상과 타협이 불가능하다는[br]생각이 들게끔 유도합니다.

0:02:44.667,0:02:48.893
하지만 많은 요구에도 불구하고[br]이 회사들이 이런 정책들을

0:02:48.917,0:02:52.226
바꾸지 않을 것임이 너무나도 뻔합니다.

0:02:52.250,0:02:55.143
그러므로 이제는 정부에서

0:02:55.167,0:02:58.976
기업들의 이런 정책들이

0:02:59.000,0:03:01.768
우리의 사회, 민주주의와 [br]공중보건에 끼치는

0:03:01.792,0:03:07.101
악영향에 대해 책임지게 할 때입니다.

0:03:07.125,0:03:11.768
유감스럽게도, 이런 제재는 다음 대통령 [br]선거 전까지는 이행되지 못할 겁니다.

0:03:11.792,0:03:14.559
그래서 제가 계속 상기시켜 드리는 겁니다.

0:03:14.583,0:03:17.643
왜냐하면 어느날 강경한 규율이[br]세워진다 한들

0:03:17.667,0:03:20.417
우리 모두가 고쳐나가야 할 [br]문제이기 때문입니다.

0:03:21.417,0:03:24.018
제가 제 초점을 국가 안보 위협에서

0:03:24.042,0:03:26.184
우리의 사회적 분열으로 옮겼을 때

0:03:26.208,0:03:30.268
저는 "마음과 사상" 캠페인을 재활용해

0:03:30.292,0:03:32.393
이 분열을 치유해보면[br]어떨지 생각했습니다.

0:03:32.417,0:03:36.226
우리의 200년 된 민주주의가 [br]성공 할 수 있었던 가장 큰 이유는

0:03:36.250,0:03:40.143
우리가 우리들의 생각에 대해[br]자유롭게 토론하고 해답을

0:03:40.167,0:03:42.976
찾을 수 있었기 때문입니다.

0:03:43.000,0:03:44.809
저는 지금도 대면 방식의

0:03:44.833,0:03:47.101
시민 담론의 힘을 믿습니다만

0:03:47.125,0:03:48.768
SNS가 우리에게 끼치는

0:03:48.792,0:03:52.601
악영향에 비해서는 역부족입니다.

0:03:52.625,0:03:56.326
이런 기업들의 술책에 [br]속수무책으로 빠져드는 사람들은

0:03:56.333,0:03:59.976
제가 케냐에서 보았던 [br]사람들보다 더욱 더

0:04:00.000,0:04:03.476
자신의 극단화된 사상으로부터 [br]해어 나오기 힘들어합니다.

0:04:03.500,0:04:05.809
그래서 저는 2018년 [br]페이스북으로부터

0:04:05.833,0:04:07.143
선거 광고 운영 총괄자로

0:04:07.167,0:04:11.143
고용 오퍼가 들어왔을 때

0:04:11.167,0:04:13.184
저는 수락해야만 했습니다.

0:04:13.208,0:04:15.934
이 상황을 다 바로잡으리라[br]예상하지는 않았지만

0:04:15.958,0:04:17.601
우리가 탄 배를 정확한 방향으로

0:04:17.625,0:04:19.809
바꾸는 기회가 주어졌을 때

0:04:19.833,0:04:21.375
그래도 시도는 해봐야겠다고 [br]생각했습니다.

0:04:22.667,0:04:24.934
양분화에 대하여 직접적으로[br]일을 한 것은 아니지만

0:04:24.958,0:04:29.393
우리 사회에서 가장 분열화된 쟁점들을[br]관찰할 수 있었습니다.

0:04:29.417,0:04:33.226
가장 유리하게 이용할 수 있는[br]선거 개입 활동들도 말이죠.

0:04:33.250,0:04:35.833
2016년 이전의 러시아의 전략처럼요.

0:04:36.393,0:04:38.934
그래서 질문을 하기 시작했습니다.

0:04:38.958,0:04:41.851
어떤 조직적 기반 문제들이

0:04:41.875,0:04:44.309
이것들을 가능하게 했고,

0:04:44.333,0:04:46.417
어떻게 고칠 수 있는지요.

0:04:47.625,0:04:50.184
그래도 저는 인터넷이[br]더 많은 의견들이 표출되게

0:04:50.208,0:04:52.726
도와준다고 생각합니다.

0:04:52.750,0:04:55.851
하지만 그들이 하나된 공동체를 [br]만든다는 목표와 상반되어,

0:04:55.875,0:04:59.184
현재의 대기업 SNS들은

0:04:59.208,0:05:02.809
이유에 근거한 담론이 [br]살아남기 힘들게 구조화되어 있습니다.

0:05:02.833,0:05:05.351
사용자, 활동량 증가가[br]성공의 키인 사업체에서

0:05:05.375,0:05:06.976
경청을 옹호하고,

0:05:07.000,0:05:10.643
정중한 토론을 장려하고,

0:05:10.667,0:05:14.018
진정성 있는 질문자들을

0:05:14.042,0:05:17.268
보호할 일은 없을 겁니다.

0:05:17.292,0:05:20.726
사람들이 더 천천히 생각하고

0:05:20.750,0:05:23.976
사람들이 멈출 때를 알게 해주고

0:05:24.000,0:05:26.601
어떤 것에 대한 자신의 반응을 관찰하고

0:05:26.625,0:05:29.292
자신의 편견들을 [br]되돌아 보게 할 필요가 없거든요.

0:05:30.625,0:05:32.601
바로 안타까운 현실은

0:05:32.625,0:05:35.518
온라인에서 거짓말은 [br]진실보다 매혹적이고,

0:05:35.542,0:05:39.268
빠르고 급속적인 세상에서

0:05:39.292,0:05:42.333
추잡스러움은 시시하고[br]사실적인 추론을 이깁니다.

0:05:43.167,0:05:46.601
알고리즘의 목표가 우리가 계속 [br]SNS를 하게 만드는 것인 이상,

0:05:46.625,0:05:50.684
우리의 최악의 본능과 약점을 이끌어내는

0:05:50.708,0:05:52.167
독을 계속 먹일 것입니다.

0:05:52.958,0:05:55.781
분노, 불신,

0:05:55.781,0:05:58.016
그리고 무서움과 증오의 문화,

0:05:58.030,0:06:00.601
다 미국에서 있던 것이지만,

0:06:00.625,0:06:03.976
최근에 SNS 는 그것들을 포용하고,

0:06:04.000,0:06:07.601
제가 보기에는, 극단화 시켰습니다.

0:06:07.625,0:06:10.018
그리고 페이스북도 압니다.

0:06:10.042,0:06:11.934
최근에 월 스트리트 [br]저널에서 나온 기사가

0:06:11.958,0:06:16.101
페이스북 사내에서 2018년에 [br]이루어진 발표를 폭로했는데

0:06:16.125,0:06:19.893
바로 여기서 회사의 알고리즘을 통해

0:06:19.917,0:06:23.434
극단주의 단체들의 존재감을 높이고

0:06:23.458,0:06:25.625
사용자들을 분열시키자는 [br]내용이 나왔습니다.

0:06:26.708,0:06:30.393
우리 활동을 부추기는 것이 바로[br]그들이 돈을 버는 방법이기 때문이죠.

0:06:30.417,0:06:34.643
현재의 정보 세상은[br]우리의 자료를 수집하고,

0:06:34.667,0:06:37.643
더 좁은 카테고리로 분류하여

0:06:37.667,0:06:40.976
개인화 과정을 다지는것에 따라 [br]형성되었습니다.

0:06:41.000,0:06:44.809
그 다음에 우리의 사상을 검증하고,

0:06:44.833,0:06:46.684
편견들을 강화시키고

0:06:46.708,0:06:50.226
소속감을 주는 정보로 공격당합니다.

0:06:50.250,0:06:53.643
이것들은 테러리스트 모집원들이

0:06:53.667,0:06:55.851
그들에게 사상을 주입하기 위해

0:06:55.875,0:06:59.726
SNS 이전에 더 작고, [br]지역적인 방법으로

0:06:59.750,0:07:03.018
취약한 청년층에게 [br]사용하는 방법과 같습니다.

0:07:03.042,0:07:08.309
불행하게도, 전 변화를 줄 수 있을 정도로[br]페이스북에서 권한을 부여받지 못했습니다.

0:07:08.333,0:07:12.101
사실 제 두 번째 날, [br]제 직책과 업무 내용이 바뀌어 있었으며

0:07:12.125,0:07:15.101
중대한 회의들에서 제외되었습니다.

0:07:15.125,0:07:16.434
제 가장 큰 노력들,

0:07:16.434,0:07:21.476
계흭적으로 허위정보와 [br]정치적 광고를 통한 유권자 억압을 막는 것,

0:07:21.500,0:07:23.059
모두 거절당했습니다.

0:07:23.083,0:07:25.583
그래서 약 6개월 후 [br]회사를 그만뒀습니다.

0:07:26.125,0:07:29.726
제가 이 경험에서 배운 건 이것입니다.

0:07:29.750,0:07:32.226
바로 열정적으로 제품 개발에 몰두하는

0:07:32.250,0:07:34.268
몇천명의 페이스북 직원들은

0:07:34.292,0:07:37.976
세상을 더 좋은 곳으로 [br]만들 수 있다고 믿지만,

0:07:38.000,0:07:41.684
회사가 계속 컨텐츠 관리와 정책에

0:07:41.708,0:07:44.434
소홀이 행동하고

0:07:44.458,0:07:46.812
수익 창출과 플랫폼 설계에만

0:07:46.812,0:07:49.018
집중하는 이상,

0:07:49.042,0:07:52.393
이 플랫폼이 어떻게 [br]혐오, 분열과 급진화에 앞장서는지

0:07:52.417,0:07:56.601
신경써서 고치려 하진 않을 겁니다.

0:07:56.625,0:08:00.893
제가 거기서 일할 때 [br]이런 것에 대한 언급은 듣지를 못했습니다.

0:08:00.917,0:08:03.976
그러기 위해서는

0:08:04.000,0:08:08.143
그들이 만든게 근본적으로[br]사회에 해가 되는것을 인정하고

0:08:08.167,0:08:11.292
제품 전체와 수익 창출 방법을 [br]바꿔야 하기 때문일 겁니다.

0:08:12.500,0:08:14.333
그래서 우린 무얼 할 수 있을까요?

0:08:15.042,0:08:18.643
전 지금 이 상황에 놓이게 된 것이

0:08:18.667,0:08:20.809
SNS만의 책임이라고 [br]하는 것은 아닙니다.

0:08:20.833,0:08:26.268
분명히, 우리는 풀어나가야 할 [br]뿌리 깊은 사회적 문제들이 많죠.

0:08:26.292,0:08:30.434
하지만 페이스북이 이건 모두 다 사회의 [br]본모습일 뿐이라고 주장하는 것은,

0:08:30.458,0:08:33.476
그들의 플랫폼이 [br]해로운 콘텐츠를 확산하고

0:08:33.500,0:08:37.768
몇몇 유저들을 극단적인 사상으로 [br]밀어넣는 것에 대한

0:08:37.792,0:08:40.833
책임 회피일 뿐입니다.

0:08:41.583,0:08:44.434
페이스북이 원한다면,

0:08:44.458,0:08:46.309
어느 정도는 고칠 수 있을 겁니다.

0:08:46.333,0:08:50.184
그들이 음모론자들, 증오 집단들,

0:08:50.208,0:08:53.037
그리고 가짜 뉴스를 조달하는 사람들을 [br]그만 부추기고 추천하면 됩니다.

0:08:53.067,0:08:56.768
심지어 우리의 대통령도 말이죠.

0:08:56.792,0:09:00.184
그들이 우리에게 운동화를 광고하듯이

0:09:00.208,0:09:04.434
정치적으로 설득하는 것을 [br]그만하면 됩니다.

0:09:04.458,0:09:06.184
그들이 알고리즘을 [br]재훈련 시키면 될 겁니다.

0:09:06.208,0:09:08.393
활동량이 아닌 다른 지표를 세우고,

0:09:08.417,0:09:12.416
특정 콘텐츠가 인기를 얻지 못하게

0:09:12.500,0:09:14.417
안전 장치를 설치함으로써 말이죠.

0:09:14.875,0:09:17.143
이것을 다 하면서도

0:09:17.167,0:09:21.351
그들이 지칭하는 "진실의 중재자"가 [br]되지 않을 수 있습니다.

0:09:21.375,0:09:24.184
하지만 그들이 강제되지 않는 이상

0:09:24.208,0:09:27.018
옮은 일을 하지 않을 것이라고 [br]명백히 밝혔습니다.

0:09:27.042,0:09:29.976
솔직히, 그들이 굳이 [br]그럴 이유도 없으니까요.

0:09:30.000,0:09:33.934
시장에서 계속 수익이 나며, [br]법을 어기는 것도 아니기 때문이죠.

0:09:33.958,0:09:35.268
왜냐하면 현재 상황에서는

0:09:35.292,0:09:39.794
미국의 어느 법도 [br]페이스북이나 다른 SNS업체들이

0:09:39.798,0:09:41.686
우리의 의견을 내는 공간

0:09:41.700,0:09:43.973
우리의 민주주의나 선거를 보호하도록

0:09:43.973,0:09:45.768
강제하지 않기 때문입니다.

0:09:45.792,0:09:49.893
우리는 지금까지 [br]영리 인터넷 기업들의 CEO들에게

0:09:49.917,0:09:53.000
무슨 규칙을 세우고 [br]무엇을 강제할지 맡겨왔습니다.

0:09:53.750,0:09:55.768
서로 독이 되고 분열되어

0:09:55.792,0:09:59.018
유대감 없이 교감만 찾아 헤매는[br]진실을 외면하는 세상,

0:09:59.042,0:10:01.667
이게 정말 우리가 원하는 것일까요?

0:10:02.667,0:10:06.768
그래도 아직은 우리가 [br]SNS에서 보이는 것보다는

0:10:06.792,0:10:10.434
서로 닮은 점이 많다라고 [br]긍정적으로 생각합니다.

0:10:10.458,0:10:13.559
그리고 더 많은 관점들을 수용하는 것이

0:10:13.583,0:10:17.184
더욱 건강하고 포용적인 [br]민주주의를 만든다고 믿습니다.

0:10:17.208,0:10:20.018
하지만 지금처럼은 아닙니다.

0:10:20.042,0:10:24.268
강조하는데, 저는 이 회사들을 [br]죽이고 싶은 마음이 없습니다.

0:10:24.292,0:10:27.518
그냥 어느 정도의 책임감만[br]질 수 있었으면 좋겠습니다.

0:10:27.542,0:10:29.458
사회의 다른 것들처럼 말이죠.

0:10:30.542,0:10:34.893
이제 우리의 정부들이 일어서서

0:10:34.917,0:10:36.559
우리의 시민성을 지킬 때가 됐습니다.

0:10:36.583,0:10:39.643
이걸 모두 고쳐줄 마법같은 법안이

0:10:39.667,0:10:41.143
존재하는 것은 아니지만

0:10:41.167,0:10:45.851
정부가 표현의 자유 보장과[br]SNS가 사회에 미치는 영향에 대해

0:10:45.875,0:10:48.892
책임을 지게 하는 것, 그 사이에[br]균형을 찾을 수 있으며,

0:10:48.922,0:10:52.351
찾아야 한다고 생각합니다.

0:10:52.375,0:10:56.684
그리고 그들은 이걸 추천 알고리즘과

0:10:56.708,0:10:59.851
개인화, 증폭과 타겟팅을 어떻게 하는지

0:10:59.875,0:11:04.518
투명하게 밝힘으로써 도울 수 있습니다.

0:11:04.542,0:11:06.976
이 회사들이

0:11:07.000,0:11:09.751
개개인이 가짜 정보나

0:11:09.775,0:11:11.601
극단적인 사상을 개재하는것이 아닌

0:11:11.625,0:11:15.476
그들의 알고리즘이[br]이걸 어떻게 퍼트리고,

0:11:15.500,0:11:18.726
사람들을 끌어들이며,

0:11:18.750,0:11:22.042
타겟팅을 하는지에 대하여[br]책임을 졌으면 좋겠습니다.

0:11:23.417,0:11:27.101
제가 페이스북 안에서 [br]변화를 주는 것에 실패했지만,

0:11:27.125,0:11:30.018
지난 몇 년간 다시 목소리를 내어

0:11:30.042,0:11:33.488
사람들이 회사들에게 [br]이런 책임을 요구하기를 원하며

0:11:33.522,0:11:36.934
계속 경고를 하고 있는 중입니다.

0:11:36.958,0:11:39.601
제가 여러분에게 [br]하고 싶은 말은 간단합니다:

0:11:39.625,0:11:41.809
정부에게 압력을 주어

0:11:41.833,0:11:47.268
우리가 목소리를 내는 공간을 [br]영리 법인들에게 양도하는 것을 멈추라고 말이죠.

0:11:47.292,0:11:49.143
친구들과 가족들에게

0:11:49.167,0:11:52.309
그들이 온라인상에서 [br]어떻게 이용당하는지 알려주고,

0:11:52.333,0:11:55.851
비슷한 사상을 가지지 않은 사람들과[br]어울리도록 노력하세요.

0:11:55.875,0:11:58.518
이 문제를 우선시켜 주세요.

0:11:58.542,0:12:01.958
사회 모두가 참여해야 [br]고칠 수 있습니다.

0:12:03.250,0:12:08.809
제 전 직장인 페이스북의[br]총수들에게 바칩니다:

0:12:08.833,0:12:14.643
지금도 사람들은 당신들이 만든 도구들로

0:12:14.667,0:12:17.268
증오, 분단과 불신을 퍼트리고 있으며

0:12:17.292,0:12:21.434
당신들은 그것들을 허락하는 것을 넘어서[br]유도하고 있습니다.

0:12:21.458,0:12:23.934
물론 당신들의 플랫폼에는[br]전 세계에서 나오는

0:12:23.958,0:12:27.643
긍정적이고 근사한 이야기들이 [br]많이 있지만,

0:12:27.667,0:12:30.893
이것들을 정당화시키는 것은 아닙니다.

0:12:30.917,0:12:33.893
이제 선거에 더 가까워질수록 [br]더욱 나빠지고 있는데

0:12:33.917,0:12:35.684
더욱더 걱정인 것은

0:12:35.708,0:12:38.184
가장 큰 국면이 일어날 경우

0:12:38.208,0:12:42.351
바로 결과를 받아들이지 못하고 [br]폭력 시위가 일어날 경우입니다.

0:12:42.375,0:12:47.393
그러니 2021년에 또[br]"우리가 더 잘하겠습니다" 라고 할 때,

0:12:47.417,0:12:50.101
이 순간을 기억해주세요.

0:12:50.125,0:12:53.351
왜냐하면 이제는 소수의 목소리가 아닌

0:12:53.375,0:12:55.643
인권운동 지도자, 교수와 학생,

0:12:55.667,0:12:58.643
기자, 광고주와 당신의 직원들이

0:12:58.667,0:13:00.726
당신들의 정책과 운영 방식이

0:13:00.750,0:13:03.351
사람들과 민주주의에 해악을 끼친다고

0:13:03.375,0:13:05.792
외치고 있으니까요.

0:13:06.875,0:13:09.226
당신들의 결정은 당신들이 한 것이지만,

0:13:09.250,0:13:12.917
이렇게 될 걸 예측하지 못했다고[br]말할 수는 없을 겁니다.

0:13:13.942,0:13:15.102
감사합니다.