페이스북 당신은 민주주의를 이렇게 망치고 있습니다

"온라인에서 거짓말은 진실보다 더 이목을 끈다"라고 전 CIA 요원과 외교관 야엘 아이센스타트가 말합니다. "[SNS] 알고리즘들이 바뀌지 않는 한, 그들은 언제까지나 우리들의 악한 본능을 이끌어내는 독을 먹일 것입니다." 아이센스탓은 이 토크에서 페이스북같은 SNS 기업들이 어떻게 우리 사회를 정치적으로 갈라놓고 불신으로 가득하게 만드는지 알아보면서, 동시에 정부에게 이런 기업들로부터 우리의 민주주의와 시민 담론을 보호할 제재를 이행하라고 촉구하고 있습니다.

약 5년 전쯤에

저는 제 사상을
공유하지 않는 사람들과

소통할 능력을 상실하고 있음을
알게 되었습니다.

제 동료 미국인들과 민감한
문제에 대해 논의하는 것이

바다 건너편에 있는 극단주의자들과
논의하는 것보다 더 답답할 때가 많았죠.

이 문제는 저를 더욱 더 찜찜하고
불편하게 만들었습니다.

그래서

저는 제 초점을

범세계적 국가 안보 위협에서

미국의 극단적 양극화에 대한

근본적인 원인 분석으로 옮겼습니다.

지난 몇 년간 양극화 이슈에 관한
연구를 해오던

전 CIA 요원과 외교관으로서

저는 이 양극화가 우리 민주주의의
그 어느 적보다 더 큰

위협이 될 수 있음을 직감했습니다.

그래서 저는 이 문제에 깊숙이 파고들고

제 목소리를 높이기 시작했죠.

이런 일들을 바탕으로 저는
페이스북에 고용이 됐고

지금 이 기회를 통해

여러분들에게 이 플랫폼들이
어떻게 우리의 사상을

극단적으로 치우치게 만드는지,
그리고 어떻게 하면 이 플랫폼들을

다시 우리의 것으로 만드는지에
대한 대화를 나누고자합니다.

저는 9/11 테러
사건으로부터 몇 년 후

케냐에 외무직 요원으로 일하면서

많은 사람들이 말하길
"마음과 사상" 이라 하는 캠페인을

소말리아 국경 근처에서 주도했습니다.

이 일의 큰 부분은 극단주의적 사상에
잠식될 가능성이 가장 높은

커뮤니티 내에서
신뢰를 쌓는 것에 있었습니다.

저는 반서방주의인 성직자들과
몇 시간이나 차를 마시고

심지어 테러범으로 의심되는 자들과도
대화를 나눴습니다.

이러한 대화 중 다수는
상호적 의심으로부터 시작됐으나

이것이 욕설이 난무하는
경우로 변한 적은 기억하지 못합니다.

몇몇 사례에서는
상호 이해관계를 맺고 협력했죠.

우리가 가지고 있던 가장
강력한 대화수단은 경청하는 것과 배우는 것,

그리고 상대방을 이해하는 것이었습니다.

이것이 우리 캠페인의 본질이었죠.

제가 보았을 때 이 사람들이
우리한테 가장 바랬던 것은

우리가 자신들의 이야기를
들어주는 것과 존중받는 것이었습니다.

대부분 우리는 이것들을 원하죠.

그렇기에 지금 일어나고 있는 일들이
특히나 가슴 아프고

해결하기 어려운 문제이기도합니다.

우리들은 현재 이 정보 네트워크에 의해
한쪽 사상으로 극단적으로 치우치고

절대주의에 깊이 빠지어
타협은 생각도 못하게

교묘히 이용당하고있습니다.

왜냐면 지금 현재

페이스북을 비롯한 많은 기업들이

우리의 편견에서 비롯된
개인화된 콘텐츠로

우리를 분열시킴으로써
이득을 보기 때문입니다.

이런 회사들은 격한 감정을 이끌어 내고,
우리의 시선을 끄는 콘텐츠를

제공하는데 의존하기 때문에

극단론자들의 콘텐츠를 우선적으로
제공함으로써 우리들에게

협상과 타협이 불가능하다는
생각이 들게끔 유도합니다.

하지만 많은 요구에도 불구하고
이 회사들이 이런 정책들을

바꾸지 않을 것임이 너무나도 뻔합니다.

그러므로 이제는 정부에서

기업들의 이런 정책들이

우리의 사회, 민주주의와
공중보건에 끼치는

악영향에 대해 책임지게 할 때입니다.

유감스럽게도, 이런 제재는 다음 대통령
선거 전까지는 이행되지 못할 겁니다.

그래서 제가 계속 상기시켜 드리는 겁니다.

왜냐하면 어느날 강경한 규율이
세워진다 한들

우리 모두가 고쳐나가야 할
문제이기 때문입니다.

제가 제 초점을 국가 안보 위협에서

우리의 사회적 분열으로 옮겼을 때

저는 "마음과 사상" 캠페인을 재활용해

이 분열을 치유해보면
어떨지 생각했습니다.

우리의 200년 된 민주주의가
성공 할 수 있었던 가장 큰 이유는

우리가 우리들의 생각에 대해
자유롭게 토론하고 해답을

찾을 수 있었기 때문입니다.

저는 지금도 대면 방식의

시민 담론의 힘을 믿습니다만

SNS가 우리에게 끼치는

악영향에 비해서는 역부족입니다.

이런 기업들의 술책에
속수무책으로 빠져드는 사람들은

제가 케냐에서 보았던
사람들보다 더욱 더

자신의 극단화된 사상으로부터
해어 나오기 힘들어합니다.

그래서 저는 2018년
페이스북으로부터

선거 광고 운영 총괄자로

고용 오퍼가 들어왔을 때

저는 수락해야만 했습니다.

이 상황을 다 바로잡으리라
예상하지는 않았지만

우리가 탄 배를 정확한 방향으로

바꾸는 기회가 주어졌을 때

그래도 시도는 해봐야겠다고
생각했습니다.

양분화에 대하여 직접적으로
일을 한 것은 아니지만

우리 사회에서 가장 분열화된 쟁점들을
관찰할 수 있었습니다.

가장 유리하게 이용할 수 있는
선거 개입 활동들도 말이죠.

2016년 이전의 러시아의 전략처럼요.

그래서 질문을 하기 시작했습니다.

어떤 조직적 기반 문제들이

이것들을 가능하게 했고,

어떻게 고칠 수 있는지요.

그래도 저는 인터넷이
더 많은 의견들이 표출되게

도와준다고 생각합니다.

하지만 그들이 하나된 공동체를
만든다는 목표와 상반되어,

현재의 대기업 SNS들은

이유에 근거한 담론이
살아남기 힘들게 구조화되어 있습니다.

사용자, 활동량 증가가
성공의 키인 사업체에서

경청을 옹호하고,

정중한 토론을 장려하고,

진정성 있는 질문자들을

보호할 일은 없을 겁니다.

사람들이 더 천천히 생각하고

사람들이 멈출 때를 알게 해주고

어떤 것에 대한 자신의 반응을 관찰하고

자신의 편견들을
되돌아 보게 할 필요가 없거든요.

바로 안타까운 현실은

온라인에서 거짓말은
진실보다 매혹적이고,

빠르고 급속적인 세상에서

추잡스러움은 시시하고
사실적인 추론을 이깁니다.

알고리즘의 목표가 우리가 계속
SNS를 하게 만드는 것인 이상,

우리의 최악의 본능과 약점을 이끌어내는

독을 계속 먹일 것입니다.

분노, 불신,

그리고 무서움과 증오의 문화,

다 미국에서 있던 것이지만,

최근에 SNS 는 그것들을 포용하고,

제가 보기에는, 극단화 시켰습니다.

그리고 페이스북도 압니다.

최근에 월 스트리트
저널에서 나온 기사가

페이스북 사내에서 2018년에
이루어진 발표를 폭로했는데

바로 여기서 회사의 알고리즘을 통해

극단주의 단체들의 존재감을 높이고

사용자들을 분열시키자는
내용이 나왔습니다.

우리 활동을 부추기는 것이 바로
그들이 돈을 버는 방법이기 때문이죠.

현재의 정보 세상은
우리의 자료를 수집하고,

더 좁은 카테고리로 분류하여

개인화 과정을 다지는것에 따라
형성되었습니다.

그 다음에 우리의 사상을 검증하고,

편견들을 강화시키고

소속감을 주는 정보로 공격당합니다.

이것들은 테러리스트 모집원들이

그들에게 사상을 주입하기 위해

SNS 이전에 더 작고,
지역적인 방법으로

취약한 청년층에게
사용하는 방법과 같습니다.

불행하게도, 전 변화를 줄 수 있을 정도로
페이스북에서 권한을 부여받지 못했습니다.

사실 제 두 번째 날,
제 직책과 업무 내용이 바뀌어 있었으며

중대한 회의들에서 제외되었습니다.

제 가장 큰 노력들,

계흭적으로 허위정보와
정치적 광고를 통한 유권자 억압을 막는 것,

모두 거절당했습니다.

그래서 약 6개월 후
회사를 그만뒀습니다.

제가 이 경험에서 배운 건 이것입니다.

바로 열정적으로 제품 개발에 몰두하는

몇천명의 페이스북 직원들은

세상을 더 좋은 곳으로
만들 수 있다고 믿지만,

회사가 계속 컨텐츠 관리와 정책에

소홀이 행동하고

수익 창출과 플랫폼 설계에만

집중하는 이상,

이 플랫폼이 어떻게
혐오, 분열과 급진화에 앞장서는지

신경써서 고치려 하진 않을 겁니다.

제가 거기서 일할 때
이런 것에 대한 언급은 듣지를 못했습니다.

그러기 위해서는

그들이 만든게 근본적으로
사회에 해가 되는것을 인정하고

제품 전체와 수익 창출 방법을
바꿔야 하기 때문일 겁니다.

그래서 우린 무얼 할 수 있을까요?

전 지금 이 상황에 놓이게 된 것이

SNS만의 책임이라고
하는 것은 아닙니다.

분명히, 우리는 풀어나가야 할
뿌리 깊은 사회적 문제들이 많죠.

하지만 페이스북이 이건 모두 다 사회의
본모습일 뿐이라고 주장하는 것은,

그들의 플랫폼이
해로운 콘텐츠를 확산하고

몇몇 유저들을 극단적인 사상으로
밀어넣는 것에 대한

책임 회피일 뿐입니다.

페이스북이 원한다면,

어느 정도는 고칠 수 있을 겁니다.

그들이 음모론자들, 증오 집단들,

그리고 가짜 뉴스를 조달하는 사람들을
그만 부추기고 추천하면 됩니다.

심지어 우리의 대통령도 말이죠.

그들이 우리에게 운동화를 광고하듯이

정치적으로 설득하는 것을
그만하면 됩니다.

그들이 알고리즘을
재훈련 시키면 될 겁니다.

활동량이 아닌 다른 지표를 세우고,

특정 콘텐츠가 인기를 얻지 못하게

안전 장치를 설치함으로써 말이죠.

이것을 다 하면서도

그들이 지칭하는 "진실의 중재자"가
되지 않을 수 있습니다.

하지만 그들이 강제되지 않는 이상

옮은 일을 하지 않을 것이라고
명백히 밝혔습니다.

솔직히, 그들이 굳이
그럴 이유도 없으니까요.

시장에서 계속 수익이 나며,
법을 어기는 것도 아니기 때문이죠.

왜냐하면 현재 상황에서는

미국의 어느 법도
페이스북이나 다른 SNS업체들이

우리의 의견을 내는 공간

우리의 민주주의나 선거를 보호하도록

강제하지 않기 때문입니다.

우리는 지금까지
영리 인터넷 기업들의 CEO들에게

무슨 규칙을 세우고
무엇을 강제할지 맡겨왔습니다.

서로 독이 되고 분열되어

유대감 없이 교감만 찾아 헤매는
진실을 외면하는 세상,

이게 정말 우리가 원하는 것일까요?

그래도 아직은 우리가
SNS에서 보이는 것보다는

서로 닮은 점이 많다라고
긍정적으로 생각합니다.

그리고 더 많은 관점들을 수용하는 것이

더욱 건강하고 포용적인
민주주의를 만든다고 믿습니다.

하지만 지금처럼은 아닙니다.

강조하는데, 저는 이 회사들을
죽이고 싶은 마음이 없습니다.

그냥 어느 정도의 책임감만
질 수 있었으면 좋겠습니다.

사회의 다른 것들처럼 말이죠.

이제 우리의 정부들이 일어서서

우리의 시민성을 지킬 때가 됐습니다.

이걸 모두 고쳐줄 마법같은 법안이

존재하는 것은 아니지만

정부가 표현의 자유 보장과
SNS가 사회에 미치는 영향에 대해

책임을 지게 하는 것, 그 사이에
균형을 찾을 수 있으며,

찾아야 한다고 생각합니다.

그리고 그들은 이걸 추천 알고리즘과

개인화, 증폭과 타겟팅을 어떻게 하는지

투명하게 밝힘으로써 도울 수 있습니다.

이 회사들이

개개인이 가짜 정보나

극단적인 사상을 개재하는것이 아닌

그들의 알고리즘이
이걸 어떻게 퍼트리고,

사람들을 끌어들이며,

타겟팅을 하는지에 대하여
책임을 졌으면 좋겠습니다.

제가 페이스북 안에서
변화를 주는 것에 실패했지만,

지난 몇 년간 다시 목소리를 내어

사람들이 회사들에게
이런 책임을 요구하기를 원하며

계속 경고를 하고 있는 중입니다.

제가 여러분에게
하고 싶은 말은 간단합니다:

정부에게 압력을 주어

우리가 목소리를 내는 공간을
영리 법인들에게 양도하는 것을 멈추라고 말이죠.

친구들과 가족들에게

그들이 온라인상에서
어떻게 이용당하는지 알려주고,

비슷한 사상을 가지지 않은 사람들과
어울리도록 노력하세요.

이 문제를 우선시켜 주세요.

사회 모두가 참여해야
고칠 수 있습니다.

제 전 직장인 페이스북의
총수들에게 바칩니다:

지금도 사람들은 당신들이 만든 도구들로

증오, 분단과 불신을 퍼트리고 있으며

당신들은 그것들을 허락하는 것을 넘어서
유도하고 있습니다.

물론 당신들의 플랫폼에는
전 세계에서 나오는

긍정적이고 근사한 이야기들이
많이 있지만,

이것들을 정당화시키는 것은 아닙니다.

이제 선거에 더 가까워질수록
더욱 나빠지고 있는데

더욱더 걱정인 것은

가장 큰 국면이 일어날 경우

바로 결과를 받아들이지 못하고
폭력 시위가 일어날 경우입니다.

그러니 2021년에 또
"우리가 더 잘하겠습니다" 라고 할 때,

이 순간을 기억해주세요.

왜냐하면 이제는 소수의 목소리가 아닌

인권운동 지도자, 교수와 학생,

기자, 광고주와 당신의 직원들이

당신들의 정책과 운영 방식이

사람들과 민주주의에 해악을 끼친다고

외치고 있으니까요.

당신들의 결정은 당신들이 한 것이지만,

이렇게 될 걸 예측하지 못했다고
말할 수는 없을 겁니다.

감사합니다.