검색 결과 이면의 도덕적 편향

검색 엔진은 이제 가장 신뢰도가 높은 정보의 원천이자 진실의 심판자가 되었습니다. 하지만 편파적이지 않은 검색 결과를 얻는 것이 가능할까요? 스웨덴 작가이자 기자인 안드레아스 엑스트룀은 이것이 철학적으로 불가능하다고 주장합니다. 이 깊이있는 강연을 통해 그는 인간과 기술 간의 유대를 더 공고히하는 것을 촉구하고, 모든 알고리즘 뒤에는 그 어떤 코드도 완전히 말살시키지 못하는 개인적 신념이 존재한다는 것을 일깨워줍니다.

저는 학교에서 학생들에게
강연할 때마다

항상 똑같은 것을 묻습니다.

왜 구글을 쓰니?

왜 검색엔진으로 구글을 선택했니?

신기하게도, 항상 답은
세 개로 똑같습니다.

첫 번째는 "잘 되니까요."입니다.

훌륭한 대답이죠.
저도 그래서 구글을 씁니다.

두 번째로 어떤 이들은
이렇게 말합니다.

"다른 건 뭐가 있는지 잘 몰라요."

첫 번째 대답만큼 좋진 않지만
이에 대한 제 대답은 주로 이렇습니다.

"''검색엔진'을 구글에 쳐 봐.

괜찮은 사이트를
한 두 개 찾을 수도 있어."

마지막으로, 세 번째 대답으로는

꼭 한 명의 학생이 손을 들고
이렇게 말합니다.

"구글은 언제나 편향되지 않은
최고의 검색결과를 가져다 주니까요."

언제나 편향되지 않은 최고의
검색결과를 가져다 준다고요.

인류의 한 사람으로서

디지털 인류의 사람일지라도.

소름이 돋게 만드는 말입니다.

비편파적 검색결과에 대한
신뢰와 생각이 우리의

구글에 대한 집단적 사랑과 감사의
초석이라는 것을 저도 알지만 말이죠.

제가 왜 이것이 철학적으로
거의 불가능한지 보여드리겠습니다.

하지만 먼저 모든 검색어 이면의
우리가 가끔 잊어버리곤 하는

기본 원칙에 대해 조금만
설명드리겠습니다.

뭔가를 구글에 치려고 할 때마다

먼저 이 질문을 스스로에게 물어보세요.
"객관적 사실을 찾는 것인가?"

프랑스의 수도는 어디인가?

물 분자의 구성요소는 무엇인가?

좋아요-- 마음껏 검색하세요.

그 정답이 런던이나 H3O라고 증명할

과학자 집단은 하나도 없으니까요.

이런 것들에는 큰 음모랄게 없는거죠.

세계적으로 우리는

이 객관적 사실의 답에 동의하죠.

하지만 질문을 약간 더
복잡하게 만들어

"왜 이스라엘과 팔레스타인 분쟁이
일어나는가?" 같은 다른 질문을 물으면

더 이상 하나의 사실을
찾는 게 아닙니다.

지식을 찾는거죠.

지식은 훨씬 더 복잡하고 까다롭습니다.

그리고 지식을 얻으려면

10개, 20개 또는 100개의 사실을
논의 대상으로 가져와

모두 사실이라는 걸 인정해야 합니다.

하지만 자신이 누구냐에 따라

젊든 늙었든, 흑인이든 백인이든
동성애자든 이성애자든

사람들은 각자 다르게
평가내릴 것입니다.

저는 이렇게 말하겠죠.
"그래, 이게 사실이지만

이게 나한테 저것보다 중요해."

여기서부터 재밌어집니다,

이 부분에서 인간적인 모습을
보이기 때문이죠.

여기서 우리는 논쟁하기 시작하고
집단을 형성합니다.

그리고 정말 어딘가에 도달하려면
친구나, 이웃, 부모님,

자식, 직장동료, 신문, 잡지를 통해

모든 사실을 걸러내야 합니다.

궁극적으로 진리 속에
둘러싸이기 위해선 말입니다.

이건 검색엔진이 도움이
안 되는 부분입니다.

제가 생각해 볼 거리로
왜 진실되고 깨끗하고 객관적인

지식에 도달하는 것이
왜 그렇게 어려운지 보여주는

예시를 약속했었죠?

한 두 개 간단한 검색어를
검색해보겠습니다,

미국의 영부인인

"미셸 오바마"부터 해보죠.

이미지를 누르면

보시다시피 정말 잘 되네요.

검색결과가 거의 완벽하네요.

정말 영부인만 있고
대통령 조차 같이 없습니다.

어떤 원리일까요?

꽤 간단합니다.

구글은 기발한 방법도
많이 동원하지만 사실 단순하게,

다른 것보다 두 가지를
중점적으로 봅니다.

먼저, 웹사이트 상의 사진 밑에 있는
설명에 뭐라고 쓰여있는가?

"미셸 오바마"라고 적혀 있는가?

그렇다면 정말로 영부인
사진일 가능성이 크죠.

두 번째로, 구글은
사진 파일을 봅니다.

웹사이트에 올려진
파일의 이름을 봅니다.

파일명이 "미셸오바마.jpg"인가?

사진이 클린트 이스트우드가
아니라는 걸 잘 말해주죠.

그렇게 두 가지가 갖춰지면
대개는 이런 검색결과가 나옵니다.

2009년에 미셸 오바마는
인종차별 캠페인의 피해자였습니다.

사람들은 검색 결과로
그녀에게 모욕을 주려 했죠.

인터넷에 그녀의 얼굴을 원숭이처럼

왜곡시킨 사진이
인터넷에 널리 퍼졌었습니다.

모든 곳에 게시되었죠.

사람들은 다분히 의도적으로
사진이 상위 검색 결과에

뜨도록 게시했습니다.

사진 설명에 반드시
"미셸 오바마"를 넣었고

파일명을 "미셸오바마.jpg" 나
비슷한 이름으로 올렸습니다.

검색결과를 조작하기
위해서였다는 거 아시겠죠.

이 수법은 통했습니다.

2009년에 "미셸 오바마"의
이미지를 검색하면

가장 먼저 뜨는 결과들 중에
일그러진 원숭이 사진이 있었습니다.

검색 결과는 정화능력이 있습니다.

그게 사실 좋은 점이죠.

구글이 연관성을
매 시간, 매일 체크하기 때문입니다.

하지만 구글은 이 때
그 이상을 했습니다.

그들은 이렇게만 생각했습니다.
"인종차별적이고 부적절한

검색결과니까 수동으로 정화시켜야겠어.

코드를 입력해서 고치자."

그리고 그렇게 했습니다.

여러분 중에 누구라도 이게
나쁜 생각이라 여기지 않을 겁니다.

저도 그렇습니다.

그런데 2년 후에

세계에서 가장 많이 검색된

안드레스 베링 브레이비크가

사건을 일으켰습니다.

2011년 7월 22일이었는데

노르웨이 역사상 최악의 날이었습니다.

테러리스트였던 그는
지금 우리가 있는 곳에서

걸어서 갈 수 있을만큼 가까이 있던
정부 청사 두 개를 폭파시키고

우퇴야 섬으로 가서

아이들을 모아놓고 쏘아 죽였습니다.

그 날 거의 80명의 사람들이 죽었죠.

많은 사람들이 이 테러행각을
두 단계로 묘사합니다.

빌딩을 폭파시키고 아이들을 쏴 죽이는
두 가지 사건을 일으켰다고 합니다.

하지만 사실이 아닙니다.

세 단계가 있었죠.

건물을 폭파시키고
아이들을 쏜 다음

앉아서 세계가 그를 구글에
검색하기를 기다렸습니다.

그는 세 단계를 다 잘 준비했습니다.

이걸 바로 알아차린 사람은
스웨덴인으로 스톡홀름에 사는

웹사이트 개발자이자

검색 엔진 최적화 전문가인
니키 린드크비스트뿐이었습니다.

굉장히 정치적인 사람이었죠.

소셜미디어와 블로그와 페이스북을
하는 사람이었죠.

그는 모든 사람에게

"이 남자가 지금 바라는 게 있다면

바로 자기 이미지를 조종하는 겁니다.

그걸 우리가 막아봅시다.

문명화된 세상에 사는 우리가
검색 결과로 그에게 모욕을 줘서

그가 한 행동에 대해
시위할 수 있는지 봅시다."

어떻게 하는 걸까요?

니키는 모든 구독자에게
이렇게 말했습니다.

"인터넷에 들어가서

길거리에 있는 개똥 사진을 찾아,

길거리에 있는 개똥 사진을 찾아,

여러분의 뉴스피드, 웹사이트,
블로그에 올리세요.

제목에 테러리스트의 이름을
넣는 것을 잊지 마세요.

파일명을 꼭 "브레이비크.jpg"로
붙이세요.

구글에게 그게 테러리스트의
얼굴이라는 걸 보여줍시다."

그리고 이게 먹혀들었습니다.

미셸 오바마를 반대하는 운동이
일어나고 2년 후에

안드레스 베링 브레이비크를
반대하는 조작 운동이 통했습니다.

7월 22일이 몇 주나 지난 시점에서
이미지 검색을 해도

여전히 상위 검색 결과에
개똥 사진이 떴습니다.

일종의 시위였죠.

재미있게도 이번엔
구글이 개입하지 않았습니다.

나서서 수동적으로 검색 결과를
정화하려고 하지 않았습니다.

그렇다면 중요한 질문은 이겁니다.

두 사건 사이에 차이가 있는가?

미셸 오바마에게 일어난 일과
브레이비크에게 일어난 일에

차이가 있는가?

당연히 없습니다.

완전히 동일합니다.

그런데도 구글은 한 번은 개입하고
다른 한 번은 안했죠.

왜일까요?

미셸 오바마는 존경스러운 인물이고

안드레스 베링 브레이비크는
파렴치한 인간이기 때문입니다.

무슨 일이 벌어지고 있는지 아시겠어요?

인물에 대한 평가가 이루어지고,

세상에는 누가 어떤 사람인지
말할 수 있는 권위를 가진

권력자는 단 하나밖에 없습니다.

"우리는 너가 좋아,
우리는 너가 싫어.

우리는 널 믿어. 우리는 널 안 믿어.

너는 맞고 너는 틀려.
너는 사실이고 너는 거짓이야."

넌 오바마고 넌 브레이비크야."

바로 그게 권력입니다.

그래서 저는 여러분들께
모든 알고리즘 뒤에는 항상

그 어떤 코드도

완전히 말살할 수 없는
자기만의 신념을 가진

사람이 있다는 걸 기억해달라고
부탁하고 싶습니다.

그리고 제가 드리는 말씀은
구글뿐만이 아니라

코드를 신뢰하는 전세계 모든
사람들에게도 해당됩니다.

여러분은 자신이 가진 편견을
구분해내야 합니다.

자신이 인간이라는 걸 받아들이고

그에 맞는 책임을 져야 합니다.

제가 이 말을 하는 이유는
우리가 인간과 기술 간의

유대를 더 공고히해야 하는

절대적으로 중요한 시점에

다다랐다고 생각하기 때문입니다.

그 어느 때보다 끈끈해야 하죠.

그리고 정말 매력적으로 보이는
편파적이지 않고 깨끗한 검색 결과는

지금도, 앞으로도 허구로 남을 가능성이

높다는 걸 최소한
일깨워드리기 위해서입니다.

시간 내 주셔서 감사합니다.

(박수)