0:00:01.041,0:00:04.175
안녕하세요.[br]코드의 시인, 조이입니다.

0:00:04.199,0:00:06.776
저는 보이지 않는 힘이 일어나는 것을

0:00:06.776,0:00:09.216
막기 위한 사명을 띠고 있어요.

0:00:09.216,0:00:12.072
제가 '코드화된 시선'이라[br]부르는 힘인데요.

0:00:12.096,0:00:15.405
다른 사람은[br]알고리즘의 편견이라 부르죠.

0:00:15.429,0:00:16.853
알고리즘의 편견은 인간의 편견처럼[br]불평등을 초래하지만

0:00:19.753,0:00:22.549
알고리즘은 바이러스처럼 대규모의[br]편견을 빠른 속도로 퍼뜨릴 수 있어요.

0:00:27.943,0:00:31.024
또한, 알고리즘의 편견은 [br]자신이 배제되는 경험이나

0:00:31.024,0:00:34.482
차별적인 대우로 이어질 수 있어요.

0:00:34.506,0:00:36.567
자세히 설명해 드리죠.

0:00:36.980,0:00:40.156
(비디오) 안녕, 카메라야. [br]이게 내 얼굴이야.

0:00:40.156,0:00:42.026
내 얼굴이 보이니?

0:00:42.051,0:00:43.676
안경을 벗으면 보이니?

0:00:43.701,0:00:45.915
이 친구의 얼굴은 보이잖아.

0:00:46.237,0:00:48.482
내 얼굴은 보여?

0:00:51.890,0:00:55.640
그럼 가면을 쓸게. [br]내 가면이 보이니?

0:00:56.474,0:00:59.269
이런 일이 왜 일어난 걸까요?

0:00:59.269,0:01:02.004
제가 왜 컴퓨터 앞에 앉아서

0:01:02.028,0:01:03.452
하얀 가면을 쓰고

0:01:03.476,0:01:07.126
싸구려 웹캠에 인식이 되도록[br]노력하고 있을까요?

0:01:07.150,0:01:09.035
제가 코드의 시인으로서

0:01:09.035,0:01:11.105
'코드화된 시선'과 싸우기 전에

0:01:11.105,0:01:14.281
저는 MIT 미디어랩의 [br]대학원생이었어요.

0:01:14.305,0:01:19.222
그곳에서 많은 기발한 프로젝트에[br]참여할 수 있었는데

0:01:19.246,0:01:21.273
염원의 거울도 있었습니다.

0:01:21.297,0:01:26.431
제가 참여한 프로젝트로, 거울에 비친 제 [br]모습에 디지털 가면을 씌우는 것이죠.

0:01:26.455,0:01:28.805
아침에 힘찬 느낌을 원하면

0:01:28.829,0:01:30.403
사자 가면을 씌울 수 있고

0:01:30.403,0:01:33.783
희망찬 느낌을 받고 싶다면[br]명언을 띄울 수 있었죠.

0:01:33.807,0:01:36.796
저는 일반적인 얼굴 인식 [br]소프트웨어를 사용하여

0:01:36.820,0:01:38.171
시스템을 만들었지만

0:01:38.195,0:01:40.762
제가 흰 가면을 쓰지 않으면[br]굉장히 테스트하기 어려웠어요.

0:01:44.282,0:01:45.942
불행하게도, 저는 전에도[br]이런 문제에 부딪힌 적이 있어요.

0:01:48.652,0:01:49.979
제가 조지아 공대에서[br]컴퓨터 공학 전공생이었을 때

0:01:52.979,0:01:55.034
저는 사회적 로봇을 연구했어요.

0:01:55.058,0:01:56.528
과제들 중 하나는 까꿍놀이하는 [br]로봇을 만들기였죠.

0:01:58.859,0:02:00.542
간단한 순서 교대 게임으로,

0:02:00.566,0:02:02.211
얼굴을 가렸다가 보이며[br]"까꿍!"이라고 말하는 게임이죠.

0:02:04.911,0:02:09.340
문제는, 까꿍 놀이는 제가 여러분의[br]얼굴을 볼 수 있어야 하는데

0:02:09.364,0:02:11.863
로봇이 저를 보지 못했어요.

0:02:11.887,0:02:15.837
하지만 저는 룸메이트의 얼굴을 [br]빌려서 프로젝트를 끝냈고

0:02:15.861,0:02:17.241
과제를 제출한 다음

0:02:17.265,0:02:21.018
다른 누군가가 이 문제를 해결하겠지[br]라고 생각했어요.

0:02:21.669,0:02:23.672
그로부터 오래 지나지 않아

0:02:23.696,0:02:27.855
창업 대회 참가를 위해 홍콩에 갔어요.

0:02:28.339,0:02:30.297
주최 측은 참여자들이

0:02:30.297,0:02:33.429
그 지역의 스타트업 기업들을[br]방문하도록 했어요.

0:02:33.453,0:02:36.168
한 스타트업에 사회적 로봇이 있었고

0:02:36.192,0:02:38.104
시범을 보여주기로 했어요.

0:02:38.128,0:02:41.108
로봇은 모두에게 잘 작동했죠.[br]저만 빼고요.

0:02:41.132,0:02:43.055
아마 짐작하셨을 거예요.

0:02:43.079,0:02:46.044
제 얼굴을 인식하지 못했어요.

0:02:46.068,0:02:48.579
저는 개발자들에게[br]무슨 일이냐고 물었고

0:02:48.603,0:02:54.136
제가 썼던 그 얼굴 인식[br]소프트웨어를 쓴 게 문제였어요.

0:02:54.160,0:02:55.810
지구 반대편에서

0:02:55.834,0:02:59.686
저는 알고리즘의 편견이 인터넷에서 [br]파일을 다운로드받는 것처럼

0:02:59.710,0:03:02.880
빠르게 퍼질 수[br]있다는 걸 알았어요.

0:03:03.745,0:03:05.045
어떻게 된 걸까요?[br]왜 제 얼굴은 인식되지 않죠?

0:03:06.845,0:03:10.201
자, 우리가 어떻게 기계가 볼 수 [br]있게 하는지 알아보세요.

0:03:10.225,0:03:13.634
컴퓨터의 시야는[br]머신 러닝 기술을 사용해

0:03:13.658,0:03:15.538
얼굴을 인식해요.

0:03:15.562,0:03:19.459
우리는 여러 예시 얼굴들로 이루어진[br]연습 세트를 만들어 놓죠.

0:03:19.483,0:03:22.301
이건 얼굴이다. 이건 얼굴이다.[br]이건 얼굴이 아니다.

0:03:22.325,0:03:26.844
그리고 시간이 지나면, 컴퓨터에게[br]얼굴 인식을 가르칠 수 있어요.

0:03:26.868,0:03:30.857
하지만, 연습 세트가[br]그렇게 다양하지 않다면

0:03:30.881,0:03:34.230
규정된 표준에서 너무 벗어나는 얼굴들은

0:03:34.254,0:03:35.903
인식하기 어려울 거예요.

0:03:35.927,0:03:37.890
저한테 일어났던 일과 같죠.

0:03:37.914,0:03:40.296
하지만 걱정하지 마세요.[br]좋은 소식도 있어요.

0:03:40.320,0:03:43.091
연습 세트는 하늘에서[br]뚝 떨어지지 않아요.

0:03:43.115,0:03:44.903
우리가 직접 만들 수 있죠.

0:03:44.927,0:03:49.103
따라서 전 영역을 아울러[br]다양한 인류의 얼굴을 반영하는

0:03:49.127,0:03:52.951
연습 세트를 만들 기회가 있어요.

0:03:52.975,0:03:55.196
여러분은 방금

0:03:55.220,0:03:57.558
사회적 로봇이 어떤지

0:03:57.558,0:03:59.568
제가 어떻게 알고리즘의 편견에 의한 [br]배제에 대해 알게되었는지 보셨어요.

0:04:01.647,0:04:04.317
하지만 알고리즘의 편견은 차별적 [br]관행으로 이어질 수도 있습니다.

0:04:07.437,0:04:08.890
미국 전역에서

0:04:08.914,0:04:13.112
경찰서들이 범죄 근절의 무기로

0:04:13.136,0:04:15.595
얼굴 인식 소프트웨어를[br]사용하기 시작했어요.

0:04:15.619,0:04:17.632
조지타운대 법학센터에 따르면

0:04:17.656,0:04:21.443
총 1억1천7백만명에 달하는 [br]미국 성인 둘 중 한 명의 얼굴이

0:04:24.443,0:04:27.977
얼굴 인식 네트워크에[br]올려져 있어요.

0:04:28.001,0:04:30.407
경찰은 현재 이 네트워크를[br]제한 없이 살펴볼 수 있어요.

0:04:32.577,0:04:36.863
정확성이 검증되지 않은 [br]알고리즘을 사용하면서요.

0:04:36.887,0:04:40.751
우리는 얼굴 인식이 잘못될 수 [br]있다는 것을 알고 있고

0:04:40.775,0:04:44.954
얼굴을 일관되게 표시하는 것은[br]과제로 남아있어요.

0:04:44.978,0:04:46.740
아마 페이스북에서 보셨을 거예요.

0:04:46.764,0:04:49.752
저와 제 친구들은 다른 사람의 이름이

0:04:49.776,0:04:52.234
우리 사진에 표시된 것을[br]보고 매번 웃어요.

0:04:52.258,0:04:55.883
하지만 범죄 용의자를 [br]잘못 파악하는 것은

0:04:55.883,0:05:00.700
웃을 일이 아니며 [br]시민의 자유를 침해하죠.

0:05:00.724,0:05:03.929
머신러닝은 현재 [br]얼굴인식에 사용되지만

0:05:03.953,0:05:08.458
컴퓨터 시각을 넘어선 곳까지[br]확장되고 있어요.

0:05:09.266,0:05:13.282
'대량살상무기 (WMD)'라는 책에서

0:05:13.306,0:05:17.011
데이터 과학자 캐시 오닐은[br]새로운 대량살상무기에 대해서 말해요.

0:05:20.011,0:05:24.364
널리 퍼진, 알 수 없는[br]파괴적인 알고리즘이죠.

0:05:24.388,0:05:27.352
이들은 우리 삶에[br]큰 영향을 미치는 선택에

0:05:27.376,0:05:30.113
점점 많이 사용되고 있어요.

0:05:30.577,0:05:32.447
누가 고용되고 누가 해고되는가?

0:05:32.471,0:05:34.583
빚을 질까?[br]보험에 가입할까?

0:05:34.607,0:05:38.110
원하는 대학에 합격하는가?

0:05:38.134,0:05:41.643
여러분과 당신이 같은 상품에 대해서

0:05:41.667,0:05:44.109
같은 가격을 지불하는가?

0:05:44.133,0:05:47.892
법 집행에서도 예방적 치안을 위해

0:05:47.916,0:05:50.205
머신 러닝 사용을 시작했어요.

0:05:50.229,0:05:53.723
몇몇 판사들은 기계가 만든[br]위험 점수를 사용하여

0:05:53.747,0:05:57.883
사람들의 형량을 결정하기도 해요.

0:05:57.883,0:06:00.627
그래서 우린 이런 선택에[br]대해 생각해 봐야 해요.

0:06:00.651,0:06:01.833
이 선택이 공정한가?

0:06:01.857,0:06:04.747
게다가 우리는 알고리즘의 선택이

0:06:04.771,0:06:08.145
매번 공정하지는 않다는 걸 봤어요.

0:06:08.169,0:06:10.133
그럼 어떻게 해야 할까요?

0:06:10.157,0:06:13.837
우리는 포괄적인 코드를 만들고

0:06:13.861,0:06:16.851
포괄적인 코딩 선례를 도입해야 해요.

0:06:16.875,0:06:19.184
이것은 사람들로부터 시작됩니다.

0:06:19.188,0:06:21.669
따라서, 누가 코딩을 [br]하는지가 중요하죠.

0:06:21.693,0:06:24.756
우리는 지금 다양한 개인들로 이루어져

0:06:24.756,0:06:28.247
서로의 맹점을 볼 수 있는[br]팀을 만들고 있나요?

0:06:28.271,0:06:31.816
기술적인 면에서 우리가 어떻게[br]코딩을 하는지가 중요해요.

0:06:31.840,0:06:35.491
지금 우리는 시스템을 개발하면서[br]공정함을 염두에 두고 있나요?

0:06:35.515,0:06:38.428
마지막으로, 우리가 왜 코딩을 [br]하는지가 중요해요.

0:06:38.785,0:06:43.868
우리는 엄청난 부를 위하여[br]컴퓨터를 도구로 사용했어요.

0:06:43.892,0:06:48.339
이제 우리에겐 더 큰 평등을[br]얻을 기회가 있어요.

0:06:48.363,0:06:51.293
우리가 사회적 변화를 미루지 않고

0:06:51.317,0:06:53.487
우선순위에 둔다면요.

0:06:54.008,0:06:58.530
이 세 가지 요소가[br]'인코딩' 운동을 구성합니다.

0:06:58.554,0:07:00.206
누가 코딩을 하는지

0:07:00.230,0:07:01.773
어떻게 코딩을 하는지

0:07:01.797,0:07:03.820
왜 코딩을 하는지가 중요해요.

0:07:03.844,0:07:05.364
그리고 인코딩을 향해 가며[br]우리는 편견을 분별하는 플랫폼을

0:07:07.707,0:07:10.131
구축할 수 있어요.

0:07:10.155,0:07:13.233
제가 공유한 것과 같은[br]다른 사람들의 경험을 모으고

0:07:13.257,0:07:16.327
현존하는 소프트웨어를[br]검사하면서 말이죠.

0:07:16.351,0:07:18.431
우리는 또한 더욱 포용적인 연습 세트를[br]만들기 시작할 수 있어요.

0:07:20.140,0:07:22.943
"포괄적인 셀카" 캠페인을[br]상상해 보세요.

0:07:22.967,0:07:26.622
여러분과 제가 더욱 포용적인[br]연습 세트를 만드는 데

0:07:26.646,0:07:29.099
셀카를 보내면서[br]도움을 줄 수 있는 거예요.

0:07:29.302,0:07:33.000
그리고 우리가 개발하는 기술의[br]사회적 영향에 대해

0:07:33.000,0:07:36.885
보다 양심적으로 생각할 수 있어요.

0:07:37.569,0:07:39.962
인코딩 운동을 시작하기 위해서

0:07:39.986,0:07:42.833
저는 알고리즘 정의 연합을 창설했어요.

0:07:42.857,0:07:45.753
공정함을 중요시 여기는 사람 누구든[br]'코딩된 시선'에 맞서 싸우는 걸 도와줍니다.

0:07:48.643,0:07:49.963
codedgaze.com에서[br]편견을 보고하거나

0:07:51.453,0:07:53.033
검사를 요청하거나[br]테스터가 될 수 있으며

0:07:54.542,0:07:57.313
진행되는 대화에 참여할 수도 있어요.

0:07:57.337,0:07:59.624
해시태그 codedgaze입니다.

0:08:00.742,0:08:03.229
그래서 저는 여러분이 저와 함께

0:08:03.253,0:08:05.996
기술이 일부만이 아닌

0:08:05.996,0:08:08.893
모두를 위해 쓰이는 세상을

0:08:08.917,0:08:11.439
포용성을 중요시여기고 사회적 변화를[br]중시하는 세상을 만드는데 동참하셨으면 합니다.

0:08:13.529,0:08:14.704
감사합니다.

0:08:14.728,0:08:18.999
(박수)

0:08:20.873,0:08:23.727
하지만 여러분에게 질문이 하나 있어요.

0:08:23.751,0:08:25.810
여러분은 이 싸움에 동참하실 건가요?

0:08:25.834,0:08:27.119
(웃음)

0:08:27.143,0:08:30.830
(박수)