[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Olá, sou a Joy, uma poetisa de código,
Dialogue: 0,0:00:04.28,0:00:09.19,Default,,0000,0000,0000,,numa missão de fazer parar\Numa força invisível em ascensão,
Dialogue: 0,0:00:09.28,0:00:12.07,Default,,0000,0000,0000,,uma força a que eu chamo\N"olhar codificado,"
Dialogue: 0,0:00:12.14,0:00:15.40,Default,,0000,0000,0000,,o meu termo para preconceito algorítmico.
Dialogue: 0,0:00:15.55,0:00:19.73,Default,,0000,0000,0000,,O preconceito algorítmico, como o\Npreconceito humano, resulta da injustiça.
Dialogue: 0,0:00:19.97,0:00:22.75,Default,,0000,0000,0000,,Porém, os algoritmos, tal como os vírus,
Dialogue: 0,0:00:22.80,0:00:25.84,Default,,0000,0000,0000,,podem espalhar preconceitos\Nnuma grande escala
Dialogue: 0,0:00:25.91,0:00:27.64,Default,,0000,0000,0000,,num ritmo rápido.
Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,O preconceito em algoritmos também\Npode levar a experiências de exclusão
Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,e a práticas discriminatórias.
Dialogue: 0,0:00:34.69,0:00:36.75,Default,,0000,0000,0000,,Vou mostrar o que quero dizer.
Dialogue: 0,0:00:36.98,0:00:39.48,Default,,0000,0000,0000,,(Vídeo) Olá, câmara, eu tenho um rosto.
Dialogue: 0,0:00:40.16,0:00:41.88,Default,,0000,0000,0000,,Podes ver o meu rosto?
Dialogue: 0,0:00:42.05,0:00:43.88,Default,,0000,0000,0000,,Um rosto sem óculos?
Dialogue: 0,0:00:43.96,0:00:45.92,Default,,0000,0000,0000,,Podes ver o rosto dela.
Dialogue: 0,0:00:46.24,0:00:48.14,Default,,0000,0000,0000,,E o meu rosto?
Dialogue: 0,0:00:51.89,0:00:55.29,Default,,0000,0000,0000,,Tenho uma máscara.\NVês a minha máscara?
Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,Joy: Então, como é que isso aconteceu?
Dialogue: 0,0:00:58.86,0:01:02.00,Default,,0000,0000,0000,,Porque é que eu estou em frente\Nde um computador
Dialogue: 0,0:01:02.03,0:01:03.65,Default,,0000,0000,0000,,com uma máscara branca,
Dialogue: 0,0:01:03.69,0:01:07.13,Default,,0000,0000,0000,,a tentar ser detetada por\Numa câmara de vídeo barata?
Dialogue: 0,0:01:07.36,0:01:09.73,Default,,0000,0000,0000,,Quando não estou a lutar\Ncontra o olhar codificado
Dialogue: 0,0:01:09.76,0:01:11.29,Default,,0000,0000,0000,,como uma poetisa de código,
Dialogue: 0,0:01:11.32,0:01:14.54,Default,,0000,0000,0000,,sou uma estudante de pós-graduação\Nno laboratório de "media" do MIT.
Dialogue: 0,0:01:14.59,0:01:19.22,Default,,0000,0000,0000,,Aí tenho a oportunidade de trabalhar\Nem todo tipo de projetos bizarros,
Dialogue: 0,0:01:19.25,0:01:21.43,Default,,0000,0000,0000,,incluindo o Espelho de Desejar,
Dialogue: 0,0:01:21.46,0:01:26.43,Default,,0000,0000,0000,,um projeto que fiz para poder projetar\Nmáscaras digitais para o meu reflexo.
Dialogue: 0,0:01:26.46,0:01:28.80,Default,,0000,0000,0000,,Então, pela manhã,\Nse quisesse sentir-me poderosa,
Dialogue: 0,0:01:28.83,0:01:30.34,Default,,0000,0000,0000,,eu podia usar um leão.
Dialogue: 0,0:01:30.40,0:01:33.78,Default,,0000,0000,0000,,Se quisesse ficar inspirada,\Npodia ter uma citação.
Dialogue: 0,0:01:33.96,0:01:36.80,Default,,0000,0000,0000,,Então eu usei o software\Ngenérico de reconhecimento facial
Dialogue: 0,0:01:36.82,0:01:38.39,Default,,0000,0000,0000,,para construir o sistema,
Dialogue: 0,0:01:38.46,0:01:43.30,Default,,0000,0000,0000,,mas descobri que era difícil testá-lo\Na menos que usasse uma máscara branca.
Dialogue: 0,0:01:44.28,0:01:48.38,Default,,0000,0000,0000,,Infelizmente, eu já tinha esbarrado\Nnesse problema.
Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,Quando era universitária em Georgia Tech\Ne estudava ciência informática,
Dialogue: 0,0:01:52.98,0:01:55.08,Default,,0000,0000,0000,,eu costumava trabalhar em robôs sociais,
Dialogue: 0,0:01:55.14,0:01:58.84,Default,,0000,0000,0000,,e uma das minhas tarefas era fazer\Ncom que um robô jogasse às escondidas,
Dialogue: 0,0:01:58.86,0:02:00.74,Default,,0000,0000,0000,,um simples jogo de turnos
Dialogue: 0,0:02:00.78,0:02:04.89,Default,,0000,0000,0000,,em que os parceiros escondem a cara\Ne depois destapam-na, dizendo "Espreita!"
Dialogue: 0,0:02:04.95,0:02:09.34,Default,,0000,0000,0000,,O problema é que isso só\Nfunciona se eu puder ver o outro,
Dialogue: 0,0:02:09.46,0:02:11.75,Default,,0000,0000,0000,,e o meu robô não me via.
Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Pedi emprestada a cara da minha\Ncolega de quarto para terminar o projeto,
Dialogue: 0,0:02:15.86,0:02:17.71,Default,,0000,0000,0000,,apresentei a tarefa e pensei:
Dialogue: 0,0:02:17.77,0:02:21.21,Default,,0000,0000,0000,,"Sabem que mais,\Noutra pessoa que resolva esse problema".
Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Pouco tempo depois,
Dialogue: 0,0:02:23.70,0:02:27.93,Default,,0000,0000,0000,,eu estava em Hong Kong para uma\Ncompetição de empreendedorismo.
Dialogue: 0,0:02:28.34,0:02:31.03,Default,,0000,0000,0000,,Os organizadores decidiram\Nlevar os participantes
Dialogue: 0,0:02:31.06,0:02:33.43,Default,,0000,0000,0000,,numa visita às "start-ups" locais.
Dialogue: 0,0:02:33.45,0:02:36.17,Default,,0000,0000,0000,,Uma das "start-ups" tinha um robô social,
Dialogue: 0,0:02:36.19,0:02:38.28,Default,,0000,0000,0000,,e decidiram fazer uma demonstração.
Dialogue: 0,0:02:38.33,0:02:41.44,Default,,0000,0000,0000,,A demonstração funcionou com toda a gente\Naté chegar a minha vez.
Dialogue: 0,0:02:41.50,0:02:43.31,Default,,0000,0000,0000,,Provavelmente já adivinham.
Dialogue: 0,0:02:43.35,0:02:45.98,Default,,0000,0000,0000,,Não conseguiu detetar o meu rosto.
Dialogue: 0,0:02:46.07,0:02:48.76,Default,,0000,0000,0000,,Perguntei aos responsáveis\No que é que se passava,
Dialogue: 0,0:02:48.79,0:02:54.24,Default,,0000,0000,0000,,e acontece que tínhamos usado o mesmo\Nsoftware genérico de reconhecimento facial.
Dialogue: 0,0:02:54.31,0:02:56.05,Default,,0000,0000,0000,,Do outro lado do mundo,
Dialogue: 0,0:02:56.10,0:02:59.83,Default,,0000,0000,0000,,aprendi que o preconceito do algoritmo\Npode viajar tão depressa
Dialogue: 0,0:02:59.88,0:03:03.26,Default,,0000,0000,0000,,quanto uma descarga\Nde ficheiros da Internet.
Dialogue: 0,0:03:03.74,0:03:07.08,Default,,0000,0000,0000,,Então, o que é que se passa?\NPorque é que a minha cara não é detetada?
Dialogue: 0,0:03:07.13,0:03:10.26,Default,,0000,0000,0000,,Temos de olhar para o modo\Ncomo damos visão às máquinas.
Dialogue: 0,0:03:10.32,0:03:13.63,Default,,0000,0000,0000,,A visão informática usa\Ntécnicas de aprendizagem de máquina
Dialogue: 0,0:03:13.66,0:03:15.71,Default,,0000,0000,0000,,para fazer o reconhecimento facial.
Dialogue: 0,0:03:15.77,0:03:19.57,Default,,0000,0000,0000,,Funciona assim: criamos um grupo\Nde formação com exemplos de rostos.
Dialogue: 0,0:03:19.64,0:03:22.34,Default,,0000,0000,0000,,Isto é um rosto. Isto é um rosto.\NIsto não é um rosto.
Dialogue: 0,0:03:22.42,0:03:26.84,Default,,0000,0000,0000,,Com o tempo, podemos ensinar\No computador a reconhecer rostos.
Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Contudo, se os grupos de formação\Nnão forem diversificados,
Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,qualquer rosto que se desvie\Ndemasiado da norma estabelecida
Dialogue: 0,0:03:34.25,0:03:35.90,Default,,0000,0000,0000,,será difícil de detetar.
Dialogue: 0,0:03:36.10,0:03:38.01,Default,,0000,0000,0000,,Era o que estava a acontecer comigo.
Dialogue: 0,0:03:38.07,0:03:40.30,Default,,0000,0000,0000,,Mas não se preocupem,\Nhá boas notícias.
Dialogue: 0,0:03:40.32,0:03:43.09,Default,,0000,0000,0000,,Os grupos de formação\Nnão se materializam do nada.
Dialogue: 0,0:03:43.12,0:03:45.10,Default,,0000,0000,0000,,Na verdade, podemos criá-los.
Dialogue: 0,0:03:45.16,0:03:49.30,Default,,0000,0000,0000,,Portanto, há a oportunidade de criar\Ngrupos de formação com um espetro completo
Dialogue: 0,0:03:49.35,0:03:52.95,Default,,0000,0000,0000,,que reflitam um retrato\Nmais rico da humanidade.
Dialogue: 0,0:03:52.98,0:03:55.20,Default,,0000,0000,0000,,Vocês viram nos meus exemplos
Dialogue: 0,0:03:55.22,0:03:56.99,Default,,0000,0000,0000,,com os robôs sociais
Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,que foi como eu descobri a exclusão\Ncom o preconceito algorítmico.
Dialogue: 0,0:04:01.76,0:04:06.36,Default,,0000,0000,0000,,Mas o preconceito algorítmico também\Npode levar a práticas discriminatórias.
Dialogue: 0,0:04:07.44,0:04:09.06,Default,,0000,0000,0000,,Nos Estados Unidos da América,
Dialogue: 0,0:04:09.12,0:04:13.11,Default,,0000,0000,0000,,os departamentos da polícia começam\Na usar o software de reconhecimento facial
Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,no seu arsenal de luta contra o crime.
Dialogue: 0,0:04:15.62,0:04:18.40,Default,,0000,0000,0000,,A Faculdade de Direito de Georgetown\Npublicou um relatório
Dialogue: 0,0:04:18.44,0:04:21.44,Default,,0000,0000,0000,,mostrando que um\Nem dois adultos, nos EUA
Dialogue: 0,0:04:21.48,0:04:24.44,Default,,0000,0000,0000,,— ou seja, 117 milhões de pessoas —
Dialogue: 0,0:04:24.51,0:04:27.98,Default,,0000,0000,0000,,têm os rostos em redes\Nde reconhecimento facial.
Dialogue: 0,0:04:28.06,0:04:32.63,Default,,0000,0000,0000,,Os departamentos da polícia podem procurar\Nnessas redes não regulamentadas,
Dialogue: 0,0:04:32.67,0:04:36.86,Default,,0000,0000,0000,,usando algoritmos que não foram\Nauditados quanto ao seu rigor.
Dialogue: 0,0:04:37.04,0:04:40.87,Default,,0000,0000,0000,,No entanto, sabemos que o reconhecimento\Nfacial não é à prova de falhas,
Dialogue: 0,0:04:40.93,0:04:45.10,Default,,0000,0000,0000,,e rotular rostos consistentemente\Ncontinua a ser um problema.
Dialogue: 0,0:04:45.21,0:04:46.86,Default,,0000,0000,0000,,Podem ter visto isto no Facebook.
Dialogue: 0,0:04:46.92,0:04:50.14,Default,,0000,0000,0000,,Os meus amigos e eu estamos sempre a rir\Nquando vemos outras pessoas
Dialogue: 0,0:04:50.17,0:04:52.39,Default,,0000,0000,0000,,mal rotuladas nas nossas fotos.
Dialogue: 0,0:04:52.51,0:04:57.85,Default,,0000,0000,0000,,Mas a má identificação de um possível\Ncriminoso não é motivo para rir,
Dialogue: 0,0:04:57.87,0:05:00.95,Default,,0000,0000,0000,,e o mesmo acontece com\Na violação das liberdades civis.
Dialogue: 0,0:05:01.01,0:05:04.36,Default,,0000,0000,0000,,A aprendizagem de máquinas está a ser\Nusada para reconhecimento facial,
Dialogue: 0,0:05:04.42,0:05:08.56,Default,,0000,0000,0000,,mas está a estender-se para além\Ndo domínio da visão por computador.
Dialogue: 0,0:05:09.27,0:05:13.36,Default,,0000,0000,0000,,No seu livro, "Armas de\NDestruição Matemática" (ADM),
Dialogue: 0,0:05:13.42,0:05:19.77,Default,,0000,0000,0000,,a cientista de dados Cathy O'Neil\Nfala sobre o aumento de novas ADM
Dialogue: 0,0:05:20.01,0:05:24.44,Default,,0000,0000,0000,,algoritmos difundidos,\Nmisteriosos e destrutivos
Dialogue: 0,0:05:24.52,0:05:27.53,Default,,0000,0000,0000,,que estão a ser cada vez mais usados\Npara tomar decisões
Dialogue: 0,0:05:27.58,0:05:30.55,Default,,0000,0000,0000,,que afetam mais aspetos da nossa vida.
Dialogue: 0,0:05:30.58,0:05:32.68,Default,,0000,0000,0000,,Por exemplo, quem é contratado\Nou despedido?
Dialogue: 0,0:05:32.72,0:05:34.88,Default,,0000,0000,0000,,Recebemos esse empréstimo?\NRecebemos o seguro?
Dialogue: 0,0:05:34.93,0:05:38.27,Default,,0000,0000,0000,,Somos admitidos na faculdade\Nem que queremos entrar?
Dialogue: 0,0:05:38.42,0:05:41.64,Default,,0000,0000,0000,,Pagamos todos o mesmo preço\Npara o mesmo produto
Dialogue: 0,0:05:41.67,0:05:44.04,Default,,0000,0000,0000,,comprado na mesma plataforma?
Dialogue: 0,0:05:44.13,0:05:47.89,Default,,0000,0000,0000,,A polícia também está a começar\Na usar a aprendizagem de máquinas
Dialogue: 0,0:05:47.92,0:05:50.15,Default,,0000,0000,0000,,para policiamento preditivo.
Dialogue: 0,0:05:50.23,0:05:53.89,Default,,0000,0000,0000,,Alguns juízes usam a avaliação de risco\Ngerada por máquinas para determinar
Dialogue: 0,0:05:53.93,0:05:58.15,Default,,0000,0000,0000,,quanto tempo um indivíduo\Nvai passar na prisão.
Dialogue: 0,0:05:58.23,0:06:00.74,Default,,0000,0000,0000,,Portanto, temos mesmo que pensar\Nnessas decisões.
Dialogue: 0,0:06:00.80,0:06:02.23,Default,,0000,0000,0000,,Elas sãos justas?
Dialogue: 0,0:06:02.29,0:06:04.96,Default,,0000,0000,0000,,Já vimos que o preconceito algorítmico
Dialogue: 0,0:06:04.99,0:06:08.14,Default,,0000,0000,0000,,nem sempre conduz\Na resultados justos.
Dialogue: 0,0:06:08.25,0:06:10.21,Default,,0000,0000,0000,,Então, o que podemos fazer quanto a isso?
Dialogue: 0,0:06:10.37,0:06:13.84,Default,,0000,0000,0000,,Podemos começar a pensar \Nem criar códigos mais inclusivos
Dialogue: 0,0:06:13.90,0:06:16.85,Default,,0000,0000,0000,,e usar práticas de codificação inclusiva.
Dialogue: 0,0:06:16.99,0:06:19.40,Default,,0000,0000,0000,,Isto começa com as pessoas.
Dialogue: 0,0:06:19.71,0:06:21.78,Default,,0000,0000,0000,,Por isso, é importante quem codifica.
Dialogue: 0,0:06:21.82,0:06:25.81,Default,,0000,0000,0000,,Estaremos a criar equipas de espetro\Ncompleto com diversos indivíduos
Dialogue: 0,0:06:25.84,0:06:28.51,Default,,0000,0000,0000,,que podem verificar os pontos cegos\Nuns dos outros?
Dialogue: 0,0:06:28.57,0:06:31.82,Default,,0000,0000,0000,,No lado técnico,\Né importante a forma como codificamos.
Dialogue: 0,0:06:31.93,0:06:35.49,Default,,0000,0000,0000,,Estaremos a considerar a equidade\Nenquanto desenvolvemos os sistemas?
Dialogue: 0,0:06:35.62,0:06:38.73,Default,,0000,0000,0000,,E, finalmente, é importante a razão\Npor que codificamos.
Dialogue: 0,0:06:38.78,0:06:41.38,Default,,0000,0000,0000,,Temos usado ferramentas\Nde criação informática
Dialogue: 0,0:06:41.41,0:06:44.02,Default,,0000,0000,0000,,para desbloquear uma riqueza imensa.
Dialogue: 0,0:06:44.05,0:06:48.39,Default,,0000,0000,0000,,Agora temos a oportunidade\Nde desbloquear uma igualdade ainda maior
Dialogue: 0,0:06:48.45,0:06:51.50,Default,,0000,0000,0000,,se dermos prioridade à mudança social
Dialogue: 0,0:06:51.53,0:06:53.91,Default,,0000,0000,0000,,e não uma reflexão tardia.
Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,Portanto, estes são os três princípios\Nque formam o movimento "de codificação".
Dialogue: 0,0:06:58.55,0:07:00.31,Default,,0000,0000,0000,,É importante quem codifica,
Dialogue: 0,0:07:00.36,0:07:02.04,Default,,0000,0000,0000,,é importante como codificamos,
Dialogue: 0,0:07:02.10,0:07:04.22,Default,,0000,0000,0000,,e é importante a razão\Npor que codificamos.
Dialogue: 0,0:07:04.26,0:07:07.09,Default,,0000,0000,0000,,Para avançarmos para a codificação,\Npodemos começar a pensar
Dialogue: 0,0:07:07.14,0:07:10.22,Default,,0000,0000,0000,,em construir plataformas que\Npossam identificar preconceitos
Dialogue: 0,0:07:10.28,0:07:13.47,Default,,0000,0000,0000,,reunindo as experiências de pessoas\Ncomo as que eu contei,
Dialogue: 0,0:07:13.55,0:07:16.33,Default,,0000,0000,0000,,e também auditando\Nos softwares existentes.
Dialogue: 0,0:07:16.42,0:07:20.12,Default,,0000,0000,0000,,Também podemos começar a criar\Ngrupos de formação mais inclusivos.
Dialogue: 0,0:07:20.26,0:07:23.11,Default,,0000,0000,0000,,Imaginem uma campanha\N"Selfies para Inclusão"
Dialogue: 0,0:07:23.16,0:07:26.74,Default,,0000,0000,0000,,em que qualquer um pode ajudar\Nos desenvolvedores a criar e testar
Dialogue: 0,0:07:26.80,0:07:29.11,Default,,0000,0000,0000,,grupos de formação mais inclusivos.
Dialogue: 0,0:07:29.30,0:07:32.23,Default,,0000,0000,0000,,Também podemos começar\Na pensar com maior consciência
Dialogue: 0,0:07:32.26,0:07:37.23,Default,,0000,0000,0000,,no impacto social da tecnologia\Nque estamos a desenvolver.
Dialogue: 0,0:07:37.57,0:07:39.96,Default,,0000,0000,0000,,Para iniciar o movimento de codificação,
Dialogue: 0,0:07:39.99,0:07:42.100,Default,,0000,0000,0000,,lancei o Algoritmo Liga da Justiça,
Dialogue: 0,0:07:43.05,0:07:45.92,Default,,0000,0000,0000,,em que todos os que\Nse interessam pela justiça
Dialogue: 0,0:07:45.96,0:07:48.75,Default,,0000,0000,0000,,podem ajudar a lutar\Ncontra o olhar codificado.
Dialogue: 0,0:07:48.92,0:07:52.20,Default,,0000,0000,0000,,Em codedgaze.com,\Npodem relatar preconceitos,
Dialogue: 0,0:07:52.28,0:07:54.68,Default,,0000,0000,0000,,exigir auditos, fazerem testes
Dialogue: 0,0:07:54.74,0:07:57.50,Default,,0000,0000,0000,,e participar das conversas em curso,
Dialogue: 0,0:07:57.61,0:07:59.90,Default,,0000,0000,0000,,#codedgaze.
Dialogue: 0,0:08:00.74,0:08:03.35,Default,,0000,0000,0000,,Portanto, convido-os a juntarem-se a mim
Dialogue: 0,0:08:03.41,0:08:07.10,Default,,0000,0000,0000,,para criar um mundo em que a tecnologia\Nfuncione para todos nós,
Dialogue: 0,0:08:07.15,0:08:09.12,Default,,0000,0000,0000,,não apenas para alguns,
Dialogue: 0,0:08:09.16,0:08:13.50,Default,,0000,0000,0000,,um mundo em que valorizamos a inclusão\Ne nos centramos na mudança social.
Dialogue: 0,0:08:13.65,0:08:14.70,Default,,0000,0000,0000,,Obrigada.
Dialogue: 0,0:08:14.87,0:08:17.87,Default,,0000,0000,0000,,(Aplausos).
Dialogue: 0,0:08:20.87,0:08:23.34,Default,,0000,0000,0000,,Mas eu tenho uma pergunta:
Dialogue: 0,0:08:23.75,0:08:25.94,Default,,0000,0000,0000,,Vão juntar-se a mim nesta luta?
Dialogue: 0,0:08:26.01,0:08:27.12,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:27.22,0:08:29.99,Default,,0000,0000,0000,,(Aplausos)