[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:13.78,0:00:16.92,Default,,0000,0000,0000,,Olá, meu nome é Joy,\Nsou uma "poetisa dos códigos",
Dialogue: 0,0:00:16.94,0:00:21.93,Default,,0000,0000,0000,,e minha missão é deter\Numa força invisível e que tem crescido,
Dialogue: 0,0:00:21.96,0:00:24.81,Default,,0000,0000,0000,,uma força que chamo\Nde "olhar codificado",
Dialogue: 0,0:00:24.84,0:00:28.14,Default,,0000,0000,0000,,minha forma de chamar o viés algorítmico.
Dialogue: 0,0:00:28.17,0:00:32.47,Default,,0000,0000,0000,,Tal como o preconceito humano,\Nele resulta em desigualdade.
Dialogue: 0,0:00:32.49,0:00:35.30,Default,,0000,0000,0000,,Porém, os algoritmos, assim como os vírus,
Dialogue: 0,0:00:35.33,0:00:40.12,Default,,0000,0000,0000,,podem espalhar o viés\Nem grande escala e rapidamente.
Dialogue: 0,0:00:40.68,0:00:45.07,Default,,0000,0000,0000,,O viés algorítmico também\Npode levar a experiências de exclusão
Dialogue: 0,0:00:45.09,0:00:47.22,Default,,0000,0000,0000,,e a práticas discriminatórias.
Dialogue: 0,0:00:47.25,0:00:49.31,Default,,0000,0000,0000,,Vou mostrar o que quero dizer.
Dialogue: 0,0:00:50.06,0:00:52.33,Default,,0000,0000,0000,,(Vídeo) Joy Boulamwini:\NOi, câmera. Tenho um rosto.
Dialogue: 0,0:00:53.06,0:00:54.77,Default,,0000,0000,0000,,Consegue ver meu rosto?
Dialogue: 0,0:00:55.07,0:00:56.88,Default,,0000,0000,0000,,Um rosto sem óculos?
Dialogue: 0,0:00:58.35,0:01:00.28,Default,,0000,0000,0000,,Você consegue ver o rosto dela...
Dialogue: 0,0:01:00.85,0:01:02.64,Default,,0000,0000,0000,,E o meu?
Dialogue: 0,0:01:06.62,0:01:10.18,Default,,0000,0000,0000,,Estou usando uma máscara. Consegue vê-la?
Dialogue: 0,0:01:11.81,0:01:14.12,Default,,0000,0000,0000,,Joy Boulamwini: Como isso aconteceu?
Dialogue: 0,0:01:14.13,0:01:18.79,Default,,0000,0000,0000,,Por que estou diante de um computador,\Nusando uma máscara branca,
Dialogue: 0,0:01:18.82,0:01:22.20,Default,,0000,0000,0000,,tentando ser detectada\Npor uma câmera barata?
Dialogue: 0,0:01:22.22,0:01:24.78,Default,,0000,0000,0000,,Bom, quando não estou lutando\Ncontra o olhar codificado
Dialogue: 0,0:01:24.80,0:01:26.32,Default,,0000,0000,0000,,como poetisa dos códigos,
Dialogue: 0,0:01:26.35,0:01:29.62,Default,,0000,0000,0000,,faço pós-graduação\Nno Laboratório de Mídia do MIT,
Dialogue: 0,0:01:29.64,0:01:34.56,Default,,0000,0000,0000,,onde tenho a oportunidade de trabalhar\Nem diversos projetos bacanas,
Dialogue: 0,0:01:34.58,0:01:36.61,Default,,0000,0000,0000,,inclusive o "Aspire Mirror",
Dialogue: 0,0:01:36.64,0:01:41.77,Default,,0000,0000,0000,,projeto que criei para poder projetar\Nmáscaras digitais sobre meu reflexo.
Dialogue: 0,0:01:41.80,0:01:45.40,Default,,0000,0000,0000,,De manhã, se eu quisesse me sentir\Npoderosa, poderia usar uma de leão.
Dialogue: 0,0:01:45.41,0:01:49.12,Default,,0000,0000,0000,,Se precisasse de uma inspiração,\Nusaria uma citação.
Dialogue: 0,0:01:49.15,0:01:52.14,Default,,0000,0000,0000,,Então, usei um software genérico\Nde reconhecimento facial
Dialogue: 0,0:01:52.16,0:01:53.51,Default,,0000,0000,0000,,para criar o sistema,
Dialogue: 0,0:01:53.54,0:01:58.64,Default,,0000,0000,0000,,mas descobri que era bem difícil testá-lo,\Na não ser que usasse uma máscara branca.
Dialogue: 0,0:01:59.62,0:02:03.97,Default,,0000,0000,0000,,Infelizmente, já tive esse problema antes.
Dialogue: 0,0:02:03.99,0:02:08.29,Default,,0000,0000,0000,,Quando cursava minha graduação\Nem ciência da computação na Georgia Tech,
Dialogue: 0,0:02:08.32,0:02:10.37,Default,,0000,0000,0000,,eu trabalhava com robôs sociais,
Dialogue: 0,0:02:10.40,0:02:14.18,Default,,0000,0000,0000,,e uma das minhas tarefas era fazer com que\Num robô brincasse de "Achou!",
Dialogue: 0,0:02:14.20,0:02:16.05,Default,,0000,0000,0000,,um jogo simples de revezamento
Dialogue: 0,0:02:16.07,0:02:20.54,Default,,0000,0000,0000,,em que uma pessoa cobre o rosto e depois\No mostra à outra, dizendo: "Achou!"
Dialogue: 0,0:02:20.56,0:02:25.00,Default,,0000,0000,0000,,O problema é que a brincadeira\Nnão dá certo se você não vê o outro,
Dialogue: 0,0:02:25.02,0:02:27.44,Default,,0000,0000,0000,,e meu robô não me via.
Dialogue: 0,0:02:27.47,0:02:31.49,Default,,0000,0000,0000,,Aí, peguei emprestado o rosto\Nde uma amiga para fazer o projeto,
Dialogue: 0,0:02:31.51,0:02:32.94,Default,,0000,0000,0000,,entreguei a tarefa
Dialogue: 0,0:02:32.95,0:02:36.36,Default,,0000,0000,0000,,e pensei: "Sabe de uma coisa?\NOutra pessoa vai resolver esse problema".
Dialogue: 0,0:02:37.37,0:02:39.26,Default,,0000,0000,0000,,Não muito tempo depois,
Dialogue: 0,0:02:39.29,0:02:43.20,Default,,0000,0000,0000,,eu estava em Hong Kong,\Nem uma competição de empreendedorismo.
Dialogue: 0,0:02:43.93,0:02:46.75,Default,,0000,0000,0000,,Os organizadores decidiram\Nlevar os participantes
Dialogue: 0,0:02:46.78,0:02:49.04,Default,,0000,0000,0000,,pra visitar "start-ups" locais.
Dialogue: 0,0:02:49.06,0:02:53.68,Default,,0000,0000,0000,,Uma das start-ups tinha um robô social,\Ne eles decidiram fazer uma demonstração.
Dialogue: 0,0:02:53.69,0:02:55.41,Default,,0000,0000,0000,,A demonstração funcionou com todos,
Dialogue: 0,0:02:55.44,0:02:58.66,Default,,0000,0000,0000,,até que chegou a minha vez\Ne, como vocês já podem imaginar,
Dialogue: 0,0:02:58.68,0:03:01.70,Default,,0000,0000,0000,,ele não detectou meu rosto.
Dialogue: 0,0:03:01.72,0:03:04.14,Default,,0000,0000,0000,,Perguntei aos desenvolvedores por quê,
Dialogue: 0,0:03:04.15,0:03:09.73,Default,,0000,0000,0000,,e descobri que usaram o mesmo software\Ngenérico de reconhecimento facial que eu.
Dialogue: 0,0:03:09.75,0:03:13.58,Default,,0000,0000,0000,,Do outro lado do mundo,\Ndescobri que o viés algorítmico
Dialogue: 0,0:03:13.59,0:03:18.51,Default,,0000,0000,0000,,consegue viajar tão rápido\Nquanto um download da internet.
Dialogue: 0,0:03:19.16,0:03:22.50,Default,,0000,0000,0000,,O que estava acontecendo?\NPor que meu rosto não era detectado?
Dialogue: 0,0:03:22.51,0:03:25.86,Default,,0000,0000,0000,,Bem, precisamos analisar\Ncomo damos "visão" às máquinas.
Dialogue: 0,0:03:25.88,0:03:29.30,Default,,0000,0000,0000,,A visão de computador utiliza\Ntécnicas de aprendizagem automática
Dialogue: 0,0:03:29.33,0:03:31.10,Default,,0000,0000,0000,,para fazer o reconhecimento facial.
Dialogue: 0,0:03:31.12,0:03:34.94,Default,,0000,0000,0000,,Funciona assim: você cria uma série\Nde treinamento, com alguns rostos.
Dialogue: 0,0:03:34.96,0:03:37.85,Default,,0000,0000,0000,,"Isto é um rosto. Isto é um rosto.\NIsto não é um rosto."
Dialogue: 0,0:03:37.87,0:03:42.18,Default,,0000,0000,0000,,Com o tempo, você ensina o computador\Na reconhecer outros rostos.
Dialogue: 0,0:03:42.56,0:03:46.55,Default,,0000,0000,0000,,Porém, se as séries não forem\Ndiversificadas o bastante,
Dialogue: 0,0:03:46.57,0:03:49.92,Default,,0000,0000,0000,,qualquer rosto que seja\Nmuito diferente dos demais
Dialogue: 0,0:03:49.94,0:03:53.59,Default,,0000,0000,0000,,será mais difícil de detectar,\Ne era isso que acontecia comigo.
Dialogue: 0,0:03:53.60,0:03:55.99,Default,,0000,0000,0000,,Mas não se preocupem. Tenho boas notícias.
Dialogue: 0,0:03:56.01,0:03:58.78,Default,,0000,0000,0000,,As séries de treinamento\Nnão surgem do nada.
Dialogue: 0,0:03:58.80,0:04:00.59,Default,,0000,0000,0000,,Nós é que as criamos.
Dialogue: 0,0:04:00.62,0:04:04.79,Default,,0000,0000,0000,,Então, podemos criar\Nséries de amplo espectro,
Dialogue: 0,0:04:04.82,0:04:08.64,Default,,0000,0000,0000,,que reflitam rostos humanos\Nde forma mais diversa.
Dialogue: 0,0:04:08.66,0:04:10.89,Default,,0000,0000,0000,,Vocês já viram nos exemplos que dei
Dialogue: 0,0:04:10.91,0:04:12.68,Default,,0000,0000,0000,,como os robôs sociais
Dialogue: 0,0:04:12.70,0:04:17.31,Default,,0000,0000,0000,,me fizeram ver a exclusão causada\Npelo viés algorítmico,
Dialogue: 0,0:04:17.34,0:04:22.15,Default,,0000,0000,0000,,mas o viés algorítmico também\Npode acarretar práticas discriminatórias.
Dialogue: 0,0:04:23.13,0:04:24.58,Default,,0000,0000,0000,,Em todos os Estados Unidos,
Dialogue: 0,0:04:24.60,0:04:28.80,Default,,0000,0000,0000,,departamentos de polícia estão começando\Na usar softwares de reconhecimento facial
Dialogue: 0,0:04:28.83,0:04:31.28,Default,,0000,0000,0000,,como parte de seu arsenal\Nna luta contra o crime.
Dialogue: 0,0:04:31.31,0:04:33.32,Default,,0000,0000,0000,,A Georgetown Law publicou um relatório
Dialogue: 0,0:04:33.35,0:04:40.11,Default,,0000,0000,0000,,mostrando que um em cada dois adultos\Nnos EUA, ou seja, 117 milhões de pessoas,
Dialogue: 0,0:04:40.13,0:04:43.67,Default,,0000,0000,0000,,tiveram seus rostos incluídos\Nem redes de reconhecimento facial.
Dialogue: 0,0:04:43.69,0:04:48.24,Default,,0000,0000,0000,,Hoje, os departamentos de polícia podem\Nusar essas redes sem qualquer regulação,
Dialogue: 0,0:04:48.27,0:04:52.55,Default,,0000,0000,0000,,usando algoritmos que não tiveram\Nsua precisão auditada.
Dialogue: 0,0:04:52.58,0:04:56.44,Default,,0000,0000,0000,,Ainda assim, sabemos que\No reconhecimento facial não é infalível,
Dialogue: 0,0:04:56.46,0:05:00.47,Default,,0000,0000,0000,,e identificar rostos de forma consistente\Ncontinua sendo um desafio.
Dialogue: 0,0:05:00.49,0:05:02.39,Default,,0000,0000,0000,,Talvez já tenham visto isso no Facebook.
Dialogue: 0,0:05:02.40,0:05:05.44,Default,,0000,0000,0000,,Eu e meus amigos rimos o tempo todo\Nquando vemos outras pessoas
Dialogue: 0,0:05:05.47,0:05:07.92,Default,,0000,0000,0000,,sendo marcadas incorretamente\Nem nossas fotos.
Dialogue: 0,0:05:07.95,0:05:13.54,Default,,0000,0000,0000,,Mas errar na identificação de um suspeito\Nde crime não é nada engraçado,
Dialogue: 0,0:05:13.56,0:05:16.39,Default,,0000,0000,0000,,nem violar liberdades civis.
Dialogue: 0,0:05:16.41,0:05:19.62,Default,,0000,0000,0000,,A aprendizagem automática vem sendo\Nusada no reconhecimento facial,
Dialogue: 0,0:05:19.64,0:05:24.15,Default,,0000,0000,0000,,mas também vem se expandindo\Nalém da visão de computador.
Dialogue: 0,0:05:24.96,0:05:28.97,Default,,0000,0000,0000,,Em seu livro "Weapons \Nof Math Destruction",
Dialogue: 0,0:05:28.100,0:05:35.68,Default,,0000,0000,0000,,a cientista de dados Cathy O'Neil\Nfala sobre a ascensão dos novos "DMDs",
Dialogue: 0,0:05:35.70,0:05:40.05,Default,,0000,0000,0000,,os algoritmos "disseminados,\Nmisteriosos e destrutivos",
Dialogue: 0,0:05:40.08,0:05:43.04,Default,,0000,0000,0000,,que têm sido cada vez mais utilizados\Nna tomada de decisões
Dialogue: 0,0:05:43.07,0:05:46.24,Default,,0000,0000,0000,,que impactam mais aspectos\Ndas nossas vidas.
Dialogue: 0,0:05:46.27,0:05:48.14,Default,,0000,0000,0000,,Quem será contratado ou demitido?
Dialogue: 0,0:05:48.16,0:05:50.27,Default,,0000,0000,0000,,Vai conseguir aquele\Nempréstimo, ou seguro?
Dialogue: 0,0:05:50.30,0:05:53.80,Default,,0000,0000,0000,,Vai entrar na faculdade que você queria?
Dialogue: 0,0:05:53.82,0:05:57.33,Default,,0000,0000,0000,,Eu e você pagamos o mesmo valor\Npelo mesmo produto
Dialogue: 0,0:05:57.36,0:05:59.80,Default,,0000,0000,0000,,vendido na mesma loja?
Dialogue: 0,0:05:59.82,0:06:03.58,Default,,0000,0000,0000,,A segurança pública também está começando\Na usar a aprendizagem automática
Dialogue: 0,0:06:03.61,0:06:05.90,Default,,0000,0000,0000,,no policiamento preditivo.
Dialogue: 0,0:06:05.92,0:06:08.77,Default,,0000,0000,0000,,Alguns juízes utilizam índices\Nde risco gerados por máquinas
Dialogue: 0,0:06:08.80,0:06:13.84,Default,,0000,0000,0000,,para determinar quanto tempo\Num indivíduo ficará na prisão.
Dialogue: 0,0:06:13.86,0:06:17.45,Default,,0000,0000,0000,,Temos realmente que refletir\Nsobre essas decisões. Será que são justas?
Dialogue: 0,0:06:17.47,0:06:23.84,Default,,0000,0000,0000,,E já vimos que o viés algorítmico\Nnem sempre leva a resultados justos.
Dialogue: 0,0:06:23.86,0:06:25.82,Default,,0000,0000,0000,,Então, o que podemos fazer?
Dialogue: 0,0:06:25.85,0:06:29.53,Default,,0000,0000,0000,,Bem, podemos começar a pensar\Nem como criar codificação mais inclusiva
Dialogue: 0,0:06:29.55,0:06:32.54,Default,,0000,0000,0000,,e adotar práticas\Nde codificação inclusivas.
Dialogue: 0,0:06:32.56,0:06:34.87,Default,,0000,0000,0000,,Tudo começa com pessoas.
Dialogue: 0,0:06:35.40,0:06:37.36,Default,,0000,0000,0000,,Então, é importante saber quem codifica.
Dialogue: 0,0:06:37.38,0:06:41.50,Default,,0000,0000,0000,,Estamos criando equipes diversificadas,\Ncom indivíduos diferentes
Dialogue: 0,0:06:41.53,0:06:43.94,Default,,0000,0000,0000,,que possam verificar\Npontos cegos uns dos outros?
Dialogue: 0,0:06:43.96,0:06:47.51,Default,,0000,0000,0000,,Quanto ao aspecto técnico,\Na forma como codificamos é relevante.
Dialogue: 0,0:06:47.53,0:06:51.18,Default,,0000,0000,0000,,Estamos levando em conta a equidade\Nno desenvolvimento de sistemas?
Dialogue: 0,0:06:51.20,0:06:54.12,Default,,0000,0000,0000,,Finalmente, a razão pela qual\Ncodificamos é relevante.
Dialogue: 0,0:06:54.48,0:06:59.56,Default,,0000,0000,0000,,Utilizamos ferramentas de criação\Ncomputacional para gerar imensas riquezas.
Dialogue: 0,0:06:59.58,0:07:04.03,Default,,0000,0000,0000,,Hoje temos a oportunidade\Nde gerar igualdade ainda maior,
Dialogue: 0,0:07:04.05,0:07:06.98,Default,,0000,0000,0000,,se considerarmos a mudança social\Ncomo uma prioridade
Dialogue: 0,0:07:07.01,0:07:09.18,Default,,0000,0000,0000,,e não como algo de menos importância.
Dialogue: 0,0:07:09.70,0:07:14.22,Default,,0000,0000,0000,,Esses são os três princípios na criação\Ndo movimento pela codificação inclusiva.
Dialogue: 0,0:07:14.24,0:07:15.90,Default,,0000,0000,0000,,É importante quem codifica,
Dialogue: 0,0:07:15.92,0:07:17.46,Default,,0000,0000,0000,,é importante como se codifica
Dialogue: 0,0:07:17.49,0:07:19.51,Default,,0000,0000,0000,,e é importante por que se codifica.
Dialogue: 0,0:07:19.53,0:07:22.54,Default,,0000,0000,0000,,Então, para uma codificação inclusiva,\Npodemos começar a pensar
Dialogue: 0,0:07:22.56,0:07:25.68,Default,,0000,0000,0000,,na criação de plataformas\Nque identifiquem o viés,
Dialogue: 0,0:07:25.70,0:07:28.92,Default,,0000,0000,0000,,coletando as experiências das pessoas,\Ncomo as que eu contei aqui,
Dialogue: 0,0:07:28.95,0:07:32.02,Default,,0000,0000,0000,,mas também auditando\Nsoftwares já existentes.
Dialogue: 0,0:07:32.04,0:07:35.81,Default,,0000,0000,0000,,Também podemos começar a criar\Nséries de treinamento mais inclusivas.
Dialogue: 0,0:07:35.83,0:07:38.63,Default,,0000,0000,0000,,Imaginem uma campanha\Nde "'Selfies' pela Inclusão",
Dialogue: 0,0:07:38.66,0:07:41.53,Default,,0000,0000,0000,,em que eu e vocês possamos ajudar\Nos desenvolvedores a testar
Dialogue: 0,0:07:41.53,0:07:44.43,Default,,0000,0000,0000,,e criar séries de treinamento\Nmais inclusivas.
Dialogue: 0,0:07:44.99,0:07:47.82,Default,,0000,0000,0000,,Também podemos começar\Na pensar de forma mais consciente
Dialogue: 0,0:07:47.84,0:07:53.10,Default,,0000,0000,0000,,sobre o impacto social das tecnologias\Nque temos desenvolvido.
Dialogue: 0,0:07:53.12,0:07:55.65,Default,,0000,0000,0000,,Para iniciarmos o movimento\Nde codificação inclusiva
Dialogue: 0,0:07:55.68,0:07:58.52,Default,,0000,0000,0000,,lancei a Liga da Justiça Algorítmica,
Dialogue: 0,0:07:58.55,0:08:04.42,Default,,0000,0000,0000,,onde todos que se importem com a equidade\Npodem lutar contra o olhar codificado.
Dialogue: 0,0:08:04.44,0:08:07.74,Default,,0000,0000,0000,,Em codedgaze.com,\Nvocês podem relatar vieses,
Dialogue: 0,0:08:07.76,0:08:10.21,Default,,0000,0000,0000,,solicitar auditorias,\Nparticipar dos testes
Dialogue: 0,0:08:10.23,0:08:13.00,Default,,0000,0000,0000,,e se juntar ao debate que vem ocorrendo,
Dialogue: 0,0:08:13.03,0:08:15.31,Default,,0000,0000,0000,,#codedgaze.
Dialogue: 0,0:08:16.43,0:08:18.92,Default,,0000,0000,0000,,Convido vocês a se juntarem a mim
Dialogue: 0,0:08:18.94,0:08:22.66,Default,,0000,0000,0000,,na criação de um mundo onde a tecnologia\Ntrabalhe em favor de todos,
Dialogue: 0,0:08:22.69,0:08:24.58,Default,,0000,0000,0000,,não apenas em favor de alguns.
Dialogue: 0,0:08:24.61,0:08:29.44,Default,,0000,0000,0000,,Um mundo onde valorizemos a inclusão\Ne tenhamos a mudança social como foco.
Dialogue: 0,0:08:29.44,0:08:30.63,Default,,0000,0000,0000,,Obrigada.
Dialogue: 0,0:08:30.63,0:08:33.54,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:08:41.45,0:08:44.29,Default,,0000,0000,0000,,Mas tenho uma pergunta:
Dialogue: 0,0:08:44.31,0:08:46.37,Default,,0000,0000,0000,,Vocês vão se juntar a mim nessa luta?
Dialogue: 0,0:08:46.39,0:08:47.65,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:47.68,0:08:49.57,Default,,0000,0000,0000,,(Aplausos)