[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Olá, sou Joy, uma "poetisa dos códigos",
Dialogue: 0,0:00:04.20,0:00:09.19,Default,,0000,0000,0000,,a minha missão é deter\Numa força invisível que tem crescido,
Dialogue: 0,0:00:09.22,0:00:12.07,Default,,0000,0000,0000,,uma força que chamo de "olhar codificado",
Dialogue: 0,0:00:12.10,0:00:15.40,Default,,0000,0000,0000,,é como chamo o viés algorítmico.
Dialogue: 0,0:00:15.43,0:00:19.73,Default,,0000,0000,0000,,Tal como o preconceito humano,\Nele resulta em desigualdade.
Dialogue: 0,0:00:19.75,0:00:22.44,Default,,0000,0000,0000,,Porém, os algoritmos, assim como os vírus,
Dialogue: 0,0:00:22.46,0:00:27.38,Default,,0000,0000,0000,,podem espalhar o viés\Nem grande escala e rapidamente.
Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,O viés algorítmico também\Npode levar a experiências de exclusão
Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,e a práticas discriminatórias.
Dialogue: 0,0:00:34.51,0:00:36.57,Default,,0000,0000,0000,,Vou mostrar o que quero dizer.
Dialogue: 0,0:00:36.98,0:00:39.42,Default,,0000,0000,0000,,(Vídeo) Joy Boulamwini:\NOi, câmera. Tenho um rosto.
Dialogue: 0,0:00:40.16,0:00:42.03,Default,,0000,0000,0000,,Consegue ver meu rosto?
Dialogue: 0,0:00:42.05,0:00:43.68,Default,,0000,0000,0000,,Um rosto sem óculos?
Dialogue: 0,0:00:43.70,0:00:45.92,Default,,0000,0000,0000,,Você consegue ver o rosto dela...
Dialogue: 0,0:00:46.24,0:00:48.15,Default,,0000,0000,0000,,E o meu?
Dialogue: 0,0:00:51.89,0:00:55.64,Default,,0000,0000,0000,,Estou usando uma máscara. Consegue vê-la?
Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,Joy Boulamwini: Como isso aconteceu?
Dialogue: 0,0:00:58.86,0:01:03.45,Default,,0000,0000,0000,,Por que estou diante de um computador,\Nusando uma máscara branca,
Dialogue: 0,0:01:03.48,0:01:06.86,Default,,0000,0000,0000,,tentando ser detectada\Npor uma câmera barata?
Dialogue: 0,0:01:06.86,0:01:09.44,Default,,0000,0000,0000,,Bom, quando não estou lutando\Ncontra o olhar codificado
Dialogue: 0,0:01:09.46,0:01:10.98,Default,,0000,0000,0000,,como uma poetisa dos códigos,
Dialogue: 0,0:01:11.01,0:01:14.28,Default,,0000,0000,0000,,faço pós-graduação\Nno Laboratório de Mídia do MIT,
Dialogue: 0,0:01:14.30,0:01:19.22,Default,,0000,0000,0000,,na qual tenho a oportunidade de trabalhar\Nem diversos projetos bacanas,
Dialogue: 0,0:01:19.24,0:01:21.27,Default,,0000,0000,0000,,inclusive no "Aspire Mirror",
Dialogue: 0,0:01:21.30,0:01:26.43,Default,,0000,0000,0000,,projeto que criei para poder projetar\Nmáscaras digitais sobre minha imagem.
Dialogue: 0,0:01:26.46,0:01:30.06,Default,,0000,0000,0000,,De manhã, se eu quisesse me sentir\Npoderosa, poderia usar uma de leão.
Dialogue: 0,0:01:30.07,0:01:33.78,Default,,0000,0000,0000,,Se precisasse de uma inspiração,\Nusaria uma citação.
Dialogue: 0,0:01:33.81,0:01:36.80,Default,,0000,0000,0000,,Então, usei um software genérico\Nde reconhecimento facial
Dialogue: 0,0:01:36.82,0:01:38.17,Default,,0000,0000,0000,,para criar o sistema,
Dialogue: 0,0:01:38.20,0:01:43.30,Default,,0000,0000,0000,,mas descobri que era bem difícil testá-lo,\Na não ser que usasse uma máscara branca.
Dialogue: 0,0:01:44.28,0:01:48.63,Default,,0000,0000,0000,,Infelizmente, já tive esse problema antes.
Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,Quando cursava minha graduação\Nem ciência da computação na Georgia Tech,
Dialogue: 0,0:01:52.98,0:01:55.03,Default,,0000,0000,0000,,eu trabalhava com robôs sociais,
Dialogue: 0,0:01:55.06,0:01:58.84,Default,,0000,0000,0000,,e uma das minhas tarefas era fazer com que\Num robô brincasse de "Achou!",
Dialogue: 0,0:01:58.86,0:02:00.54,Default,,0000,0000,0000,,um jogo simples de revezamento
Dialogue: 0,0:02:00.57,0:02:04.89,Default,,0000,0000,0000,,em que uma pessoa cobre o rosto e depois\No mostra à outra, dizendo: "Achou!"
Dialogue: 0,0:02:04.91,0:02:09.34,Default,,0000,0000,0000,,O problema é que a brincadeira\Nnão dá certo se você não vê o outro,
Dialogue: 0,0:02:09.36,0:02:11.86,Default,,0000,0000,0000,,e meu robô não me via.
Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Aí, peguei emprestado o rosto\Nde uma amiga para fazer o projeto,
Dialogue: 0,0:02:15.86,0:02:17.24,Default,,0000,0000,0000,,entreguei a tarefa
Dialogue: 0,0:02:17.26,0:02:21.02,Default,,0000,0000,0000,,e pensei: "Sabe de uma coisa?\NOutra pessoa vai resolver esse problema".
Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Pouco tempo depois,
Dialogue: 0,0:02:23.70,0:02:27.86,Default,,0000,0000,0000,,eu estava em Hong Kong,\Nnuma competição de empreendedorismo.
Dialogue: 0,0:02:28.34,0:02:31.03,Default,,0000,0000,0000,,Os organizadores decidiram\Nlevar os participantes
Dialogue: 0,0:02:31.06,0:02:33.43,Default,,0000,0000,0000,,pra visitar "start-ups" locais.
Dialogue: 0,0:02:33.45,0:02:37.96,Default,,0000,0000,0000,,Uma das start-ups tinha um robô social,\Ne eles decidiram fazer uma demonstração.
Dialogue: 0,0:02:37.97,0:02:39.82,Default,,0000,0000,0000,,A demonstração funcionou com todos,
Dialogue: 0,0:02:39.83,0:02:43.06,Default,,0000,0000,0000,,até que chegou a minha vez\Ne, como vocês já podem imaginar,
Dialogue: 0,0:02:43.08,0:02:46.04,Default,,0000,0000,0000,,ele não detectou meu rosto.
Dialogue: 0,0:02:46.07,0:02:48.58,Default,,0000,0000,0000,,Perguntei aos desenvolvedores por quê,
Dialogue: 0,0:02:48.60,0:02:54.11,Default,,0000,0000,0000,,e descobri que usaram o mesmo software\Ngenérico de reconhecimento facial que eu.
Dialogue: 0,0:02:54.12,0:02:57.80,Default,,0000,0000,0000,,Do outro lado do mundo,\Ndescobri que o viés algorítmico
Dialogue: 0,0:02:57.81,0:03:02.88,Default,,0000,0000,0000,,consegue viajar tão rápido\Nquanto um download da internet.
Dialogue: 0,0:03:03.62,0:03:06.82,Default,,0000,0000,0000,,O que estava acontecendo?\NPor que meu rosto não era detectado?
Dialogue: 0,0:03:06.84,0:03:10.20,Default,,0000,0000,0000,,Bem, precisamos analisar\Ncomo damos "visão" às máquinas.
Dialogue: 0,0:03:10.22,0:03:13.63,Default,,0000,0000,0000,,A visão de computador utiliza\Ntécnicas de aprendizagem automática
Dialogue: 0,0:03:13.66,0:03:15.54,Default,,0000,0000,0000,,para fazer o reconhecimento facial.
Dialogue: 0,0:03:15.56,0:03:19.46,Default,,0000,0000,0000,,Funciona assim: você cria uma série\Nde treinamento, com alguns rostos.
Dialogue: 0,0:03:19.48,0:03:22.30,Default,,0000,0000,0000,,"Isto é um rosto. Isto é um isto.\NIsto não é um rosto."
Dialogue: 0,0:03:22.32,0:03:26.84,Default,,0000,0000,0000,,Com o tempo, você ensina o computador\Na reconhecer outros rostos.
Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Porém, se as séries não forem\Ndiversificadas o bastante,
Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,qualquer rosto que seja\Nmuito diferente dos demais
Dialogue: 0,0:03:34.25,0:03:37.90,Default,,0000,0000,0000,,será mais difícil de detectar,\Ne era isso que acontecia comigo.
Dialogue: 0,0:03:37.91,0:03:40.30,Default,,0000,0000,0000,,Mas não se preocupem. Tenho boas notícias.
Dialogue: 0,0:03:40.32,0:03:43.09,Default,,0000,0000,0000,,As séries de treinamento\Nnão surgem do nada.
Dialogue: 0,0:03:43.12,0:03:44.90,Default,,0000,0000,0000,,Nós é que as criamos.
Dialogue: 0,0:03:44.93,0:03:49.10,Default,,0000,0000,0000,,Então, podemos criar\Nséries de amplo espectro,
Dialogue: 0,0:03:49.13,0:03:52.95,Default,,0000,0000,0000,,que reflitam rostos humanos\Nde forma mais diversa.
Dialogue: 0,0:03:52.98,0:03:55.20,Default,,0000,0000,0000,,Vocês já viram nos exemplos que dei
Dialogue: 0,0:03:55.22,0:03:56.99,Default,,0000,0000,0000,,como os robôs sociais
Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,me fizeram ver a exclusão causada\Npelo viés algorítmico,
Dialogue: 0,0:04:01.65,0:04:06.46,Default,,0000,0000,0000,,mas o viés algorítmico também\Npode acarretar práticas discriminatórias.
Dialogue: 0,0:04:07.44,0:04:08.89,Default,,0000,0000,0000,,Em todos os Estados Unidos,
Dialogue: 0,0:04:08.91,0:04:13.11,Default,,0000,0000,0000,,departamentos de polícia estão começando\Na usar softwares de reconhecimento facial
Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,como parte de seu arsenal\Nna luta contra o crime.
Dialogue: 0,0:04:15.62,0:04:17.63,Default,,0000,0000,0000,,A Georgetown Law publicou um relatório
Dialogue: 0,0:04:17.66,0:04:24.42,Default,,0000,0000,0000,,mostrando que um em cada dois adultos\Nnos EUA, ou seja, 117 milhões de pessoas,
Dialogue: 0,0:04:24.44,0:04:27.98,Default,,0000,0000,0000,,tiveram seus rostos incluídos\Nem redes de reconhecimento facial.
Dialogue: 0,0:04:28.00,0:04:32.55,Default,,0000,0000,0000,,Hoje, os departamentos de polícia podem\Nusar essas redes sem qualquer regulação,
Dialogue: 0,0:04:32.58,0:04:36.86,Default,,0000,0000,0000,,usando algoritmos que não tiveram\Nsua precisão auditada.
Dialogue: 0,0:04:36.89,0:04:40.75,Default,,0000,0000,0000,,Ainda assim, sabemos que\No reconhecimento facial não é infalível,
Dialogue: 0,0:04:40.78,0:04:44.78,Default,,0000,0000,0000,,e identificar rostos de forma consistente\Ncontinua sendo um desafio.
Dialogue: 0,0:04:44.80,0:04:46.71,Default,,0000,0000,0000,,Talvez já tenham visto isso no Facebook.
Dialogue: 0,0:04:46.73,0:04:49.75,Default,,0000,0000,0000,,Eu e meus amigos rimos o tempo todo\Nquando vemos outras pessoas
Dialogue: 0,0:04:49.78,0:04:52.23,Default,,0000,0000,0000,,sendo marcadas incorretamente\Nem nossas fotos.
Dialogue: 0,0:04:52.26,0:04:57.85,Default,,0000,0000,0000,,Mas errar na identificação de um suspeito\Nde crime não é nada engraçado,
Dialogue: 0,0:04:57.87,0:05:00.70,Default,,0000,0000,0000,,nem violar liberdades civis.
Dialogue: 0,0:05:00.72,0:05:03.93,Default,,0000,0000,0000,,A aprendizagem automática vem sendo\Nusada no reconhecimento facial,
Dialogue: 0,0:05:03.95,0:05:08.46,Default,,0000,0000,0000,,mas também vem se expandindo\Nalém da visão de computador.
Dialogue: 0,0:05:09.27,0:05:13.28,Default,,0000,0000,0000,,Em seu livro "Weapons\Nof Math Destruction",
Dialogue: 0,0:05:13.31,0:05:19.99,Default,,0000,0000,0000,,a cientista de dados Cathy O'Neil\Nfala sobre a ascensão dos novos "DMDs"
Dialogue: 0,0:05:20.01,0:05:24.36,Default,,0000,0000,0000,,algoritmos "disseminados,\Nmisteriosos e destrutivos"
Dialogue: 0,0:05:24.39,0:05:27.35,Default,,0000,0000,0000,,que têm sido cada vez mais utilizados\Nna tomada de decisões
Dialogue: 0,0:05:27.38,0:05:30.55,Default,,0000,0000,0000,,que impactam mais aspectos\Ndas nossas vidas.
Dialogue: 0,0:05:30.58,0:05:32.45,Default,,0000,0000,0000,,Quem será contratado ou demitido?
Dialogue: 0,0:05:32.47,0:05:34.58,Default,,0000,0000,0000,,Vai conseguir aquele \Nempréstimo, ou seguro?
Dialogue: 0,0:05:34.61,0:05:38.11,Default,,0000,0000,0000,,Vai entrar na faculdade que você queria?
Dialogue: 0,0:05:38.13,0:05:41.64,Default,,0000,0000,0000,,Eu e você pagamos o mesmo valor\Npelo mesmo produto
Dialogue: 0,0:05:41.67,0:05:44.11,Default,,0000,0000,0000,,vendido na mesma loja?
Dialogue: 0,0:05:44.13,0:05:47.89,Default,,0000,0000,0000,,A segurança pública também está começando\Na usar a aprendizagem automática
Dialogue: 0,0:05:47.92,0:05:50.20,Default,,0000,0000,0000,,no policiamento preditivo.
Dialogue: 0,0:05:50.23,0:05:53.08,Default,,0000,0000,0000,,Alguns juízes utilizam índices\Nde risco gerados por máquinas
Dialogue: 0,0:05:53.11,0:05:58.15,Default,,0000,0000,0000,,para determinar quanto tempo\Num indivíduo ficará na prisão.
Dialogue: 0,0:05:58.17,0:06:01.76,Default,,0000,0000,0000,,Temos realmente que refletir\Nsobre essas decisões. Será que são justas?
Dialogue: 0,0:06:01.78,0:06:08.15,Default,,0000,0000,0000,,E já vimos que o viés algorítmico\Nnem sempre leva a resultados justos.
Dialogue: 0,0:06:08.17,0:06:10.13,Default,,0000,0000,0000,,Então, o que podemos fazer?
Dialogue: 0,0:06:10.16,0:06:13.84,Default,,0000,0000,0000,,Bem, podemos começar a pensar\Nem como criar codificação mais inclusiva
Dialogue: 0,0:06:13.86,0:06:16.85,Default,,0000,0000,0000,,e adotar práticas\Nde codificação inclusivas.
Dialogue: 0,0:06:16.88,0:06:19.18,Default,,0000,0000,0000,,Tudo começa com pessoas.
Dialogue: 0,0:06:19.71,0:06:21.67,Default,,0000,0000,0000,,Então, é importante saber quem codifica.
Dialogue: 0,0:06:21.69,0:06:25.81,Default,,0000,0000,0000,,Estamos criando equipes diversificadas,\Ncom indivíduos diferentes
Dialogue: 0,0:06:25.84,0:06:28.25,Default,,0000,0000,0000,,que possam verificar\Npontos cegos uns dos outros?
Dialogue: 0,0:06:28.27,0:06:31.82,Default,,0000,0000,0000,,Quanto ao aspecto técnico,\Na forma como codificamos é relevante.
Dialogue: 0,0:06:31.84,0:06:35.49,Default,,0000,0000,0000,,Estamos levando em conta a equidade\Nno desenvolvimento de sistemas?
Dialogue: 0,0:06:35.52,0:06:38.43,Default,,0000,0000,0000,,Finalmente, a razão pela qual\Ncodificamos é relevante.
Dialogue: 0,0:06:38.78,0:06:43.87,Default,,0000,0000,0000,,Utilizamos ferramentas de criação\Ncomputacional para gerar imensas riquezas.
Dialogue: 0,0:06:43.89,0:06:48.34,Default,,0000,0000,0000,,Hoje temos a oportunidade\Nde gerar igualdade ainda maior,
Dialogue: 0,0:06:48.36,0:06:51.29,Default,,0000,0000,0000,,se considerarmos a mudança\Nsocial como uma prioridade
Dialogue: 0,0:06:51.32,0:06:53.49,Default,,0000,0000,0000,,e não como algo de menos importância.
Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,Esses são os três princípios na criação\Ndo movimento pela codificação inclusiva.
Dialogue: 0,0:06:58.55,0:07:00.21,Default,,0000,0000,0000,,É importante quem codifica,
Dialogue: 0,0:07:00.23,0:07:01.77,Default,,0000,0000,0000,,é importante como se codifica
Dialogue: 0,0:07:01.80,0:07:03.82,Default,,0000,0000,0000,,e é importante por que se codifica.
Dialogue: 0,0:07:03.84,0:07:06.85,Default,,0000,0000,0000,,Então, para uma codificação inclusiva,\Npodemos começar a pensar
Dialogue: 0,0:07:06.87,0:07:09.99,Default,,0000,0000,0000,,na criação de plataformas\Nque identifiquem o viés,
Dialogue: 0,0:07:10.02,0:07:13.23,Default,,0000,0000,0000,,coletando as experiências das pessoas,\Ncomo as que eu contei aqui,
Dialogue: 0,0:07:13.26,0:07:16.33,Default,,0000,0000,0000,,mas também auditando\Nsoftwares já existentes.
Dialogue: 0,0:07:16.35,0:07:20.12,Default,,0000,0000,0000,,Também podemos começar a criar\Nséries de treinamento mais inclusivas.
Dialogue: 0,0:07:20.14,0:07:22.94,Default,,0000,0000,0000,,Imaginem uma campanha\Nde "'Selfies' pela Inclusão",
Dialogue: 0,0:07:22.97,0:07:25.84,Default,,0000,0000,0000,,em que eu e vocês possamos ajudar\Nos desenvolvedores a testar
Dialogue: 0,0:07:25.84,0:07:28.74,Default,,0000,0000,0000,,e criar séries de treinamento\Nmais inclusivas.
Dialogue: 0,0:07:29.30,0:07:32.13,Default,,0000,0000,0000,,Também podemos começar\Na pensar de forma mais consciente
Dialogue: 0,0:07:32.15,0:07:37.41,Default,,0000,0000,0000,,sobre o impacto social das tecnologias\Nque temos desenvolvido.
Dialogue: 0,0:07:37.43,0:07:39.96,Default,,0000,0000,0000,,Pra iniciarmos o movimento\Nde codificação inclusiva
Dialogue: 0,0:07:39.99,0:07:42.83,Default,,0000,0000,0000,,lancei a Liga da Justiça Algorítmica,
Dialogue: 0,0:07:42.86,0:07:48.73,Default,,0000,0000,0000,,onde todos que se importem com a equidade\Npodem lutar contra o olhar codificado.
Dialogue: 0,0:07:48.75,0:07:52.05,Default,,0000,0000,0000,,Em codedgaze.com,\Nvocês podem relatar vieses,
Dialogue: 0,0:07:52.07,0:07:54.52,Default,,0000,0000,0000,,solicitar auditorias, \Nparticipar dos testes
Dialogue: 0,0:07:54.54,0:07:57.31,Default,,0000,0000,0000,,e se juntar ao debate que vem ocorrendo,
Dialogue: 0,0:07:57.34,0:07:59.62,Default,,0000,0000,0000,,#codedgaze.
Dialogue: 0,0:08:00.74,0:08:03.23,Default,,0000,0000,0000,,Convido vocês a se juntarem a mim
Dialogue: 0,0:08:03.25,0:08:06.97,Default,,0000,0000,0000,,na criação de um mundo onde a tecnologia\Ntrabalhe em favor de todos,
Dialogue: 0,0:08:06.100,0:08:08.89,Default,,0000,0000,0000,,não apenas em favor de alguns,
Dialogue: 0,0:08:08.92,0:08:13.50,Default,,0000,0000,0000,,um mundo onde valorizemos a inclusão\Ne tenhamos como foco a mudança social.
Dialogue: 0,0:08:13.53,0:08:14.70,Default,,0000,0000,0000,,Obrigada.
Dialogue: 0,0:08:14.73,0:08:17.71,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:08:20.87,0:08:23.73,Default,,0000,0000,0000,,Mas tenho uma pergunta:
Dialogue: 0,0:08:23.75,0:08:25.81,Default,,0000,0000,0000,,Vocês vão se juntar a mim nessa luta?
Dialogue: 0,0:08:25.83,0:08:27.12,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:27.14,0:08:29.70,Default,,0000,0000,0000,,(Aplausos)