[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Hej, jag är Joy, jag är poet i kod,
Dialogue: 0,0:00:04.20,0:00:09.19,Default,,0000,0000,0000,,med uppdrag att stoppa\Nen osynlig kraft som vaknat,
Dialogue: 0,0:00:09.22,0:00:12.07,Default,,0000,0000,0000,,en kraft som jag kallar\N"den kodade blicken,"
Dialogue: 0,0:00:12.10,0:00:15.40,Default,,0000,0000,0000,,min term för fördomar i algoritmer.
Dialogue: 0,0:00:15.43,0:00:19.73,Default,,0000,0000,0000,,Algoritmiska fördomar, precis som\Nmänskliga, resulterar i orättvisa.
Dialogue: 0,0:00:19.75,0:00:25.78,Default,,0000,0000,0000,,Men, algoritmer kan, precis som virus,\Nsprida fördomar i stor skala
Dialogue: 0,0:00:25.80,0:00:27.38,Default,,0000,0000,0000,,och i snabb takt.
Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,Fördomar i algoritmer kan också\Nleda till att människor sållas bort
Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,och till diskriminerande praxis.
Dialogue: 0,0:00:34.51,0:00:36.57,Default,,0000,0000,0000,,Låt mig visa vad jag menar.
Dialogue: 0,0:00:36.98,0:00:39.86,Default,,0000,0000,0000,,(Video) Joy Buolamwini: Hej, kamera.\NJag har ett ansikte.
Dialogue: 0,0:00:40.16,0:00:42.03,Default,,0000,0000,0000,,Kan du se mitt ansikte?
Dialogue: 0,0:00:42.05,0:00:43.68,Default,,0000,0000,0000,,Utan glasögon?
Dialogue: 0,0:00:43.70,0:00:45.92,Default,,0000,0000,0000,,Du kan se hennes ansikte.
Dialogue: 0,0:00:46.24,0:00:48.48,Default,,0000,0000,0000,,Mitt ansikte då?
Dialogue: 0,0:00:51.89,0:00:55.64,Default,,0000,0000,0000,,Jag har en mask. Kan du se min mask?
Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,Joy Buolamwini: Hur hände det här?
Dialogue: 0,0:00:58.86,0:01:02.00,Default,,0000,0000,0000,,Varför sitter jag framför en dator
Dialogue: 0,0:01:02.03,0:01:03.45,Default,,0000,0000,0000,,med en vit mask,
Dialogue: 0,0:01:03.48,0:01:07.13,Default,,0000,0000,0000,,och försöker få en billig webbkamera\Natt upptäcka mig?
Dialogue: 0,0:01:07.15,0:01:09.59,Default,,0000,0000,0000,,Jo, när jag inte slåss\Nmot den kodade blicken,
Dialogue: 0,0:01:09.62,0:01:10.98,Default,,0000,0000,0000,,som en poet i kod,
Dialogue: 0,0:01:11.01,0:01:14.28,Default,,0000,0000,0000,,är jag doktorand på MIT Media Lab,
Dialogue: 0,0:01:14.30,0:01:19.22,Default,,0000,0000,0000,,och där har jag möjlighet att arbeta\Ni en massa egendomliga projekt,
Dialogue: 0,0:01:19.25,0:01:21.27,Default,,0000,0000,0000,,inklusive Aspire Mirror,
Dialogue: 0,0:01:21.30,0:01:26.43,Default,,0000,0000,0000,,ett projekt jag startade för att projicera\Ndigitala masker på min spegelbild.
Dialogue: 0,0:01:26.46,0:01:28.80,Default,,0000,0000,0000,,Så på morgonen,\Nnär jag ville känna mig stark,
Dialogue: 0,0:01:28.83,0:01:30.26,Default,,0000,0000,0000,,kunde jag projicera ett lejon,
Dialogue: 0,0:01:30.29,0:01:33.78,Default,,0000,0000,0000,,Om jag ville peppa mig själv,\Nprojicerade jag kanske ett citat.
Dialogue: 0,0:01:33.81,0:01:36.80,Default,,0000,0000,0000,,Jag använde mjukvara för\Ngenerisk ansiktsigenkänning
Dialogue: 0,0:01:36.82,0:01:38.17,Default,,0000,0000,0000,,för att bygga systemet,
Dialogue: 0,0:01:38.20,0:01:43.30,Default,,0000,0000,0000,,men upptäckte att det var väldigt svårt\Natt testa om jag inte bar en vit mask.
Dialogue: 0,0:01:44.28,0:01:48.63,Default,,0000,0000,0000,,Tyvärr har jag upplevt\Ndet här bekymret tidigare.
Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,När jag studerade datavetenskap på\NGeorgia Institute of Technology,
Dialogue: 0,0:01:52.98,0:01:55.03,Default,,0000,0000,0000,,brukade jag arbeta med mänskliga robotar,
Dialogue: 0,0:01:55.06,0:01:58.84,Default,,0000,0000,0000,,och en av mina uppgifter var\Natt få roboten att leka tittut,
Dialogue: 0,0:01:58.86,0:02:00.54,Default,,0000,0000,0000,,en enkel lek mellan två personer
Dialogue: 0,0:02:00.57,0:02:04.89,Default,,0000,0000,0000,,där man täcker sina ansikten och\Nsedan visar dem och säger "Tittut!"
Dialogue: 0,0:02:04.91,0:02:09.34,Default,,0000,0000,0000,,Problemet är att tittut inte fungerar\Nom man inte ser varandra,
Dialogue: 0,0:02:09.36,0:02:11.86,Default,,0000,0000,0000,,och min robot kunde inte se mig.
Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Men jag lånade min rumskamrats ansikte\Nför att göra klart projektet,
Dialogue: 0,0:02:15.86,0:02:17.24,Default,,0000,0000,0000,,lämnade in uppgiften,
Dialogue: 0,0:02:17.26,0:02:21.02,Default,,0000,0000,0000,,och tänkte, vet ni vad,\Nnågon annan kommer att lösa problemet.
Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Inte så långt därefter,
Dialogue: 0,0:02:23.70,0:02:27.86,Default,,0000,0000,0000,,var jag i Hong Kong och deltog i\Nen tävling för entreprenörer.
Dialogue: 0,0:02:28.34,0:02:31.03,Default,,0000,0000,0000,,Organisatörerna tog med deltagarna
Dialogue: 0,0:02:31.06,0:02:33.43,Default,,0000,0000,0000,,på en rundtur bland\Nlokala startup-företag.
Dialogue: 0,0:02:33.45,0:02:36.17,Default,,0000,0000,0000,,Ett av dessa hade en mänsklig robot,
Dialogue: 0,0:02:36.19,0:02:38.10,Default,,0000,0000,0000,,och de ville köra en demo.
Dialogue: 0,0:02:38.13,0:02:41.11,Default,,0000,0000,0000,,Demon fungerade på alla\Ntills den kom till mig,
Dialogue: 0,0:02:41.13,0:02:43.06,Default,,0000,0000,0000,,och ni kan säkert gissa varför.
Dialogue: 0,0:02:43.08,0:02:46.04,Default,,0000,0000,0000,,Den kunde inte upptäcka mitt ansikte.
Dialogue: 0,0:02:46.07,0:02:48.58,Default,,0000,0000,0000,,Jag frågade utvecklarna vad som hänt,
Dialogue: 0,0:02:48.60,0:02:54.14,Default,,0000,0000,0000,,och det visade sig att de använt samma\Nmjukvara för ansiktsigenkänning som jag.
Dialogue: 0,0:02:54.16,0:02:55.81,Default,,0000,0000,0000,,På andra sidan jordklotet,
Dialogue: 0,0:02:55.83,0:02:59.69,Default,,0000,0000,0000,,lärde jag mig att fördomsfulla algoritmer\Nkan färdas lika snabbt
Dialogue: 0,0:02:59.71,0:03:02.88,Default,,0000,0000,0000,,som det tar att ladda ner\Nnågra filer från internet.
Dialogue: 0,0:03:03.74,0:03:06.82,Default,,0000,0000,0000,,Vad är det som pågår?\NVarför upptäcks inte mitt ansikte?
Dialogue: 0,0:03:06.84,0:03:10.20,Default,,0000,0000,0000,,Jo, vi måste titta på hur\Nvi ger maskinerna syn.
Dialogue: 0,0:03:10.22,0:03:13.63,Default,,0000,0000,0000,,Datorigenkänning använder\Nmaskininlärningsteknik
Dialogue: 0,0:03:13.66,0:03:15.54,Default,,0000,0000,0000,,för att känna igen ansikten.
Dialogue: 0,0:03:15.56,0:03:19.46,Default,,0000,0000,0000,,Så här fungerar det, du skapar en modell\Nmed exempel på olika ansikten.
Dialogue: 0,0:03:19.48,0:03:22.62,Default,,0000,0000,0000,,Här är ett ansikte, och ett till. \NDetta är inte ett ansikte.
Dialogue: 0,0:03:22.64,0:03:26.84,Default,,0000,0000,0000,,Över tid, kan du lära datorn\Natt upptäcka andra ansikten.
Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Men, om modellen inte speglar\Nmångfalden tillräckligt mycket,
Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,kommer ansikten som skiljer sig för mycket\Nfrån den fastställda normen
Dialogue: 0,0:03:34.25,0:03:35.90,Default,,0000,0000,0000,,bli svårare att upptäcka,
Dialogue: 0,0:03:35.93,0:03:37.89,Default,,0000,0000,0000,,vilket var det som hände mig.
Dialogue: 0,0:03:37.91,0:03:40.30,Default,,0000,0000,0000,,Men oroa er inte -\Ndet finns något gott i det.
Dialogue: 0,0:03:40.32,0:03:43.09,Default,,0000,0000,0000,,Träningsmodellerna kommer inte\Nfrån ingenstans.
Dialogue: 0,0:03:43.12,0:03:44.90,Default,,0000,0000,0000,,Vi kan faktiskt skapa dem.
Dialogue: 0,0:03:44.93,0:03:49.10,Default,,0000,0000,0000,,Det finns möjligheter\Natt skapa heltäckande modeller
Dialogue: 0,0:03:49.13,0:03:52.95,Default,,0000,0000,0000,,som skapar en djupare bild\Nav mänskligheten.
Dialogue: 0,0:03:52.98,0:03:55.20,Default,,0000,0000,0000,,Som ni sett i mina exempel
Dialogue: 0,0:03:55.22,0:03:56.99,Default,,0000,0000,0000,,var mänskliga robotar anledningen
Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,till att jag upptäckte exkluderingen\Nmed fördomsfulla algoritmer.
Dialogue: 0,0:04:01.65,0:04:06.46,Default,,0000,0000,0000,,Men fördomar i algoritmer kan också\Nleda till diskriminerande normer.
Dialogue: 0,0:04:07.44,0:04:08.89,Default,,0000,0000,0000,,Över hela USA,
Dialogue: 0,0:04:08.91,0:04:13.11,Default,,0000,0000,0000,,har polismyndigheterna börjat använda\Nmjukvara för ansiktsigenkänning
Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,som ett bland andra redskap\Nför brottsbekämpning.
Dialogue: 0,0:04:15.62,0:04:17.63,Default,,0000,0000,0000,,Georgetown Law publicerade en rapport
Dialogue: 0,0:04:17.66,0:04:24.42,Default,,0000,0000,0000,,som visade att varannan vuxen i USA -\Ndet är 117 miljoner människor -
Dialogue: 0,0:04:24.44,0:04:27.98,Default,,0000,0000,0000,,har sina ansikten registrerade\Ni nätverk för ansiktsigenkänning.
Dialogue: 0,0:04:28.00,0:04:32.55,Default,,0000,0000,0000,,Polisyndigheterna kan använda\Nde här nätverken helt oreglerat,
Dialogue: 0,0:04:32.58,0:04:36.86,Default,,0000,0000,0000,,genom att använda algoritmer\Nvars tillförlitlighet inte granskats.
Dialogue: 0,0:04:36.89,0:04:40.75,Default,,0000,0000,0000,,Trots att vi vet att ansiktsigenkänning\Ninte är tillförlitlig,
Dialogue: 0,0:04:40.78,0:04:44.95,Default,,0000,0000,0000,,och att kunna kategorisera ansikten\Nfortfarande är en utmaning.
Dialogue: 0,0:04:44.98,0:04:46.74,Default,,0000,0000,0000,,Du har kanske sett det på Facebook.
Dialogue: 0,0:04:46.76,0:04:49.75,Default,,0000,0000,0000,,Mina vänner och jag\Nskrattar varje gång vi ser andra
Dialogue: 0,0:04:49.78,0:04:52.23,Default,,0000,0000,0000,,som blivit felaktigt taggade\Ni våra bilder.
Dialogue: 0,0:04:52.26,0:04:57.85,Default,,0000,0000,0000,,Men att felaktigt identifiera en misstänkt\Nkriminell är inget att skratta åt,
Dialogue: 0,0:04:57.87,0:05:00.70,Default,,0000,0000,0000,,inte heller att åsidosätta\Nde mänskliga rättigheterna.
Dialogue: 0,0:05:00.72,0:05:03.93,Default,,0000,0000,0000,,Maskininlärning används\Nför ansiktsigenkänning,
Dialogue: 0,0:05:03.95,0:05:08.46,Default,,0000,0000,0000,,men den används också inom andra områden.
Dialogue: 0,0:05:09.27,0:05:13.28,Default,,0000,0000,0000,,I boken "Weapons of Math Destruction,"
Dialogue: 0,0:05:13.31,0:05:19.99,Default,,0000,0000,0000,,skriver forskaren Cathy O´Neil\Nom de framväxande UMD:na -
Dialogue: 0,0:05:20.01,0:05:24.36,Default,,0000,0000,0000,,utbredda, mystiska och\Ndestruktiva algoritmer
Dialogue: 0,0:05:24.39,0:05:27.35,Default,,0000,0000,0000,,som i ökande utsträckning \Nanvänds för att ta beslut
Dialogue: 0,0:05:27.38,0:05:30.55,Default,,0000,0000,0000,,som påverkar fler och fler\Naspekter i våra liv.
Dialogue: 0,0:05:30.58,0:05:32.45,Default,,0000,0000,0000,,Vem blir anställd eller sparkad?
Dialogue: 0,0:05:32.47,0:05:34.58,Default,,0000,0000,0000,,Får du ta lån?\NFår du teckna försäkringar?
Dialogue: 0,0:05:34.61,0:05:38.11,Default,,0000,0000,0000,,Kommer du in på det universitet du vill?
Dialogue: 0,0:05:38.13,0:05:41.64,Default,,0000,0000,0000,,Betalar du och jag samma pris\Nför samma produkt
Dialogue: 0,0:05:41.67,0:05:44.11,Default,,0000,0000,0000,,köpt på samma sätt?
Dialogue: 0,0:05:44.13,0:05:47.89,Default,,0000,0000,0000,,Lagstiftningen börjar också \Nanvända maskininlärning
Dialogue: 0,0:05:47.92,0:05:50.20,Default,,0000,0000,0000,,i förebyggande polisarbete.
Dialogue: 0,0:05:50.23,0:05:53.72,Default,,0000,0000,0000,,Vissa domare använder maskingenererade\Nriskbedömningar för att besluta
Dialogue: 0,0:05:53.75,0:05:58.15,Default,,0000,0000,0000,,hur långa fängelsestraff som ska utdömas.
Dialogue: 0,0:05:58.17,0:06:00.63,Default,,0000,0000,0000,,Vi behöver verkligen fundera\Növer de här besluten.
Dialogue: 0,0:06:00.65,0:06:01.83,Default,,0000,0000,0000,,Är de rättvisa?
Dialogue: 0,0:06:01.86,0:06:04.75,Default,,0000,0000,0000,,Vi har sett att fördomarna i algoritmerna
Dialogue: 0,0:06:04.77,0:06:08.14,Default,,0000,0000,0000,,inte nödvändigtvis\Nleder till rättvisa resultat.
Dialogue: 0,0:06:08.17,0:06:10.13,Default,,0000,0000,0000,,Så vad kan vi göra?
Dialogue: 0,0:06:10.16,0:06:13.84,Default,,0000,0000,0000,,Tja, vi kan börja fundera på\Nhur vi skapar en mer inkluderande kod
Dialogue: 0,0:06:13.86,0:06:16.85,Default,,0000,0000,0000,,och använda en mer inkluderande praxis.
Dialogue: 0,0:06:16.88,0:06:19.18,Default,,0000,0000,0000,,Det börjar med människor.
Dialogue: 0,0:06:19.71,0:06:21.67,Default,,0000,0000,0000,,Så vem som programmerar har betydelse.
Dialogue: 0,0:06:21.69,0:06:25.81,Default,,0000,0000,0000,,Bygger vi arbetsgrupper\Nmed individer olika erfarenheter
Dialogue: 0,0:06:25.84,0:06:28.25,Default,,0000,0000,0000,,som kan se utanför varandras skygglappar?
Dialogue: 0,0:06:28.27,0:06:31.82,Default,,0000,0000,0000,,På den tekniska sidan har det betydelse\Nhur vi programmerar.
Dialogue: 0,0:06:31.84,0:06:35.49,Default,,0000,0000,0000,,Har vi med rättviseperspektivet\Nnär vi utvecklar system?
Dialogue: 0,0:06:35.52,0:06:38.43,Default,,0000,0000,0000,,Slutligen, varför vi programmerar\Nhar betydelse.
Dialogue: 0,0:06:38.78,0:06:43.87,Default,,0000,0000,0000,,Vi har använt datorkraft för beräkningar\Nsom skapat enorma rikedomar.
Dialogue: 0,0:06:43.89,0:06:48.34,Default,,0000,0000,0000,,Nu har vi möjlighet\Natt skapa ännu större jämlikhet
Dialogue: 0,0:06:48.36,0:06:51.29,Default,,0000,0000,0000,,om vi prioriterar sociala förändringar
Dialogue: 0,0:06:51.32,0:06:53.49,Default,,0000,0000,0000,,och inte tar dem i efterhand.
Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,De här tre principerna\Nkommer att utgöra "inkodnings"-rörelsen.
Dialogue: 0,0:06:58.55,0:07:00.21,Default,,0000,0000,0000,,Vem som kodar har betydelse,
Dialogue: 0,0:07:00.23,0:07:01.77,Default,,0000,0000,0000,,hur vi kodar har betydelse
Dialogue: 0,0:07:01.80,0:07:03.82,Default,,0000,0000,0000,,och varför vi kodar har betydelse.
Dialogue: 0,0:07:03.84,0:07:06.94,Default,,0000,0000,0000,,Så för att komma närmare inkodning\Nkan vi börja fundera på
Dialogue: 0,0:07:06.97,0:07:10.13,Default,,0000,0000,0000,,att bygga plattformar\Nsom kan identifiera fördomar
Dialogue: 0,0:07:10.16,0:07:13.37,Default,,0000,0000,0000,,genom att samla in folks erfarenheter\Nsom den jag pratade om,
Dialogue: 0,0:07:13.39,0:07:16.42,Default,,0000,0000,0000,,men också genom att\Ngranska existerande mjukvara.
Dialogue: 0,0:07:16.46,0:07:20.12,Default,,0000,0000,0000,,Vi kan också börja skapa mer\Ninkluderande modeller.
Dialogue: 0,0:07:20.14,0:07:22.94,Default,,0000,0000,0000,,Tänk er en kampanj\Nför "Selfies för inkludering"
Dialogue: 0,0:07:22.97,0:07:26.62,Default,,0000,0000,0000,,där du och jag kan hjälpa\Nutvecklarna testa och skapa
Dialogue: 0,0:07:26.65,0:07:28.74,Default,,0000,0000,0000,,mer inkluderande modeller.
Dialogue: 0,0:07:29.30,0:07:32.13,Default,,0000,0000,0000,,Vi kan också börja tänka mer samvetsgrant
Dialogue: 0,0:07:32.15,0:07:37.54,Default,,0000,0000,0000,,kring de sociala effekterna\Nav tekniken som vi utvecklar.
Dialogue: 0,0:07:37.57,0:07:39.96,Default,,0000,0000,0000,,För att få fart på "inkodnings"-rörelsen,
Dialogue: 0,0:07:39.99,0:07:42.83,Default,,0000,0000,0000,,har jag lanserat \NAlgorithmic Justice League,
Dialogue: 0,0:07:42.86,0:07:48.73,Default,,0000,0000,0000,,där alla som bryr sig om rättvisa kan\Nhjälpa till att kämpa mot fördomsfull kod.
Dialogue: 0,0:07:48.75,0:07:52.05,Default,,0000,0000,0000,,På www.codegaze.com,\Nkan du rapportera partisk kod,
Dialogue: 0,0:07:52.07,0:07:54.52,Default,,0000,0000,0000,,begära granskningar, bli testare
Dialogue: 0,0:07:54.54,0:07:57.31,Default,,0000,0000,0000,,och delta i den pågående diskussionen,
Dialogue: 0,0:07:57.34,0:07:59.62,Default,,0000,0000,0000,,#codedgaze
Dialogue: 0,0:08:00.65,0:08:03.20,Default,,0000,0000,0000,,Jag bjuder in er till\Natt ansluta er till mig
Dialogue: 0,0:08:03.25,0:08:06.97,Default,,0000,0000,0000,,i skapandet av en värld\Ndär tekniken fungerar för oss alla,
Dialogue: 0,0:08:06.100,0:08:08.89,Default,,0000,0000,0000,,inte bara för några av oss,
Dialogue: 0,0:08:08.92,0:08:13.50,Default,,0000,0000,0000,,en värld där vi värdesätter inkludering\Noch fokuserar på social förändring.
Dialogue: 0,0:08:13.53,0:08:14.70,Default,,0000,0000,0000,,Tack.
Dialogue: 0,0:08:14.73,0:08:17.72,Default,,0000,0000,0000,,(Applåder)
Dialogue: 0,0:08:20.87,0:08:23.73,Default,,0000,0000,0000,,Men jag har en fråga:
Dialogue: 0,0:08:23.75,0:08:25.81,Default,,0000,0000,0000,,Kommer ni att ansluta er till kampen?
Dialogue: 0,0:08:25.83,0:08:27.12,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:08:27.14,0:08:30.12,Default,,0000,0000,0000,,(Applåder)