Return to Video

Moraalinen bias hakutuloksesi takana

  • 0:01 - 0:04
    Kun käyn koulussa puhumassa
    opiskelijoille,
  • 0:04 - 0:06
    kysyn heiltä aina saman kysymyksen:
  • 0:07 - 0:08
    Miksi googlaat?
  • 0:09 - 0:12
    Miksi valitset hakukoneeksesi
    Googlen?
  • 0:13 - 0:15
    Merkillistä, että saan aina
    kolme samaa vastausta.
  • 0:15 - 0:17
    Yksi: "Koska se toimii",
  • 0:17 - 0:20
    mikä on hyvä vastaus;
    siksi minäkin googlaan.
  • 0:20 - 0:22
    Kaksi, joku sanoo:
  • 0:22 - 0:25
    "En tiedä mitään vaihtoehtoja."
  • 0:26 - 0:29
    Se ei ole yhtä hyvä vastaus,
    ja yleensä vastaan:
  • 0:29 - 0:31
    "Yritä googlata sanalla 'hakukone',
  • 0:31 - 0:33
    saatat löytää pari mielenkiintoista
    vaihtoehtoa."
  • 0:33 - 0:36
    Ja viimeisenä, vaan ei vähäisimpänä,
    kolmanneksi,
  • 0:36 - 0:39
    väistämättä, yksi opiskelija nostaa
    kätensä ja sanoo:
  • 0:39 - 0:44
    "Googlella voin olla varma, että saan aina
    parhaan ja puolueettoman hakutuloksen."
  • 0:45 - 0:52
    Varma, että saa aina parhaan,
    puolueettoman hakutuloksen.
  • 0:53 - 0:55
    Humanistina,
  • 0:56 - 0:58
    vaikkakin digitaalisena humanistina,
  • 0:58 - 0:59
    tuo nostaa karvani pystyyn,
  • 0:59 - 1:04
    vaikka minäkin ymmärrän, että luottamus,
    idea puolueettomasta hakutuloksesta,
  • 1:04 - 1:08
    on kollektiivisesti rakastamamme Googlen
    arvostuksen kulmakivi.
  • 1:09 - 1:13
    Näytän teille kuinka tämä on filosofisesti
    lähes mahdotonta.
  • 1:13 - 1:16
    Haluan kuitenkin ensin hieman
    tarkentaa pääperiaatetta
  • 1:16 - 1:19
    jokaisen haun takana,
    joka näyttää joskus unohtuvan.
  • 1:20 - 1:22
    Aina kun ryhdyt googlaamaan jotain,
  • 1:22 - 1:26
    aloita kysymällä itseltäsi:
    "Etsinkö yksittäistä faktaa?"
  • 1:26 - 1:29
    Mikä on Ranskan pääkaupunki?
  • 1:30 - 1:32
    Mistä osista vesimolekyyli muodostuu?
  • 1:32 - 1:34
    Hyvä -- googlaa pois.
  • 1:34 - 1:37
    Ei ole ryhmää tiedemiehiä, joka
    on juuri todistamaisillaan,
  • 1:37 - 1:40
    että itse asiassa Lontoo ja H30.
  • 1:40 - 1:42
    Et löydä suuria salaliittoja näiden
    asioiden tiimoilta.
  • 1:42 - 1:44
    Olemme globaalisti samaa mieltä
  • 1:44 - 1:46
    näistä yksittäisistä faktoista.
  • 1:46 - 1:52
    Mutta jos kysymyksesi on vähän
    mutkikkaampi, kuten:
  • 1:52 - 1:54
    "Mistä Israelin ja Palestiinan
    konflikti johtuu?"
  • 1:55 - 1:58
    Et olekaan enää etsimässä
    yksittäistä faktatietoa,
  • 1:58 - 1:59
    olet etsimässä tietämystä,
  • 1:59 - 2:02
    joka on paljon monimutkaisempaa
    ja hienosyisempää.
  • 2:03 - 2:04
    Saavuttaaksesi tiedon
  • 2:04 - 2:07
    sinun on tuotava pöydälle
    10 tai 20 tai 100 faktaa
  • 2:07 - 2:10
    ja myöntää:
    "Kyllä, nämä kaikki ovat totta."
  • 2:10 - 2:12
    Mutta riippuen siitä kuka olen,
  • 2:12 - 2:14
    nuori vai vanha, tumma vai valkoinen,
    homo vai hetero,
  • 2:14 - 2:16
    arvotan ne eri tavalla.
  • 2:16 - 2:18
    Ja sanon, "Kyllä, totta,
  • 2:18 - 2:20
    mutta tämä on minulle
    tärkeämpää kuin tuo."
  • 2:20 - 2:22
    Tässä kohtaa asiat käyvät
    mielenkiintoisiksi,
  • 2:22 - 2:24
    koska mukaan tulee ihmisyytemme.
  • 2:24 - 2:27
    Tässä kohtaa alamme kiistellä,
    muodostaen yhteiskunnan.
  • 2:27 - 2:30
    Ja päästäksemme johonkin tulokseen,
    meidän täytyy suodattaa kaikki faktat,
  • 2:30 - 2:33
    ystävien, naapureiden,
    vanhempien, lasten,
  • 2:33 - 2:35
    työkavereiden,
    sanoma- ja aikakauslehtien,
  • 2:35 - 2:38
    löytääksemme lopulta
    oikean tiedon,
  • 2:38 - 2:42
    johonkin, jonka saavuttamisessa
    hakukone on kehno apuri.
  • 2:43 - 2:50
    Lupasin näyttää teille esimerkin,
    miksi on niin vaikeaa
  • 2:50 - 2:53
    saavuttaa oikea, puhdas,
    objektiivinen tieto --
  • 2:53 - 2:55
    antaa ajattelun aihetta.
  • 2:55 - 2:58
    Aion tehdä pari yksinkertaista
    hakukyselyä.
  • 2:58 - 3:03
    Aloitamme haulla "Michelle Obama",
  • 3:03 - 3:04
    Yhdysvaltain ensimmäinen nainen.
  • 3:04 - 3:06
    Ja klikkaamme kuvahakuun.
  • 3:07 - 3:09
    Toimii oikein hyvin, kuten näette.
  • 3:09 - 3:12
    Enemmän tai vähemmän
    täydellinen hakutulos.
  • 3:12 - 3:15
    Juuri hän on näissä kuvissa,
    ei näy edes presidenttiä.
  • 3:16 - 3:17
    Miten tämä toimii?
  • 3:18 - 3:19
    Aika yksinkertaisesti.
  • 3:19 - 3:22
    Google käyttää yksinkertaista nokkeluutta
    saavuttaakseen tämän,
  • 3:22 - 3:25
    he etsivät ennen muuta kahta asiaa.
  • 3:25 - 3:30
    Ensinnäkin, mitä on kuvan alla
    kuvatekstissä kullakin sivulla?
  • 3:30 - 3:32
    Lukeeko kuvan alla "Michelle Obama"?
  • 3:32 - 3:34
    Melko hyvä merkki,
    että siinä todella on hän.
  • 3:34 - 3:37
    Toiseksi Google tutkii kuvatiedostoa,
  • 3:37 - 3:40
    nimeä, jolla tiedosto on ladattu
    nettisivulle.
  • 3:40 - 3:42
    Jälleen, onko se nimetty
    "MichelleObama.jpeg"?
  • 3:43 - 3:46
    Aika hyvä merkki siitä, ettei
    kuva esitä Clint Eastwoodia.
  • 3:46 - 3:50
    Näiden kahden tiedon varassa
    pääset tällaiseen tulokseen -- melkein.
  • 3:50 - 3:57
    Vuonna 2009 Michelle Obama joutui
    uhriksi rasistiseen kampanjaan,
  • 3:57 - 4:01
    jossa ihmiset ryhtyivät häpäisemään
    häntä hakutulosten kautta.
  • 4:01 - 4:04
    Internetissä jaeltiin laajasti kuvaa,
  • 4:04 - 4:07
    jossa hänen kasvonsa oli vääristetty
    näyttämään apinalta.
  • 4:07 - 4:10
    Tuota kuvaa oli julkaistu ympäriinsä.
  • 4:10 - 4:14
    Ihmiset julkaisivat sitä
    hyvin, hyvin tietoisesti,
  • 4:14 - 4:16
    saadakseen sen hakutulosten kärkeen.
  • 4:16 - 4:19
    He varmistivat, että kuvatekstissä
    luki "Michelle Obama"
  • 4:19 - 4:23
    ja että kuva tuli ladatuksi tidostonimellä
    "MichelleObama.jpeg", tai vastaavalla.
  • 4:23 - 4:25
    Ymmärrätte miksi --
    manipuloidakseen hakutuloksia.
  • 4:25 - 4:27
    Ja se myös toimi.
  • 4:27 - 4:29
    Kun googlasit vuonna 2009 kuvahaulla
    "Michelle Obama",
  • 4:29 - 4:33
    tuo vääristynyt apinan kuva ilmaantui
    ensimmäisten hakutulosten joukkoon.
  • 4:33 - 4:36
    Nyt tulokset ovat puhdistuneet,
  • 4:36 - 4:38
    ja tässä on tavallaan asian kauneus,
  • 4:38 - 4:42
    koska Google arvioi tulosten relevanssia
    joka tunti, joka päivä.
  • 4:42 - 4:44
    Tuolloin Google ei kuitenkaan
    ratkaissut asiaa näin,
  • 4:44 - 4:47
    vaan he ajattelivat: "Tuo on rasistista
    ja hakutulos on huono
  • 4:48 - 4:51
    ja puhdistamme sen manuaalisesti.
  • 4:51 - 4:54
    Kirjoitamme vähän koodia ja
    korjaamme sen."
  • 4:54 - 4:55
    Niin he tekivätkin.
  • 4:55 - 4:59
    En usko kenekään tässä huoneessa
    ajattelevan, että se oli huono idea.
  • 5:00 - 5:01
    En minäkään.
  • 5:03 - 5:06
    Sitten muutama vuosi sitten,
  • 5:06 - 5:09
    maailman googlatuin Anders,
  • 5:09 - 5:11
    Anders Behring Breivik,
  • 5:11 - 5:13
    teki mitä teki.
  • 5:13 - 5:15
    Heinäkuun 22. päivä vuonna 2011,
  • 5:15 - 5:18
    Norjan historian hirvittävin päivä.
  • 5:18 - 5:21
    Tämä mies, terroristi,
    räjäytti pari hallintorakennusta
  • 5:21 - 5:24
    kävelymatkan päässä siitä, missä
    nyt olemme Oslossa, Norjassa
  • 5:24 - 5:26
    sitten hän suuntasi Utøyan saarelle
  • 5:26 - 5:29
    ja ampui ja tappoi joukon lapsia.
  • 5:29 - 5:31
    Lähes 80 ihmistä kuoli sinä päivänä.
  • 5:32 - 5:37
    Useat ihmiset kuvailisivat tätä
    terroritekoa kaksivaiheisena,
  • 5:37 - 5:40
    että hän teki kaksi asiaa: hän räjäytti
    rakennuksia ja ampui nuo lapset.
  • 5:40 - 5:42
    Se ei ole totta.
  • 5:42 - 5:44
    Vaiheita oli kolme.
  • 5:44 - 5:47
    Hän räjäytti rakennukset,
    ampui lapset,
  • 5:47 - 5:50
    ja istui odottamaan, että
    maailma googlaisi häntä.
  • 5:51 - 5:54
    Hän valmisteli kaikki kolme
    vaihetta yhtä huolellisesti.
  • 5:55 - 5:57
    Tämän ymmärsi välittömästi
  • 5:57 - 5:59
    ruotsalainen web-kehittäjä,
  • 5:59 - 6:03
    hakukone optimointiin erikoistunut
    Nikke Lindqvist Tukholmasta.
  • 6:03 - 6:04
    Hän on myös hyvin
    poliittinen kaveri
  • 6:04 - 6:08
    ja hän oli oikeassa sosiaalisessa
    mediassa, blogissaan ja Facebookissa.
  • 6:08 - 6:09
    Hän kertoi kaikille:
  • 6:09 - 6:11
    "Juuri nyt tämä kaveri haluaa
  • 6:11 - 6:14
    hallita kuvaa itsestään.
  • 6:15 - 6:17
    Katsotaanpa voimmeko vääristää sitä.
  • 6:17 - 6:21
    Katsotaan voiko sivistynyt maailma
    protestoida sitä vastaan, mitä hän teki,
  • 6:21 - 6:25
    halventamalla häntä koskevia
    hakutuloksia."
  • 6:25 - 6:26
    Miten?
  • 6:27 - 6:29
    Hän kehoitti lukijoita seuraavasti.
  • 6:29 - 6:31
    "Mene internetiin,
  • 6:31 - 6:34
    etsi kuvia koiran
    kakasta jalkakäytävällä --
  • 6:35 - 6:37
    etsi kuvia koiran
    kakasta jalkakäytävällä --
  • 6:37 - 6:40
    julkaise niitä syötteissäsi,
    nettisivuillasi, blogissasi.
  • 6:40 - 6:43
    Varmista, että kuvatekstissä on
    terroristin nimi,
  • 6:43 - 6:48
    varmista, että kuvatiedoston
    nimi on "Breivik.jpeg".
  • 6:48 - 6:52
    Opetetaanpa Googlelle, että
    nuo ovat terroristin kasvot."
  • 6:54 - 6:55
    Ja se toimi.
  • 6:56 - 6:59
    Kaksi vuotta Michelle Obamaa vastaan
    suunnatun kampanjan jälkeen,
  • 6:59 - 7:02
    tämä manipulaatiokampanja
    Anders Behring Breivikiä vastaan toimi.
  • 7:02 - 7:07
    Jos googlasit kuvia hänestä Ruotsissa
    viikkoja 22.7. tapahtumien jälkeen,
  • 7:07 - 7:11
    näit hakutulosten kärjessä kuvan
    koirankakasta,
  • 7:11 - 7:13
    kuin pienenä protestina.
  • 7:13 - 7:18
    Kumma kyllä, Google ei puuttunut
    tähän tällä kertaa.
  • 7:18 - 7:23
    He eivät tulleet väliin ja puhdistaneet
    manuaalisesti hakutuloksia.
  • 7:24 - 7:26
    Miljoonan dollarin kysymys,
  • 7:26 - 7:29
    onko näiden kahden tapahtuman
    välillä mitään eroa?
  • 7:29 - 7:32
    Onko mitään eroa siinä,
    mitä tapahtui Michelle Obamalle
  • 7:32 - 7:34
    ja mitä tapahtui
    Anders Behring Breivikille?
  • 7:34 - 7:36
    Ei tietenkään.
  • 7:37 - 7:38
    Se on täsmälleen sama asia,
  • 7:38 - 7:41
    vaikka Google puuttuikin näistä
    vain toiseen tapaukseen.
  • 7:41 - 7:42
    Miksi?
  • 7:43 - 7:47
    Koska Michelle Obama
    on kunnioitettava henkilö,
  • 7:47 - 7:50
    ja Anders Behring Breivik on
    halveksittava henkilö.
  • 7:50 - 7:52
    Mitä tapahtui?
  • 7:52 - 7:55
    Kyseessä on henkilön arvottaminen,
  • 7:55 - 7:59
    ja maailmassa on vain yksi
    voimakas toimija,
  • 7:59 - 8:01
    jolla on valta sanoa kuka on kuka.
  • 8:02 - 8:04
    "Pidämme sinusta, emme pidä sinusta.
  • 8:04 - 8:06
    Uskomme sinuun,
    emme usko sinua.
  • 8:06 - 8:08
    Olet oikeassa, olet väärässä.
    Olet totta, olet epäaito.
  • 8:08 - 8:10
    Sinä olet Obama ja sinä olet Breivik."
  • 8:11 - 8:13
    Se vasta on voimaa.
  • 8:15 - 8:19
    Joten pyydän teitä muistamaan, että
    jokaisen hakualgoritmin takana
  • 8:19 - 8:21
    on aina ihminen,
  • 8:21 - 8:23
    ihminen henkilökohtaisine uskomuksineen,
  • 8:23 - 8:26
    eikä niitä voida koskaan
    täysin poistaa koodista.
  • 8:26 - 8:28
    Viestini ei ole tarkoitettu
    pelkästään Googlelle,
  • 8:28 - 8:31
    vaan kaikille koodiuskovaisille
    ympäri maailmaa.
  • 8:31 - 8:34
    Sinun täytyy tunnistaa
    omat ennakkoasenteesi.
  • 8:34 - 8:36
    Sinun tulee ymmärtää olevasi ihminen
  • 8:36 - 8:39
    ja kantaa siitä vastuu.
  • 8:40 - 8:43
    Sanon tämän, koska uskon,
    että olemme saavuttaneet pisteen,
  • 8:43 - 8:44
    jossa on ehdottoman välttämätöntä
  • 8:44 - 8:48
    sovittaa yhteen uudestaan,
    lujemmin:
  • 8:48 - 8:50
    ihmisyys ja teknologia.
  • 8:50 - 8:52
    Lujemmin kuin koskaan.
  • 8:52 - 8:56
    Ja muistuttaakseni meitä siitä,
    että ihanan houkutteleva ajatus
  • 8:56 - 8:58
    puolueettomasta, puhtaasta hakutuloksesta
  • 8:58 - 9:01
    on myytti ja todennäköisesti
    pysyy sellaisena.
  • 9:02 - 9:03
    Kiitos ajastanne.
  • 9:03 - 9:06
    (Suosionosoituksia)
Title:
Moraalinen bias hakutuloksesi takana
Speaker:
Andreas Ekström
Description:

Hakukoneista on tullut luotetuimpia tiedon ja totuuden välittäjiä. Mutta voimmeko koskaan saada puolueetonta hakutulosta? Ruotsalainen kirjailija ja toimittaja väittää, että se on filosofisesti tarkasteltuna mahdotonta. Tässä ajatuksia herättävässä puheessaan hän kutsuu meitä lujittamaan ihmisyyden ja teknologian välisiä suhteita. Hän muistuttaa meitä siitä, että jokaisen hakualgoritmin takana on joukko henkilökohtaisia uskomuksia, joista mikään koodi ole täysin vapaa.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
09:18

Finnish subtitles

Revisions

Our website uses cookies for analysis purposes.