El biaix moral dels resultats de cerca
-
0:01 - 0:03Quan vaig a una escola
i parlo amb estudiants -
0:03 - 0:06i sempre els
pregunto el mateix: -
0:06 - 0:08"Per què cerqueu a Google?"
-
0:08 - 0:12"Per què el trieu?"
-
0:12 - 0:15Sempre em donen aquestes raons:
-
0:15 - 0:17Primera, "perquè funciona":
-
0:17 - 0:20molt bé, jo també
l'utilitzo per això. -
0:20 - 0:22Segona, alguns diuen:
-
0:22 - 0:25"No conec cap altra alternativa."
-
0:25 - 0:28Aquesta no és tan bona, i
normalment els hi dic: -
0:28 - 0:30"Posa 'motor de cerca' a Google,
-
0:30 - 0:32i veuràs algunes
bones alternatives." -
0:33 - 0:35L'última, però no menys important,
-
0:35 - 0:39és la d'un estudiant,
que aixeca la mà i diu: -
0:39 - 0:45"Amb Google m'asseguro sempre
els millors resultats; els més objectius." -
0:45 - 0:52Segur d'obtenir sempre els millors
resultats; els més objectius. -
0:53 - 0:55Com que sóc d'Humanitats,
-
0:55 - 0:57encara que d'Humanitats digitals,
-
0:57 - 0:59se'm posa la pell de gallina,
-
0:59 - 1:02tot i que sé que aquesta confiança
en la objectivitat -
1:02 - 1:08és un dels pilars
de l'apreci col·lectiu pel Google. -
1:08 - 1:12Us explicaré per què això és,
filosòficament, impossible. -
1:12 - 1:15Però primer, parlaré una mica
del principi bàsic -
1:15 - 1:19darrere de qualsevol cerca,
i que a vegades oblidem. -
1:19 - 1:21Quan cerqueu a Google
-
1:21 - 1:25pregunteu-vos primer:
"Busco un fet aïllat?" -
1:26 - 1:29Quina és la capital de França?
-
1:29 - 1:32Quins són els components
de la molècula de l'aigua? -
1:32 - 1:34Perfecte. Feu servir el Google.
-
1:34 - 1:37No hi ha cap grup de científics
a punt de demostrar -
1:37 - 1:39que les respostes són Londres i H3O.
-
1:39 - 1:42No hi ha cap conspiració al darrere.
-
1:42 - 1:44Estem d'acord, a escala global,
-
1:44 - 1:46de les respostes
a aquests fets aïllats. -
1:46 - 1:51Però si compliquem la cerca
i busquem, per exemple, -
1:51 - 1:55"Per què existeix el
conflicte Israel-Palestina?" -
1:55 - 1:57Ara ja no cerquem
un fet específic, -
1:57 - 1:59ara cerquem coneixement:
-
1:59 - 2:02molt més complicat i delicat.
-
2:03 - 2:04Per arribar al coneixement,
-
2:04 - 2:07agafaríeu 10,
20 ó 100 fets -
2:07 - 2:10i diríeu, "són certs".
-
2:10 - 2:11Però segons qui sóc,
-
2:11 - 2:14jove o vell, blanc o negre,
gay o no, -
2:14 - 2:16els valoraré de manera diferent.
-
2:16 - 2:18I jo diría: "Sí, això és cert,
-
2:18 - 2:20però per a mi
és més important que allò." -
2:20 - 2:21És aquí on comença
a ser interessant, -
2:21 - 2:23perquè aquí esdevenim humans.
-
2:23 - 2:27Perquè comencem a
debatre, a crear la societat. -
2:27 - 2:30I per a arribar a algun lloc
hem de filtrar els fets aquí, -
2:30 - 2:32entre amics,
veïns, pares i fills -
2:32 - 2:35i col·legues,
i diaris i revistes -
2:35 - 2:39fins a arribar
al coneixement real, -
2:39 - 2:42que un motor de cerca
no ens pot ajudar a trobar. -
2:43 - 2:48Us he promès
un exemple que demostri -
2:48 - 2:53com n'és de difícil arribar
al coneixement real i objectiu... -
2:53 - 2:55perquè ens faci pensar.
-
2:55 - 2:58Realitzaré dues cerques senzilles.
-
2:58 - 3:02Començarem per "Michelle Obama",
-
3:02 - 3:04la Primera Dama dels Estats Units.
-
3:04 - 3:06Cliquem per a veure imatges.
-
3:06 - 3:09Funciona força bé, com veieu.
-
3:09 - 3:12És una cerca perfecta,
més o menys. -
3:12 - 3:16Només surt ella a les fotos,
ni tan sols apareix el President. -
3:16 - 3:17Com funciona això?
-
3:17 - 3:19Molt senzill.
-
3:19 - 3:22Google empra l'intel·ligència
però simplement -
3:22 - 3:25cerca dues coses principals.
-
3:25 - 3:30Primer, què surt
a cada peu de foto? -
3:30 - 3:32Diu "Michelle Obama"
a sota de la foto? -
3:32 - 3:35Un bon indicador perquè
només hi aparegui ella. -
3:35 - 3:37Segon, Google cerca,
l'arxiu de la imatge, -
3:37 - 3:40el nom de l'arxiu
que han pujat a la web. -
3:40 - 3:43L'arxiu es diu
"MichelleObama.jpeg"? -
3:43 - 3:46Bon indicador que en
Clint Eastwood no hi surt a la foto. -
3:46 - 3:51Si teniu això, obtindreu
un resultat com aquest - gairebé. -
3:51 - 3:57L'any 2009 la Michelle Obama
va ser víctima d'una campanya racista, -
3:57 - 4:02on la gent l'insultava
mitjançant els resultats de cerca. -
4:02 - 4:04Havia una foto d'ella,
estesa per tota la xarxa, -
4:04 - 4:07amb la cara distorsionada
per fer-la semblar un mico. -
4:07 - 4:10Aquella foto es va publicar
a tot arreu. -
4:10 - 4:14I la gent la publicava amb
la intenció clara -
4:14 - 4:16de que anés pujant
en els resultats de cerca. -
4:16 - 4:20S'asseguraven de posar
"Michelle Obama" a la descripció -
4:20 - 4:22i, de pujar la foto amb
el nom "MichelleObama.jpeg". -
4:22 - 4:25Ja sabeu per què:
per manipular els resultats de cerca. -
4:25 - 4:27I va funcionar.
-
4:27 - 4:29Si cercaves "Michelle Obama"
per Google el 2009 -
4:29 - 4:33la foto del mico deformat surtia
als primers resultats. -
4:33 - 4:36Els resultats s'autonetejen
-
4:36 - 4:39cosa que forma part
de la bellesa de tot això: -
4:39 - 4:41La rellevància es calcula
cada hora, cada dia. -
4:41 - 4:45Però en aquest cas, Google
no es va conformar amb això, -
4:45 - 4:48van pensar: "això és
un resultat negatiu i racista, -
4:48 - 4:50i l'el·liminarem manualment.
-
4:50 - 4:53Escriurem un codi
i ho arreglarem." -
4:53 - 4:55I ho van fer.
-
4:55 - 4:59No crec que ningú en aquesta sala
ho trobi malament. -
4:59 - 5:02Jo tampoc.
-
5:02 - 5:06Però, al cap de dos anys
-
5:06 - 5:08"l'Anders" més cercat a Google,
-
5:08 - 5:11Anders Behring Breivik,
-
5:11 - 5:13va fer el que tots sabem.
-
5:13 - 5:15El 22 de juliol del 2011,
-
5:15 - 5:17va ser un dia horrible
per a Noruega. -
5:17 - 5:22Aquest terrorista va
fer volar dos edificis del govern -
5:22 - 5:24a unes passes
d'aquí, a Oslo, a Noruega, -
5:24 - 5:27i va anar fins a l'illa d'Utøya,
-
5:27 - 5:29on va disparar i assassinar
un grup de nanos. -
5:29 - 5:32Quasi 80 persones
van morir aquell dia. -
5:32 - 5:36Molts descriurien
aquest acte terrorista -
5:36 - 5:40en dues parts: fer volar
els edificis i assassinar els nanos. -
5:40 - 5:42No és veritat.
-
5:42 - 5:44Van ser tres parts.
-
5:44 - 5:47Va fer explotar els edificis,
va disparar als nanos, -
5:47 - 5:51i va esperar
que el món el googlegés. -
5:51 - 5:54I va planejar les tres parts
igual de bé. -
5:54 - 5:57I si va haver-hi algú
que ho va entendre, -
5:57 - 5:59va ser un desenvolupador web suec,
-
5:59 - 6:03un expert en optimització de cerques
d'Estocolm, Nikke Lindqvist. -
6:03 - 6:05També està ficat en política,
-
6:05 - 6:07i en els mitjans socials,
té un blog i Facebook. -
6:07 - 6:09Va dir a tothom,
-
6:09 - 6:10"El que aquest vol ara,
-
6:10 - 6:13és controlar la seva imatge.
-
6:15 - 6:18A veure si la podem distorsionar.
-
6:18 - 6:20A veure si el món civilitzat protesta
-
6:20 - 6:25pel que ha fet i l'insulta
amb els resultats de cerca." -
6:25 - 6:26Però com?
-
6:26 - 6:29Va dir als seus lectors:
-
6:29 - 6:31"Aneu a Internet,
-
6:31 - 6:34trobeu imatges de caques de gos...
-
6:34 - 6:36trobeu imatges de caques al carrer...
-
6:36 - 6:40i publiqueu-les al mur,
a les webs, als blogs. -
6:40 - 6:43Assegureu-vos d'escriure
el seu nom a la descripció, -
6:43 - 6:48anomeneu l'arxiu de foto
'Breivik.jpeg.'. -
6:48 - 6:52Ensenyem-li a Google
com és la cara d'un terrorista." -
6:52 - 6:55I va funcionar.
-
6:55 - 6:57Després de la campanya
-
6:57 - 7:02contra Michelle Obama, la de
Anders Behring Breivik va funcionar. -
7:02 - 7:07Si cercaves la seva imatge a Google
després del 22 de juliol a Suècia -
7:07 - 7:10trobaves la imatge d'una caca de gos
ben amunt als resultats de cerca, -
7:10 - 7:13com a forma de protesta.
-
7:13 - 7:18Curiosament,
Google no va intervenir. -
7:18 - 7:23No van entrar per el·liminar
manualment aquells resultats. -
7:24 - 7:26La pregunta
del milió de dòlars és: -
7:26 - 7:29en què es diferencien
aquests dos casos? -
7:29 - 7:32En què es diferencia el cas
de la Michelle Obama, -
7:32 - 7:34del cas de l'Anders Behring Breivik?
-
7:34 - 7:36En res.
-
7:37 - 7:39Són exactament el mateix,
-
7:39 - 7:41però Google només
va intervenir en un cas -
7:41 - 7:42Per què?
-
7:43 - 7:45Perquè Michelle Obama
-
7:45 - 7:50és honorable, i Anders
Behring Breivik és menyspreable. -
7:50 - 7:52Veieu què passa?
-
7:52 - 7:55Es jutja una persona
-
7:55 - 7:59i només hi ha un poderòs
-
7:59 - 8:01amb autoritat per dir qui és qui.
-
8:01 - 8:03"Ens agrades o no ens agrades."
-
8:03 - 8:05"Creiem en tu, o no hi creiem."
-
8:05 - 8:07"Ets bo, ets dolent.
Vertader, o fals." -
8:07 - 8:09"Ets Obama, ets Breivik."
-
8:10 - 8:13Això és poder,
sense cap dubte. -
8:15 - 8:19Recordeu que
darrere d'un algoritme -
8:19 - 8:21sempre hi ha una persona,
-
8:21 - 8:23amb una sèrie de creences personals
-
8:23 - 8:26que no es poden
erradicar amb cap codi. -
8:26 - 8:28I el meu missatge va
no només a Google, -
8:28 - 8:31sinó a tots els que creieu en els codis.
-
8:31 - 8:34Heu d'identificar
els vostres prejudicis. -
8:34 - 8:36Heu d'entendre que sou humans
-
8:36 - 8:39i actuar en conseqüència.
-
8:40 - 8:42I us ho dic perquè
hem arribat a un punt -
8:42 - 8:44on és absolutament imperatiu
-
8:44 - 8:47que enfortim aquest vincle:
-
8:47 - 8:50entre humanitats i tecnologia.
-
8:50 - 8:52Més fort que mai.
-
8:52 - 8:55I també per recordar-vos que la idea
-
8:55 - 8:59meravellosa d'un resultat imparcial i net
-
8:59 - 9:01és, i seguirà sent, un mite.
-
9:01 - 9:03Gràcies pel vostre temps.
-
9:03 - 9:05(Aplaudiments)
- Title:
- El biaix moral dels resultats de cerca
- Speaker:
- Andreas Ekström
- Description:
-
Els motors de cerca s'han convertit en les fonts d'informació més fiables, i àrbitres de la veritat. Però es pot obtenir un resultat de cerca sense biaix? L'autor i periodista suec Andreas Ekström defensa que és filosòficament impossible. En aquesta xerrada ens demana que enfortim els lligams entre la tecnologia i les humanitats, i ens recorda que darrera de cada algoritme hi ha una sèrie de creences personals que mai cap codi podrà eliminar.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 09:18
Dimitra Papageorgiou edited Catalan subtitles for The moral bias behind your search results | ||
Dimitra Papageorgiou approved Catalan subtitles for The moral bias behind your search results | ||
Dimitra Papageorgiou approved Catalan subtitles for The moral bias behind your search results | ||
Dimitra Papageorgiou approved Catalan subtitles for The moral bias behind your search results | ||
Dimitra Papageorgiou approved Catalan subtitles for The moral bias behind your search results | ||
Anna Comas-Quinn accepted Catalan subtitles for The moral bias behind your search results | ||
Anna Comas-Quinn edited Catalan subtitles for The moral bias behind your search results | ||
Anna Comas-Quinn edited Catalan subtitles for The moral bias behind your search results |