Кошмарни видео-снимци са дечијег Јутјуба и шта данас није у реду са интернетом

Писац и уметник Џејмс Бридл разоткрива мрачан и чудан кутак интернета у којем непознати људи или групе на Јутјубу хакују мозгове мале деце у замену за приход од рекламирања. Од отварања киндер јаја преко „Породице прстићи“ до мешавине познатих цртаних ликова у насилним ситуацијама које је створио алгоритам, ови видео-снимци експлоатишу и престрављују мале умове и говоре нам нешто о томе куда иде наш свет којим се све више управља подацима. „Морамо да престанемо да размишљамо о технологији као о решењу за све наше проблеме, а да размишљамо о њој као о водиљи ка ономе шта су ти проблеми у ствари, како бисмо могли да размишљамо о њима на прави начин и да почнемо да их решавамо“, каже Бридл.

Зовем се Џејмс.

Писац сам и уметник

и стварам дела о технологији.

Цртам ствари као што су обриси
војних дронова у природној величини

на градским улицама широм света

да би људи почели да размишљају
и да разумеју ове технологије

које се прилично ретко виђају
и о којима се ретко размишља.

Правим неуронске мреже
које предвиђају резултате избора

на основу временских извештаја,

јер сам заинтригиран стварним могућностима
ових чудних нових технологија.

Прошле године сам направио
свој самовозећи аутомобил.

Међутим, пошто баш не верујем технологији,
дизајнирао сам и клопку за њега.

(Смех)

Ове ствари углавном радим
јер мислим да су потпуно фасцинантне,

али и зато што мислим да,
када причамо о технологији,

у већини случајева причамо о нама самима

и начину на који разумемо свет.

Ево једне приче о технологији.

Ово је видео о киндер јајету.

То је, у ствари, снимак некога
ко отвара гомилу чоколадних јаја

и гледаоцу показује играчке из њих.

То је то. То је све што се дешава
током седам дугих минута.

Желим да обратите пажњу
на две ствари у вези са тим.

Прво, овај видео има 30 милиона прегледа.

(Смех)

Друга ствар је да се налази на каналу
који има 6,3 милиона пратилаца

и укупно осам милијарди прегледа,

а садржи једино још више оваквих видеа.

Тридесет милиона људи гледа
овог момка како отвара ова јаја.

Звучи прилично чудно, али ако укуцате
„киндер јаја“ у претраживач Јутјуба,

рећи ће вам да постоји
десет милиона ових видеа,

а мислим да је тај број потцењен.

Мислим да их има много, много више.

Ако наставите претрагу, нема им краја.

Има на милионе и милионе ових видеа

у све учесталијим барокним комбинацијама
брендова и материјала,

а све се више и више њих
поставља сваког дана.

Чудан је ово свет, зар не?

Међутим, ствар је у томе
да ове видео-снимке не гледају одрасли,

већ деца, мала деца.

Ови видео-снимци
су као кокаин за малу децу.

Нешто у вези са понављањем,

непрекидном малом налету
допамина приликом открића,

их у потпуности навлачи.

Мала деца гледају ове видео-снимке
опет и опет и опет,

а то раде из сата у сат.

Ако покушате да их одвојите од екрана,
урлаће и урлаће и урлаће.

Ако ми не верујете -

а већ сам видео људе у публици
како климају главом -

ако ми не верујете, нађите неког
ко има малу децу и питајте их,

и знаће за видео снимке о киндер јајима.

Овде почињемо.

У 2018. години смо,
а неко, или много људи,

користи исти механизам
који Фејсбук и Инстаграм користе

да вас натерају
да проверавате ту апликацију,

а користе је на Јутјубу
да хакују мозгове веома мале деце

у замену за приход од реклама.

Макар се надам да је то оно што раде.

Надам се да због тога то раде,

јер постоје лакши начини да се оствари
приход од реклама на Јутјубу.

Можете једноставно направити
или украсти нешто.

Ако тражите веома популарне
дечије цртане филмове

као што су „Пепа прасе“
или „Патролне шапе“,

видећете да постоје и милиони
оваквих видеа на интернету.

Наравно, већину њих нису поставили
прави ствараоци садржаја.

Потичу са мноштва различитих,
насумичних налога,

а немогуће је знати ко их поставља
или који би им мотиви могли бити.

Да ли то звучи донекле познато?

Јер то је тачно исти механизам

који се примењује широм већине
наших дигиталних услуга,

при чему је немогуће знати
одакле ове информације долазе.

То су, у суштини, лажне вести за децу,

а обучавамо их од рођења
да кликну баш на први линк који се појави

без обзира на то који је извор.

То не делује као посебно добра идеја.

Ево још једне веома популарне
ствари на дечијем Јутјубу.

Зове се „Породица прстићи“.

Управо сам чуо
да је неко у публици уздахнуо.

Ово је „Породица прстићи“.

Ово је најранија
коју сам успео да пронађем.

Из 2007. године је
и има само двесто хиљада прегледа,

што је ништа у овој игри.

Међутим, има ову невероватно
заразну мелодију,

коју вам нећу пустити,

јер ће вам се урезати у мозак
исто онако како се мени урезала у мозак,

а нећу то да вам урадим.

Али, као и киндер јаја,

увукла се у дечије мозгове
и учинила их је зависним.

За неколико година, ови видео-снимци
„Породице прстићи“ се свугде појављују,

а имате верзије на различитим језицима

са популарним ликовима
из цртаних филмова са храном

или, искрено говорећи,

било каквом анимацијом
која је надохват руке.

Да поновим, милиони, милиони
и милиони ових видео снимака

су доступни на интернету у свим овим
донекле суманутим комбинацијама.

А што више времена почнете
да проводите уз њих,

све луђе и луђе почињете да се осећате.

Ту сам се упустио у ово,

у овај осећај велике необичности
и великог недостатка разумевања

по питању тога
како је направљена ова ствар

која делује да је представљена око мене.

Јер је немогуће знати
одакле ове ствари потичу.

Као, ко их прави?

Делује да неке праве
групе професионалних аниматора.

Неке је само насумично саставио софтвер.

Неки од њих су млади дечији забављачи
који изгледају прилично нормално,

а неки су људи који сасвим сигурно уопште
не би требало да буду у близини деце.

(Смех)

Поново, ова немогућност
да се открије ко прави ове ствари -

шта, ово је бот?

Да ли је то особа? Да ли је то трол?

Шта значи то што више не можемо
да направимо разлику између ових ствари?

Не изгледа ли та неизвесност
помало познато управо сада?

Главни начин на који се добијају
прегледи ових видеа -

а прегледи значе новац -

је да натрпају популарне изразе
у наслове ових видеа.

Тако узмете „киндер јаја“

и додате „Патролне шапе“, „Ускршње јаје“
или шта год су ове ствари,

све ове речи из осталих
популарних видеа у ваш наслов

док не завршите са овом донекле
бесмисленом мешавином речи

која уопште нема
никаквог смисла за људска бића.

Јер, наравно, само веома мала деца
гледају ваш видео,

а шта они, до врага, знају?

Ваша права публика за ово је софтвер,

алгоритми,

софтвер који Јутјуб користи

да изабере који
видео-снимци су као остали,

да их учини популарним,
да их препоручи.

И зато завршите са овом донекле
потпуно бесмисленом мешавином

у наслову и садржају.

Али, морате да запамтите

да још увек постоје људи
унутар овог система

који је оптимизован алгоритмима,

људи који су све више приморани да одглуме
ове све бизарније комбинације речи,

као очајни уметници-импровизатори

који реагују на удружену,
истовремену вриску

једног милиона мале деце.

Постоје стварни људи
који су заробљени у овим системима,

и то је друга веома чудна ствар по питању
ове културе којом управљају алгоритми,

јер, чак иако сте људско биће,

на крају морате да се понашате као машина
само да бисте преживели.

Такође, са друге стране екрана

су још увек ова мала деца
која гледају те ствари,

опчињена, а пуну пажњу су им преотели
ови чудни механизми.

Већина ове деце су још увек
превише мала да би користила сајт.

Они само лупају по екрану својим ручицама.

Зато постоји аутоплеј,

који једноставно пушта
ове видео снимке изнова у круг,

бесконачно, сатима.

Много чудних ствари је сада у систему,

па вас аутоплеј води
на нека прилично чудна места.

Ево како у дванаест корака

можете стићи од симпатичног
видеа воза који броји

до Микија Мауса који мастурбира.

Да. Извините због тога.

Постаје горе.

Ово се дешава

када се све ове разне кључне речи,

сви ови различити делићи пажње

и ово очајничко стварање садржаја

нађу на једном месту.

Овде све те веома чудне
кључне речи праве дар-мар.

Укрстите видео о „Породици прстићи“
са стварима које суперхероји изводе уживо,

додате неке чудне интерне шале
о троловима или већ нешто

и изненада стижете
на заиста веома чудно место.

Родитеље углавном узнемиравају

ствари са насилним
и сексуалним садржајем, зар не?

Цртани ликови су физички нападнути,

убијени,

чудне неслане шале које,
у ствари, заправо престраве децу.

Имате софтвер који користи све ове утицаје

како би аутоматски створио
најгоре дечије кошмаре.

Ове ствари заиста, заиста утичу
на нашу малу децу.

Родитељи потврђују
да су им деца трауматизована,

да почињу да се боје мрака,

да почињу да се боје
својих омиљених цртаних јунака.

Ако ћете једну ствар урадити после овога,
нека то буде, ако имате малу децу,

да их држите подаље од Јутјуба.

(Аплауз)

Али, друга ствар, она која ме заиста
нервира у вези са овим

је то што нисам сигуран да уопште
разумемо како смо дошли довде.

Узели смо све ове утицаје, све ове ствари

и изманипулисали их на начин
на који нико заиста није намеравао.

А ипак, ово је и начин
на који градимо цео свет.

Користимо све ове податке,
много лоших података,

много старих података пуних предрасуда,

пуних свих наших
најгорих побуда из историје,

и то уграђујемо
у огромне скупове података,

а онда их аутоматизујемо.

Све то изманипулишемо у ствари
као што су извештаји о кредитној историји,

рате за осигурање,

системе за предвиђене полицијске ације,

директиве за одређивање казни.

Ово је начин на који ми сада, у ствари,
стварамо свет користећи ове податке.

Не знам шта је горе -

то што правимо систем
који делује да је у потпуности оптимизован

за најгоре могуће видове људског понашања

или то што изгледа
да смо то случајно урадили,

а да уопште нисмо схватили
да смо то радили

јер заиста нисмо разумели
системе које смо правили

и заиста нисмо разумели
како да урадимо нешто другачије са тим.

Мислим да постоје две ствари
које изгледа да заиста покрећу ово

највише на Јутјубу,

а прва је рекламирање,

што је начин да се заради од пажње

без било којих других
стварних варијабли на делу,

бриге о људима који заиста
праве овај садржај,

централизације моћи,
разграничавања ових ствари.

Мислим да без обзира на то шта мислите

о коришћењу рекламирања
да се ове ствари подржавају,

призор одраслих мушкараца у пеленама
који се ваљају у песку

надајући се да ће им неки алгоритам
који баш не разумеју дати новац за то

ми говори да ово вероватно није ствар

на којој би требало да заснивамо
наше друштво и културу

нити начин на који би требало
да га финансирамо.

Друга ствар која је, на неки начин,
главни покретач ове аутоматизације

је примена све ове технологије
чим се појави без икакве врсте надзора,

а када је ту,

некако дижемо руке и кажемо:
„Хеј, нисмо ми криви. Технологија је.“

У фазону: „Немамо ништа са тим.“

То није баш довољно добро

јер овим не само да управља алгоритам,
већ га алгоритам и надгледа.

Када је Јутјуб први пут почео
да обраћа пажњу на ово,

прво су рекли да ће применити
боље алгоритме за машинско учење

како би уређивали садржај.

Па, машинско учење, као што ће вам
сваки стручњак из те области рећи,

је оно што смо почели да називамо
софтвером чији начин рада не разумемо.

Мислим да тога већ имамо довољно.

Не би требало да препуштамо
вештачкој интелигенцији да одлучује

шта је прикладно или не,
јер знамо шта ће се десити.

Почеће да цензурише остале ствари.

Почеће да цензурише хомосексуални садржај.

Почеће да цензурише
легитимно јавно изражавање.

Оно што је дозвољено у овим разговорима

не би требало да се препусти
системима који немају одговорност.

Ово је део разговора
који бисмо сви морали да водимо.

Међутим, подсетићу вас
да ни алтернатива није веома пријатна.

Јутјуб је недавно објавио

да ће пустити у рад верзију
своје апликације за децу

којом ће у потпуности
управљати људска бића.

Фејсбук - Закерберг је рекао
нешто веома слично у Конгресу

када су га притиснули по питању тога
како ће уређивати свој садржај.

Рекао је да ће људска бића то радити.

А то стварно значи да ће,
уместо да мала деца прва виде ове ствари,

слабо плаћени радници на уговор
са нестабилним запослењем

и без одговарајуће
заштите менталног здравља

такође бити тиме упропашћени.

(Смех)

Мислим да сви можемо да урадимо
прилично више од тога.

(Аплауз)

Мислим да је идеја
која повезује ове две ствари

залагање.

Колико ми то заиста разумемо?

Кад кажем залагање,

мислим на то како знамо да радимо
у свом најбољем интересу.

То је скоро немогуће радити

у овим системима које заиста
не разумемо у потпуности.

Неједнакост моћи увек води ка насиљу.

А унутар ових система можемо видети
да неједнакост разумевања чини исто.

Ако постоји једна ствар
коју можемо да урадимо

да почнемо да побољшавамо ове системе,

то је да их учинимо јаснијим
за људе који их користе

како бисмо сви ми разумели
шта се заиста овде дешава.

Ипак, мислим да је код већине
ових система ствар у томе

да се овде заиста не ради о Јутјубу,
што се надам да сам објаснио.

У питању је све.

Ова питања одговорности, залагања,

нејасноће, сложености,

насиља и експлоатације
који су суштинска последица

концентрације моћи у рукама неколицине -

ово су много, много већа питања.

Нису то питања која се тичу само Јутјуба
и само технологије уопште,

а нису чак ни нова;

са нама су од давнина.

Међутим, коначно смо направили
овај систем, глобални систем, интернет,

који нам их приказује на невероватан начин
и чини их неоспорним.

Технологија има неоспорну способност

да подржи и настави

већину наших невероватних,
често скривених жеља и предрасуда

и да их преноси у свет,

али их такође и записује
како бисмо могли да их видимо,

да више не можемо
да се претварамо да не постоје.

Морамо да престанемо

да размишљамо о технологији
као о решењу за све наше проблеме,

и да размишљамо о њој као о водиљи
ка ономе шта су ти проблеми у ствари

да бисмо почели да размишљамо
о њима на прави начин

и да почнемо да их решавамо.

Хвала пуно.

(Аплауз)

Хвала.

(Аплауз)

Хелен Волтерс: Џејмс, хвала ти
што си дошао и одржао овај говор.

Занимљиво је да је,

када помислимо да филмове у којима
роботизовани господари преузму контролу,

све много привлачније
од овога што ти описујеш.

Међутим, питам се - у тим филмовима
је присутан отпор који се појачава.

Да ли се појачава отпор према овоме?

Да ли видиш позитивне знаке,
обнову отпора?

Џејмс Бридл: Нисам сигуран
по питању директног отпора,

јер мислим да је ово веома дуготрајно.

Мислим да је дубоко усађено у културу.

Моја пријатељица Еленор Саита увек каже

да су било који технолошки проблеми
великих размера и опсега

првенствено политички проблеми.

Тако да све ове ствари
на чијем решењу радимо

неће се решити тако што ће се једноставно
направити боља технологија,

већ тако што ће се променити друштво
које производи ове технологије.

Не. Управо сада, мислим
да нам предстоји веома дугачак пут.

Опет, мислим да, ако их анализирамо,
објаснимо и веома искрено причамо о њима,

можемо, у ствари,
макар започети тај процес.

ХВ: Када говориш о јасноћи
и дигиталној писмености,

тешко ми је да замислим

да морамо да ставимо терет
дигиталне писмености на саме кориснике.

Чија је одговорност образовање
у овом новом свету?

ЏБ: Још једном, мислим
да је ова одговорност на свима нама,

да све што радимо,
све што градимо, све што правимо

мора бити направљено
уз пристанак у разговору

са свима који га избегавају;

да не правимо системе чија је сврха
да преваре и изненаде људе

да ураде праву ствар,

већ да су они заиста укључени
у сваки корак њиховог образовања,

јер је сваки од ових система образовни.

Надам се, чак и по питању
ових веома страшних ствари,

да је, ако их можете узети
и прописно сагледати,

то, само по себи, део образовања

које вам омогућава да почнете да видите
како се сложени системи удружују и раде

и да ћете можда моћи да примените
то знање негде другде у свету.

ХВ: Џејмс, ово је толико важан разговор

и знам да су многи људи овде
отворени и спремни за њега,

стога ти захваљујем што си започео јутро.

ЏБ: Хвала пуно. Све најбоље.

(Аплауз)