Ужасните детски видеа на Јутјуб - што не е во ред со Интернетот денес

Писателот и уметник Џејмс Бридл открива еден мрачен, чуден агол на Интернетот, каде непознати луѓе или групи на Јутјуб ги хакираат мозоците на малите деца, со цел да остварат приходи од реклами. Видеата со „киндер јајца“, песната за "Семејството Прсти" и алгоритмички создадените мешавини на познати ликови од цртаните филмови во насилни ситуации, ги искористуваат и преплашуваат младите умови. Истовремено ни укажуваат каде е тргнато нашето општество предводено од податоци. "Не треба да ја гледаме технологијата како решение на сите наши проблеми, туку како водич при идентификување на тие проблеми, за да можеме да започнеме соодветно да ги разгледуваме и да дејствуваме", вели Бридл.

Јас сум Џејмс.

Јас сум писател и уметник

и творам на тема технологија.

На пример, цртам контури на воени дронови
во реална големина

над градските улици ширум светот,

со цел луѓето да почнат
да размислуваат и да ги разберат

овие технологии кои навистина е тешко
да се видат и да се сфатат.

Изработувам, на пример,невронски мрежи
кои предвидуваат резултати

врз основа на временска прогрноза,

бидејќи ме интересираат

сите реаални можности кои ги нудат
овие нови и чудни технологии.

Лани си направив сопствен
самовозечки автомобил.

Но бидејќи не ѝ верувам сосема
на технологијата,

креирав и стапица за неа.

(смеа)

И ги правам овие работи, пред сѐ,
затоа што сметам дека се чудесни

но исто така бидејќи, мислам,
кога зборуваме за технологија,

во голема мера зборуваме за себе

и за начинот на кој го
разбираме светот.

Па, еве една приказна за технологијата.

Ова е видео со „киндер јајца“.

Во суштина тоа е видео во кое некој
отвора еден куп чололадни јајца

и ги покажува играчките
кои ги наоѓа во нив.

Толку. Само тоа се случува
цели долги седум минути.

И сакам да забележите две работи
во врска со тоа.

Прво, ова видео има
30 милиони прегледи.

(смеа)

А втората работа е,

доаѓа од канал кој има
6,3 милиони претплатници,

кој има вкупно
8 милијарди прегледи,

и тоа исти вакви видеа --

30 милиони луѓе кои гледаат
како некој тип ги отвора овие јајца.

Звучи чудно, но ако пребарувате
„киндер јајца" нa Јутјуб,

ќе видите дека постојат
10 милиони вакви видеа,

во најмала рака.

Мислам дека има многу,
многу повеќе.

Ако продолжите да барате,
им нема крај.

Има милиони вакви видеа,

во сѐ побарокни комбинации
на брендови и материјали,

и сѐ повеќе и повеќе од нив
се прикачуваат секој ден.

Нели е ова чуден свет?

Но, не се возрасните
тие кои што ги гледаат овие видеа.

Тоа се децата, малите деца.

Овие видеа се како дрога
за малите деца.

Има нешто во тоа повторување,

во постојаната доза на допамин
при откривањето,

што целосно ги навлекува.

И мaлите деца ги гледаат овие видеа
пак и пак и пак,

и го прават тоа со часови,
и часови, и часови.

И ако се обидете да ги оттргнете
од екранот,

тие ќе вриштат и вриштат,
и вриштат.

Ако не ми верувате --

а забележав некои од вас во
публиката дека климаат --

ако не ми верувате, најдете некои со
мали деца и прашајте ги,

и тие ќе знаат за видеата
со киндер јајца.

Па, тука започнуваме.

2018 година е, некој,
или многу луѓе,

го користат истиот механизам којшто
го користат Фејсбук и Инстаграм

да ве наведат постојано
да ги проверувате,

и го применуваат на YouTube за да ги
хакираат мозоците на многу мали деца

со цел да остварат приходи
од реклами.

Барем, се надевам дека тоа го прават.

Се надевам дека заради тоа го прават,

бидејќи има и полесни начини да се оствари
приход од реклами на YouTube.

Можете и да измислувате работи,
или да крадете.

Ако пребарувате навистина
познати детски цртани:

"Прасето Пепа", "Патрола на Кутриња“,

ќе дознаете дека и нив ги има
милиони и милиони на Интернет.

Секако, повеќето од нив не се објавени
од нивните оригинални креатори

туку потекнуваат од многу различни,
случајни канали,

и е невозможно да се знае
кој ги објавува

и со какви намери.

Дали тоа ви звучи познато?

Затоа што тоа е токму истиот механизам

кој го има на повеќето
наши дигитални услуги,

каде е невозможно да се знае
од каде потекнува информацијата.

Тоа е во основа како
"лажни вести" за деца,

и ние ги тренираме од раѓање

да кликнат на првиот линк
кој ќе се појави,

без разлика од кој извор доаѓа.

Тоа не изгледа како
многу добра идеја.

Еве уште едно нешто што е
многу популарно на Јутјуб.

Се вика "Семејство Прсти“.

Некој штотуку офна во публиката.

Песната за семејството прсти.

Ова е токму првата што ја најдов.

Потекнува од 2007 година и има
само 200.000 прегледи,

што е многу малку во споредба со други.

Но, има ритам што ти се
вовлекува во главата,

нема да ви ја пуштам,

зашто ќе ви остане запечатена во мозокот,

исто како што ми се случи мене,

и нема да ви го направам тоа вам.

Но, како и киндер јајцата

се вовлекува во главите на децата

и ги направи зависни од неа.

Така, за неколку години,
видеата со семејството прсти

почна да ги има насекаде,

и имате верзии на
различни јазици,

каде познати цртани ликови
користат храна

или, искрено, користат секакви
елементи за анимација

што ќе им се најдат при рака.

И уште еднаш, има милиони и
милиони вакви видеа,

достапни на Интернет во сите овие
налудничави комбинации.

И колку повеќе време
минувате со нив,

толку повеќе ви се чини
дека полудувате.

И така се впуштив во ова,

со чувство на длабоко
непознавање и неразбирање

за начинот како е конструирано
ова околу мене.

Бидејќи е невозможно да се знае
од каде потекнуваат овие работи.

Кој ги прави?

Некои се чини дека се направени од
тимови професионални аниматори.

Некои се составени по случајност
со помош на софтвер.

Некои се од пристојни аниматори
на мали деца.

А некои се од луѓе
кои очигледно

воопшто не смеат
да бидат во близина на деца.

(смеа)

Повторно, неможноста да се дознае
кој ги изработува овие работи,

дали е тоа робот?

Дали е личност?
Дали е трол?

Што значи тоа што повеќе
не можеме да ги разликуваме

овие работи?

Нели тоа чувство на несигурност
ви е некако познато?

Најчесто луѓето привлекуваат
прегледи на нивните видеа,

и запомнете, прегледите значат пари

така што ги полнат насловите на
овие видеа со познати зборови.

Пример, почнувате со „киндер јајца"

и додавате "Патрола на кутриња,"
"Велигденски јајца,"

или што и да е,

сите овие зборови од други
популарни видеа,

додека не завршите со еден
куп без јазично значење,

без логика.

Затоа што, се разбира, овие видеа
ги гледаат мали деца,

а што разбираат тие?

Вашата вистинска публика
за овие работи е софтверот.

Алгоритмите.

Софтверот кој Јутјуб го користи

да одреди кои видеа се
слични на други видеа,

да им ја подигне популарноста,
да ги препорача.

И затоа завршувате со ваква
комплетно безначајна мешавина

на наслови и на содржини.

Но, мора да запомните

дека се`уште постои човечки фактор
во овој систем на алгоритми,

луѓе кои сѐ повеќе се
принудени да ги одиграат

овие сѐ побизарни
комбинации на зборови,

како очајни импровизатори
во одговор на здружените врисоци

на милиони деца
во исто време.

Вистински луѓе се заробени
во овие системи,

и тоа е другата чудна работа
во оваа култура водена од алгоритми,

затоа што, иако си човек,

на крајот се однесуваш
како машина,

само за да преживееш.

Исто така, на другата
страна на екранот

се`уште се наоѓаат овие мали деца,
кои ги гледаат овие работи,

заглавени, нивното целосно внимание
зграпчено од овие чудни механизми.

Повеќето од овие деца се премали
за да користат вебстрани.

Само удираат со рачињата
по екраните.

Па имаме автоматско пуштање

каде видеата се пуштаат пак и пак во круг,

бескрајно, со часови и часови.

Системот стана
толку чуден

што автоматското пуштање
ве носи на прилично чудни места.

Така, во десетина чекори,

можете да стигнете
од слатко видео со воз со бројки,

до Мики Маус кој мастурбира.

Да. Жалам.

А има и полошо.

Ова се случува

кога сите тие различни
зборови за пребарување,

сите тие делчиња за
привлекување внимание,

цело ова очајничко
креирање содржини,

ќе се соберат
на едно место.

Ова е асолништето на сите тие
многу чудни зборови.

Ќе вкрстите видео
со семејството прсти

со некои акциони суперхерои,

ќе додадете некои чудни,
тролски шеги и слично,

и одеднаш, се наоѓате
на навистина чудно место.

Она што најчесто ги
вознемирува родителите

се материјалите со насилна
и сексуална содржина, нели?

Ликови од цртаните филмови
биваат нападнати,

убиени,

чудни трикови кои навистина
ги преплашуваат децата.

Софтверот ги избира
сите овие различни влијанија

со цел автматски да ги генерира
најстрашните детски кошмари.

А овие работи навистина
многу влијаат врз децата.

Родители пријавуваат дека децата
им биле трауматизирани,

се плашат од темнината,

се плашат од нивните омилени
ликови од цртаните филмови.

Ако едно нешто научивме од ова,
тоа е: ако имате мали деца

држете ги подалеку од Јутјуб!

(аплауз)

Но, другото нешто,
кое најмногу ме мачи,

е помислата дека не ни знаеме
како стигнавме дотука.

Ги зедовме сите овие влијанија
сите овие работи,

и ги измешавме заедно
на начин на кој никој не намераваше.

А сепак, на истиот начин
го градиме целиот свет.

Зборуваме за сите овие податоци,

голем дел од нив лоши,

многу историски податоци,
полни со предрасуди,

полни со нашите најлоши
пориви во историјата,

и ги внесуваме во огромни датотеки

и потоа ги автоматизираме.

Ги вметнуваме во
кредитни извештаи,

премии за осигурување,

предиктивни полициски системи,

упатства за донесување пресуди.

Вака всушност го градиме
денешниот свет,

врз основа на податоци.

И не знам што е полошо:

тоа што градиме систем
кој се чини е целосно оптимизиран

за апсолутно најлошите варијанти
на човечко однесување,

или тоа што истото го
правиме случајно,

без воопшто да сфатиме
што правиме,

бидејќи не ги разбираме добро
системите кои ги градиме

и не знаеме како
да постапиме поинаку.

Има две работи кои сметам дека се
движечка сила на овој феномен,

особено на Јутјуб.

Првата е рекламирањето,

односно монетизацијата на
привлеченото внимание,

без земање во предвид
други варијабли,

без грижа за луѓето кои всушност
ја креираат таа содржина,

централизацијата на моќта,
одделувањето на тие нешта.

И сметам дека без разлика какво
мислењеимате за рекламите,

како финансиска поддршка,

глетката на возрасни мажи во пелени
како се тркалаат во песокта,

со надеж дека некој алгоритам
кој ни самите не го разбираат

ќе им даде пари за тоа,

упатува на тоа дека ова
веројатно не е начинот

на кој треба да го градиме
нашето општество и култура,

нити начинот на кој
треба да го финансираме.

А вториот двигател на оваа
ситуација е автоматизацијата,

односно примената на
сета таа технологија

веднаш штом се појави,
без никаков надзор,

и кога е веќе пласирана,

ги креваме рацете и велиме:
"Еј, не е до нас, до технолгијата е."

Демек, "Ние не сме дел од тоа."

Тое не е доволно добро.

Затоа што ова не е само
предводено,

туку е и контролирано
од алгоритми.

Кога Јутјуб почна да
обрнува внимание на ова,

првото нешто што рекоа
дека ќе го превземат

беше дека ќе применат подобри
алгоритми за машинско учење

да ја ублажат содржината.

Е па, машинското учење,
секој експерт во областа ќе ви каже,

го нарекуаваме всушност

софтверот кој не го разбираме
како функционира.

Мислам дека веќе
имаме доволно од тоа.

Не треба да оставаме
на вештачката интелигенција

да одлучи што е соодветно,

зашто знаеме што ќе се случи.

Ќе почне да цензурира
други работи:

необични содржини,

или легитимент јавен говор.

Што е дозволено, а што не,

не треба да се остави
на неодговорни системи.

Тоа е дел од дискусија во која
сите треба да учествуваме.

Но, потсетувам дека

ниту алтернативата
не е многу пријатна.

Јутјуб неодамна изјавија

дека ќе издадат верзија на нивната
апликација за деца

која ќе биде целосно
прегледувана од луѓе.

Фејсбук - Закерберг изјави нешто слично
пред Конгресот,

на прашањето како ќе
управуваат со нивната содржина.

Рече дека луѓе ќе го прават тоа.

А, тоа всушност значи дека

наместо малите деца да бидат
првите кои ќе ги видат овие содржини,

сега ќе има слабо платени,
загрозени работници,

без соодветна ментално-здравствена
заштита.

оштетени од истите содржини.

(смеа)

И сметам дека можеме
многу подобро од тоа.

(аплауз)

Смислата, според мене, која ги
поврзува овие работи

е дејствувањето.

Колку навистина разбираме?
Под дејствување подразбирам:

како знаеме како да постапиме
во наш најдобар интерес.

Што е речиси невозможно да се направи

во овие ситеми кои
не ги разбираме целосно.

Нееднаквоста на моќта
секогаш води до насилство.

Во овие системи
можеме да видиме

дека нееднаквото разбирање
го предизвикува истото.

Ако постои начин како да започнеме
да ги подобруваме овие системи

тоа е да ги направиме почитливи
за луѓето кои ги користат,

така што сите ќе имаме
заедничко разбирање

за тоа што всушност
се случува тука.

Проблемот со повеќето
од овие системи

не е во врска со Јутјуб,
како што објаснив,

туку со сѐ.

Прашањата на одговорност
и дејствување,

на нејасност и комплексност,

на насилството и експлоатацијата
кои неизбежно произлегуваат

од концентрацијата на моќ
во нечии раце --

ова се многу, многу
поголеми проблеми.

Тоа се проблеми не само на Јутјуб,
и не само на технологијата воопшто,

и не се новосоздадени.

Со нас се долго време.

Но, конечно го изградивме овој систем
овој глобален систем, Интернетот,

кој на извонреден начин ни ги покажува
,

и ги прави вистински.

Технологијата има
исклучителна способност

истовремено да ги прикаже и продолжи

сите наши извонредни,
често притаени, желби и предрасуди

и да ги вкодира во светот,

но и да ги запише
за да ни се видливи

и да не можеме да се преправаме
дека не постојат повеќе.

Не треба да ја гледаме технологијата
како решение на сите наши проблеми,

туку како водич за идентификување
на тие проблеми,

со цел да почнеме
соодветно да ги

разгледуваме и да дејствуваме.

Многу ви благодарам.

(аплауз)

Благодарам!

(аплауз)

Хелен Волтерс: Џејмс, благодарам
за гостувањето и за говорот.

Значи, интересно е:

кога размислуваш за филмови во кои
роботите го преземаат светот,

сѐ изгледа погламурозно
од она што ни го опиша.

Се прашувам -- во тие филмови
имаме градење на отпор.

Дали градиме отпор кон овие работи
во реалноста?

Дали забележуваш позитивни знаци,
никулци на отпорот?

Џејмс Бридл: Не знам за
директен отпор,

бидејќи ова се дологорочни работи.

Мислам дека е длабоко
всадено во културата.

Моја пријателка, Еленор Саита,
секогаш вели

дека секој технолошки проблем
со доволна големина и опсег

е пред сѐ политички проблем.

Така што сите овие работи кои
се трудиме да ги решиме

нема да ги решиме само
преку градење подобра технологија,

туку преку менување на општеството
кое ги произведува овие технологии.

Така што, засега мислам дека имаме
уште многу работа пред нас.

Но, како што реков,
со нивното отворање,

објаснување, дискутирање за нив
многу искрено,

можеме барем да го
започнеме тој процес.

ХВ: Кога зборуваш за
читливост и дигитална писменост,

тешко ми е да замислам

дека товарот на дигиталната писменост
треба да остане кај самите корисници.

Тогаш, чија одговорност е
образованието во овој нов свет?

ЏБ: Сметам дека таа е одговорност
на сите нас,

дека сѐ што правиме,
сѐ што градиме, сѐ што создаваме,

треба да биде во
заеднички разговор

со сите кои го избегнуваат;

дека не градиме системи наменети да ги
залажат или изненадат луѓето

да постапат правилно,

туку да бидат вклучени
во секој чекор од нивното образование,

бидејќи секој од овие системи
е образовен.

На тоа се надевам,
дури и мрачните аспекти,

ако се земат и се
разгледаат соодветно,

сами по себе се
парче едукација

што ви овозможува да согледате како
комплексните системи функционираат

и можеби да го примените
знаењето на друго место.

ХВ: Џејмс, ова е многу значајна дискусија,

и знам дека многу од луѓето овде се
отворени и подготвени да се вклучат,

па фала што ни го отпочна утрото.

ЏБ: Благодарам!. Поздрав.

(аплауз)