Cudowne i przerażające implikacje tego, że komputer potrafi się uczyć

Co się stanie, kiedy komputery opanują umiejętność uczenia się? Technolog Jeremy Howard przedstawia kilka zaskakujących wyników z szybko ewoluującej dziedziny uczenia głębokiego, techniki, która umożliwia komputerom nauczenie się języka chińskiego, rozpoznawanie obiektów na fotografiach lub pomoc w analizie diagnozy medycznej. (Jedno z narzędzi wykorzystujących uczenie głębokie, obejrzawszy wiele godzin filmów na YouTube, nauczyło się koncepcji "kota"). Zapoznaj się z dziedziną, która zmieni sposób, w jaki działają komputery ... szybciej niż to sobie wyobrażasz.

Kiedyś było tak,

że aby komputer coś zrobił,

trzeba go było zaprogramować.

Dla tych, którzy tego nie robili:

programowanie wymaga
drobiazgowego zdefiniowania

każdego kroku, który komputer ma wykonać,

by osiągnąć cel.

Jeżeli chcemy,
by komputer wykonał czynność,

której sami nie potrafimy wykonać,

stajemy przed dużym wyzwaniem.

Stanął przed nim Artur Samuel.

W 1956 roku stwierdził, że chciałby,

aby komputer wygrał z nim w warcaby.

Jak napisać program,

drobiazgowo wyrazić,
jak być lepszym w warcaby

niż jest się samemu?

Artur wpadł na następujący pomysł:

kazał komputerowi
grać z samym sobą tysiące razy

i w ten sposób nauczyć się gry.

Rzeczywiście się udało.

W 1962 roku komputer pokonał
mistrza stanu Connecticut.

Artur Samuel był ojcem
uczenia maszynowego.

Mam wobec niego duży dług,

bo sam zajmuję się
uczeniem maszynowym.

Byłem przewodniczącym Kaggle,

społeczności zrzeszającej
200 tys. specjalistów

od programowania maszynowego.

Kaggle organizuje konkursy,

podczas których członkowie próbują

rozwiązać dotąd nierozwiązane problemy.

Udało się to już setki razy.

Z tej perspektywy wiele się dowiedziałem

o dawnych i obecnych
możliwościach uczenia maszynowego,

i co będzie możliwe w przyszłości.

Chyba pierwszym dużym sukcesem

w komercyjnym zastosowaniu
uczenia maszynowego

był Google, który udowodnił,
że da się szukać informacji

przy pomocy algorytmu komputerowego,

opartego o uczenie maszynowe.

Odtąd było wiele udanych
komercyjnych zastosowań.

Firmy takie jak Amazon czy Netflix

używają uczenia maszynowego
do proponowania produktów

lub filmów, które nas zaciekawią.

Czasem przyprawia to o gęsią skórkę.

Firmy jak LinkedIn czy Facebook

mówią nam czasem, kogo znamy,

i nie mamy pojęcia, jak to robią.

Wykorzystują moc uczenia maszynowego.

To algorytmy, które uczą się z danych,

nie zaś przez ręczne programowanie.

To również dlatego
komputer Watson firmy IBM

potrafił pokonać dwóch
mistrzów świata w grze "Va Banque",

odpowiadając na niezwykle subtelne
i skomplikowane pytania takie jak to:

Antyczny "Lew z Kalchu" zginął z muzeum
w tym mieście w 2003 roku.

Także dlatego mamy pierwsze
samokierujące samochody.

Możliwość odróżnienia, powiedzmy,
drzewa i przechodnia,

jest dosyć istotna.

Nie wiemy, jak zaprogramować to ręcznie,

ale potrafimy to zrobić
przez uczenie maszynowe.

Ten samochód przejechał już
ponad 2 mln kilometrów

po zwykłych drogach, bez wypadków.

Czyli komputery potrafią się uczyć

i potrafią uczyć się rzeczy,

których czasem sami nie potrafimy robić,

lub potrafią je robić lepiej niż my.

Jeden z niezwykłych przykładów
uczenia maszynowego

zdarzył się w projekcie,
który prowadziłem w Kaggle.

Zespół, którym kierował Geoffrey Hinton

z Uniwersytetu w Toronto,

wygrał konkurs na automatyczne
odkrywanie leków.

Co niezwykłe,
nie tylko przebili wszystkie algorytmy

firmy Merck i międzynarodowej
społeczności akademickiej,

ale też nikt w zespole nie miał
żadnej wiedzy z chemii, biologii

czy nauki o organizmach żywych,

a zrobili to w dwa tygodnie.

Jak im się to udało?

Użyli niezwykłego algorytmu,
zwanego uczeniem głębokim.

To wydarzenie było tak ważne,
że kilka tygodni później

New York Times pisał o nim
na stronie głównej.

Po lewej stronie widoczny
jest Geoffrey Hinton.

Uczenie głębokie to algorytm zainspirowany
sposobem działania ludzkiego mózgu,

przez co nie ma żadnych
teoretycznych ograniczeń.

Im więcej dostaje danych,
im więcej czasu obliczeniowego,

tym staje się lepszy.

New York Times przedstawił też w artykule

inne niezwykłe osiągniecie
uczenia głębokiego,

które teraz zaprezentuję.

Udowadnia ono, że komputery
potrafią słuchać i rozumieć.

(Wideo) Richard Rashid: Ostatni krok,

który chciałbym wykonać w tym procesie,

to przemówić do was po chińsku.

Chodzi o to, że udało nam się

wziąć dużą ilość informacji
od osób mówiących po chińsku

i stworzyć system syntezy mowy,

który konwertuje chiński tekst na mowę.

Potem wzięliśmy godzinne
nagranie mojego głosu

i użyliśmy go do zmodulowania
standardowego systemu syntezy mowy,

żeby brzmiał jak ja.

Efekt nie jest bezbłędny.

W sumie jest nawet sporo błędów.

(Po chińsku)

(Oklaski)

Ta dziedzina wymaga jeszcze dużo pracy.

(Po chińsku)

(Oklaski)

JH: To był fragment konferencji
na temat uczenia maszynowego w Chinach.

Na akademickich konferencjach
rzadko słyszy się spontaniczny aplauz.

Na konferencjach TEDx
zdarza się to częściej,

więc proszę się nie krępować.

Wszystko, co tu widzieliście,
osiągnięto przez uczenie głębokie.

(Oklaski) Dziękuję.

Transkrypcja na angielski
to uczenie głębokie.

Tłumaczenie na chiński i tekst
w prawym górnym rogu - uczenie głębokie,

synteza mowy to również uczenie głębokie.

Uczenie głębokie jest niezwykłe.

To pojedynczy algorytm,
który jakby umie wszystko.

Odkryłem, że rok wcześniej
nauczył się również widzieć.

W mało znanym konkursie w Niemczech

na rozpoznawanie znaków drogowych

uczenie głębokie nauczyło się

rozpoznawać takie znaki drogowe.

Nie tylko rozpoznawało znaki

lepiej niż inne algorytmy,

ale nawet lepiej niż ludzie,

mniej więcej dwa razy lepiej.

Czyli w 2011 r. mieliśmy pierwszy przykład

komputerów widzących lepiej niż ludzie.

Od tego czasu bardzo dużo się wydarzyło.

W 2012 r. Google ogłosił,
że ich algorytm uczenia głębokiego

oglądał filmy na YouTube

i przez miesiąc przetwarzał dane
na 16 tysiącach serwerów,

po czym samodzielnie nauczył się pojęć

takich jak ludzie czy koty,

tylko przez oglądanie filmów.

W bardzo podobny sposób uczą się ludzie.

Nie trzeba im mówić, na co patrzą,

tylko sami się uczą się,
czym są widziane obiekty.

W 2012 roku Geoffrey Hinton,
którego widzieliśmy wcześniej,

wygrał bardzo popularny konkurs ImageNet,

gdzie dla 1,5 miliona obrazków
trzeba określić,

co się na nich znajduje.

Do 2014 r. proporcja błędów spadła do 6%.

To znowu lepiej, niż ludzie.

Maszyny są tu niesamowicie skuteczne

i wykorzystuje się to już komercyjnie.

Na przykład Google ogłosił w zeszłym roku,

że znaleźli na mapie wszystkie adresy
we Francji w dwie godziny

przez dostarczenie zdjęć Street View

algorytmowi uczenia głębokiego,
który rozpoznał i odczytał numery domów.

Wyobraźcie sobie,
ile czasu zajęłoby to kiedyś:

dziesiątki ludzi, wiele lat.

To samo dzieje się w Chinach.

Baidu jest czymś w rodzaju
chińskiego Google.

W lewym górnym rogu
widać przykładowe zdjęcie,

które wczytałem do systemu
uczenia głębokiego Baidu,

poniżej widać, że system zrozumiał,
co jest na zdjęciu

i znalazł podobne zdjęcia.

Te zdjęcia mają podobne tło,

podobny kierunek pysków,

niektórym nawet wystają języki.

Ten algorytm na pewno nie patrzy
na tekst na stronie,

wgrałem tylko zdjęcie.

Czyli dzisiejsze komputery
naprawdę rozumieją, co widzą,

i na żywo umieją przeszukiwać bazy danych

setek milionów zdjęć.

Co to właściwie znaczy,
że komputery mogą widzieć?

Nie chodzi o samo widzenie.

Uczenie głębokie dało znacznie więcej.

Złożone i pełne niuansów zdania, jak to,

są już zrozumiałe
dla algorytmów uczenia głębokiego.

Jak widać tutaj,

system z Uniwersytetu Stanforda

zaznaczył czerwoną kropką na górze,

że to zdanie wyraża negację.

Efektywność uczenia głębokiego
jest zbliżona do ludzkiej

w rozumieniu sensu zdania i analizie.

Uczenie głębokie zastosowano
do czytania chińskiego

na poziomie zbliżonym
do rodzimych użytkowników.

Ten algorytm opracował szwajcarski zespół,

którego członkowie nie znają chińskiego.

Jak wspomniałem, uczenie głębokie

jest w tym najlepsze,

nawet w porównaniu z rozumieniem

przez rodzimych użytkowników języka.

Ten system zbudowaliśmy w mojej firmie.

Pokazuje, jak można to wszystko
połączyć w całość.

To są zdjęcia bez żadnego opisu

i w trakcie wpisywania zdań

system na żywo rozpoznaje zdjęcia,

ustala, co na nich jest,

i znajduje zdjęcia podobne do opisu.

Rzeczywiście rozumie, o czym piszę,

i rozumie, co jest na zdjęciach.

Pewnie znacie to z Google'a,

który znajduje zdjęcia
według wpisywanych słów,

choć w rzeczywistości wyszukuje
strony internetowe w oparciu o tekst.

To co innego niż rozumienie samych zdjęć.

Komputery potrafią to robić
dopiero od kilku miesięcy.

Czyli komputery potrafią
nie tylko widzieć, ale też czytać,

i potrafią też rozumieć, co słyszą.

Pewnie was nie zaskoczy,
że potrafią też pisać.

Ten tekst wygenerowałem wczoraj
przy pomocy uczenia głębokiego.

"Miło mi być tu z wami w Brukseli!"

Tę próbkę tekstu
wygenerował algorytm ze Stanford.

Uczenie głębokie wygenerowało te zdania,

aby opisać każde z tych zdjęć.

Ten algorytm nigdy przedtem nie widział

mężczyzny w czarnej koszulce,
grającego na gitarze.

Widział mężczyznę,
widział czerń lub gitarę,

ale sam stworzył oryginalny opis zdjęcia.

Nadal nie dorównuje ludziom,
ale mało mu brakuje.

W testach ludzie preferują opisy
generowane przez komputer

w co czwartym przypadku.

Ten system powstał dwa tygodnie temu,

więc w tym tempie

algorytm komputerowy
prześcignie człowieka,

pewnie w ciągu kolejnego roku.

Czyli komputery potrafią też pisać.

Połączyliśmy to wszystko,
co daje ekscytujące możliwości.

Na przykład w medycynie:

zespół z Bostonu ogłosił odkrycie

dziesiątek nowych,
istotnych klinicznie cech nowotworów,

co pomoże lekarzom
w prognozowaniu postępów raka.

Grupa badaczy ze Stanford ogłosiła,

że badając tkanki w powiększeniu,

opracowali system
wykorzystujący uczenie maszynowe,

który lepiej niż patolodzy przewiduje

przeżywalność chorych na raka.

Prognozy były nie tylko trafniejsze,

ale dostarczyły nowej, wnikliwej wiedzy.

W przypadku radiologii

były to nowe wskaźniki kliniczne,
zrozumiałe dla ludzi.

W przypadku patologii

system komputerowy odkrył,
że komórki otaczające nowotwór

są tak samo istotne,
jak komórki nowotworowe

w postawieniu diagnozy.

To całkowicie przeczy
dotychczasowej wiedzy o patologii.

Oba te systemy
opracowali eksperci medyczni

we współpracy z ekspertami
od uczenia maszynowego.

W zeszłym roku
przekroczyliśmy i ten próg.

To jest przykład identyfikacji
zmian nowotworowych

w ludzkiej tkance badanej pod mikroskopem.

Prezentowany tu system potrafi
rozpoznawać te zmiany dokładniej

lub równie dokładnie, co patolog,

ale został zbudowany
przy użyciu uczenia głębokiego

bez żadnej wiedzy medycznej,

przez ludzi nie związanych z medycyną.

Podobnie z segmentacją neuronów.

Możemy segmentować neurony
równie dokładnie, jak ludzie,

przy użyciu systemu uczenia głębokiego,

opracowanego przez ludzi
bez wiedzy medycznej.

Zatem ja, jako osoba
bez żadnej wiedzy medycznej,

mam dostateczne kwalifikacje,
by założyć firmę medyczną,

co też zrobiłem.

Byłem tym dosyć przerażony,

ale teoria wskazywała, że w medycynie

można przydać się
samą techniką analizy danych.

Szczęśliwie, przyjęto nas fantastycznie,

zarówno media, jak i społeczność medyczna,

która bardzo wspierała ten projekt.

W teorii możemy przejąć
środkową część procesu medycznego

i zastąpić ją daleko idącą analizą danych,

pozwalając lekarzom zająć się tym,
w czym są najlepsi.

Pokażę państwu przykład.

Generacja nowego testu diagnostycznego
zajmuje 15 minut.

Pokażę to teraz na żywo.

Skompresowałem to do trzech minut,
omijając pewne czynności.

Zamiast nowego testu diagnostycznego
w medycynie,

pokażę test diagnostyczny samochodów,

bo jest to coś, co wszyscy rozumiemy.

Na początek mamy 1,5 mln zdjęć samochodów.

Chcę stworzyć coś,
co je pogrupuje według kąta,

z jakiego zostały sfotografowane.

To zdjęcia bez opisów,
więc trzeba zacząć od zera.

Nasz algorytm uczenia głębokiego

potrafi automatycznie rozpoznawać
struktury na zdjęciach.

Człowiek i komputer mogą współpracować.

Jak tu widać,

człowiek mówi komputerowi
o obszarach zainteresowań,

których komputer ma użyć
do ulepszenia swojego algorytmu.

Ten system uczenia głębokiego
operuje w przestrzeni

o 16 tysiącach wymiarów.

Widać, jak komputer obraca obiekty,

próbując znaleźć nowe obszary struktur.

Kiedy mu się to uda,

operator może wskazać
interesujące obszary.

W tym przypadku komputer
znalazł pewne obszary,

na przykład kąt zdjęcia.

Z biegiem tego procesu

stopniowo mówimy komputerowi coraz więcej

na temat rodzaju szukanych struktur.

Można sobie wyobrazić,
że w przypadku testu diagnostycznego

patolog identyfikowałby
obszary patologiczne,

a radiolog wskazywałby
na potencjalnie uciążliwe guzki.

Czasami może być to trudne dla algorytmu.

W tym przypadku, algorytm się zgubił.

Przednie i tylne części samochodów
są wymieszane.

Musimy być trochę ostrożniejsi

i ręcznie zaznaczyć przednie części,

wskazując potem komputerowi,
że o taką grupę chodzi.

Robimy to przez jakiś czas,
tu coś pominiemy,

teraz uczymy algorytm uczenia maszynowego

na podstawie tych kilkuset rzeczy

mając nadzieję, że się udoskonali.

Widać, że algorytm
zaczął wygaszać niektóre zdjęcia,

pokazując w ten sposób,
że potrafi je już rozpoznawać.

Możemy użyć koncepcji podobnych zdjęć

i teraz widać,

że komputer potrafi już
znajdować maski samochodów.

Teraz człowiek może powiedzieć komputerowi

"Tak, świetnie się spisałeś".

Czasem, oczywiście, nawet w tym momencie

jest jeszcze trudno rozpoznawać grupy.

W tym przypadku nawet jeżeli pozwolimy
komputerowi obracać tym przez chwilę,

widać, że zdjęcia z prawej i lewej strony
są nadal wymieszane.

Można dać komputerowi kolejne wskazówki

i kazać mu znaleźć rzut,

który najwyraźniej oddziela
lewe i prawe boki,

przy pomocy uczenia głębokiego.

Po tej wskazówce - udało się.

Potrafi już myśleć o obiektach w sposób,

który oddziela te grupy.

Rozumiecie koncepcję.

Tutaj komputer współpracuje z człowiekiem,

zamiast go zastępować.

Udało się zastąpić proces,
który kiedyś wymagał zespołu

pięciu czy sześciu ludzi przez siedem lat

procesem, który zajmuje 15 minut

i wymaga jednej osoby.

Ten proces wymaga
czterech czy pięciu iteracji.

Widać, że teraz 62% z 1,5 miliona zdjęć

jest zaklasyfikowanych poprawnie.

Teraz można szybko wziąć większe sekcje

i sprawdzić, czy nie ma błędów.

Jeżeli są błędy,
można o nich powiedzieć komputerowi.

Powtarzając tę czynność dla różnych grup,

mamy już teraz 80% skuteczności

w klasyfikowaniu 1,5 miliona zdjęć.

Teraz trzeba już tylko znaleźć tych kilka,

które nie są klasyfikowane poprawnie

i zrozumieć przyczynę.

W 15 minut można osiągnąć skuteczność 97%.

Ta technika pozwoli być może
rozwiązać poważny problem

światowego niedoboru
kompetencji medycznych.

Światowe Forum Ekonomiczne szacuje
10- lub 20-krotny niedobór lekarzy

w krajach rozwijających się,

a wyszkolenie odpowiedniej liczby ludzi

zajęłoby około 300 lat.

A gdyby można było
zwiększyć ich efektywność

przy pomocy metod uczenia głębokiego?

Bardzo mnie pociągają takie możliwości.

Niepokoją mnie też problemy.

Otóż każdy niebieski obszar na tej mapie

to ponad 80% osób
zatrudnionych w usługach.

Co to są usługi?

Oto usługi. [Kierowcy, kucharze,
diagnostycy, prawnicy]

Tak się składa,
że właśnie to opanowały komputery.

Zatem 80% zatrudnionych
w krajach rozwiniętych

robi rzeczy, których właśnie
nauczyły się komputery.

Co to oznacza?

Nie szkodzi. Będą inne stanowiska.

Na przykład przybędzie naukowców
od analizy danych.

Nie do końca.

Analitykom danych nie trzeba dużo czasu

na budowę takich systemów.

Na przykład te cztery algorytmy
opracował jeden człowiek.

Myślicie, że to już było,

widzieliśmy już w przeszłości,

jak stare zawody ustępują nowym.

Jakie będą te nowe zawody?

Bardzo ciężko jest to oszacować,

bo ludzkie osiągnięcia rosną stopniowo,

a teraz mamy system, uczenie głębokie,

którego zdolności rosną wykładniczo.

A my jesteśmy tutaj.

Widząc dzisiejsze realia mówimy:

"Komputery są nadal dosyć głupie".

Ale za pięć lat komputery będą poza skalą.

Musimy zacząć myśleć
o tych możliwościach już teraz.

Oczywiście widzieliśmy to już kiedyś.

Podczas rewolucji przemysłowej

mieliśmy skokową zmianę możliwości
dzięki silnikom.

Tyle tylko, że po pewnym czasie
rezultaty uległy spłaszczeniu.

Nastąpiły zakłócenia społeczne,

ale kiedy silnik zaczęto stosować
do każdego rodzaju wytwarzania energii,

wszystko się ustabilizowało.

Rewolucja uczenia maszynowego

będzie bardzo różna
od rewolucji przemysłowej,

bo rewolucja uczenia maszynowego
nie ustabilizuje się nigdy.

Im lepsza będzie
aktywność intelektualna komputerów,

tym lepsze zbudują komputery,

o jeszcze większych
zdolnościach intelektualnych.

Będzie to zmiana,
jakiej świat nigdy dotąd nie doświadczył,

więc zmieniło się nasze wcześniejsze
zrozumienie możliwości.

Już odczuwamy ten wpływ.

Przez ostatnie 25 lat
produktywność kapitału wzrastała,

wydajność pracy pozostała bez zmian,
a nawet trochę spadła.

Chcę więc już teraz zacząć tę dyskusję.

Zwykle gdy opowiadam o tym problemie,

napotykam lekceważenie.

Przecież komputery nie potrafią
naprawdę myśleć,

nie mają uczuć,
nie rozumieją poezji,

nie do końca wiemy, jak działają.

I co z tego?

Komputery już teraz potrafią
wykonywać czynności,

z których utrzymują się ludzie,

więc trzeba zacząć się zastanawiać,

jak dostosujemy
społeczne i gospodarcze struktury

do tej nowej rzeczywistości.

Dziękuję.

(Oklaski)