Yapay zekâ tehlikesi düşündüğünüzden daha garip
-
0:02 - 0:05Yapay zekânın,
-
0:05 - 0:08her tür endüstriyi
bozduğu bilinmektedir. -
0:09 - 0:11Peki ya dondurma?
-
0:12 - 0:16Gelişmiş bir yapay zekânın gücüyle
-
0:16 - 0:19akıllara durgunluk verecek
ne tür tatlar oluşturabiliriz? -
0:19 - 0:23Bu sorunun cevabını bulmak için
Kealing orta okulundan -
0:23 - 0:25bir grup kodlayıcı ile birlikte çalıştım.
-
0:25 - 0:31Mevcut olan yaklaşık 1600
dondurma tadını topladılar -
0:31 - 0:36ve birlikte, ne oluşturacağını görmek için
onları bir algoritmaya çevirdik. -
0:36 - 0:39İşte yapay zekânın
ürettiği tatlardan birkaçı. -
0:39 - 0:41[Kabak Çöpü Parçası]
-
0:41 - 0:43(Gülüşmeler)
-
0:43 - 0:46[Fıstık Ezmesi Balçığı]
-
0:46 - 0:48[Çilek Kreması Hastalığı]
-
0:48 - 0:50(Gülüşmeler)
-
0:50 - 0:55Bu tatlar umduğumuz gibi
lezzetli değiller. -
0:55 - 0:57Soru şu: Ne oldu?
-
0:57 - 0:58Yanlış giden neydi?
-
0:58 - 1:00Yapay zekâ bizi öldürmeye mi çalışıyor?
-
1:01 - 1:05Yoksa istediğimiz şeyi yapmaya mı
çalışıyor ve bir problem mi oluyor? -
1:07 - 1:09Filmlerde yapay zekâyla ilgili
bir hata olduğunda -
1:09 - 1:11bu genelde yapay zekânın,
-
1:11 - 1:14artık insanlara itaat etmemeye
karar vermesi nedeniyle olur -
1:14 - 1:17ve artık kendi kuralları vardır,
çok teşekkürler. -
1:17 - 1:20Ancak, gerçek hayatta
sahip olduğumuz yapay zekâ -
1:21 - 1:22bunu yapabilecek kadar zeki değil.
-
1:23 - 1:24Yaklaşık bir solucanın
-
1:24 - 1:28veya belki de
olsa olsa tek bir bal arısının -
1:28 - 1:30programlama gücüne sahiptir
-
1:31 - 1:33ve aslında, belki de daha azına sahiptir.
-
1:33 - 1:37Beyinlerle ilgili sürekli yeni şeyler
öğreniyoruz ve bu da yapay zekânın -
1:37 - 1:40neden gerçek beyinlerle
aynı düzeyde olmayacağını açıklıyor. -
1:40 - 1:45Günümüzdeki yapay zekâ,
bir resimde yayayı saptamak gibi -
1:45 - 1:48bir görevi yapabilir, fakat bir yayanın
ne olduğunu kavrayamaz, -
1:48 - 1:53yaya onun için bir çizgiler, dokular
ve bazı şeylerin toplamıdır. -
1:54 - 1:56Bir insanın aslında ne olduğunu bilmez.
-
1:57 - 2:00Peki günümüzün yapay zekâsı
biz ne istersek onu mu yapacak? -
2:00 - 2:02Eğer yapabilirse evet,
-
2:02 - 2:04fakat gerçekten
istediğimizi yapamayabilir. -
2:04 - 2:08Diyelim ki bir yapay zekânın
bu robot parçalarını alıp -
2:08 - 2:10A noktasından B noktasına gidecek
-
2:10 - 2:14bir robota dönüştürmesini istiyorsunuz.
-
2:14 - 2:17Bu problemi geleneksel türden
bir bilgisayar programı yazarak -
2:17 - 2:19çözmeyi deneyecek olsaydınız,
-
2:19 - 2:21programa bu parçaları nasıl alacağına,
-
2:21 - 2:23bunları bacaklı bir robota
nasıl dönüştüreceğine -
2:23 - 2:27ve o bacakları B noktasına gitmesi
için nasıl kullanacağına dair -
2:27 - 2:29adım adım talimatlar verirdiniz.
-
2:29 - 2:32Fakat problemi çözmek için
yapay zekâ kullandığınızda -
2:32 - 2:33işler farklı ilerliyor.
-
2:33 - 2:35Ona problemi
nasıl çözeceğini söylemiyorsunuz, -
2:35 - 2:37ona sadece amacı veriyorsunuz
-
2:37 - 2:40ve onun, amaca ulaşmak için
deneme yanılma aracılığıyla -
2:40 - 2:42kendisi çözmesi gerekiyor.
-
2:42 - 2:46Yapay zekânın bu problemi
çözmek için gittiği yol -
2:46 - 2:48şu şekilde görünüyor:
-
2:48 - 2:51kendisini bir kuleye
monte ediyor, sonra düşüyor -
2:51 - 2:53ve B noktasına iniş yapıyor.
-
2:53 - 2:56Bu, teknik olarak problemi çözüyor.
-
2:56 - 2:58Teknik olarak B noktasına gidiyor.
-
2:58 - 3:02Yapay zekânın tehlikesi aslında
bizlere karşı ayaklanacağı değil, -
3:02 - 3:06tam olarak yapmalarını istediğimiz
şeyleri yapacak olmalarıdır. -
3:07 - 3:10O zaman da yapay zekâyla
çalışma hilesi şu hale geliyor: -
3:10 - 3:13Problemi nasıl düzenleyelim ki
gerçekten istediğimizi yapsın? -
3:15 - 3:18Bu küçük robot bir yapay zekâ
tarafından kontrol ediliyor. -
3:18 - 3:21Yapay zekâ robot bacakları için
bir tasarım buldu -
3:21 - 3:25ve sonra onları, bu engelleri aşmak için
nasıl kullanacağını çözdü. -
3:25 - 3:28Fakat David Ha bu deneyi oluşturduğunda
-
3:28 - 3:31yapay zekânın bacakları ne kadar
büyük yapabileceğine dair -
3:31 - 3:34çok, çok katı
kısıtlamalarla oluşturmalıydı, -
3:34 - 3:36çünkü, aksi takdirde...
-
3:43 - 3:47(Gülüşmeler)
-
3:49 - 3:52Teknik olarak bu engel rotasının
sonuna varabildi. -
3:52 - 3:57Bir yapay zekânın, yürümek gibi basit
bir eylemi yapmasını sağlamak çok zor. -
3:57 - 4:01Yapay zekânın bunu yaptığını görünce,
bu haksızlık diyebilirsiniz, -
4:01 - 4:04yüksek bir kule olup düşemezsiniz,
-
4:04 - 4:07yürümek için bacak
kullanmanız gerek diyebilirsiniz. -
4:07 - 4:10Görünen o ki, bu da
her zaman işe yaramıyor. -
4:10 - 4:13Yapay zekânın işi hızlı hareket etmek.
-
4:13 - 4:17Ona ileri doğru koşması gerektiğini
-
4:17 - 4:19veya kollarını
kullanamayacağını söylemediler. -
4:19 - 4:24Yapay zekâya hızlı hareket etmeyi
öğrettiğiniz zaman olan şey budur, -
4:24 - 4:28takla atmak veya şaşkınca yürüyüşler
gibi şeylerle karşılaşırsınız. -
4:28 - 4:29Bu gerçekten yaygın.
-
4:30 - 4:33Yerde sürünmek de yaygın.
-
4:33 - 4:34(Gülüşmeler)
-
4:35 - 4:38Bana göre, bundan çok daha
garip olan şey, -
4:39 - 4:40"Terminatör" robotları.
-
4:40 - 4:44Ona bir şans verirseniz, yapay zekanın
yapacağı diğer şey "Matrix"e girmektir. -
4:44 - 4:47Bir simülasyonda
yapay zekâyı eğitirseniz, -
4:47 - 4:51simülasyonun matematik hatalarına
girmek ve onları enerji için saklamak -
4:51 - 4:53gibi şeyleri yapmayı öğrenir.
-
4:53 - 4:58Sürekli yerde sürünerek
hızlı hareket etmeyi de çözebilir. -
4:58 - 5:00Bir yapay zekâyla çalışırken
-
5:00 - 5:02bu diğer bir insanla çalışmaktan ziyade,
-
5:02 - 5:06daha çok doğanın garip bir gücüyle
çalışmaya benziyor. -
5:07 - 5:11Yapay zekâya çözmesi için kazara
yanlış problemi vermek de çok kolay -
5:11 - 5:16ve bir şeyler yanlış gidene dek
bunu genelde fark etmeyiz. -
5:16 - 5:18Yaptığım bir deneyde
-
5:18 - 5:22yapay zekâdan
boya renklerini kopyalamasını -
5:22 - 5:24ve yeni boya renkleri
yaratmasını istedim, -
5:24 - 5:26bu soldaki listedekiler gibi
bir liste verdim. -
5:27 - 5:30Yapay zekânın önerdikleri ise şunlar.
-
5:30 - 5:33[Sindi Kakası, Gübremsi, Acı, Gri Kasık]
-
5:33 - 5:35(Gülüşmeler)
-
5:39 - 5:41Teknik olarak
-
5:41 - 5:43istediğimi yaptı.
-
5:43 - 5:46Ben güzel boya renkleri isimleri
istediğimi düşünmüştüm, -
5:46 - 5:49fakat aslında yapmasını istediğim şey
-
5:49 - 5:52orijinalinde gördüğü
harf kombinasyonları türlerini -
5:52 - 5:54taklit etmesiydi.
-
5:54 - 5:56Kelimelerin ne anlama geldiğine dair
-
5:56 - 5:59veya isimleri bulurken
kullanmaması gereken bazı kelimeler -
5:59 - 6:02olabileceğine dair hiçbir şey söylemedim.
-
6:03 - 6:07Yani onun tüm dünyası,
benim ona sağladığım veri. -
6:07 - 6:11Dondurma tatları gibi,
başka hiçbir şey bilmiyor. -
6:12 - 6:14Yani genelde veri aracılığıyla
-
6:14 - 6:18yapay zekâya kazara yanlış şeyi
yapmasını söylüyoruz. -
6:19 - 6:22Bu, karabalık adlı bir balık.
-
6:22 - 6:24Bir grup araştırmacı da yapay zekâyı
-
6:24 - 6:27resimlerde karabalığı
saptaması için eğitmişti. -
6:27 - 6:29fakat ona, balığı saptamak için
-
6:29 - 6:32resmin hangi kısmını
kullandığını sorduklarında, -
6:32 - 6:34işte bunu vurguladı.
-
6:35 - 6:37Evet, bunlar insan elinin parmakları.
-
6:37 - 6:39Bir balığı saptamayı deniyorsa,
-
6:39 - 6:41neden insan elinin parmaklarını arıyor?
-
6:42 - 6:45Görünen o ki bu karabalık bir ödül balığı
-
6:45 - 6:49ve eğitimi sırasında
yapay zekânın gördüğü -
6:49 - 6:50birçok resimde,
-
6:50 - 6:52balık böyle görünüyordu.
-
6:52 - 6:53(Gülüşmeler)
-
6:53 - 6:57Parmakların, balığın bir parçası
olmadığını bilmiyordu. -
6:59 - 7:03Baktığı şeyi gerçekten anlayabilecek
bir yapay zekâ tasarlamanın -
7:03 - 7:06neden çok zor olduğunu
görüyorsunuz. -
7:06 - 7:08Ayrıca sürücüsüz arabalarda
-
7:08 - 7:11görüntü tanımayı tasarlamanın
zor olmasının nedeni de bu -
7:11 - 7:14ve sürücüsüz arabalardaki
birçok başarısızlık da -
7:14 - 7:16yapay zekânın şaşırması nedenlidir.
-
7:16 - 7:202016'dan bir örnek vermek istiyorum.
-
7:20 - 7:25Birisi Tesla'nın oto-pilot yapay zekasını
kullanırken ölümcül bir kaza oldu, -
7:25 - 7:28fakat tasarlandığı üzere
otoyolda kullanmak yerine, -
7:28 - 7:31şehrin sokaklarında kullandılar.
-
7:31 - 7:32Olan şey de şuydu;
-
7:32 - 7:36bir kamyon, arabanın önüne sürdü
ve araba fren yapamadı. -
7:37 - 7:41Yapay zekâ kesinlikle resimlerde
kamyonları saptamak üzere eğitilmişti. -
7:41 - 7:43Fakat olan şey şu gibi görünüyor,
-
7:43 - 7:46yapay zekâ otoyolda giden
kamyonları saptamayı öğrenmişti, -
7:46 - 7:49yani kamyonları arkadan
göreceğimiz bir şekilde öğrenmişti. -
7:49 - 7:53Yanı görünen kamyonların
otoyolda olmaları beklenmez -
7:53 - 7:56ve yapay zekâ bu kamyonu gördüğünde,
-
7:56 - 8:00büyük olasılıkla
bir yol işareti olarak algıladı -
8:00 - 8:03ve altından geçmenin
güvenli olduğunu düşündü. -
8:04 - 8:07Yapay zekânın başka alanda
attığı yanlış bir adım daha. -
8:07 - 8:10Amazon, algoritmanın kadınlara karşı
ayrımcılık yapmayı öğrendiğini -
8:10 - 8:11keşfettiği zaman,
-
8:11 - 8:15bir özgeçmiş-sıralama algoritmasından
vazgeçmek zorunda kaldı. -
8:15 - 8:19Olan şey şuydu, yapay zekâyı
geçmişte işe aldıkları insanlara ait -
8:19 - 8:20örnek özgeçmişlerle eğittiler.
-
8:20 - 8:24Yapay zekâ da bu örneklerden,
kadın okullarına gitmiş olan -
8:24 - 8:26veya özgeçmişinin herhangi bir yerinde
-
8:26 - 8:29"kadın" kelimesi geçen,
-- "kadın futbol takımı" -
8:29 - 8:34veya "Kadın Mühendisler Derneği" gibi --
özgeçmişlerden kaçınmayı öğrendi. -
8:34 - 8:38Yapay zekâ, insanların
yaptığını gördüğü bu şeyi -
8:38 - 8:40kopyalaması gerekmediğini bilmiyordu.
-
8:40 - 8:43Teknik olarak da
yapmasını istedikleri şeyi yaptı. -
8:43 - 8:46Sadece, yanlış şeyi yapmasını istediler.
-
8:47 - 8:50Yapay zekâyla bu her zaman olur.
-
8:50 - 8:54Yapay zeka çok zararlı olabilir
ve bunu bilmeyebilir. -
8:54 - 8:59Facebook, YouTube'da yeni içerik
öneren yapay zekâlar, -
8:59 - 9:02tıklama ve görüntüleme sayısını
yükseltmek üzere optimize edilmiştir. -
9:02 - 9:06Ne yazık ki bunu yapmak için
buldukları bir yol da, -
9:06 - 9:10komplo teorisi veya fanatiklik
içerikleri önermek. -
9:11 - 9:16Yapay zekâların, bu içeriklere dair
herhangi bir fikirleri yok -
9:16 - 9:20ve bu içeriği önerdikleri zaman
sonucun ne olacağına dair de -
9:20 - 9:22herhangi bir fikirleri yok.
-
9:22 - 9:24Yani, yapay zekâyla çalışırken
-
9:24 - 9:29problemlerden kaçınmak bize bağlıdır.
-
9:29 - 9:31Yanlış giden şeylerden kaçınmak da öyle,
-
9:31 - 9:35bu çok eski iletişim
problemine kadar da inebilir, -
9:35 - 9:39insanlar yapay zekâyla nasıl iletişim
kuracağını öğrenmelidir. -
9:39 - 9:43Yapay zekânın ne yapabildiğini
ve ne yapamadığını öğrenmeliyiz -
9:43 - 9:46ve yapay zekânın,
çok küçük solucan beyniyle, -
9:46 - 9:50ondan yapmasını istediğimiz şeyi
aslında anlamadığını anlamalıyız. -
9:51 - 9:55Yani, süper-yetkili, her şeyi bilen
bilim kurgu yapay zekâlarına benzemeyen -
9:55 - 10:00yapay zekâ ile çalışmaya
hazırlıklı olmalıyız. -
10:00 - 10:03Şimdiki zamanda sahip olduğumuz
-
10:03 - 10:06tek yapay zekâyla
çalışmaya hazırlıklı olmalıyız. -
10:06 - 10:10Günümüzün yapay zekâsı da yeterince garip.
-
10:10 - 10:11Teşekkürler.
-
10:11 - 10:16(Alkış)
- Title:
- Yapay zekâ tehlikesi düşündüğünüzden daha garip
- Speaker:
- Janelle Shane
- Description:
-
Yapay zekânın tehlikesi aslında bizlere karşı ayaklanacakları değil, tam olarak yapmalarını istediğimiz şeyleri yapacak olmalarıdır diyor, yapay zeka araştırmacısı Janelle Shane. İnsanların problemlerini çözmeyi deneyen -- yeni dondurma tatları yaratmak veya yoldaki arabaları tanımak gibi -- yapay zekâ algoritmalarının garipliğini ve bazen de korkutucu tuhaflıklarını paylaşan Shane, yapay zekânın neden henüz gerçek beyin ile aynı düzeyde olamayacağını gösteriyor.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Cihan Ekmekçi approved Turkish subtitles for The danger of AI is weirder than you think | ||
Cihan Ekmekçi edited Turkish subtitles for The danger of AI is weirder than you think | ||
Figen Ergürbüz accepted Turkish subtitles for The danger of AI is weirder than you think | ||
Figen Ergürbüz edited Turkish subtitles for The danger of AI is weirder than you think | ||
Figen Ergürbüz edited Turkish subtitles for The danger of AI is weirder than you think | ||
Gözde Zülal Solak edited Turkish subtitles for The danger of AI is weirder than you think | ||
Gözde Zülal Solak edited Turkish subtitles for The danger of AI is weirder than you think | ||
Gözde Zülal Solak edited Turkish subtitles for The danger of AI is weirder than you think |