Turkish subtítulos

← Yapay zekâ tehlikesi düşündüğünüzden daha garip

Obtener código incrustado.
31 idiomas

Mostrar Revisión8 creada 11/12/2019 por Cihan Ekmekçi.

  1. Yapay zekânın,
  2. her tür endüstriyi
    bozduğu bilinmektedir.
  3. Peki ya dondurma?
  4. Gelişmiş bir yapay zekânın gücüyle
  5. akıllara durgunluk verecek
    ne tür tatlar oluşturabiliriz?
  6. Bu sorunun cevabını bulmak için
    Kealing orta okulundan
  7. bir grup kodlayıcı ile birlikte çalıştım.
  8. Mevcut olan yaklaşık 1600
    dondurma tadını topladılar
  9. ve birlikte, ne oluşturacağını görmek için
    onları bir algoritmaya çevirdik.
  10. İşte yapay zekânın
    ürettiği tatlardan birkaçı.
  11. [Kabak Çöpü Parçası]

  12. (Gülüşmeler)

  13. [Fıstık Ezmesi Balçığı]

  14. [Çilek Kreması Hastalığı]

  15. (Gülüşmeler)

  16. Bu tatlar umduğumuz gibi
    lezzetli değiller.

  17. Soru şu: Ne oldu?
  18. Yanlış giden neydi?
  19. Yapay zekâ bizi öldürmeye mi çalışıyor?
  20. Yoksa istediğimiz şeyi yapmaya mı
    çalışıyor ve bir problem mi oluyor?
  21. Filmlerde yapay zekâyla ilgili
    bir hata olduğunda

  22. bu genelde yapay zekânın,
  23. artık insanlara itaat etmemeye
    karar vermesi nedeniyle olur
  24. ve artık kendi kuralları vardır,
    çok teşekkürler.
  25. Ancak, gerçek hayatta
    sahip olduğumuz yapay zekâ
  26. bunu yapabilecek kadar zeki değil.
  27. Yaklaşık bir solucanın
  28. veya belki de
    olsa olsa tek bir bal arısının
  29. programlama gücüne sahiptir
  30. ve aslında, belki de daha azına sahiptir.
  31. Beyinlerle ilgili sürekli yeni şeyler
    öğreniyoruz ve bu da yapay zekânın
  32. neden gerçek beyinlerle
    aynı düzeyde olmayacağını açıklıyor.
  33. Günümüzdeki yapay zekâ,
    bir resimde yayayı saptamak gibi
  34. bir görevi yapabilir, fakat bir yayanın
    ne olduğunu kavrayamaz,
  35. yaya onun için bir çizgiler, dokular
    ve bazı şeylerin toplamıdır.
  36. Bir insanın aslında ne olduğunu bilmez.
  37. Peki günümüzün yapay zekâsı
    biz ne istersek onu mu yapacak?
  38. Eğer yapabilirse evet,
  39. fakat gerçekten
    istediğimizi yapamayabilir.
  40. Diyelim ki bir yapay zekânın
    bu robot parçalarını alıp

  41. A noktasından B noktasına gidecek
  42. bir robota dönüştürmesini istiyorsunuz.
  43. Bu problemi geleneksel türden
    bir bilgisayar programı yazarak
  44. çözmeyi deneyecek olsaydınız,
  45. programa bu parçaları nasıl alacağına,
  46. bunları bacaklı bir robota
    nasıl dönüştüreceğine
  47. ve o bacakları B noktasına gitmesi
    için nasıl kullanacağına dair
  48. adım adım talimatlar verirdiniz.
  49. Fakat problemi çözmek için
    yapay zekâ kullandığınızda
  50. işler farklı ilerliyor.
  51. Ona problemi
    nasıl çözeceğini söylemiyorsunuz,
  52. ona sadece amacı veriyorsunuz
  53. ve onun, amaca ulaşmak için
    deneme yanılma aracılığıyla
  54. kendisi çözmesi gerekiyor.
  55. Yapay zekânın bu problemi
    çözmek için gittiği yol
  56. şu şekilde görünüyor:
  57. kendisini bir kuleye
    monte ediyor, sonra düşüyor
  58. ve B noktasına iniş yapıyor.
  59. Bu, teknik olarak problemi çözüyor.
  60. Teknik olarak B noktasına gidiyor.
  61. Yapay zekânın tehlikesi aslında
    bizlere karşı ayaklanacağı değil,
  62. tam olarak yapmalarını istediğimiz
    şeyleri yapacak olmalarıdır.
  63. O zaman da yapay zekâyla
    çalışma hilesi şu hale geliyor:
  64. Problemi nasıl düzenleyelim ki
    gerçekten istediğimizi yapsın?
  65. Bu küçük robot bir yapay zekâ
    tarafından kontrol ediliyor.

  66. Yapay zekâ robot bacakları için
    bir tasarım buldu
  67. ve sonra onları, bu engelleri aşmak için
    nasıl kullanacağını çözdü.
  68. Fakat David Ha bu deneyi oluşturduğunda
  69. yapay zekânın bacakları ne kadar
    büyük yapabileceğine dair
  70. çok, çok katı
    kısıtlamalarla oluşturmalıydı,
  71. çünkü, aksi takdirde...
  72. (Gülüşmeler)

  73. Teknik olarak bu engel rotasının
    sonuna varabildi.

  74. Bir yapay zekânın, yürümek gibi basit
    bir eylemi yapmasını sağlamak çok zor.
  75. Yapay zekânın bunu yaptığını görünce,
    bu haksızlık diyebilirsiniz,

  76. yüksek bir kule olup düşemezsiniz,
  77. yürümek için bacak
    kullanmanız gerek diyebilirsiniz.
  78. Görünen o ki, bu da
    her zaman işe yaramıyor.
  79. Yapay zekânın işi hızlı hareket etmek.
  80. Ona ileri doğru koşması gerektiğini
  81. veya kollarını
    kullanamayacağını söylemediler.
  82. Yapay zekâya hızlı hareket etmeyi
    öğrettiğiniz zaman olan şey budur,
  83. takla atmak veya şaşkınca yürüyüşler
    gibi şeylerle karşılaşırsınız.
  84. Bu gerçekten yaygın.
  85. Yerde sürünmek de yaygın.
  86. (Gülüşmeler)

  87. Bana göre, bundan çok daha
    garip olan şey,

  88. "Terminatör" robotları.
  89. Ona bir şans verirseniz, yapay zekanın
    yapacağı diğer şey "Matrix"e girmektir.
  90. Bir simülasyonda
    yapay zekâyı eğitirseniz,
  91. simülasyonun matematik hatalarına
    girmek ve onları enerji için saklamak
  92. gibi şeyleri yapmayı öğrenir.
  93. Sürekli yerde sürünerek
    hızlı hareket etmeyi de çözebilir.
  94. Bir yapay zekâyla çalışırken
  95. bu diğer bir insanla çalışmaktan ziyade,
  96. daha çok doğanın garip bir gücüyle
    çalışmaya benziyor.
  97. Yapay zekâya çözmesi için kazara
    yanlış problemi vermek de çok kolay
  98. ve bir şeyler yanlış gidene dek
    bunu genelde fark etmeyiz.
  99. Yaptığım bir deneyde

  100. yapay zekâdan
    boya renklerini kopyalamasını
  101. ve yeni boya renkleri
    yaratmasını istedim,
  102. bu soldaki listedekiler gibi
    bir liste verdim.
  103. Yapay zekânın önerdikleri ise şunlar.
  104. [Sindi Kakası, Gübremsi, Acı, Gri Kasık]

  105. (Gülüşmeler)

  106. Teknik olarak

  107. istediğimi yaptı.
  108. Ben güzel boya renkleri isimleri
    istediğimi düşünmüştüm,
  109. fakat aslında yapmasını istediğim şey
  110. orijinalinde gördüğü
    harf kombinasyonları türlerini
  111. taklit etmesiydi.
  112. Kelimelerin ne anlama geldiğine dair
  113. veya isimleri bulurken
    kullanmaması gereken bazı kelimeler
  114. olabileceğine dair hiçbir şey söylemedim.
  115. Yani onun tüm dünyası,
    benim ona sağladığım veri.
  116. Dondurma tatları gibi,
    başka hiçbir şey bilmiyor.
  117. Yani genelde veri aracılığıyla

  118. yapay zekâya kazara yanlış şeyi
    yapmasını söylüyoruz.
  119. Bu, karabalık adlı bir balık.
  120. Bir grup araştırmacı da yapay zekâyı
  121. resimlerde karabalığı
    saptaması için eğitmişti.
  122. fakat ona, balığı saptamak için
  123. resmin hangi kısmını
    kullandığını sorduklarında,
  124. işte bunu vurguladı.
  125. Evet, bunlar insan elinin parmakları.
  126. Bir balığı saptamayı deniyorsa,
  127. neden insan elinin parmaklarını arıyor?
  128. Görünen o ki bu karabalık bir ödül balığı
  129. ve eğitimi sırasında
    yapay zekânın gördüğü
  130. birçok resimde,
  131. balık böyle görünüyordu.
  132. (Gülüşmeler)

  133. Parmakların, balığın bir parçası
    olmadığını bilmiyordu.

  134. Baktığı şeyi gerçekten anlayabilecek
    bir yapay zekâ tasarlamanın

  135. neden çok zor olduğunu
    görüyorsunuz.
  136. Ayrıca sürücüsüz arabalarda
  137. görüntü tanımayı tasarlamanın
    zor olmasının nedeni de bu
  138. ve sürücüsüz arabalardaki
    birçok başarısızlık da
  139. yapay zekânın şaşırması nedenlidir.
  140. 2016'dan bir örnek vermek istiyorum.
  141. Birisi Tesla'nın oto-pilot yapay zekasını
    kullanırken ölümcül bir kaza oldu,
  142. fakat tasarlandığı üzere
    otoyolda kullanmak yerine,
  143. şehrin sokaklarında kullandılar.
  144. Olan şey de şuydu;
  145. bir kamyon, arabanın önüne sürdü
    ve araba fren yapamadı.
  146. Yapay zekâ kesinlikle resimlerde
    kamyonları saptamak üzere eğitilmişti.
  147. Fakat olan şey şu gibi görünüyor,
  148. yapay zekâ otoyolda giden
    kamyonları saptamayı öğrenmişti,
  149. yani kamyonları arkadan
    göreceğimiz bir şekilde öğrenmişti.
  150. Yanı görünen kamyonların
    otoyolda olmaları beklenmez
  151. ve yapay zekâ bu kamyonu gördüğünde,
  152. büyük olasılıkla
    bir yol işareti olarak algıladı
  153. ve altından geçmenin
    güvenli olduğunu düşündü.
  154. Yapay zekânın başka alanda
    attığı yanlış bir adım daha.

  155. Amazon, algoritmanın kadınlara karşı
    ayrımcılık yapmayı öğrendiğini
  156. keşfettiği zaman,
  157. bir özgeçmiş-sıralama algoritmasından
    vazgeçmek zorunda kaldı.
  158. Olan şey şuydu, yapay zekâyı
    geçmişte işe aldıkları insanlara ait
  159. örnek özgeçmişlerle eğittiler.
  160. Yapay zekâ da bu örneklerden,
    kadın okullarına gitmiş olan
  161. veya özgeçmişinin herhangi bir yerinde
  162. "kadın" kelimesi geçen,
    -- "kadın futbol takımı"
  163. veya "Kadın Mühendisler Derneği" gibi --
    özgeçmişlerden kaçınmayı öğrendi.
  164. Yapay zekâ, insanların
    yaptığını gördüğü bu şeyi
  165. kopyalaması gerekmediğini bilmiyordu.
  166. Teknik olarak da
    yapmasını istedikleri şeyi yaptı.
  167. Sadece, yanlış şeyi yapmasını istediler.
  168. Yapay zekâyla bu her zaman olur.

  169. Yapay zeka çok zararlı olabilir
    ve bunu bilmeyebilir.
  170. Facebook, YouTube'da yeni içerik
    öneren yapay zekâlar,
  171. tıklama ve görüntüleme sayısını
    yükseltmek üzere optimize edilmiştir.
  172. Ne yazık ki bunu yapmak için
    buldukları bir yol da,
  173. komplo teorisi veya fanatiklik
    içerikleri önermek.
  174. Yapay zekâların, bu içeriklere dair
    herhangi bir fikirleri yok
  175. ve bu içeriği önerdikleri zaman
    sonucun ne olacağına dair de
  176. herhangi bir fikirleri yok.
  177. Yani, yapay zekâyla çalışırken

  178. problemlerden kaçınmak bize bağlıdır.
  179. Yanlış giden şeylerden kaçınmak da öyle,
  180. bu çok eski iletişim
    problemine kadar da inebilir,
  181. insanlar yapay zekâyla nasıl iletişim
    kuracağını öğrenmelidir.
  182. Yapay zekânın ne yapabildiğini
    ve ne yapamadığını öğrenmeliyiz
  183. ve yapay zekânın,
    çok küçük solucan beyniyle,
  184. ondan yapmasını istediğimiz şeyi
    aslında anlamadığını anlamalıyız.
  185. Yani, süper-yetkili, her şeyi bilen
    bilim kurgu yapay zekâlarına benzemeyen
  186. yapay zekâ ile çalışmaya
    hazırlıklı olmalıyız.
  187. Şimdiki zamanda sahip olduğumuz
  188. tek yapay zekâyla
    çalışmaya hazırlıklı olmalıyız.
  189. Günümüzün yapay zekâsı da yeterince garip.
  190. Teşekkürler.

  191. (Alkış)