Indonesian subtitles

← Bahaya kecerdasan buatan lebih aneh dari dugaanmu

Get Embed Code
31 Languages

Showing Revision 5 created 11/10/2019 by Ade Indarta.

  1. Kecerdasan buatan (AI)
  2. dikenal mengganggu
    berbagai macam industri.
  3. Bagaimana dengan es krim?
  4. Rasa baru mencengangkan seperti apa
    yang bisa kita ciptakan
  5. dengan kecanggihan kecerdasan buatan?
  6. Saya bekerja sama dengan pembuat kode
    dari SMP Kealing
  7. untuk mencari jawaban pertanyaan ini.
  8. Mereka mengumpulkan 1.600 lebih
    rasa es krim yang sudah ada,
  9. lalu kami memasukkannya ke algoritme
    untuk melihat hasilnya.
  10. Ini beberapa rasa yang diciptakan AI.
  11. [Patahan Sampah Labu]

  12. (Tertawa)

  13. [Lendir Selai Kacang]

  14. [Penyakit Es Krim Stroberi]

  15. (Tertawa)

  16. Rasa-rasa ini tidak seenak harapan kami.

  17. Pertanyaannya, apa yang terjadi?
  18. Apa yang salah?
  19. Apakah AI ingin membunuh kita?
  20. Atau hanya menuruti perintah,
    tapi ada masalah?
  21. Dalam film, jika AI bermasalah,

  22. itu biasanya karena kecerdasan buatan itu
  23. tidak ingin patuh pada manusia lagi.
  24. Dia memiliki tujuan sendiri,
    terima kasih.
  25. Namun di kehidupan nyata,
    AI yang kita miliki
  26. tidak cukup pintar untuk itu.
  27. AI yang ada memiliki daya komputasi
  28. seperti cacing tanah
  29. atau setidaknya seperti lebah madu.
  30. Mungkin kurang dari itu.
  31. Kita terus mempelajari hal baru
    tentang otak
  32. dan menunjukkan bahwa AI
    tak sebanding dengan otak kita.
  33. AI saat ini
    bisa mengenali pejalan kaki dalam foto,
  34. tapi tidak paham apa itu pejalan kaki
  35. selain bahwa itu hanya kumpulan garis,
    tekstur, dan lainnya.
  36. AI tak tahu apa itu manusia.
  37. Apakah AI saat ini
    akan menuruti perintah kita?
  38. Ya, jika bisa.
  39. Namun, mungkin tak sesuai keinginan kita.
  40. Anggap Anda ingin kecerdasan buatan

  41. mengambil suku cadang robot,
  42. menyusunnya menjadi robot,
    dan pindah dari Poin A ke Poin B.
  43. Jika Anda ingin selesaikan masalah ini
  44. dengan membuat program komputer biasa,
  45. Anda memberi instruksi
    langkah demi langkah pada program
  46. untuk mengambil suku cadang,
  47. menyusunnya menjadi robot berkaki,
  48. dan cara menggunakan kakinya
    untuk berjalan ke Poin B.
  49. Namun, jika memakai kecerdasan buatan,
  50. caranya berbeda.
  51. Tak perlu menjelaskan
    cara menyelesaikan masalah,
  52. Anda hanya memberi tujuan.
  53. AI harus mencoba mencari cara sendiri
  54. untuk mencapai tujuan itu.
  55. Ternyata, AI cenderung
    mengatasi masalah ini
  56. seperti ini:
  57. dia membentuk dirinya menjadi menara,
    lalu jatuh
  58. dan mendarat di Poin B.
  59. Secara teknis, masalahnya terpecahkan.
  60. Dia sampai ke Poin B.
  61. Bahaya kecerdasan buatan
    bukan kemungkinan dia memberontak,
  62. tapi AI akan benar-benar mematuhi kita.
  63. Maka, trik menggunakan AI adalah
  64. bagaimana kita menyusun masalah
    agar AI berfungsi sesuai harapan?
  65. Robot kecil ini dikontrol oleh AI.

  66. AI membuat desain untuk kaki robotnya
  67. dan bisa menggunakannya
    untuk melalui rintangan ini.
  68. Namun, saat David Ha
    membuat eksperimen ini,
  69. dia harus membuat batasan tegas
  70. seberapa besar kaki
    yang bisa dibuat oleh AI.
  71. Jika tidak...
  72. (Tertawa)

  73. Secara teknis,
    rintangan itu berhasil dilalui.

  74. Sangat sulit membuat AI
    melakukan hal sederhana seperti berjalan.
  75. Saat melihat ini,
    Anda mungkin berkata itu tidak adil.

  76. Anda tak boleh menjadi menara tinggi,
    lalu jatuh.
  77. Anda harus menggunakan kaki
    untuk berjalan.
  78. Ternyata, itu tidak selalu berhasil.
  79. Tugas AI ini adalah bergerak cepat.
  80. Kami tak memintanya berlari
    menghadap ke depan
  81. atau tak boleh menggunakan tangan.
  82. Ini yang terjadi saat Anda melatih AI
    bergerak cepat.
  83. Hasilnya adalah jungkir balik
    dan cara berjalan aneh.
  84. Ini biasa terjadi.
  85. Juga bergeliat di lantai
    dalam bentuk gumpalan.
  86. (Tertawa)

  87. Menurut pendapat saya,
    yang semestinya lebih aneh

  88. adalah robot "Terminator".
  89. AI mungkin akan meretas "The Matrix"
    jika dicoba.
  90. Jika AI dilatih dalam sebuah simulasi,
  91. dia akan belajar cara meretas
    kesalahan matematis simulasi itu
  92. dan menjadikannya energi.
  93. Atau dia akan bisa bergerak lebih cepat
    dengan bergeliat di lantai.
  94. Bekerja dengan AI
  95. tidak seperti bekerja dengan manusia,
  96. tapi seperti bekerja
    dengan kekuatan alam yang aneh.
  97. Kesalahan sangat mudah terjadi
    saat memberi perintah pada AI,
  98. dan kami sering kali tak sadar
    sampai ada yang salah.
  99. Ini eksperimen yang saya lakukan.

  100. Saya ingin AI menyalin warna cat
  101. untuk menciptakan warna cat baru
  102. dengan daftar seperti gambar
    di sebelah kiri.
  103. Inilah yang diciptakan oleh AI.
  104. [Kotoran Sindi, Kerdil,
    Menderita, Kemaluan Abu-Abu]

  105. (Tertawa)

  106. Secara teknis,

  107. perintah saya dipatuhi.
  108. Saya sudah memintanya
    membuat nama cat yang bagus,
  109. tapi yang sebenarnya saya perintahkan
  110. adalah meniru kombinasi huruf
  111. dari daftar aslinya.
  112. Saya tak menjelaskan apa arti kata-kata
  113. atau mungkin ada kata-kata
  114. yang harus dihindari dalam warna cat ini.
  115. Seluruh dunia AI ini
    adalah data yang saya berikan.
  116. Seperti rasa es krim,
    AI itu tidak tahu tentang hal lain.
  117. Jadi, melalui data,

  118. kami sering salah memberi perintah
    secara tak sengaja.
  119. Ini adalah ikan mas tinca.
  120. Ada sekelompok peneliti
  121. yang melatih AI
    untuk mengenali ikan ini dalam foto.
  122. Saat mereka bertanya
  123. bagian foto mana yang digunakan
    untuk mengenali ikannya,
  124. ini bagian yang disorot.
  125. Ya, itu jari manusia.
  126. Kenapa AI mencari jari manusia
  127. untuk mengenali ikan?
  128. Ternyata, ikan mas tinca
    adalah ikan trofi.
  129. Jadi, dalam banyak foto yang dilihat AI
  130. selama pelatihan,
  131. ikannya tampak seperti ini.
  132. (Tertawa)

  133. AI tak tahu
    jari itu bukan bagian dari ikan.

  134. Itulah sebabnya sangat sulit
    merancang AI

  135. yang bisa mengerti apa yang dilihatnya.
  136. Inilah alasan
    merancang pengenalan gambar
  137. dalam mobil tanpa pengemudi
    sangat sulit.
  138. Banyak mobil tanpa pengemudi gagal,
  139. karena AI menjadi bingung.
  140. Saya ingin membahas contoh
    dari tahun 2016.
  141. Terjadi kecelakaan fatal saat seseorang
    mengendarai Tesla dengan autopilot.
  142. Namun, alih-alih memakainya di jalan tol
    seperti tujuan awalnya,
  143. dia menggunakannya di jalanan kota.
  144. Yang terjadi adalah
  145. truk melaju ke depan mobil
    dan mobilnya tak mengerem.
  146. AI itu sudah dilatih
    untuk mengenali truk dalam foto.
  147. Namun, sepertinya yang terjadi adalah
  148. AI itu dilatih
    untuk mengenali truk di jalan tol,
  149. di mana biasanya truk datang
    dari belakang.
  150. Truk di samping tidak seharusnya ada
    di jalan tol.
  151. Saat AI melihat truk itu,
  152. sepertinya AI mengenalinya
    sebagai rambu lalu lintas,
  153. dan melaju di bawahnya akan aman.
  154. Ini kesalahan AI di bidang yang berbeda.

  155. Baru-baru ini, Amazon menghentikan
    algoritme penyortiran CV
  156. yang mereka kerjakan
  157. saat mereka tahu algoritme itu
    mendiskriminasi wanita.
  158. Itu karena mereka melatih AI
    dengan contoh CV
  159. dari orang-orang
    yang pernah mereka terima.
  160. Dari contoh itu, AI belajar
    menghindari CV orang-orang
  161. yang pernah belajar di universitas putri
  162. atau yang berisi kata "wanita" di CV-nya,
  163. seperti "tim sepak bola wanita"
    atau "Perhimpunan Insinyur Wanita".
  164. AI itu tidak tahu
    dia tak seharusnya menyalin hal tertentu
  165. dari yang dilakukan manusia.
  166. Secara teknis,
    AI itu sudah mematuhi perintah.
  167. Mereka hanya tak sengaja
    memberi perintah yang salah.
  168. Ini sering terjadi dengan AI.

  169. AI bisa sangat merusak
    tanpa menyadarinya.
  170. Jadi, AI yang menyarankan konten baru
    di Facebook dan YouTube
  171. dioptimalkan untuk meningkatkan
    jumlah klik dan tontonan.
  172. Sayangnya, cara yang mereka pelajari
    untuk melakukan itu
  173. adalah menyarankan konten teori konspirasi
    atau kefanatikan.
  174. AI itu sendiri tak mengerti
    apa itu konten.
  175. AI juga tak mengerti konsekuensi
  176. dari menyarankan konten seperti itu.
  177. Saat kita bekerja dengan AI,

  178. kita yang menjadi penentu
    untuk menghindari masalah.
  179. Menghindari kesalahan
  180. mungkin mengarah pada masalah komunikasi
    yang sudah ada sejak lama,
  181. di mana manusia harus belajar
    cara berkomunikasi dengan AI.
  182. Kita harus mempelajari
    yang bisa dilakukan AI dan tidak.
  183. Juga memahami,
    dengan kemampuan berpikirnya,
  184. AI tidak begitu mengerti perintah kita.
  185. Dengan kata lain,
    kita harus siap bekerja dengan AI
  186. yang tak begitu kompeten dan canggih
    seperti dalam fiksi ilmiah.
  187. Kita harus siap bekerja dengan AI
  188. yang kita miliki saat ini.
  189. Dan AI masa kini agak aneh.
  190. Terima kasih.

  191. (Tepuk tangan)