0:00:01.765,0:00:04.765
Kecerdasan buatan (AI)

0:00:04.789,0:00:08.318
dikenal mengganggu[br]berbagai macam industri.

0:00:08.961,0:00:11.004
Bagaimana dengan es krim?

0:00:11.879,0:00:15.518
Rasa baru mencengangkan seperti apa[br]yang bisa kita ciptakan

0:00:15.542,0:00:18.518
dengan kecanggihan kecerdasan buatan?

0:00:19.011,0:00:23.172
Saya bekerja sama dengan pembuat kode[br]dari SMP Kealing

0:00:23.196,0:00:25.437
untuk mencari jawaban pertanyaan ini.

0:00:25.461,0:00:30.542
Mereka mengumpulkan 1.600 lebih[br]rasa es krim yang sudah ada,

0:00:30.566,0:00:36.088
lalu kami memasukkannya ke algoritme[br]untuk melihat hasilnya.

0:00:36.112,0:00:39.865
Ini beberapa rasa yang diciptakan AI.

0:00:40.444,0:00:41.915
[Patahan Sampah Labu]

0:00:41.939,0:00:43.341
(Tertawa)

0:00:43.365,0:00:45.834
[Lendir Selai Kacang]

0:00:46.822,0:00:48.165
[Penyakit Es Krim Stroberi]

0:00:48.189,0:00:50.315
(Tertawa)

0:00:50.339,0:00:54.936
Rasa-rasa ini tidak seenak harapan kami.

0:00:54.960,0:00:56.824
Pertanyaannya, apa yang terjadi?

0:00:56.848,0:00:58.242
Apa yang salah?

0:00:58.266,0:01:00.225
Apakah AI ingin membunuh kita?

0:01:01.027,0:01:05.337
Atau hanya menuruti perintah,[br]tapi ada masalah?

0:01:06.567,0:01:09.031
Dalam film, jika AI bermasalah,

0:01:09.055,0:01:11.767
itu biasanya karena kecerdasan buatan itu

0:01:11.791,0:01:13.963
tidak ingin patuh pada manusia lagi.

0:01:13.987,0:01:16.710
Dia memiliki tujuan sendiri,[br]terima kasih.

0:01:17.266,0:01:20.482
Namun di kehidupan nyata,[br]AI yang kita miliki

0:01:20.506,0:01:22.369
tidak cukup pintar untuk itu.

0:01:22.781,0:01:25.763
AI yang ada memiliki daya komputasi

0:01:25.787,0:01:27.063
seperti cacing tanah

0:01:27.087,0:01:30.490
atau setidaknya seperti lebah madu.

0:01:30.514,0:01:32.729
Mungkin kurang dari itu.

0:01:32.753,0:01:35.347
Kita terus mempelajari hal baru[br]tentang otak

0:01:35.371,0:01:39.731
dan menunjukkan bahwa AI[br]tak sebanding dengan otak kita.

0:01:39.755,0:01:45.418
AI saat ini[br]bisa mengenali pejalan kaki dalam foto,

0:01:45.442,0:01:48.425
tapi tidak paham apa itu pejalan kaki

0:01:48.449,0:01:53.273
selain bahwa itu hanya kumpulan garis,[br]tekstur, dan lainnya.

0:01:53.792,0:01:56.313
AI tak tahu apa itu manusia.

0:01:56.822,0:02:00.104
Apakah AI saat ini[br]akan menuruti perintah kita?

0:02:00.128,0:02:01.722
Ya, jika bisa.

0:02:01.746,0:02:04.472
Namun, mungkin tak sesuai keinginan kita.

0:02:04.496,0:02:06.911
Anggap Anda ingin kecerdasan buatan

0:02:06.935,0:02:09.554
mengambil suku cadang robot,

0:02:09.578,0:02:13.775
menyusunnya menjadi robot,[br]dan pindah dari Poin A ke Poin B.

0:02:13.799,0:02:15.664
Jika Anda ingin selesaikan masalah ini

0:02:15.684,0:02:18.655
dengan membuat program komputer biasa,

0:02:18.679,0:02:21.980
Anda memberi instruksi[br]langkah demi langkah pada program

0:02:22.000,0:02:23.449
untuk mengambil suku cadang,

0:02:23.473,0:02:25.880
menyusunnya menjadi robot berkaki,

0:02:25.904,0:02:28.846
dan cara menggunakan kakinya[br]untuk berjalan ke Poin B.

0:02:29.441,0:02:31.781
Namun, jika memakai kecerdasan buatan,

0:02:31.805,0:02:32.979
caranya berbeda.

0:02:33.003,0:02:35.385
Tak perlu menjelaskan[br]cara menyelesaikan masalah,

0:02:35.409,0:02:36.888
Anda hanya memberi tujuan.

0:02:36.912,0:02:40.174
AI harus mencoba mencari cara sendiri

0:02:40.198,0:02:41.682
untuk mencapai tujuan itu.

0:02:42.254,0:02:46.356
Ternyata, AI cenderung[br]mengatasi masalah ini

0:02:46.380,0:02:47.864
seperti ini:

0:02:47.888,0:02:51.255
dia membentuk dirinya menjadi menara,[br]lalu jatuh

0:02:51.279,0:02:53.106
dan mendarat di Poin B.

0:02:53.130,0:02:55.959
Secara teknis, masalahnya terpecahkan.

0:02:55.983,0:02:57.622
Dia sampai ke Poin B.

0:02:57.646,0:03:01.911
Bahaya kecerdasan buatan[br]bukan kemungkinan dia memberontak,

0:03:01.935,0:03:06.209
tapi AI akan benar-benar mematuhi kita.

0:03:06.876,0:03:09.374
Maka, trik menggunakan AI adalah

0:03:09.398,0:03:13.226
bagaimana kita menyusun masalah[br]agar AI berfungsi sesuai harapan?

0:03:14.726,0:03:18.032
Robot kecil ini dikontrol oleh AI.

0:03:18.056,0:03:20.870
AI membuat desain untuk kaki robotnya

0:03:20.894,0:03:24.972
dan bisa menggunakannya[br]untuk melalui rintangan ini.

0:03:24.996,0:03:27.737
Namun, saat David Ha[br]membuat eksperimen ini,

0:03:27.761,0:03:30.617
dia harus membuat batasan tegas

0:03:30.641,0:03:33.933
seberapa besar kaki[br]yang bisa dibuat oleh AI.

0:03:33.957,0:03:35.507
Jika tidak...

0:03:43.058,0:03:46.989
(Tertawa)

0:03:48.563,0:03:52.308
Secara teknis,[br]rintangan itu berhasil dilalui.

0:03:52.332,0:03:57.274
Sangat sulit membuat AI[br]melakukan hal sederhana seperti berjalan.

0:03:57.298,0:04:01.118
Saat melihat ini,[br]Anda mungkin berkata itu tidak adil.

0:04:01.142,0:04:03.722
Anda tak boleh menjadi menara tinggi,[br]lalu jatuh.

0:04:03.746,0:04:07.181
Anda harus menggunakan kaki[br]untuk berjalan.

0:04:07.205,0:04:09.874
Ternyata, itu tidak selalu berhasil.

0:04:09.878,0:04:12.747
Tugas AI ini adalah bergerak cepat.

0:04:13.115,0:04:16.708
Kami tak memintanya berlari[br]menghadap ke depan

0:04:16.732,0:04:18.990
atau tak boleh menggunakan tangan.

0:04:19.487,0:04:24.105
Ini yang terjadi saat Anda melatih AI[br]bergerak cepat.

0:04:24.129,0:04:27.633
Hasilnya adalah jungkir balik[br]dan cara berjalan aneh.

0:04:27.657,0:04:29.087
Ini biasa terjadi.

0:04:29.667,0:04:32.846
Juga bergeliat di lantai[br]dalam bentuk gumpalan.

0:04:32.870,0:04:34.020
(Tertawa)

0:04:35.241,0:04:37.955
Menurut pendapat saya,[br]yang semestinya lebih aneh

0:04:37.969,0:04:39.805
adalah robot "Terminator".

0:04:40.256,0:04:44.011
AI mungkin akan meretas "The Matrix"[br]jika dicoba.

0:04:44.035,0:04:46.552
Jika AI dilatih dalam sebuah simulasi,

0:04:46.576,0:04:50.689
dia akan belajar cara meretas[br]kesalahan matematis simulasi itu

0:04:50.713,0:04:52.870
dan menjadikannya energi.

0:04:52.884,0:04:58.369
Atau dia akan bisa bergerak lebih cepat[br]dengan bergeliat di lantai.

0:04:58.383,0:04:59.968
Bekerja dengan AI

0:04:59.982,0:05:02.441
tidak seperti bekerja dengan manusia,

0:05:02.465,0:05:06.094
tapi seperti bekerja[br]dengan kekuatan alam yang aneh.

0:05:06.562,0:05:11.185
Kesalahan sangat mudah terjadi[br]saat memberi perintah pada AI,

0:05:11.209,0:05:15.747
dan kami sering kali tak sadar[br]sampai ada yang salah.

0:05:16.242,0:05:18.322
Ini eksperimen yang saya lakukan.

0:05:18.346,0:05:21.448
Saya ingin AI menyalin warna cat

0:05:21.472,0:05:23.298
untuk menciptakan warna cat baru

0:05:23.322,0:05:26.309
dengan daftar seperti gambar[br]di sebelah kiri.

0:05:26.798,0:05:29.802
Inilah yang diciptakan oleh AI.

0:05:29.826,0:05:32.969
[Kotoran Sindi, Kerdil,[br]Menderita, Kemaluan Abu-Abu]

0:05:32.993,0:05:37.223
(Tertawa)

0:05:39.047,0:05:41.063
Secara teknis,

0:05:41.087,0:05:42.951
perintah saya dipatuhi.

0:05:42.975,0:05:46.283
Saya sudah memintanya[br]membuat nama cat yang bagus,

0:05:46.307,0:05:48.614
tapi yang sebenarnya saya perintahkan

0:05:48.638,0:05:51.724
adalah meniru kombinasi huruf

0:05:51.748,0:05:53.653
dari daftar aslinya.

0:05:53.677,0:05:56.775
Saya tak menjelaskan apa arti kata-kata

0:05:56.799,0:05:59.359
atau mungkin ada kata-kata

0:05:59.383,0:06:02.272
yang harus dihindari dalam warna cat ini.

0:06:03.061,0:06:06.635
Seluruh dunia AI ini[br]adalah data yang saya berikan.

0:06:06.659,0:06:10.687
Seperti rasa es krim,[br]AI itu tidak tahu tentang hal lain.

0:06:12.411,0:06:14.129
Jadi, melalui data,

0:06:14.153,0:06:18.197
kami sering salah memberi perintah[br]secara tak sengaja.

0:06:18.694,0:06:21.726
Ini adalah ikan mas tinca.

0:06:21.750,0:06:23.565
Ada sekelompok peneliti

0:06:23.589,0:06:27.463
yang melatih AI[br]untuk mengenali ikan ini dalam foto.

0:06:27.487,0:06:28.693
Saat mereka bertanya

0:06:28.717,0:06:32.233
bagian foto mana yang digunakan[br]untuk mengenali ikannya,

0:06:32.257,0:06:33.615
ini bagian yang disorot.

0:06:35.203,0:06:37.392
Ya, itu jari manusia.

0:06:37.416,0:06:39.335
Kenapa AI mencari jari manusia

0:06:39.369,0:06:41.420
untuk mengenali ikan?

0:06:42.126,0:06:45.290
Ternyata, ikan mas tinca[br]adalah ikan trofi.

0:06:45.314,0:06:49.125
Jadi, dalam banyak foto yang dilihat AI

0:06:49.149,0:06:50.200
selama pelatihan,

0:06:50.224,0:06:51.814
ikannya tampak seperti ini.

0:06:51.838,0:06:53.473
(Tertawa)

0:06:53.497,0:06:56.827
AI tak tahu[br]jari itu bukan bagian dari ikan.

0:06:58.808,0:07:02.928
Itulah sebabnya sangat sulit[br]merancang AI

0:07:02.952,0:07:06.271
yang bisa mengerti apa yang dilihatnya.

0:07:06.295,0:07:09.157
Inilah alasan[br]merancang pengenalan gambar

0:07:09.181,0:07:11.248
dalam mobil tanpa pengemudi[br]sangat sulit.

0:07:11.272,0:07:13.477
Banyak mobil tanpa pengemudi gagal,

0:07:13.501,0:07:16.386
karena AI menjadi bingung.

0:07:16.410,0:07:20.418
Saya ingin membahas contoh[br]dari tahun 2016.

0:07:20.442,0:07:24.897
Terjadi kecelakaan fatal saat seseorang[br]mengendarai Tesla dengan autopilot.

0:07:24.921,0:07:28.335
Namun, alih-alih memakainya di jalan tol[br]seperti tujuan awalnya,

0:07:28.359,0:07:30.564
dia menggunakannya di jalanan kota.

0:07:31.159,0:07:32.274
Yang terjadi adalah

0:07:32.288,0:07:35.834
truk melaju ke depan mobil[br]dan mobilnya tak mengerem.

0:07:36.507,0:07:41.269
AI itu sudah dilatih[br]untuk mengenali truk dalam foto.

0:07:41.293,0:07:43.438
Namun, sepertinya yang terjadi adalah

0:07:43.462,0:07:46.393
AI itu dilatih[br]untuk mengenali truk di jalan tol,

0:07:46.417,0:07:49.316
di mana biasanya truk datang[br]dari belakang.

0:07:49.340,0:07:52.760
Truk di samping tidak seharusnya ada[br]di jalan tol.

0:07:52.784,0:07:56.239
Saat AI melihat truk itu,

0:07:56.263,0:08:01.090
sepertinya AI mengenalinya[br]sebagai rambu lalu lintas,

0:08:01.114,0:08:03.387
dan melaju di bawahnya akan aman.

0:08:04.114,0:08:06.674
Ini kesalahan AI di bidang yang berbeda.

0:08:06.688,0:08:10.148
Baru-baru ini, Amazon menghentikan[br]algoritme penyortiran CV

0:08:10.172,0:08:11.292
yang mereka kerjakan

0:08:11.326,0:08:14.874
saat mereka tahu algoritme itu[br]mendiskriminasi wanita.

0:08:14.878,0:08:17.784
Itu karena mereka melatih AI[br]dengan contoh CV

0:08:17.798,0:08:20.360
dari orang-orang[br]yang pernah mereka terima.

0:08:20.384,0:08:24.407
Dari contoh itu, AI belajar[br]menghindari CV orang-orang

0:08:24.431,0:08:26.457
yang pernah belajar di universitas putri

0:08:26.481,0:08:29.207
atau yang berisi kata "wanita" di CV-nya,

0:08:29.231,0:08:33.887
seperti "tim sepak bola wanita"[br]atau "Perhimpunan Insinyur Wanita".

0:08:33.911,0:08:37.885
AI itu tidak tahu[br]dia tak seharusnya menyalin hal tertentu

0:08:37.909,0:08:39.887
dari yang dilakukan manusia.

0:08:39.891,0:08:43.088
Secara teknis,[br]AI itu sudah mematuhi perintah.

0:08:43.112,0:08:46.269
Mereka hanya tak sengaja[br]memberi perintah yang salah.

0:08:46.613,0:08:49.548
Ini sering terjadi dengan AI.

0:08:50.120,0:08:53.711
AI bisa sangat merusak[br]tanpa menyadarinya.

0:08:53.735,0:08:58.813
Jadi, AI yang menyarankan konten baru[br]di Facebook dan YouTube

0:08:58.837,0:09:02.376
dioptimalkan untuk meningkatkan[br]jumlah klik dan tontonan.

0:09:02.400,0:09:05.836
Sayangnya, cara yang mereka pelajari[br]untuk melakukan itu

0:09:05.860,0:09:10.363
adalah menyarankan konten teori konspirasi[br]atau kefanatikan.

0:09:10.902,0:09:16.204
AI itu sendiri tak mengerti[br]apa itu konten.

0:09:16.228,0:09:19.623
AI juga tak mengerti konsekuensi

0:09:19.647,0:09:21.816
dari menyarankan konten seperti itu.

0:09:22.206,0:09:24.307
Saat kita bekerja dengan AI,

0:09:24.331,0:09:28.513
kita yang menjadi penentu[br]untuk menghindari masalah.

0:09:28.537,0:09:30.800
Menghindari kesalahan

0:09:30.824,0:09:35.410
mungkin mengarah pada masalah komunikasi[br]yang sudah ada sejak lama,

0:09:35.434,0:09:39.179
di mana manusia harus belajar[br]cara berkomunikasi dengan AI.

0:09:39.203,0:09:43.242
Kita harus mempelajari[br]yang bisa dilakukan AI dan tidak.

0:09:43.266,0:09:46.352
Juga memahami,[br]dengan kemampuan berpikirnya,

0:09:46.376,0:09:50.389
AI tidak begitu mengerti perintah kita.

0:09:51.148,0:09:54.469
Dengan kata lain, [br]kita harus siap bekerja dengan AI

0:09:54.493,0:09:59.751
yang tak begitu kompeten dan canggih[br]seperti dalam fiksi ilmiah.

0:09:59.775,0:10:02.007
Kita harus siap bekerja dengan AI

0:10:02.031,0:10:05.599
yang kita miliki saat ini.

0:10:05.623,0:10:09.828
Dan AI masa kini agak aneh.

0:10:09.852,0:10:11.042
Terima kasih.

0:10:11.066,0:10:16.291
(Tepuk tangan)