WEBVTT

00:00:01.765 --> 00:00:04.765
Kecerdasan buatan (AI)

00:00:04.789 --> 00:00:08.318
dikenal mengganggu
berbagai macam industri.

00:00:08.961 --> 00:00:11.004
Bagaimana dengan es krim?

00:00:11.879 --> 00:00:15.518
Rasa baru mencengangkan seperti apa
yang bisa kita ciptakan

00:00:15.542 --> 00:00:18.518
dengan kecanggihan kecerdasan buatan?

00:00:19.011 --> 00:00:23.172
Saya bekerja sama dengan pembuat kode
dari SMP Kealing

00:00:23.196 --> 00:00:25.437
untuk mencari jawaban pertanyaan ini.

00:00:25.461 --> 00:00:30.542
Mereka mengumpulkan 1.600 lebih
rasa es krim yang sudah ada,

00:00:30.566 --> 00:00:36.088
lalu kami memasukkannya ke algoritme
untuk melihat hasilnya.

00:00:36.112 --> 00:00:39.865
Ini beberapa rasa yang diciptakan AI.

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
[Patahan Sampah Labu]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(Tertawa)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[Lendir Selai Kacang]

NOTE Paragraph

00:00:46.822 --> 00:00:48.165
[Penyakit Es Krim Stroberi]

NOTE Paragraph

00:00:48.189 --> 00:00:50.315
(Tertawa)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Rasa-rasa ini tidak seenak harapan kami.

00:00:54.960 --> 00:00:56.824
Pertanyaannya, apa yang terjadi?

00:00:56.848 --> 00:00:58.242
Apa yang salah?

00:00:58.266 --> 00:01:00.225
Apakah AI ingin membunuh kita?

00:01:01.027 --> 00:01:05.337
Atau hanya menuruti perintah,
tapi ada masalah?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
Dalam film, jika AI bermasalah,

00:01:09.055 --> 00:01:11.767
itu biasanya karena kecerdasan buatan itu

00:01:11.791 --> 00:01:13.963
tidak ingin patuh pada manusia lagi.

00:01:13.987 --> 00:01:16.710
Dia memiliki tujuan sendiri,
terima kasih.

00:01:17.266 --> 00:01:20.482
Namun di kehidupan nyata,
AI yang kita miliki

00:01:20.506 --> 00:01:22.369
tidak cukup pintar untuk itu.

00:01:22.781 --> 00:01:25.763
AI yang ada memiliki daya komputasi

00:01:25.787 --> 00:01:27.063
seperti cacing tanah

00:01:27.087 --> 00:01:30.490
atau setidaknya seperti lebah madu.

00:01:30.514 --> 00:01:32.729
Mungkin kurang dari itu.

00:01:32.753 --> 00:01:35.347
Kita terus mempelajari hal baru
tentang otak

00:01:35.371 --> 00:01:39.731
dan menunjukkan bahwa AI
tak sebanding dengan otak kita.

00:01:39.755 --> 00:01:45.418
AI saat ini
bisa mengenali pejalan kaki dalam foto,

00:01:45.442 --> 00:01:48.425
tapi tidak paham apa itu pejalan kaki

00:01:48.449 --> 00:01:53.273
selain bahwa itu hanya kumpulan garis,
tekstur, dan lainnya.

00:01:53.792 --> 00:01:56.313
AI tak tahu apa itu manusia.

00:01:56.822 --> 00:02:00.104
Apakah AI saat ini
akan menuruti perintah kita?

00:02:00.128 --> 00:02:01.722
Ya, jika bisa.

00:02:01.746 --> 00:02:04.472
Namun, mungkin tak sesuai keinginan kita.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
Anggap Anda ingin kecerdasan buatan

00:02:06.935 --> 00:02:09.554
mengambil suku cadang robot,

00:02:09.578 --> 00:02:13.775
menyusunnya menjadi robot,
dan pindah dari Poin A ke Poin B.

00:02:13.799 --> 00:02:15.664
Jika Anda ingin selesaikan masalah ini

00:02:15.684 --> 00:02:18.655
dengan membuat program komputer biasa,

00:02:18.679 --> 00:02:21.980
Anda memberi instruksi
langkah demi langkah pada program

00:02:22.000 --> 00:02:23.449
untuk mengambil suku cadang,

00:02:23.473 --> 00:02:25.880
menyusunnya menjadi robot berkaki,

00:02:25.904 --> 00:02:28.846
dan cara menggunakan kakinya
untuk berjalan ke Poin B.

00:02:29.441 --> 00:02:31.781
Namun, jika memakai kecerdasan buatan,

00:02:31.805 --> 00:02:32.979
caranya berbeda.

00:02:33.003 --> 00:02:35.385
Tak perlu menjelaskan
cara menyelesaikan masalah,

00:02:35.409 --> 00:02:36.888
Anda hanya memberi tujuan.

00:02:36.912 --> 00:02:40.174
AI harus mencoba mencari cara sendiri

00:02:40.198 --> 00:02:41.682
untuk mencapai tujuan itu.

00:02:42.254 --> 00:02:46.356
Ternyata, AI cenderung
mengatasi masalah ini

00:02:46.380 --> 00:02:47.864
seperti ini:

00:02:47.888 --> 00:02:51.255
dia membentuk dirinya menjadi menara,
lalu jatuh

00:02:51.279 --> 00:02:53.106
dan mendarat di Poin B.

00:02:53.130 --> 00:02:55.959
Secara teknis, masalahnya terpecahkan.

00:02:55.983 --> 00:02:57.622
Dia sampai ke Poin B.

00:02:57.646 --> 00:03:01.911
Bahaya kecerdasan buatan
bukan kemungkinan dia memberontak,

00:03:01.935 --> 00:03:06.209
tapi AI akan benar-benar mematuhi kita.

00:03:06.876 --> 00:03:09.374
Maka, trik menggunakan AI adalah

00:03:09.398 --> 00:03:13.226
bagaimana kita menyusun masalah
agar AI berfungsi sesuai harapan?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Robot kecil ini dikontrol oleh AI.

00:03:18.056 --> 00:03:20.870
AI membuat desain untuk kaki robotnya

00:03:20.894 --> 00:03:24.972
dan bisa menggunakannya
untuk melalui rintangan ini.

00:03:24.996 --> 00:03:27.737
Namun, saat David Ha
membuat eksperimen ini,

00:03:27.761 --> 00:03:30.617
dia harus membuat batasan tegas

00:03:30.641 --> 00:03:33.933
seberapa besar kaki
yang bisa dibuat oleh AI.

00:03:33.957 --> 00:03:35.507
Jika tidak...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(Tertawa)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
Secara teknis,
rintangan itu berhasil dilalui.

00:03:52.332 --> 00:03:57.274
Sangat sulit membuat AI
melakukan hal sederhana seperti berjalan.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Saat melihat ini,
Anda mungkin berkata itu tidak adil.

00:04:01.142 --> 00:04:03.722
Anda tak boleh menjadi menara tinggi,
lalu jatuh.

00:04:03.746 --> 00:04:07.181
Anda harus menggunakan kaki
untuk berjalan.

00:04:07.205 --> 00:04:09.874
Ternyata, itu tidak selalu berhasil.

00:04:09.878 --> 00:04:12.747
Tugas AI ini adalah bergerak cepat.

00:04:13.115 --> 00:04:16.708
Kami tak memintanya berlari
menghadap ke depan

00:04:16.732 --> 00:04:18.990
atau tak boleh menggunakan tangan.

00:04:19.487 --> 00:04:24.105
Ini yang terjadi saat Anda melatih AI
bergerak cepat.

00:04:24.129 --> 00:04:27.633
Hasilnya adalah jungkir balik
dan cara berjalan aneh.

00:04:27.657 --> 00:04:29.087
Ini biasa terjadi.

00:04:29.667 --> 00:04:32.846
Juga bergeliat di lantai
dalam bentuk gumpalan.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(Tertawa)

NOTE Paragraph

00:04:35.241 --> 00:04:37.955
Menurut pendapat saya,
yang semestinya lebih aneh

00:04:37.969 --> 00:04:39.805
adalah robot "Terminator".

00:04:40.256 --> 00:04:44.011
AI mungkin akan meretas "The Matrix"
jika dicoba.

00:04:44.035 --> 00:04:46.552
Jika AI dilatih dalam sebuah simulasi,

00:04:46.576 --> 00:04:50.689
dia akan belajar cara meretas
kesalahan matematis simulasi itu

00:04:50.713 --> 00:04:52.870
dan menjadikannya energi.

00:04:52.884 --> 00:04:58.369
Atau dia akan bisa bergerak lebih cepat
dengan bergeliat di lantai.

00:04:58.383 --> 00:04:59.968
Bekerja dengan AI

00:04:59.982 --> 00:05:02.441
tidak seperti bekerja dengan manusia,

00:05:02.465 --> 00:05:06.094
tapi seperti bekerja
dengan kekuatan alam yang aneh.

00:05:06.562 --> 00:05:11.185
Kesalahan sangat mudah terjadi
saat memberi perintah pada AI,

00:05:11.209 --> 00:05:15.747
dan kami sering kali tak sadar
sampai ada yang salah.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Ini eksperimen yang saya lakukan.

00:05:18.346 --> 00:05:21.448
Saya ingin AI menyalin warna cat

00:05:21.472 --> 00:05:23.298
untuk menciptakan warna cat baru

00:05:23.322 --> 00:05:26.309
dengan daftar seperti gambar
di sebelah kiri.

00:05:26.798 --> 00:05:29.802
Inilah yang diciptakan oleh AI.

NOTE Paragraph

00:05:29.826 --> 00:05:32.969
[Kotoran Sindi, Kerdil,
Menderita, Kemaluan Abu-Abu]

NOTE Paragraph

00:05:32.993 --> 00:05:37.223
(Tertawa)

NOTE Paragraph

00:05:39.047 --> 00:05:41.063
Secara teknis,

00:05:41.087 --> 00:05:42.951
perintah saya dipatuhi.

00:05:42.975 --> 00:05:46.283
Saya sudah memintanya
membuat nama cat yang bagus,

00:05:46.307 --> 00:05:48.614
tapi yang sebenarnya saya perintahkan

00:05:48.638 --> 00:05:51.724
adalah meniru kombinasi huruf

00:05:51.748 --> 00:05:53.653
dari daftar aslinya.

00:05:53.677 --> 00:05:56.775
Saya tak menjelaskan apa arti kata-kata

00:05:56.799 --> 00:05:59.359
atau mungkin ada kata-kata

00:05:59.383 --> 00:06:02.272
yang harus dihindari dalam warna cat ini.

00:06:03.061 --> 00:06:06.635
Seluruh dunia AI ini
adalah data yang saya berikan.

00:06:06.659 --> 00:06:10.687
Seperti rasa es krim,
AI itu tidak tahu tentang hal lain.

NOTE Paragraph

00:06:12.411 --> 00:06:14.129
Jadi, melalui data,

00:06:14.153 --> 00:06:18.197
kami sering salah memberi perintah
secara tak sengaja.

00:06:18.694 --> 00:06:21.726
Ini adalah ikan mas tinca.

00:06:21.750 --> 00:06:23.565
Ada sekelompok peneliti

00:06:23.589 --> 00:06:27.463
yang melatih AI
untuk mengenali ikan ini dalam foto.

00:06:27.487 --> 00:06:28.693
Saat mereka bertanya

00:06:28.717 --> 00:06:32.233
bagian foto mana yang digunakan
untuk mengenali ikannya,

00:06:32.257 --> 00:06:33.615
ini bagian yang disorot.

00:06:35.203 --> 00:06:37.392
Ya, itu jari manusia.

00:06:37.416 --> 00:06:39.335
Kenapa AI mencari jari manusia

00:06:39.369 --> 00:06:41.420
untuk mengenali ikan?

00:06:42.126 --> 00:06:45.290
Ternyata, ikan mas tinca
adalah ikan trofi.

00:06:45.314 --> 00:06:49.125
Jadi, dalam banyak foto yang dilihat AI

00:06:49.149 --> 00:06:50.200
selama pelatihan,

00:06:50.224 --> 00:06:51.814
ikannya tampak seperti ini.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(Tertawa)

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
AI tak tahu
jari itu bukan bagian dari ikan.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Itulah sebabnya sangat sulit
merancang AI

00:07:02.952 --> 00:07:06.271
yang bisa mengerti apa yang dilihatnya.

00:07:06.295 --> 00:07:09.157
Inilah alasan
merancang pengenalan gambar

00:07:09.181 --> 00:07:11.248
dalam mobil tanpa pengemudi
sangat sulit.

00:07:11.272 --> 00:07:13.477
Banyak mobil tanpa pengemudi gagal,

00:07:13.501 --> 00:07:16.386
karena AI menjadi bingung.

00:07:16.410 --> 00:07:20.418
Saya ingin membahas contoh
dari tahun 2016.

00:07:20.442 --> 00:07:24.897
Terjadi kecelakaan fatal saat seseorang
mengendarai Tesla dengan autopilot.

00:07:24.921 --> 00:07:28.335
Namun, alih-alih memakainya di jalan tol
seperti tujuan awalnya,

00:07:28.359 --> 00:07:30.564
dia menggunakannya di jalanan kota.

00:07:31.159 --> 00:07:32.274
Yang terjadi adalah

00:07:32.288 --> 00:07:35.834
truk melaju ke depan mobil
dan mobilnya tak mengerem.

00:07:36.507 --> 00:07:41.269
AI itu sudah dilatih
untuk mengenali truk dalam foto.

00:07:41.293 --> 00:07:43.438
Namun, sepertinya yang terjadi adalah

00:07:43.462 --> 00:07:46.393
AI itu dilatih
untuk mengenali truk di jalan tol,

00:07:46.417 --> 00:07:49.316
di mana biasanya truk datang
dari belakang.

00:07:49.340 --> 00:07:52.760
Truk di samping tidak seharusnya ada
di jalan tol.

00:07:52.784 --> 00:07:56.239
Saat AI melihat truk itu,

00:07:56.263 --> 00:08:01.090
sepertinya AI mengenalinya
sebagai rambu lalu lintas,

00:08:01.114 --> 00:08:03.387
dan melaju di bawahnya akan aman.

NOTE Paragraph

00:08:04.114 --> 00:08:06.674
Ini kesalahan AI di bidang yang berbeda.

00:08:06.688 --> 00:08:10.148
Baru-baru ini, Amazon menghentikan
algoritme penyortiran CV

00:08:10.172 --> 00:08:11.292
yang mereka kerjakan

00:08:11.326 --> 00:08:14.874
saat mereka tahu algoritme itu
mendiskriminasi wanita.

00:08:14.878 --> 00:08:17.784
Itu karena mereka melatih AI
dengan contoh CV

00:08:17.798 --> 00:08:20.360
dari orang-orang
yang pernah mereka terima.

00:08:20.384 --> 00:08:24.407
Dari contoh itu, AI belajar
menghindari CV orang-orang

00:08:24.431 --> 00:08:26.457
yang pernah belajar di universitas putri

00:08:26.481 --> 00:08:29.207
atau yang berisi kata "wanita" di CV-nya,

00:08:29.231 --> 00:08:33.887
seperti "tim sepak bola wanita"
atau "Perhimpunan Insinyur Wanita".

00:08:33.911 --> 00:08:37.885
AI itu tidak tahu
dia tak seharusnya menyalin hal tertentu

00:08:37.909 --> 00:08:39.887
dari yang dilakukan manusia.

00:08:39.891 --> 00:08:43.088
Secara teknis,
AI itu sudah mematuhi perintah.

00:08:43.112 --> 00:08:46.269
Mereka hanya tak sengaja
memberi perintah yang salah.

NOTE Paragraph

00:08:46.613 --> 00:08:49.548
Ini sering terjadi dengan AI.

00:08:50.120 --> 00:08:53.711
AI bisa sangat merusak
tanpa menyadarinya.

00:08:53.735 --> 00:08:58.813
Jadi, AI yang menyarankan konten baru
di Facebook dan YouTube

00:08:58.837 --> 00:09:02.376
dioptimalkan untuk meningkatkan
jumlah klik dan tontonan.

00:09:02.400 --> 00:09:05.836
Sayangnya, cara yang mereka pelajari
untuk melakukan itu

00:09:05.860 --> 00:09:10.363
adalah menyarankan konten teori konspirasi
atau kefanatikan.

00:09:10.902 --> 00:09:16.204
AI itu sendiri tak mengerti
apa itu konten.

00:09:16.228 --> 00:09:19.623
AI juga tak mengerti konsekuensi

00:09:19.647 --> 00:09:21.816
dari menyarankan konten seperti itu.

NOTE Paragraph

00:09:22.206 --> 00:09:24.307
Saat kita bekerja dengan AI,

00:09:24.331 --> 00:09:28.513
kita yang menjadi penentu
untuk menghindari masalah.

00:09:28.537 --> 00:09:30.800
Menghindari kesalahan

00:09:30.824 --> 00:09:35.410
mungkin mengarah pada masalah komunikasi
yang sudah ada sejak lama,

00:09:35.434 --> 00:09:39.179
di mana manusia harus belajar
cara berkomunikasi dengan AI.

00:09:39.203 --> 00:09:43.242
Kita harus mempelajari
yang bisa dilakukan AI dan tidak.

00:09:43.266 --> 00:09:46.352
Juga memahami,
dengan kemampuan berpikirnya,

00:09:46.376 --> 00:09:50.389
AI tidak begitu mengerti perintah kita.

00:09:51.148 --> 00:09:54.469
Dengan kata lain, 
kita harus siap bekerja dengan AI

00:09:54.493 --> 00:09:59.751
yang tak begitu kompeten dan canggih
seperti dalam fiksi ilmiah.

00:09:59.775 --> 00:10:02.007
Kita harus siap bekerja dengan AI

00:10:02.031 --> 00:10:05.599
yang kita miliki saat ini.

00:10:05.623 --> 00:10:09.828
Dan AI masa kini agak aneh.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Terima kasih.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Tepuk tangan)