Bahaya kecerdasan buatan lebih aneh dari dugaanmu
-
0:02 - 0:05Kecerdasan buatan (AI)
-
0:05 - 0:08dikenal mengganggu
berbagai macam industri. -
0:09 - 0:11Bagaimana dengan es krim?
-
0:12 - 0:16Rasa baru mencengangkan seperti apa
yang bisa kita ciptakan -
0:16 - 0:19dengan kecanggihan kecerdasan buatan?
-
0:19 - 0:23Saya bekerja sama dengan pembuat kode
dari SMP Kealing -
0:23 - 0:25untuk mencari jawaban pertanyaan ini.
-
0:25 - 0:31Mereka mengumpulkan 1.600 lebih
rasa es krim yang sudah ada, -
0:31 - 0:36lalu kami memasukkannya ke algoritme
untuk melihat hasilnya. -
0:36 - 0:40Ini beberapa rasa yang diciptakan AI.
-
0:40 - 0:42[Patahan Sampah Labu]
-
0:42 - 0:43(Tertawa)
-
0:43 - 0:46[Lendir Selai Kacang]
-
0:47 - 0:48[Penyakit Es Krim Stroberi]
-
0:48 - 0:50(Tertawa)
-
0:50 - 0:55Rasa-rasa ini tidak seenak harapan kami.
-
0:55 - 0:57Pertanyaannya, apa yang terjadi?
-
0:57 - 0:58Apa yang salah?
-
0:58 - 1:00Apakah AI ingin membunuh kita?
-
1:01 - 1:05Atau hanya menuruti perintah,
tapi ada masalah? -
1:07 - 1:09Dalam film, jika AI bermasalah,
-
1:09 - 1:12itu biasanya karena kecerdasan buatan itu
-
1:12 - 1:14tidak ingin patuh pada manusia lagi.
-
1:14 - 1:17Dia memiliki tujuan sendiri,
terima kasih. -
1:17 - 1:20Namun di kehidupan nyata,
AI yang kita miliki -
1:21 - 1:22tidak cukup pintar untuk itu.
-
1:23 - 1:26AI yang ada memiliki daya komputasi
-
1:26 - 1:27seperti cacing tanah
-
1:27 - 1:30atau setidaknya seperti lebah madu.
-
1:31 - 1:33Mungkin kurang dari itu.
-
1:33 - 1:35Kita terus mempelajari hal baru
tentang otak -
1:35 - 1:40dan menunjukkan bahwa AI
tak sebanding dengan otak kita. -
1:40 - 1:45AI saat ini
bisa mengenali pejalan kaki dalam foto, -
1:45 - 1:48tapi tidak paham apa itu pejalan kaki
-
1:48 - 1:53selain bahwa itu hanya kumpulan garis,
tekstur, dan lainnya. -
1:54 - 1:56AI tak tahu apa itu manusia.
-
1:57 - 2:00Apakah AI saat ini
akan menuruti perintah kita? -
2:00 - 2:02Ya, jika bisa.
-
2:02 - 2:04Namun, mungkin tak sesuai keinginan kita.
-
2:04 - 2:07Anggap Anda ingin kecerdasan buatan
-
2:07 - 2:10mengambil suku cadang robot,
-
2:10 - 2:14menyusunnya menjadi robot,
dan pindah dari Poin A ke Poin B. -
2:14 - 2:16Jika Anda ingin selesaikan masalah ini
-
2:16 - 2:19dengan membuat program komputer biasa,
-
2:19 - 2:22Anda memberi instruksi
langkah demi langkah pada program -
2:22 - 2:23untuk mengambil suku cadang,
-
2:23 - 2:26menyusunnya menjadi robot berkaki,
-
2:26 - 2:29dan cara menggunakan kakinya
untuk berjalan ke Poin B. -
2:29 - 2:32Namun, jika memakai kecerdasan buatan,
-
2:32 - 2:33caranya berbeda.
-
2:33 - 2:35Tak perlu menjelaskan
cara menyelesaikan masalah, -
2:35 - 2:37Anda hanya memberi tujuan.
-
2:37 - 2:40AI harus mencoba mencari cara sendiri
-
2:40 - 2:42untuk mencapai tujuan itu.
-
2:42 - 2:46Ternyata, AI cenderung
mengatasi masalah ini -
2:46 - 2:48seperti ini:
-
2:48 - 2:51dia membentuk dirinya menjadi menara,
lalu jatuh -
2:51 - 2:53dan mendarat di Poin B.
-
2:53 - 2:56Secara teknis, masalahnya terpecahkan.
-
2:56 - 2:58Dia sampai ke Poin B.
-
2:58 - 3:02Bahaya kecerdasan buatan
bukan kemungkinan dia memberontak, -
3:02 - 3:06tapi AI akan benar-benar mematuhi kita.
-
3:07 - 3:09Maka, trik menggunakan AI adalah
-
3:09 - 3:13bagaimana kita menyusun masalah
agar AI berfungsi sesuai harapan? -
3:15 - 3:18Robot kecil ini dikontrol oleh AI.
-
3:18 - 3:21AI membuat desain untuk kaki robotnya
-
3:21 - 3:25dan bisa menggunakannya
untuk melalui rintangan ini. -
3:25 - 3:28Namun, saat David Ha
membuat eksperimen ini, -
3:28 - 3:31dia harus membuat batasan tegas
-
3:31 - 3:34seberapa besar kaki
yang bisa dibuat oleh AI. -
3:34 - 3:36Jika tidak...
-
3:43 - 3:47(Tertawa)
-
3:49 - 3:52Secara teknis,
rintangan itu berhasil dilalui. -
3:52 - 3:57Sangat sulit membuat AI
melakukan hal sederhana seperti berjalan. -
3:57 - 4:01Saat melihat ini,
Anda mungkin berkata itu tidak adil. -
4:01 - 4:04Anda tak boleh menjadi menara tinggi,
lalu jatuh. -
4:04 - 4:07Anda harus menggunakan kaki
untuk berjalan. -
4:07 - 4:10Ternyata, itu tidak selalu berhasil.
-
4:10 - 4:13Tugas AI ini adalah bergerak cepat.
-
4:13 - 4:17Kami tak memintanya berlari
menghadap ke depan -
4:17 - 4:19atau tak boleh menggunakan tangan.
-
4:19 - 4:24Ini yang terjadi saat Anda melatih AI
bergerak cepat. -
4:24 - 4:28Hasilnya adalah jungkir balik
dan cara berjalan aneh. -
4:28 - 4:29Ini biasa terjadi.
-
4:30 - 4:33Juga bergeliat di lantai
dalam bentuk gumpalan. -
4:33 - 4:34(Tertawa)
-
4:35 - 4:38Menurut pendapat saya,
yang semestinya lebih aneh -
4:38 - 4:40adalah robot "Terminator".
-
4:40 - 4:44AI mungkin akan meretas "The Matrix"
jika dicoba. -
4:44 - 4:47Jika AI dilatih dalam sebuah simulasi,
-
4:47 - 4:51dia akan belajar cara meretas
kesalahan matematis simulasi itu -
4:51 - 4:53dan menjadikannya energi.
-
4:53 - 4:58Atau dia akan bisa bergerak lebih cepat
dengan bergeliat di lantai. -
4:58 - 5:00Bekerja dengan AI
-
5:00 - 5:02tidak seperti bekerja dengan manusia,
-
5:02 - 5:06tapi seperti bekerja
dengan kekuatan alam yang aneh. -
5:07 - 5:11Kesalahan sangat mudah terjadi
saat memberi perintah pada AI, -
5:11 - 5:16dan kami sering kali tak sadar
sampai ada yang salah. -
5:16 - 5:18Ini eksperimen yang saya lakukan.
-
5:18 - 5:21Saya ingin AI menyalin warna cat
-
5:21 - 5:23untuk menciptakan warna cat baru
-
5:23 - 5:26dengan daftar seperti gambar
di sebelah kiri. -
5:27 - 5:30Inilah yang diciptakan oleh AI.
-
5:30 - 5:33[Kotoran Sindi, Kerdil,
Menderita, Kemaluan Abu-Abu] -
5:33 - 5:37(Tertawa)
-
5:39 - 5:41Secara teknis,
-
5:41 - 5:43perintah saya dipatuhi.
-
5:43 - 5:46Saya sudah memintanya
membuat nama cat yang bagus, -
5:46 - 5:49tapi yang sebenarnya saya perintahkan
-
5:49 - 5:52adalah meniru kombinasi huruf
-
5:52 - 5:54dari daftar aslinya.
-
5:54 - 5:57Saya tak menjelaskan apa arti kata-kata
-
5:57 - 5:59atau mungkin ada kata-kata
-
5:59 - 6:02yang harus dihindari dalam warna cat ini.
-
6:03 - 6:07Seluruh dunia AI ini
adalah data yang saya berikan. -
6:07 - 6:11Seperti rasa es krim,
AI itu tidak tahu tentang hal lain. -
6:12 - 6:14Jadi, melalui data,
-
6:14 - 6:18kami sering salah memberi perintah
secara tak sengaja. -
6:19 - 6:22Ini adalah ikan mas tinca.
-
6:22 - 6:24Ada sekelompok peneliti
-
6:24 - 6:27yang melatih AI
untuk mengenali ikan ini dalam foto. -
6:27 - 6:29Saat mereka bertanya
-
6:29 - 6:32bagian foto mana yang digunakan
untuk mengenali ikannya, -
6:32 - 6:34ini bagian yang disorot.
-
6:35 - 6:37Ya, itu jari manusia.
-
6:37 - 6:39Kenapa AI mencari jari manusia
-
6:39 - 6:41untuk mengenali ikan?
-
6:42 - 6:45Ternyata, ikan mas tinca
adalah ikan trofi. -
6:45 - 6:49Jadi, dalam banyak foto yang dilihat AI
-
6:49 - 6:50selama pelatihan,
-
6:50 - 6:52ikannya tampak seperti ini.
-
6:52 - 6:53(Tertawa)
-
6:53 - 6:57AI tak tahu
jari itu bukan bagian dari ikan. -
6:59 - 7:03Itulah sebabnya sangat sulit
merancang AI -
7:03 - 7:06yang bisa mengerti apa yang dilihatnya.
-
7:06 - 7:09Inilah alasan
merancang pengenalan gambar -
7:09 - 7:11dalam mobil tanpa pengemudi
sangat sulit. -
7:11 - 7:13Banyak mobil tanpa pengemudi gagal,
-
7:14 - 7:16karena AI menjadi bingung.
-
7:16 - 7:20Saya ingin membahas contoh
dari tahun 2016. -
7:20 - 7:25Terjadi kecelakaan fatal saat seseorang
mengendarai Tesla dengan autopilot. -
7:25 - 7:28Namun, alih-alih memakainya di jalan tol
seperti tujuan awalnya, -
7:28 - 7:31dia menggunakannya di jalanan kota.
-
7:31 - 7:32Yang terjadi adalah
-
7:32 - 7:36truk melaju ke depan mobil
dan mobilnya tak mengerem. -
7:37 - 7:41AI itu sudah dilatih
untuk mengenali truk dalam foto. -
7:41 - 7:43Namun, sepertinya yang terjadi adalah
-
7:43 - 7:46AI itu dilatih
untuk mengenali truk di jalan tol, -
7:46 - 7:49di mana biasanya truk datang
dari belakang. -
7:49 - 7:53Truk di samping tidak seharusnya ada
di jalan tol. -
7:53 - 7:56Saat AI melihat truk itu,
-
7:56 - 8:01sepertinya AI mengenalinya
sebagai rambu lalu lintas, -
8:01 - 8:03dan melaju di bawahnya akan aman.
-
8:04 - 8:07Ini kesalahan AI di bidang yang berbeda.
-
8:07 - 8:10Baru-baru ini, Amazon menghentikan
algoritme penyortiran CV -
8:10 - 8:11yang mereka kerjakan
-
8:11 - 8:15saat mereka tahu algoritme itu
mendiskriminasi wanita. -
8:15 - 8:18Itu karena mereka melatih AI
dengan contoh CV -
8:18 - 8:20dari orang-orang
yang pernah mereka terima. -
8:20 - 8:24Dari contoh itu, AI belajar
menghindari CV orang-orang -
8:24 - 8:26yang pernah belajar di universitas putri
-
8:26 - 8:29atau yang berisi kata "wanita" di CV-nya,
-
8:29 - 8:34seperti "tim sepak bola wanita"
atau "Perhimpunan Insinyur Wanita". -
8:34 - 8:38AI itu tidak tahu
dia tak seharusnya menyalin hal tertentu -
8:38 - 8:40dari yang dilakukan manusia.
-
8:40 - 8:43Secara teknis,
AI itu sudah mematuhi perintah. -
8:43 - 8:46Mereka hanya tak sengaja
memberi perintah yang salah. -
8:47 - 8:50Ini sering terjadi dengan AI.
-
8:50 - 8:54AI bisa sangat merusak
tanpa menyadarinya. -
8:54 - 8:59Jadi, AI yang menyarankan konten baru
di Facebook dan YouTube -
8:59 - 9:02dioptimalkan untuk meningkatkan
jumlah klik dan tontonan. -
9:02 - 9:06Sayangnya, cara yang mereka pelajari
untuk melakukan itu -
9:06 - 9:10adalah menyarankan konten teori konspirasi
atau kefanatikan. -
9:11 - 9:16AI itu sendiri tak mengerti
apa itu konten. -
9:16 - 9:20AI juga tak mengerti konsekuensi
-
9:20 - 9:22dari menyarankan konten seperti itu.
-
9:22 - 9:24Saat kita bekerja dengan AI,
-
9:24 - 9:29kita yang menjadi penentu
untuk menghindari masalah. -
9:29 - 9:31Menghindari kesalahan
-
9:31 - 9:35mungkin mengarah pada masalah komunikasi
yang sudah ada sejak lama, -
9:35 - 9:39di mana manusia harus belajar
cara berkomunikasi dengan AI. -
9:39 - 9:43Kita harus mempelajari
yang bisa dilakukan AI dan tidak. -
9:43 - 9:46Juga memahami,
dengan kemampuan berpikirnya, -
9:46 - 9:50AI tidak begitu mengerti perintah kita.
-
9:51 - 9:54Dengan kata lain,
kita harus siap bekerja dengan AI -
9:54 - 10:00yang tak begitu kompeten dan canggih
seperti dalam fiksi ilmiah. -
10:00 - 10:02Kita harus siap bekerja dengan AI
-
10:02 - 10:06yang kita miliki saat ini.
-
10:06 - 10:10Dan AI masa kini agak aneh.
-
10:10 - 10:11Terima kasih.
-
10:11 - 10:16(Tepuk tangan)
- Title:
- Bahaya kecerdasan buatan lebih aneh dari dugaanmu
- Speaker:
- Janelle Shane
- Description:
-
Menurut peneliti kecerdasan buatan (AI) Janelle Shane, bahaya AI bukanlah pemberontakan, tapi AI mungkin benar-benar melakukan perintah kita. Dengan membahas keanehan, juga perilaku unik algoritme AI dalam upaya memecahkan masalah manusia, seperti menciptakan rasa es krim baru atau mengenali mobil di jalan, Shane menunjukkan alasan AI belum sebanding dengan otak manusia.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Ade Indarta approved Indonesian subtitles for The danger of AI is weirder than you think | ||
Ade Indarta accepted Indonesian subtitles for The danger of AI is weirder than you think | ||
Ade Indarta edited Indonesian subtitles for The danger of AI is weirder than you think | ||
Marsya Firina edited Indonesian subtitles for The danger of AI is weirder than you think | ||
Marsya Firina edited Indonesian subtitles for The danger of AI is weirder than you think | ||
Marsya Firina edited Indonesian subtitles for The danger of AI is weirder than you think | ||
Marsya Firina edited Indonesian subtitles for The danger of AI is weirder than you think |