1
00:00:01,765 --> 00:00:04,765
Kecerdasan buatan (AI)

2
00:00:04,789 --> 00:00:08,318
dikenal mengganggu
berbagai macam industri.

3
00:00:08,961 --> 00:00:11,004
Bagaimana dengan es krim?

4
00:00:11,879 --> 00:00:15,518
Rasa baru mencengangkan seperti apa
yang bisa kita ciptakan

5
00:00:15,542 --> 00:00:18,518
dengan kecanggihan kecerdasan buatan?

6
00:00:19,011 --> 00:00:23,172
Saya bekerja sama dengan pembuat kode
dari SMP Kealing

7
00:00:23,196 --> 00:00:25,437
untuk mencari jawaban pertanyaan ini.

8
00:00:25,461 --> 00:00:30,542
Mereka mengumpulkan 1.600 lebih
rasa es krim yang sudah ada,

9
00:00:30,566 --> 00:00:36,088
lalu kami memasukkannya ke algoritme
untuk melihat hasilnya.

10
00:00:36,112 --> 00:00:39,865
Ini beberapa rasa yang diciptakan AI.

11
00:00:40,444 --> 00:00:41,915
[Patahan Sampah Labu]

12
00:00:41,939 --> 00:00:43,341
(Tertawa)

13
00:00:43,365 --> 00:00:45,834
[Lendir Selai Kacang]

14
00:00:46,822 --> 00:00:48,165
[Penyakit Es Krim Stroberi]

15
00:00:48,189 --> 00:00:50,315
(Tertawa)

16
00:00:50,339 --> 00:00:54,936
Rasa-rasa ini tidak seenak harapan kami.

17
00:00:54,960 --> 00:00:56,824
Pertanyaannya, apa yang terjadi?

18
00:00:56,848 --> 00:00:58,242
Apa yang salah?

19
00:00:58,266 --> 00:01:00,225
Apakah AI ingin membunuh kita?

20
00:01:01,027 --> 00:01:05,337
Atau hanya menuruti perintah,
tapi ada masalah?

21
00:01:06,567 --> 00:01:09,031
Dalam film, jika AI bermasalah,

22
00:01:09,055 --> 00:01:11,767
itu biasanya karena kecerdasan buatan itu

23
00:01:11,791 --> 00:01:13,963
tidak ingin patuh pada manusia lagi.

24
00:01:13,987 --> 00:01:16,710
Dia memiliki tujuan sendiri,
terima kasih.

25
00:01:17,266 --> 00:01:20,482
Namun di kehidupan nyata,
AI yang kita miliki

26
00:01:20,506 --> 00:01:22,369
tidak cukup pintar untuk itu.

27
00:01:22,781 --> 00:01:25,763
AI yang ada memiliki daya komputasi

28
00:01:25,787 --> 00:01:27,063
seperti cacing tanah

29
00:01:27,087 --> 00:01:30,490
atau setidaknya seperti lebah madu.

30
00:01:30,514 --> 00:01:32,729
Mungkin kurang dari itu.

31
00:01:32,753 --> 00:01:35,347
Kita terus mempelajari hal baru
tentang otak

32
00:01:35,371 --> 00:01:39,731
dan menunjukkan bahwa AI
tak sebanding dengan otak kita.

33
00:01:39,755 --> 00:01:45,418
AI saat ini
bisa mengenali pejalan kaki dalam foto,

34
00:01:45,442 --> 00:01:48,425
tapi tidak paham apa itu pejalan kaki

35
00:01:48,449 --> 00:01:53,273
selain bahwa itu hanya kumpulan garis,
tekstur, dan lainnya.

36
00:01:53,792 --> 00:01:56,313
AI tak tahu apa itu manusia.

37
00:01:56,822 --> 00:02:00,104
Apakah AI saat ini
akan menuruti perintah kita?

38
00:02:00,128 --> 00:02:01,722
Ya, jika bisa.

39
00:02:01,746 --> 00:02:04,472
Namun, mungkin tak sesuai keinginan kita.

40
00:02:04,496 --> 00:02:06,911
Anggap Anda ingin kecerdasan buatan

41
00:02:06,935 --> 00:02:09,554
mengambil suku cadang robot,

42
00:02:09,578 --> 00:02:13,775
menyusunnya menjadi robot,
dan pindah dari Poin A ke Poin B.

43
00:02:13,799 --> 00:02:15,664
Jika Anda ingin selesaikan masalah ini

44
00:02:15,684 --> 00:02:18,655
dengan membuat program komputer biasa,

45
00:02:18,679 --> 00:02:21,980
Anda memberi instruksi
langkah demi langkah pada program

46
00:02:22,000 --> 00:02:23,449
untuk mengambil suku cadang,

47
00:02:23,473 --> 00:02:25,880
menyusunnya menjadi robot berkaki,

48
00:02:25,904 --> 00:02:28,846
dan cara menggunakan kakinya
untuk berjalan ke Poin B.

49
00:02:29,441 --> 00:02:31,781
Namun, jika memakai kecerdasan buatan,

50
00:02:31,805 --> 00:02:32,979
caranya berbeda.

51
00:02:33,003 --> 00:02:35,385
Tak perlu menjelaskan
cara menyelesaikan masalah,

52
00:02:35,409 --> 00:02:36,888
Anda hanya memberi tujuan.

53
00:02:36,912 --> 00:02:40,174
AI harus mencoba mencari cara sendiri

54
00:02:40,198 --> 00:02:41,682
untuk mencapai tujuan itu.

55
00:02:42,254 --> 00:02:46,356
Ternyata, AI cenderung
mengatasi masalah ini

56
00:02:46,380 --> 00:02:47,864
seperti ini:

57
00:02:47,888 --> 00:02:51,255
dia membentuk dirinya menjadi menara,
lalu jatuh

58
00:02:51,279 --> 00:02:53,106
dan mendarat di Poin B.

59
00:02:53,130 --> 00:02:55,959
Secara teknis, masalahnya terpecahkan.

60
00:02:55,983 --> 00:02:57,622
Dia sampai ke Poin B.

61
00:02:57,646 --> 00:03:01,911
Bahaya kecerdasan buatan
bukan kemungkinan dia memberontak,

62
00:03:01,935 --> 00:03:06,209
tapi AI akan benar-benar mematuhi kita.

63
00:03:06,876 --> 00:03:09,374
Maka, trik menggunakan AI adalah

64
00:03:09,398 --> 00:03:13,226
bagaimana kita menyusun masalah
agar AI berfungsi sesuai harapan?

65
00:03:14,726 --> 00:03:18,032
Robot kecil ini dikontrol oleh AI.

66
00:03:18,056 --> 00:03:20,870
AI membuat desain untuk kaki robotnya

67
00:03:20,894 --> 00:03:24,972
dan bisa menggunakannya
untuk melalui rintangan ini.

68
00:03:24,996 --> 00:03:27,737
Namun, saat David Ha
membuat eksperimen ini,

69
00:03:27,761 --> 00:03:30,617
dia harus membuat batasan tegas

70
00:03:30,641 --> 00:03:33,933
seberapa besar kaki
yang bisa dibuat oleh AI.

71
00:03:33,957 --> 00:03:35,507
Jika tidak...

72
00:03:43,058 --> 00:03:46,989
(Tertawa)

73
00:03:48,563 --> 00:03:52,308
Secara teknis,
rintangan itu berhasil dilalui.

74
00:03:52,332 --> 00:03:57,274
Sangat sulit membuat AI
melakukan hal sederhana seperti berjalan.

75
00:03:57,298 --> 00:04:01,118
Saat melihat ini,
Anda mungkin berkata itu tidak adil.

76
00:04:01,142 --> 00:04:03,722
Anda tak boleh menjadi menara tinggi,
lalu jatuh.

77
00:04:03,746 --> 00:04:07,181
Anda harus menggunakan kaki
untuk berjalan.

78
00:04:07,205 --> 00:04:09,874
Ternyata, itu tidak selalu berhasil.

79
00:04:09,878 --> 00:04:12,747
Tugas AI ini adalah bergerak cepat.

80
00:04:13,115 --> 00:04:16,708
Kami tak memintanya berlari
menghadap ke depan

81
00:04:16,732 --> 00:04:18,990
atau tak boleh menggunakan tangan.

82
00:04:19,487 --> 00:04:24,105
Ini yang terjadi saat Anda melatih AI
bergerak cepat.

83
00:04:24,129 --> 00:04:27,633
Hasilnya adalah jungkir balik
dan cara berjalan aneh.

84
00:04:27,657 --> 00:04:29,087
Ini biasa terjadi.

85
00:04:29,667 --> 00:04:32,846
Juga bergeliat di lantai
dalam bentuk gumpalan.

86
00:04:32,870 --> 00:04:34,020
(Tertawa)

87
00:04:35,241 --> 00:04:37,955
Menurut pendapat saya,
yang semestinya lebih aneh

88
00:04:37,969 --> 00:04:39,805
adalah robot "Terminator".

89
00:04:40,256 --> 00:04:44,011
AI mungkin akan meretas "The Matrix"
jika dicoba.

90
00:04:44,035 --> 00:04:46,552
Jika AI dilatih dalam sebuah simulasi,

91
00:04:46,576 --> 00:04:50,689
dia akan belajar cara meretas
kesalahan matematis simulasi itu

92
00:04:50,713 --> 00:04:52,870
dan menjadikannya energi.

93
00:04:52,884 --> 00:04:58,369
Atau dia akan bisa bergerak lebih cepat
dengan bergeliat di lantai.

94
00:04:58,383 --> 00:04:59,968
Bekerja dengan AI

95
00:04:59,982 --> 00:05:02,441
tidak seperti bekerja dengan manusia,

96
00:05:02,465 --> 00:05:06,094
tapi seperti bekerja
dengan kekuatan alam yang aneh.

97
00:05:06,562 --> 00:05:11,185
Kesalahan sangat mudah terjadi
saat memberi perintah pada AI,

98
00:05:11,209 --> 00:05:15,747
dan kami sering kali tak sadar
sampai ada yang salah.

99
00:05:16,242 --> 00:05:18,322
Ini eksperimen yang saya lakukan.

100
00:05:18,346 --> 00:05:21,448
Saya ingin AI menyalin warna cat

101
00:05:21,472 --> 00:05:23,298
untuk menciptakan warna cat baru

102
00:05:23,322 --> 00:05:26,309
dengan daftar seperti gambar
di sebelah kiri.

103
00:05:26,798 --> 00:05:29,802
Inilah yang diciptakan oleh AI.

104
00:05:29,826 --> 00:05:32,969
[Kotoran Sindi, Kerdil,
Menderita, Kemaluan Abu-Abu]

105
00:05:32,993 --> 00:05:37,223
(Tertawa)

106
00:05:39,047 --> 00:05:41,063
Secara teknis,

107
00:05:41,087 --> 00:05:42,951
perintah saya dipatuhi.

108
00:05:42,975 --> 00:05:46,283
Saya sudah memintanya
membuat nama cat yang bagus,

109
00:05:46,307 --> 00:05:48,614
tapi yang sebenarnya saya perintahkan

110
00:05:48,638 --> 00:05:51,724
adalah meniru kombinasi huruf

111
00:05:51,748 --> 00:05:53,653
dari daftar aslinya.

112
00:05:53,677 --> 00:05:56,775
Saya tak menjelaskan apa arti kata-kata

113
00:05:56,799 --> 00:05:59,359
atau mungkin ada kata-kata

114
00:05:59,383 --> 00:06:02,272
yang harus dihindari dalam warna cat ini.

115
00:06:03,061 --> 00:06:06,635
Seluruh dunia AI ini
adalah data yang saya berikan.

116
00:06:06,659 --> 00:06:10,687
Seperti rasa es krim,
AI itu tidak tahu tentang hal lain.

117
00:06:12,411 --> 00:06:14,129
Jadi, melalui data,

118
00:06:14,153 --> 00:06:18,197
kami sering salah memberi perintah
secara tak sengaja.

119
00:06:18,694 --> 00:06:21,726
Ini adalah ikan mas tinca.

120
00:06:21,750 --> 00:06:23,565
Ada sekelompok peneliti

121
00:06:23,589 --> 00:06:27,463
yang melatih AI
untuk mengenali ikan ini dalam foto.

122
00:06:27,487 --> 00:06:28,693
Saat mereka bertanya

123
00:06:28,717 --> 00:06:32,233
bagian foto mana yang digunakan
untuk mengenali ikannya,

124
00:06:32,257 --> 00:06:33,615
ini bagian yang disorot.

125
00:06:35,203 --> 00:06:37,392
Ya, itu jari manusia.

126
00:06:37,416 --> 00:06:39,335
Kenapa AI mencari jari manusia

127
00:06:39,369 --> 00:06:41,420
untuk mengenali ikan?

128
00:06:42,126 --> 00:06:45,290
Ternyata, ikan mas tinca
adalah ikan trofi.

129
00:06:45,314 --> 00:06:49,125
Jadi, dalam banyak foto yang dilihat AI

130
00:06:49,149 --> 00:06:50,200
selama pelatihan,

131
00:06:50,224 --> 00:06:51,814
ikannya tampak seperti ini.

132
00:06:51,838 --> 00:06:53,473
(Tertawa)

133
00:06:53,497 --> 00:06:56,827
AI tak tahu
jari itu bukan bagian dari ikan.

134
00:06:58,808 --> 00:07:02,928
Itulah sebabnya sangat sulit
merancang AI

135
00:07:02,952 --> 00:07:06,271
yang bisa mengerti apa yang dilihatnya.

136
00:07:06,295 --> 00:07:09,157
Inilah alasan
merancang pengenalan gambar

137
00:07:09,181 --> 00:07:11,248
dalam mobil tanpa pengemudi
sangat sulit.

138
00:07:11,272 --> 00:07:13,477
Banyak mobil tanpa pengemudi gagal,

139
00:07:13,501 --> 00:07:16,386
karena AI menjadi bingung.

140
00:07:16,410 --> 00:07:20,418
Saya ingin membahas contoh
dari tahun 2016.

141
00:07:20,442 --> 00:07:24,897
Terjadi kecelakaan fatal saat seseorang
mengendarai Tesla dengan autopilot.

142
00:07:24,921 --> 00:07:28,335
Namun, alih-alih memakainya di jalan tol
seperti tujuan awalnya,

143
00:07:28,359 --> 00:07:30,564
dia menggunakannya di jalanan kota.

144
00:07:31,159 --> 00:07:32,274
Yang terjadi adalah

145
00:07:32,288 --> 00:07:35,834
truk melaju ke depan mobil
dan mobilnya tak mengerem.

146
00:07:36,507 --> 00:07:41,269
AI itu sudah dilatih
untuk mengenali truk dalam foto.

147
00:07:41,293 --> 00:07:43,438
Namun, sepertinya yang terjadi adalah

148
00:07:43,462 --> 00:07:46,393
AI itu dilatih
untuk mengenali truk di jalan tol,

149
00:07:46,417 --> 00:07:49,316
di mana biasanya truk datang
dari belakang.

150
00:07:49,340 --> 00:07:52,760
Truk di samping tidak seharusnya ada
di jalan tol.

151
00:07:52,784 --> 00:07:56,239
Saat AI melihat truk itu,

152
00:07:56,263 --> 00:08:01,090
sepertinya AI mengenalinya
sebagai rambu lalu lintas,

153
00:08:01,114 --> 00:08:03,387
dan melaju di bawahnya akan aman.

154
00:08:04,114 --> 00:08:06,674
Ini kesalahan AI di bidang yang berbeda.

155
00:08:06,688 --> 00:08:10,148
Baru-baru ini, Amazon menghentikan
algoritme penyortiran CV

156
00:08:10,172 --> 00:08:11,292
yang mereka kerjakan

157
00:08:11,326 --> 00:08:14,874
saat mereka tahu algoritme itu
mendiskriminasi wanita.

158
00:08:14,878 --> 00:08:17,784
Itu karena mereka melatih AI
dengan contoh CV

159
00:08:17,798 --> 00:08:20,360
dari orang-orang
yang pernah mereka terima.

160
00:08:20,384 --> 00:08:24,407
Dari contoh itu, AI belajar
menghindari CV orang-orang

161
00:08:24,431 --> 00:08:26,457
yang pernah belajar di universitas putri

162
00:08:26,481 --> 00:08:29,207
atau yang berisi kata "wanita" di CV-nya,

163
00:08:29,231 --> 00:08:33,887
seperti "tim sepak bola wanita"
atau "Perhimpunan Insinyur Wanita".

164
00:08:33,911 --> 00:08:37,885
AI itu tidak tahu
dia tak seharusnya menyalin hal tertentu

165
00:08:37,909 --> 00:08:39,887
dari yang dilakukan manusia.

166
00:08:39,891 --> 00:08:43,088
Secara teknis,
AI itu sudah mematuhi perintah.

167
00:08:43,112 --> 00:08:46,269
Mereka hanya tak sengaja
memberi perintah yang salah.

168
00:08:46,613 --> 00:08:49,548
Ini sering terjadi dengan AI.

169
00:08:50,120 --> 00:08:53,711
AI bisa sangat merusak
tanpa menyadarinya.

170
00:08:53,735 --> 00:08:58,813
Jadi, AI yang menyarankan konten baru
di Facebook dan YouTube

171
00:08:58,837 --> 00:09:02,376
dioptimalkan untuk meningkatkan
jumlah klik dan tontonan.

172
00:09:02,400 --> 00:09:05,836
Sayangnya, cara yang mereka pelajari
untuk melakukan itu

173
00:09:05,860 --> 00:09:10,363
adalah menyarankan konten teori konspirasi
atau kefanatikan.

174
00:09:10,902 --> 00:09:16,204
AI itu sendiri tak mengerti
apa itu konten.

175
00:09:16,228 --> 00:09:19,623
AI juga tak mengerti konsekuensi

176
00:09:19,647 --> 00:09:21,816
dari menyarankan konten seperti itu.

177
00:09:22,206 --> 00:09:24,307
Saat kita bekerja dengan AI,

178
00:09:24,331 --> 00:09:28,513
kita yang menjadi penentu
untuk menghindari masalah.

179
00:09:28,537 --> 00:09:30,800
Menghindari kesalahan

180
00:09:30,824 --> 00:09:35,410
mungkin mengarah pada masalah komunikasi
yang sudah ada sejak lama,

181
00:09:35,434 --> 00:09:39,179
di mana manusia harus belajar
cara berkomunikasi dengan AI.

182
00:09:39,203 --> 00:09:43,242
Kita harus mempelajari
yang bisa dilakukan AI dan tidak.

183
00:09:43,266 --> 00:09:46,352
Juga memahami,
dengan kemampuan berpikirnya,

184
00:09:46,376 --> 00:09:50,389
AI tidak begitu mengerti perintah kita.

185
00:09:51,148 --> 00:09:54,469
Dengan kata lain, 
kita harus siap bekerja dengan AI

186
00:09:54,493 --> 00:09:59,751
yang tak begitu kompeten dan canggih
seperti dalam fiksi ilmiah.

187
00:09:59,775 --> 00:10:02,007
Kita harus siap bekerja dengan AI

188
00:10:02,031 --> 00:10:05,599
yang kita miliki saat ini.

189
00:10:05,623 --> 00:10:09,828
Dan AI masa kini agak aneh.

190
00:10:09,852 --> 00:10:11,042
Terima kasih.

191
00:10:11,066 --> 00:10:16,291
(Tepuk tangan)