Thai subtítulos

← อันตรายของ AI มันประหลาดกว่าที่คุณคิด

Obtener código incrustado.
32 idiomas

Mostrar Revisión16 creada 05/18/2020 por Unnawut Leepaisalsuwanna.

  1. ปัญญาประดิษฐ์
  2. สิ่งประดิษฐ์ที่เข้ามาแทรกแซง
    อุตสาหกรรมทุกชนิด
  3. แล้วกับไอศครีมล่ะ
  4. รสชาติสุดตะลึงแบบไหนกัน
    ที่เราสามารถสร้างได้
  5. ด้วยพลังของปัญญาประดิษฐ์ขั้นสูง
  6. ฉันจึงจับกลุ่มกับนักเขียนโค้ด
    จากโรงเรียนมัธยมต้น Kealing
  7. เพื่อค้นหาคำตอบของคำถามนี้
  8. พวกเขารวบรวมไอศครีมทั้งหมด
    1,600 รสชาติ ที่มีอยู่
  9. และเราก็ป้อนเข้าอัลกอริทึม
    เพื่อดูว่ามันจะสร้างอะไร
  10. และนี่คือบางรสที่ AI คิดขึ้นมา
  11. [ขยะฟักทอง]

  12. (เสียงหัวเราะ)

  13. [แยมเนยถั่วเหนียวเหนอะหนะ]

  14. [โรคครีมสตรอเบอรี่]

  15. (เสียงหัวเราะ)

  16. รสชาติพวกนี้ไม่อร่อยเอาซะเลย
    ในขณะที่เราหวังว่าพวกเขาจะ

  17. งั้นคำถามก็คือ มันเกิดอะไรขึ้น
  18. มันผิดพลาดตรงไหน
  19. นี่ AI พยายามจะฆ่าเราหรอ
  20. หรือมันพยายามทำตามที่เราสั่ง
    และมันเป็นปัญหาหรอ
  21. ในภาพยนต์ เมื่อมีบางอย่างผิดปกติกับ AI

  22. มันเป็นเพราะ AI เป็นคนตัดสินใจว่า
  23. มันไม่จำเป็นที่จะต้องทำตามคำสั่ง
    มนุษย์อีกต่อไป
  24. และมันมีเป้าหมายของมันเอง
    ขอบคุณมากๆเลย
  25. ในความเป็นจริง ถึงแม้ AI ที่เรามี
  26. ยังไม่ฉลาดพอที่จะทำเช่นนั้น
  27. มันมีพลังในการคำนวณโดยประมาณ
  28. พอๆกับไส้เดือนดิน
  29. หรืออาจจะพอๆกับผึ้งแค่ตัวเดียว
  30. อันที่จริง อาจจะน้อยกว่าด้วยซ้ำ
  31. เนื่องเพราะเราเรียนรู้สิ่งใหม่เกี่ยวกับสมอง
  32. นี่ทำให้รู้ชัดว่า AI ยังเทียบไม่ได้กับสมองคนมนุษย์
  33. ดังนั้นทุกวันนี้ AI สามารถทำงาน
    อย่างระบุคนเดินเท้าในภาพ
  34. แต่มันไม่ได้มีความคิดที่ว่า
    อะไรคือคนเดินเท้า
  35. มากไปกว่าว่ามันคือชุด
    ของเส้น พื้นผิวและสิ่งของ
  36. มันไม่รู้เลยว่าจริงๆแล้วมนุษย์คืออะไร
  37. ดังนั้นทุกวันนี้ AI
    จะทำในสิ่งที่เราสั่งให้ทำ
  38. มันจะทำถ้ามันทำได้
  39. แต่มันอาจไม่ทำในสิ่งที่เราต้องการ
  40. งั้นลองคิดว่าคุณ
    พยายามใช้ AI

  41. เพื่อรวบรวมชิ้นส่วนหุ่นยนต์นี้
  42. และประกอบมันกลายเป็นหุ่นยนต์
    เพื่อไปจากจุด A ไปจุด B
  43. ตอนนี้ ถ้าคุณกำลังพยายาม
    และแก้โจทย์นี้อยู่
  44. โดยการเขียนโค้ดแบบเดิม
  45. คุณจะให้โปรแกรม
    ทำตามคำแนะนำทีละขั้นตอน
  46. วิธีการใช้ชิ้นส่วนเหล่านี้
  47. วิธีประกอบมันให้กลายเป็นหุ่นยนต์ที่มีขา
  48. และจากนั้นคือวิธีใช้ขาพวกนั้นไปให้ถึงจุด B
  49. แต่เมื่อคุณใช้ AI
    เพื่อแก้โจทย์นี้
  50. มันต่างกันเลย
  51. คุณไม่ได้บอกมันว่า
    ต้องแก้โจทย์นี้อย่างไง
  52. คุณแค่ให้เป้าหมายกับมัน
  53. และมันก็คิดออกด้วยตัวมันเอง
    ผ่านการลองผิดลองถูก
  54. เพื่อให้ถึงเป้าหมาย
  55. และกลับพบว่าวิธีที่ AI มีแนวโน้ม
    เพื่อแก้ปัญหานี้
  56. โดยการทำสิ่งนี้
  57. มันประกอบตัวเองเป็นหอคอย
    และหล่นลงมา
  58. ลงที่จุด B
  59. และในทางเทคนิค สิ่งนี้ช่วยแก้ปัญหา
  60. ทางเทคนิค มันไปยังจุด B
  61. อันตรายของ AI ไม่ใช่ว่า
    มันกำลังจะกบฏต่อเรา
  62. แต่มันกำลังจะทำในสิ่งที่เรา
    ขอให้ทำแบบเฉพาะเจาะจงเลย
  63. ดังนั้นแล้วเคล็ดลับ
    การทำงานร่วมกับ AI ควรจะเป็น:
  64. เราจะตั้งค่าปัญหาอย่างไร
    เพื่อที่มันทำสิ่งที่เราต้องการจริงๆ
  65. เจ้าหุ่นตัวจิ๋วนี้
    กำลังถูกควบคุมโดย AI

  66. AI มาพร้อมกับการออกแบบ
    สำหรับขาหุ่นยนต์
  67. จากนั้นหาวิธีใช้มัน
    เพื่อผ่านอุปสรรคเหล่านี้ทั้งหมด
  68. แต่เมื่อ David Ha ตั้งค่าการทดลองนี้
  69. เขาตั้งค่ามันขึ้นมา
    ด้วยข้อจำกัดที่เข้มงวดมาก
  70. ว่า AI นั้นได้รับอนุญาต
    ที่จะทำให้ขาใหญ่แค่ไหน
  71. เพราะมิฉะนั้น...
  72. (เสียงหัวเราะ)

  73. และถ้าพูดในทางเทคนิคแล้ว
    มันก็ไปถึงจุดหมายแหละค่ะ
  74. ดังนั้นคุณจะเห็นว่ามันยากแค่ไหนที่จะให้ AI
    ทำสิ่งที่ง่ายเพียงแค่เดิน

  75. ดังนั้นเมื่อเห็น AI ทำเช่นนี้
    คุณอาจพูดว่า มันไม่ยุติธรรม
  76. คุณไม่สามารถเป็น
    หอคอยสูงและล้มตัวลงมา
  77. สิ่งที่คุณต้องทำจริงๆ
    คือการใช้ขาเพื่อเดิน
  78. ผลปรากฎว่า
    มันก็ไม่ได้ผลเช่นกัน
  79. งานของ AI ตัวนี้คือเคลื่อนที่ให้เร็ว
  80. พวกมันไม่ได้ถูกบอกว่า
    มันต้องวิ่งเพื่อไปข้างหน้า
  81. หรือว่ามันห้ามใช้แขนช่วย
  82. นี่คือสิ่งที่คุณได้รับ
    เมื่อคุณฝึก AI ให้เคลื่อนที่เร็ว
  83. สิ่งที่คุณจะได้ คือการตีลังกา
    และท่าเดินโง่ ๆ
  84. จนเป็นเรื่องธรรมดาไปเลย
  85. ดังนั้นการกระตุกไปมา
  86. (เสียงหัวเราะ)

  87. ในความคิดของฉัน คุณรู้มั้ย
    อะไรที่จะประหลาดกว่านี้มาก

  88. อย่างหุ่นยนต์ "Terminator"
  89. การแฮ็ก "The Matrix" เป็นอีกสิ่งหนึ่ง
    AI นั้นจะทำถ้าคุณให้โอกาสมัน
  90. ดังนั้นถ้าคุณฝึก AI ในแบบจำลอง
  91. มันจะเรียนรู้วิธีทำสิ่งต่าง ๆ เช่นแฮ็คเข้าไปใน
    ความผิดพลาดของคณิตศาสตร์ที่ใช้ในการจำลอง
  92. และเก็บเกี่ยวพวกมันเป็นพลังงาน
  93. หรือมันจะคิดว่าทำอย่างไรที่จะ
    กระตุกตัวซ้ำๆ ลงกับพื้นเพื่อเคลื่อนที่เร็วๆ
  94. เมื่อคุณทำงานร่วมกับ AI
  95. มันไม่เหมือนกับ
    การทำงานกับมนุษย์คนอื่น
  96. และยังเหมือนทำงานกับ
    พลังธรรมชาติประหลาดๆสักอย่าง
  97. และเป็นเรื่องง่ายโดยไม่ได้ตั้งใจ
    ที่ให้ AI แก้ปัญหาที่ผิด
  98. และบ่อยครั้งเราไม่ได้ตระหนักถึงมัน
    จนกว่าจะมีบางอย่างผิดพลาดขึ้นมาจริงๆ
  99. นี่คือการทดลองที่ฉันทำ

  100. ฉันให้ปัญญาประดิษฐ์ลอกแถบสีเหล่านี้
  101. เพื่อคิดค้นสีใหม่ขึ้นมา
  102. โดยให้รายการสีเหมือนกับ
    อันที่อยู่ทางซ้ายมือนี้
  103. และนี่คือสิ่งที่ปัญญาประดิษฐ์
    ให้ผลลัพท์ออกมา
  104. [อึของซินดิส, เสมือนอึ, ความเจ็บปวด, ขนลับหงอก]

  105. (เสียงหัวเราะ)

  106. ดังนั้นทางเทคนิคแล้ว

  107. มันทำอย่างที่ฉันสั่งให้ทำ
  108. ฉันคิดว่าฉันขอให้มัน
    ตั้งชื่อสีที่ดูดี
  109. แต่สิ่งที่ฉันสั่งให้ทำจริงๆ
  110. แค่ลอกรูปแบบของกลุ่มอักษร
  111. อย่างที่มันเห็นในตัวต้นฉบับ
  112. และฉันไม่ได้บอกอะไรเลย
    เกี่ยวกับความหมายของคำ
  113. หรือว่าอาจจะมีบางคำ
  114. ที่มันควรเลี่ยงที่จะใช้
    ในแทบสีเหล่านี้
  115. ดังนั้นโลกทั้งโลกของมัน
    คือข้อมูลที่ฉันให้มัน
  116. เช่นเดียวกับ รสของไอศครีม
    มันไม่รู้อะไรอื่นเลย
  117. ดังนั้น จากข้อมูลที่ให้มันนี่เอง

  118. บ่อยครั้งที่เราบอกให้ AI
    ทำสิ่งที่ผิดโดยไม่เราตั้งใจ
  119. นี่คือปลาที่เรียกว่าเทนช์
  120. และมีกลุ่มนักวิจัย
  121. ที่เป็นคนฝึกให้ AI ระบุ
    ปลาเทนช์ในรูปนี้
  122. แต่เมื่อพวกเขาถามมัน
  123. ส่วนไหนของภาพที่ใช้
    เพื่อระบุปลาจริงๆล่ะ
  124. นี่คือสิ่งที่ AI บอกมาค่ะ
  125. ใช่ พวกนั้นคือนิ้วมือมนุษย์
  126. ทำไมถึงต้องมองหานิ้วมือมนุษย์ล่ะ
  127. ถ้ามันพยายามที่จะระบุตัวปลา
  128. คือปรากฎว่าปลาเทนช์
    ตัวนั้นคือถ้วยรางวัล
  129. และในภาพจำนวนมาก
    ที่ AI ได้เห็นปลาตัวนี้
  130. ในระหว่างการฝึก
  131. ปลามีลักษณะเช่นนี้
  132. (เสียงหัวเราะ)

  133. และมันก็ไม่รู้ว่านิ้ว
    ไม่ใช่ส่วนหนึ่งของปลา

  134. ฉะนั้นคุณจะเห็นว่ามันยากเหลือเกิน
    ที่จะออกแบบ AI

  135. ที่สามารถเข้าใจจริงๆว่า
    มันกำลังดูอะไรอยู่
  136. และนั้นคือเหตุผลที่การออกแบบ
    กระบวนการจดจำรูปภาพ
  137. ในพาหนะไร้คนขับถึงได้ยากนัก
  138. และนั้นคือเหตุผลที่ยานไร้คนขับ
    ทั้งหลายล้มเหลว
  139. นั้นก็เพราะ AI เกิดความสับสน
  140. ฉันอยากจะพูดเกี่ยวกับตัวอย่างจากปี 2016
  141. ครั้งนั้นได้เกิดอุบัติเหตุเมื่อมีคน
    ใช้ระบบคนขับโดยใช้ AI ของ Tesla
  142. แต่แทนที่จะใช้บนทางด่วน
    อย่างที่มันถูกออกแบบมา
  143. พวกเขากลับใช้มันบนถนน
  144. และสิ่งที่เกิดขึ้นคือ
  145. มีรถบรรทุกขับอยู่ข้างหน้ารถ
    และรถไม่สามารถเบรกได้
  146. ตอนนี้ AI ถูกสอนให้
    จดจำรถบรรทุกในรูป
  147. แต่สิ่งที่ดูเหมือนว่าจะเกิดขึ้นคือ
  148. AI ถูกสอนให้จดจำ
    รถบรรทุกที่ขับบนทางด่วน
  149. ที่ที่คุณน่าจะเดาได้
    ว่าจะเห็นรถบรรทุกจากข้างหลัง
  150. ภาพรถบรรทุกด้านข้างไม่ควร
    เกิดขึ้นบนทางด่วน
  151. และเมื่อ AI เห็นรถบรรทุกเช่นนั้น
  152. มันกลับคิดว่าสิ่งนั้น
    คล้ายกับป้ายจราจร
  153. และดังนั้นมันจึงปลอดภัยที่จะขับต่อ
  154. นี่คือความผิดพลาดของ AI
    จากสายงานต่างๆ

  155. Amazon ต้องยอมล้มเลิก
    อัลกอริธิมจัดเรียงเรซูเม่
  156. ที่พวกเขากำลังทำกันอยู่
  157. เมื่อพวกเขาค้นพบว่าอัลกอริทึม
    เรียนรู้ที่จะเลือกปฏิบัติต่อผู้หญิง
  158. สิ่งที่เกิดขึ้นคือพวกเขาฝึกมัน
    ในตัวอย่างเรซูเม่
  159. ของคนที่เคยถูกจ้างมาแล้วในอดีต
  160. และจากตัวอย่างนี้ AI เรียนรู้
    เพื่อหลีกเลี่ยงเรซูเม่ของ
  161. คนที่มาจากวิทยาลัยสตรี
  162. หรือใครก็ตามที่มีคำว่า "ผู้หญิง"
    สักแห่งในเร่ซูเม่พวกเขา
  163. ไม่ว่าจะ "นักฟุตบอลหญิง"
    หรือ "สมาคมวิศวะกรหญิง"
  164. AI ไม่รู้ว่ามันไม่จำเป็นจะต้อง
    สำเนาข้อความ
  165. ที่มันได้เคยเห็นมนุษย์ทำไปเหล่านี้
  166. และในทางเทคนิค
    มันทำอย่างที่มันถูกร้องขอให้ทำ
  167. พวกมันถูกร้องขอโดยไม่ตั้งใจ
    ให้ทำสิ่งผิด
  168. และมันเกิดขึ้นตลอดเวลากับ AI

  169. AI สามารถทำตัวไม่เป็นประโยชน์
    โดยที่มันไม่รู้ตัว
  170. ฉะนั้น AI ที่แนะนำ
    เนื่อหาใหม่ๆใน Facebook ใน Youtube
  171. พวกมันถูกปรับแต่ง
    เพื่อเพี่มยอดคลิกและยอดรับชม
  172. และโชคร้าย วิธีที่พวกมันทำ
  173. คือการแนะนำเนื้อหา
    เกี่ยวกับทฤษฎีสมคบคิดหรือการคลั่งศาสนา
  174. ตัว AI เองไม่มีแนวคิดใดๆ
    ว่าเนื้อหาพวกนี้คืออะไรกันแน่
  175. และพวกมันก็ไม่มีแนวคิด
    ว่าผลกระทบที่ตามมาอาจเป็นอะไร
  176. ของการแนะนำเนื้อหานี้
  177. ฉะนั้น เมื่อเราทำงานร่วมกับ AI

  178. มันขึ้นอยู่กับพวกเราเพื่อหลีกเลี่ยงปัญหา
  179. และหลีกเลี่ยงความผิดพลาดต่างๆ
  180. ที่จะนำไปสู่ปัญหาเดิมๆนั้นคือการสื่อสาร
  181. มนุษย์ต้องเรียนรู้
    วิธีสื่อสารกับ AI
  182. เราต้องเรียนรู้ว่าอะไรที่ AI
    ทำได้หรือไม่ได้
  183. และเพื่อให้เข้าใจว่า
    ด้วยสมองหนอนจิ๋วๆของมัน
  184. มันไม่เข้าใจจริงๆ
    ว่าอะไรคือสิ่งที่เราต้องการให้มันทำ
  185. ในอีกแง่หนึ่งก็คือ เราต้องเตรียมพร้อม
    ที่จะทำงานร่วมกับ AI
  186. นั่นไม่ใช่ความสามารถระดับสูงของ
    AI ที่ทุกคนรู้จักในนิยายวิทยาศาสตร์
  187. เราต้องเตรียมพร้อมทำงาน
    ร่วมกับ AI
  188. ที่เรามีในปัจจุบัน
  189. และในปัจจุบัน AI
    ก็ดูจะแปลกมากขึ้นทุกที
  190. ขอบคุณค่ะ

  191. (เสียงปรบมือ)