0:00:01.765,0:00:04.765 ปัญญาประดิษฐ์ 0:00:04.789,0:00:08.318 สิ่งประดิษฐ์ที่เข้ามาแทรกแซง[br]อุตสาหกรรมทุกชนิด 0:00:08.961,0:00:11.004 แล้วกับไอศครีมล่ะ 0:00:11.879,0:00:15.518 รสชาติสุดตะลึงแบบไหนกัน[br]ที่เราสามารถสร้างได้ 0:00:15.542,0:00:18.518 ด้วยพลังของปัญญาประดิษฐ์ขั้นสูง 0:00:19.011,0:00:23.172 ฉันจึงจับกลุ่มกับนักเขียนโค้ด[br]จากโรงเรียนมัธยมต้น Kealing 0:00:23.196,0:00:25.437 เพื่อค้นหาคำตอบของคำถามนี้ 0:00:25.461,0:00:30.542 พวกเขารวบรวมไอศครีมทั้งหมด[br]1,600 รสชาติ ที่มีอยู่ 0:00:30.566,0:00:36.111 และเราก็ป้อนเข้าอัลกอริทึม[br]เพื่อดูว่ามันจะสร้างอะไร 0:00:36.111,0:00:39.512 และนี่คือบางรสที่ AI คิดขึ้นมา 0:00:39.512,0:00:41.934 [ขยะฟักทอง] 0:00:41.934,0:00:43.368 (เสียงหัวเราะ) 0:00:43.368,0:00:46.508 [แยมเนยถั่วเหนียวเหนอะหนะ] 0:00:46.508,0:00:48.192 [โรคครีมสตรอเบอรี่] 0:00:48.192,0:00:50.338 (เสียงหัวเราะ) 0:00:50.338,0:00:54.634 รสชาติพวกนี้ไม่อร่อยเอาซะเลย[br]ในขณะที่เราหวังว่าพวกเขาจะ 0:00:54.963,0:00:56.860 งั้นคำถามก็คือ มันเกิดอะไรขึ้น 0:00:56.860,0:00:58.271 มันผิดพลาดตรงไหน 0:00:58.271,0:01:00.375 นี่ AI พยายามจะฆ่าเราหรอ 0:01:01.015,0:01:05.512 หรือมันพยายามทำตามที่เราสั่ง[br]และมันเป็นปัญหาหรอ 0:01:06.577,0:01:09.057 ในภาพยนต์ เมื่อมีบางอย่างผิดปกติกับ AI 0:01:09.057,0:01:11.791 มันเป็นเพราะ AI เป็นคนตัดสินใจว่า 0:01:11.791,0:01:14.093 มันไม่จำเป็นที่จะต้องทำตามคำสั่ง[br]มนุษย์อีกต่อไป 0:01:14.093,0:01:15.967 และมันมีเป้าหมายของมันเอง[br]ขอบคุณมากๆเลย 0:01:17.267,0:01:20.506 ในความเป็นจริง ถึงแม้ AI ที่เรามี 0:01:20.506,0:01:22.776 ยังไม่ฉลาดพอที่จะทำเช่นนั้น 0:01:22.776,0:01:25.793 มันมีพลังในการคำนวณโดยประมาณ 0:01:25.793,0:01:27.087 พอๆกับไส้เดือนดิน 0:01:27.087,0:01:30.507 หรืออาจจะพอๆกับผึ้งแค่ตัวเดียว 0:01:30.507,0:01:32.747 อันที่จริง อาจจะน้อยกว่าด้วยซ้ำ 0:01:32.747,0:01:35.373 เนื่องเพราะเราเรียนรู้สิ่งใหม่เกี่ยวกับสมอง 0:01:35.373,0:01:39.481 นี่ทำให้รู้ชัดว่า AI ยังเทียบไม่ได้กับสมองคนมนุษย์ 0:01:39.481,0:01:45.435 ดังนั้นทุกวันนี้ AI สามารถทำงาน[br]อย่างระบุคนเดินเท้าในภาพ 0:01:45.435,0:01:48.452 แต่มันไม่ได้มีความคิดที่ว่า[br]อะไรคือคนเดินเท้า 0:01:48.452,0:01:53.793 มากไปกว่าว่ามันคือชุด[br]ของเส้น พื้นผิวและสิ่งของ 0:01:53.793,0:01:56.823 มันไม่รู้เลยว่าจริงๆแล้วมนุษย์คืออะไร 0:01:56.823,0:02:00.132 ดังนั้นทุกวันนี้ AI[br]จะทำในสิ่งที่เราสั่งให้ทำ 0:02:00.132,0:02:01.752 มันจะทำถ้ามันทำได้ 0:02:01.752,0:02:04.496 แต่มันอาจไม่ทำในสิ่งที่เราต้องการ 0:02:04.496,0:02:06.936 งั้นลองคิดว่าคุณ[br]พยายามใช้ AI 0:02:06.936,0:02:09.575 เพื่อรวบรวมชิ้นส่วนหุ่นยนต์นี้ 0:02:09.575,0:02:13.798 และประกอบมันกลายเป็นหุ่นยนต์[br]เพื่อไปจากจุด A ไปจุด B 0:02:13.798,0:02:16.299 ตอนนี้ ถ้าคุณกำลังพยายาม[br]และแก้โจทย์นี้อยู่ 0:02:16.299,0:02:18.676 โดยการเขียนโค้ดแบบเดิม 0:02:18.676,0:02:22.119 คุณจะให้โปรแกรม[br]ทำตามคำแนะนำทีละขั้นตอน 0:02:22.119,0:02:23.467 วิธีการใช้ชิ้นส่วนเหล่านี้ 0:02:23.467,0:02:25.910 วิธีประกอบมันให้กลายเป็นหุ่นยนต์ที่มีขา 0:02:25.910,0:02:29.406 และจากนั้นคือวิธีใช้ขาพวกนั้นไปให้ถึงจุด B 0:02:29.406,0:02:31.815 แต่เมื่อคุณใช้ AI[br]เพื่อแก้โจทย์นี้ 0:02:31.815,0:02:32.999 มันต่างกันเลย[br] 0:02:32.999,0:02:35.413 คุณไม่ได้บอกมันว่า[br]ต้องแก้โจทย์นี้อย่างไง 0:02:35.413,0:02:36.909 คุณแค่ให้เป้าหมายกับมัน 0:02:36.909,0:02:40.202 และมันก็คิดออกด้วยตัวมันเอง[br]ผ่านการลองผิดลองถูก 0:02:40.202,0:02:42.248 เพื่อให้ถึงเป้าหมาย 0:02:42.248,0:02:46.376 และกลับพบว่าวิธีที่ AI มีแนวโน้ม[br]เพื่อแก้ปัญหานี้ 0:02:46.376,0:02:47.890 โดยการทำสิ่งนี้ 0:02:47.890,0:02:51.268 มันประกอบตัวเองเป็นหอคอย[br]และหล่นลงมา 0:02:51.268,0:02:53.139 ลงที่จุด B 0:02:53.139,0:02:55.380 และในทางเทคนิค สิ่งนี้ช่วยแก้ปัญหา 0:02:55.380,0:02:57.653 ทางเทคนิค มันไปยังจุด B 0:02:57.653,0:03:01.936 อันตรายของ AI ไม่ใช่ว่า[br]มันกำลังจะกบฏต่อเรา 0:03:01.936,0:03:06.885 แต่มันกำลังจะทำในสิ่งที่เรา[br]ขอให้ทำแบบเฉพาะเจาะจงเลย 0:03:06.885,0:03:09.406 ดังนั้นแล้วเคล็ดลับ[br]การทำงานร่วมกับ AI ควรจะเป็น: 0:03:09.406,0:03:12.804 เราจะตั้งค่าปัญหาอย่างไร[br]เพื่อที่มันทำสิ่งที่เราต้องการจริงๆ 0:03:14.726,0:03:18.032 เจ้าหุ่นตัวจิ๋วนี้[br]กำลังถูกควบคุมโดย AI 0:03:18.056,0:03:20.870 AI มาพร้อมกับการออกแบบ[br]สำหรับขาหุ่นยนต์ 0:03:20.894,0:03:24.972 จากนั้นหาวิธีใช้มัน[br]เพื่อผ่านอุปสรรคเหล่านี้ทั้งหมด 0:03:24.996,0:03:27.737 แต่เมื่อ David Ha ตั้งค่าการทดลองนี้ 0:03:27.761,0:03:30.617 เขาตั้งค่ามันขึ้นมา[br]ด้วยข้อจำกัดที่เข้มงวดมาก 0:03:30.641,0:03:33.933 ว่า AI นั้นได้รับอนุญาต[br]ที่จะทำให้ขาใหญ่แค่ไหน 0:03:33.933,0:03:35.254 เพราะมิฉะนั้น... 0:03:45.523,0:03:48.562 (เสียงหัวเราะ) 0:03:48.562,0:03:52.334 และถ้าพูดในทางเทคนิคแล้ว[br]มันก็ไปถึงจุดหมายแหละค่ะ 0:03:52.334,0:03:57.304 ดังนั้นคุณจะเห็นว่ามันยากแค่ไหนที่จะให้ AI[br]ทำสิ่งที่ง่ายเพียงแค่เดิน 0:03:57.304,0:04:01.134 ดังนั้นเมื่อเห็น AI ทำเช่นนี้[br]คุณอาจพูดว่า มันไม่ยุติธรรม 0:04:01.136,0:04:03.751 คุณไม่สามารถเป็น[br]หอคอยสูงและล้มตัวลงมา 0:04:03.751,0:04:07.210 สิ่งที่คุณต้องทำจริงๆ[br]คือการใช้ขาเพื่อเดิน 0:04:07.210,0:04:09.989 ผลปรากฎว่า[br]มันก็ไม่ได้ผลเช่นกัน 0:04:09.989,0:04:13.122 งานของ AI ตัวนี้คือเคลื่อนที่ให้เร็ว 0:04:13.122,0:04:16.727 พวกมันไม่ได้ถูกบอกว่า[br]มันต้องวิ่งเพื่อไปข้างหน้า 0:04:16.727,0:04:19.485 หรือว่ามันห้ามใช้แขนช่วย 0:04:19.485,0:04:24.129 นี่คือสิ่งที่คุณได้รับ[br]เมื่อคุณฝึก AI ให้เคลื่อนที่เร็ว 0:04:24.129,0:04:27.687 สิ่งที่คุณจะได้ คือการตีลังกา[br]และท่าเดินโง่ ๆ 0:04:27.687,0:04:29.670 จนเป็นเรื่องธรรมดาไปเลย 0:04:29.670,0:04:32.870 ดังนั้นการกระตุกไปมา 0:04:32.870,0:04:34.500 (เสียงหัวเราะ) 0:04:35.241,0:04:38.495 ในความคิดของฉัน คุณรู้มั้ย[br]อะไรที่จะประหลาดกว่านี้มาก 0:04:38.519,0:04:39.915 อย่างหุ่นยนต์ "Terminator" 0:04:40.256,0:04:44.011 การแฮ็ก "The Matrix" เป็นอีกสิ่งหนึ่ง[br]AI นั้นจะทำถ้าคุณให้โอกาสมัน 0:04:44.035,0:04:46.552 ดังนั้นถ้าคุณฝึก AI ในแบบจำลอง 0:04:46.576,0:04:50.689 มันจะเรียนรู้วิธีทำสิ่งต่าง ๆ เช่นแฮ็คเข้าไปใน[br]ความผิดพลาดของคณิตศาสตร์ที่ใช้ในการจำลอง 0:04:50.713,0:04:52.920 และเก็บเกี่ยวพวกมันเป็นพลังงาน 0:04:52.944,0:04:58.419 หรือมันจะคิดว่าทำอย่างไรที่จะ[br]กระตุกตัวซ้ำๆ ลงกับพื้นเพื่อเคลื่อนที่เร็วๆ 0:04:58.443,0:05:00.028 เมื่อคุณทำงานร่วมกับ AI 0:05:00.052,0:05:02.441 มันไม่เหมือนกับ[br]การทำงานกับมนุษย์คนอื่น 0:05:02.441,0:05:06.562 และยังเหมือนทำงานกับ[br]พลังธรรมชาติประหลาดๆสักอย่าง 0:05:06.562,0:05:11.185 และเป็นเรื่องง่ายโดยไม่ได้ตั้งใจ[br]ที่ให้ AI แก้ปัญหาที่ผิด 0:05:11.209,0:05:15.747 และบ่อยครั้งเราไม่ได้ตระหนักถึงมัน[br]จนกว่าจะมีบางอย่างผิดพลาดขึ้นมาจริงๆ 0:05:16.242,0:05:18.322 นี่คือการทดลองที่ฉันทำ 0:05:18.346,0:05:21.528 ฉันให้ปัญญาประดิษฐ์ลอกแถบสีเหล่านี้ 0:05:21.552,0:05:23.298 เพื่อคิดค้นสีใหม่ขึ้นมา 0:05:23.322,0:05:26.309 โดยให้รายการสีเหมือนกับ[br]อันที่อยู่ทางซ้ายมือนี้ 0:05:26.798,0:05:29.802 และนี่คือสิ่งที่ปัญญาประดิษฐ์[br]ให้ผลลัพท์ออกมา 0:05:29.826,0:05:32.969 [อึของซินดิส, เสมือนอึ, ความเจ็บปวด, ขนลับหงอก] 0:05:32.993,0:05:37.223 (เสียงหัวเราะ) 0:05:39.177,0:05:41.063 ดังนั้นทางเทคนิคแล้ว 0:05:41.087,0:05:42.951 มันทำอย่างที่ฉันสั่งให้ทำ 0:05:42.975,0:05:46.283 ฉันคิดว่าฉันขอให้มัน[br]ตั้งชื่อสีที่ดูดี 0:05:46.307,0:05:48.614 แต่สิ่งที่ฉันสั่งให้ทำจริงๆ 0:05:48.638,0:05:51.724 แค่ลอกรูปแบบของกลุ่มอักษร 0:05:51.748,0:05:53.653 อย่างที่มันเห็นในตัวต้นฉบับ 0:05:53.677,0:05:56.775 และฉันไม่ได้บอกอะไรเลย[br]เกี่ยวกับความหมายของคำ 0:05:56.799,0:05:59.359 หรือว่าอาจจะมีบางคำ 0:05:59.383,0:06:02.272 ที่มันควรเลี่ยงที่จะใช้[br]ในแทบสีเหล่านี้ 0:06:03.141,0:06:06.635 ดังนั้นโลกทั้งโลกของมัน[br]คือข้อมูลที่ฉันให้มัน 0:06:06.659,0:06:10.755 เช่นเดียวกับ รสของไอศครีม[br]มันไม่รู้อะไรอื่นเลย 0:06:12.491,0:06:14.151 ดังนั้น จากข้อมูลที่ให้มันนี่เอง 0:06:14.151,0:06:18.684 บ่อยครั้งที่เราบอกให้ AI[br]ทำสิ่งที่ผิดโดยไม่เราตั้งใจ 0:06:18.684,0:06:21.740 นี่คือปลาที่เรียกว่าเทนช์ 0:06:21.740,0:06:23.590 และมีกลุ่มนักวิจัย 0:06:23.590,0:06:27.492 ที่เป็นคนฝึกให้ AI ระบุ[br]ปลาเทนช์ในรูปนี้ 0:06:27.492,0:06:28.816 แต่เมื่อพวกเขาถามมัน 0:06:28.816,0:06:32.252 ส่วนไหนของภาพที่ใช้[br]เพื่อระบุปลาจริงๆล่ะ 0:06:32.259,0:06:34.035 นี่คือสิ่งที่ AI บอกมาค่ะ 0:06:35.195,0:06:37.417 ใช่ พวกนั้นคือนิ้วมือมนุษย์ 0:06:37.417,0:06:39.496 ทำไมถึงต้องมองหานิ้วมือมนุษย์ล่ะ 0:06:39.496,0:06:42.135 ถ้ามันพยายามที่จะระบุตัวปลา 0:06:42.135,0:06:45.306 คือปรากฎว่าปลาเทนช์[br]ตัวนั้นคือถ้วยรางวัล 0:06:45.306,0:06:49.150 และในภาพจำนวนมาก[br]ที่ AI ได้เห็นปลาตัวนี้ 0:06:49.154,0:06:50.315 ในระหว่างการฝึก 0:06:50.315,0:06:51.901 ปลามีลักษณะเช่นนี้ 0:06:51.901,0:06:53.473 (เสียงหัวเราะ) 0:06:53.497,0:06:56.827 และมันก็ไม่รู้ว่านิ้ว[br]ไม่ใช่ส่วนหนึ่งของปลา 0:06:58.808,0:07:02.928 ฉะนั้นคุณจะเห็นว่ามันยากเหลือเกิน[br]ที่จะออกแบบ AI 0:07:02.952,0:07:06.271 ที่สามารถเข้าใจจริงๆว่า[br]มันกำลังดูอะไรอยู่ 0:07:06.295,0:07:09.157 และนั้นคือเหตุผลที่การออกแบบ[br]กระบวนการจดจำรูปภาพ 0:07:09.181,0:07:11.248 ในพาหนะไร้คนขับถึงได้ยากนัก 0:07:11.272,0:07:13.477 และนั้นคือเหตุผลที่ยานไร้คนขับ[br]ทั้งหลายล้มเหลว 0:07:13.501,0:07:16.386 นั้นก็เพราะ AI เกิดความสับสน 0:07:16.410,0:07:20.418 ฉันอยากจะพูดเกี่ยวกับตัวอย่างจากปี 2016 0:07:20.442,0:07:24.897 ครั้งนั้นได้เกิดอุบัติเหตุเมื่อมีคน[br]ใช้ระบบคนขับโดยใช้ AI ของ Tesla 0:07:24.921,0:07:28.335 แต่แทนที่จะใช้บนทางด่วน[br]อย่างที่มันถูกออกแบบมา 0:07:28.359,0:07:30.564 พวกเขากลับใช้มันบนถนน 0:07:31.239,0:07:32.414 และสิ่งที่เกิดขึ้นคือ 0:07:32.438,0:07:35.834 มีรถบรรทุกขับอยู่ข้างหน้ารถ[br]และรถไม่สามารถเบรกได้ 0:07:36.507,0:07:41.269 ตอนนี้ AI ถูกสอนให้[br]จดจำรถบรรทุกในรูป 0:07:41.293,0:07:43.438 แต่สิ่งที่ดูเหมือนว่าจะเกิดขึ้นคือ 0:07:43.462,0:07:46.393 AI ถูกสอนให้จดจำ[br]รถบรรทุกที่ขับบนทางด่วน 0:07:46.417,0:07:49.316 ที่ที่คุณน่าจะเดาได้[br]ว่าจะเห็นรถบรรทุกจากข้างหลัง 0:07:49.340,0:07:52.760 ภาพรถบรรทุกด้านข้างไม่ควร[br]เกิดขึ้นบนทางด่วน 0:07:52.784,0:07:56.239 และเมื่อ AI เห็นรถบรรทุกเช่นนั้น 0:07:56.263,0:08:01.090 มันกลับคิดว่าสิ่งนั้น[br]คล้ายกับป้ายจราจร 0:08:01.114,0:08:03.387 และดังนั้นมันจึงปลอดภัยที่จะขับต่อ 0:08:04.114,0:08:06.694 นี่คือความผิดพลาดของ AI[br]จากสายงานต่างๆ 0:08:06.718,0:08:10.178 Amazon ต้องยอมล้มเลิก[br]อัลกอริธิมจัดเรียงเรซูเม่ 0:08:10.202,0:08:11.422 ที่พวกเขากำลังทำกันอยู่ 0:08:11.446,0:08:15.354 เมื่อพวกเขาค้นพบว่าอัลกอริทึม[br]เรียนรู้ที่จะเลือกปฏิบัติต่อผู้หญิง 0:08:15.378,0:08:18.094 สิ่งที่เกิดขึ้นคือพวกเขาฝึกมัน[br]ในตัวอย่างเรซูเม่ 0:08:18.118,0:08:20.360 ของคนที่เคยถูกจ้างมาแล้วในอดีต 0:08:20.384,0:08:24.407 และจากตัวอย่างนี้ AI เรียนรู้[br]เพื่อหลีกเลี่ยงเรซูเม่ของ 0:08:24.431,0:08:26.457 คนที่มาจากวิทยาลัยสตรี 0:08:26.481,0:08:29.287 หรือใครก็ตามที่มีคำว่า "ผู้หญิง"[br]สักแห่งในเร่ซูเม่พวกเขา 0:08:29.311,0:08:33.887 ไม่ว่าจะ "นักฟุตบอลหญิง"[br]หรือ "สมาคมวิศวะกรหญิง" 0:08:33.911,0:08:37.885 AI ไม่รู้ว่ามันไม่จำเป็นจะต้อง[br]สำเนาข้อความ 0:08:37.909,0:08:39.887 ที่มันได้เคยเห็นมนุษย์ทำไปเหล่านี้ 0:08:39.911,0:08:43.088 และในทางเทคนิค[br]มันทำอย่างที่มันถูกร้องขอให้ทำ 0:08:43.112,0:08:45.909 พวกมันถูกร้องขอโดยไม่ตั้งใจ[br]ให้ทำสิ่งผิด 0:08:46.653,0:08:49.548 และมันเกิดขึ้นตลอดเวลากับ AI 0:08:50.120,0:08:53.711 AI สามารถทำตัวไม่เป็นประโยชน์[br]โดยที่มันไม่รู้ตัว 0:08:53.735,0:08:58.813 ฉะนั้น AI ที่แนะนำ[br]เนื่อหาใหม่ๆใน Facebook ใน Youtube 0:08:58.837,0:09:02.376 พวกมันถูกปรับแต่ง[br]เพื่อเพี่มยอดคลิกและยอดรับชม 0:09:02.400,0:09:05.836 และโชคร้าย วิธีที่พวกมันทำ 0:09:05.860,0:09:10.363 คือการแนะนำเนื้อหา[br]เกี่ยวกับทฤษฎีสมคบคิดหรือการคลั่งศาสนา 0:09:10.902,0:09:16.204 ตัว AI เองไม่มีแนวคิดใดๆ[br]ว่าเนื้อหาพวกนี้คืออะไรกันแน่ 0:09:16.228,0:09:19.623 และพวกมันก็ไม่มีแนวคิด[br]ว่าผลกระทบที่ตามมาอาจเป็นอะไร 0:09:19.647,0:09:21.756 ของการแนะนำเนื้อหานี้ 0:09:22.296,0:09:24.307 ฉะนั้น เมื่อเราทำงานร่วมกับ AI 0:09:24.331,0:09:28.513 มันขึ้นอยู่กับพวกเราเพื่อหลีกเลี่ยงปัญหา 0:09:28.537,0:09:30.860 และหลีกเลี่ยงความผิดพลาดต่างๆ 0:09:30.884,0:09:35.410 ที่จะนำไปสู่ปัญหาเดิมๆนั้นคือการสื่อสาร 0:09:35.434,0:09:39.179 มนุษย์ต้องเรียนรู้[br]วิธีสื่อสารกับ AI 0:09:39.203,0:09:43.242 เราต้องเรียนรู้ว่าอะไรที่ AI[br]ทำได้หรือไม่ได้ 0:09:43.266,0:09:46.352 และเพื่อให้เข้าใจว่า[br]ด้วยสมองหนอนจิ๋วๆของมัน 0:09:46.376,0:09:50.389 มันไม่เข้าใจจริงๆ[br]ว่าอะไรคือสิ่งที่เราต้องการให้มันทำ 0:09:51.148,0:09:54.469 ในอีกแง่หนึ่งก็คือ เราต้องเตรียมพร้อม[br]ที่จะทำงานร่วมกับ AI 0:09:54.493,0:09:59.751 นั่นไม่ใช่ความสามารถระดับสูงของ[br]AI ที่ทุกคนรู้จักในนิยายวิทยาศาสตร์ 0:09:59.775,0:10:02.637 เราต้องเตรียมพร้อมทำงาน[br]ร่วมกับ AI 0:10:02.661,0:10:05.599 ที่เรามีในปัจจุบัน 0:10:05.623,0:10:09.828 และในปัจจุบัน AI[br]ก็ดูจะแปลกมากขึ้นทุกที 0:10:09.852,0:10:11.042 ขอบคุณค่ะ 0:10:11.066,0:10:16.291 (เสียงปรบมือ)