0:00:00.570,0:00:03.708
ผมทำงานกับนักวิทยาศาสตร์,นักปรัชญา

0:00:03.708,0:00:06.486
และนักคอมพิวเตอร์

0:00:06.486,0:00:08.574
และเรามานั่งคิดกัน

0:00:08.602,0:00:12.030
เกี่ยวกับอนาคตสติปัญญาของจักรกล และเรื่องอื่นๆ

0:00:12.030,0:00:14.638
บางคนคิดว่าสิ่งเหล่านี้

0:00:14.638,0:00:17.016
เป็นเรื่องมาจาก นิยายวิทยาศาสตร์

0:00:17.016,0:00:19.856
ซึ่งห่างไกลจากเราและบ้า

0:00:19.856,0:00:21.326
แต่ผมอยากจะบอกว่า

0:00:21.326,0:00:23.091
เราลองมาดูถึงเงื่อนไขการใช้ชีวิต

0:00:23.091,0:00:24.856
ของมนุษย์สมัยใหม่

0:00:24.856,0:00:28.112
(เสียงหัวเราะ) นี่คือสิ่งที่ โดยปกติมันควรจะเป็น

0:00:28.614,0:00:31.309
และถ้าเราลองคิดดูดีๆ

0:00:31.309,0:00:33.684
ก็จะรู้ว่าเราเพิ่งมาอยู่อาศัยตั้งรกรากบนโลก

0:00:33.684,0:00:36.174
มนุษยชาติของเรา

0:00:36.174,0:00:41.430
ลองคิดดูว่าถ้าโลกเพิ่งเกิดเมื่อปีที่แล้ว

0:00:41.430,0:00:44.978
มนุษย์ก็จะเพิ่งเกิดเมื่อ 10 นาทีที่แล้ว

0:00:44.978,0:00:48.146
ยุคอุตสาหกรรมเพิ่งเกิดเมื่อ 2 วินาทีที่แล้ว

0:00:49.276,0:00:52.027
หรืออีกวิธีนึงคือดู GDP ของโลก

0:00:52.027,0:00:54.778
ตลอด 10000 ปี ที่ผ่านมา

0:00:54.778,0:00:57.530
ซึ่งผมมีปัญหากับการพล็อตกราฟนี้

0:00:57.530,0:00:59.304
ดูนี่สิครับ (เสียงหัวเราะ)

0:01:00.667,0:01:02.818
รูปร่างประหลาดมาก สำหรับสภาวะที่ปกติ

0:01:02.818,0:01:04.516
ผมมั่นใจว่าเราคงไม่อยากนั่งทับมันหรอก

0:01:04.516,0:01:07.067
(เสียงหัวเราะ)

0:01:07.067,0:01:11.841
ลองถามตัวเราเอง ว่าอะไรทำให้เกิดสิ่งผิดปกตินี้

0:01:11.841,0:01:14.393
บางคนบอกว่า เพราะเทคโนโลยี

0:01:14.393,0:01:19.061
ถูกสำหรับตอนนี้ เทคโนโลยีได้พัฒนามาตลอด

0:01:19.061,0:01:23.713
และตอนนี้ เทคโนโลยีได้ก้าวหน้าอย่างรวดเร็ว

0:01:23.713,0:01:25.278
นั่นเป็นสาเหตุที่ใกล้เคียง

0:01:25.278,0:01:27.843
นั่นคือเหตุผลที่ทำให้เรามีผลงานมากมายในปัจจุบัน

0:01:28.473,0:01:31.275
แต่ผมอยากให้เรากลับไปคิดถึงสาเหตุ

0:01:31.275,0:01:34.077
ที่ใหญ่กว่านั้น

0:01:34.077,0:01:36.034
กรุณาดูสุภาพบุรุษที่สุดแสนจะแตกต่างกันสองท่านนี้

0:01:37.011,0:01:38.480
ท่านแรกคือ Kanzi

0:01:38.480,0:01:41.259
เขาสามารถแยกแยะสัญลักษณ์ได้ถึง 200 แบบ

0:01:41.259,0:01:42.988
ช่างน่าทึ่ง

0:01:42.988,0:01:45.038
ท่านที่สอง Ed Witten ผู้ทำให้เกิดการปฎิวัติ superstring

0:01:45.038,0:01:46.817
ครั้งที่ 2

0:01:46.817,0:01:49.141
ถ้าเราดูกลไกที่ถูกซ่อนไว้ นี่คือสิ่งที่เราจะเจอ

0:01:49.141,0:01:50.711
โดยพื้นฐานแล้วมันคือสิ่งเดียวกัน

0:01:50.711,0:01:52.524
หนึ่งในนั้นใหญ่กว่าเล็กน้อย

0:01:52.524,0:01:55.282
มันอาจจะมีทริกบางอย่างในด้านการเชื่อมโยงของมัน

0:01:55.282,0:01:56.282
อย่างไรก็ตาม ความแตกต่างที่มองไม่เห็นเหล่านี้

0:01:56.282,0:01:59.094
ไม่น่าจะซับซ้อนมากนัก

0:01:59.094,0:02:03.379
เพราะว่ามันเพิ่งผ่านมาเพียง 250,000 รุ่น

0:02:03.379,0:02:05.111
หลังจากบรรพบุรุษที่เรามีร่วมกัน

0:02:05.111,0:02:07.000
เรารู้ว่าจักรกลที่ซับซ้อนนั้น

0:02:07.000,0:02:10.000
ใช้เวลานานในการพัฒนา

0:02:10.000,0:02:11.000
นั่นคือ การเปลี่่ยนแปลง

0:02:11.000,0:02:12.499
ที่เทียบแล้วถือว่าเล็กน้อยจำนวนหนึ่ง

0:02:12.499,0:02:15.566
ทำให้เราห่างจาก Kanzi และเข้าใกล้ Witten

0:02:15.566,0:02:20.109
จากกิ่งไม้หักๆ ไปสู่ขีปนาวุธข้ามทวีป

0:02:20.839,0:02:24.774
ค่อนข้างเห็นได้ชัดว่า ทุกอย่างที่เราสร้างขึ้น

0:02:24.774,0:02:26.152
และทุกๆ อย่างที่เราสนใจ

0:02:26.152,0:02:29.650
ขึ้นอยู่กับความเปลี่ยนแปลงแค่เพียงเล็กน้อย

0:02:29.650,0:02:32.650
ที่เกิดขึ้นในความคิดของของมนุษย์

0:02:32.650,0:02:36.312
ผลที่ตามมาก็คือ ความเปลี่ยนแปลงใดๆ หลังจากนี้

0:02:36.312,0:02:39.789
ที่สามารถเปลี่ยนพื้นฐานของความคิดไปได้

0:02:39.789,0:02:42.991
ก็อาจจะมีผลลัพธ์ที่ใหญ่หลวงตามมา

0:02:44.321,0:02:47.226
เพื่อนร่วมงานผมบางคนคิดว่า เรากำลังเข้าใกล้

0:02:47.226,0:02:51.134
อะไรบางอย่างที่ทำให้เกิด[br]ความเปลี่ยนแปลงครั้งใหญ่ของวิธีคิด

0:02:51.134,0:02:54.347
ซึ่งก็คือ เครื่องจักรทรงภูมิปัญญา[br](Machine Superintelligence)

0:02:54.347,0:02:59.086
ปัญญาประดิษฐ์เคยเป็นแค่เรื่องของการป้อนคำสั่ง

0:02:59.086,0:03:00.751
คุณมีนักเขียนโปรแกรมเป็นมนุษย์

0:03:00.751,0:03:03.886
ที่จะคอยใส่ความรู้เข้าไปอย่างระมัดระวัง

0:03:03.886,0:03:05.972
คุณสร้างระบบผู้เชี่ยวชาญขึ้นมา

0:03:05.972,0:03:08.296
ซึ่งมันก็ค่อนข้างจะมีประโยชน์สำหรับบางเรื่อง

0:03:08.296,0:03:10.977
แต่มันก็ยังเปราะบาง [br]คุณไม่สามารถขยายมันออกไปอีกได้

0:03:10.977,0:03:14.410
สิ่งที่คุณได้ออกมาก็เป็นแค่สิ่งที่คุณใส่เข้าไป

0:03:14.410,0:03:15.407
ตั้งแต่ตอนนั้น

0:03:15.407,0:03:18.874
ความเปลี่ยนแปลงก็ได้เกิดขึ้น[br]ในสายงานปัญญาประดิษฐ์หรือเอไอ (AI)

0:03:18.874,0:03:21.644
ทุกวันนี้ เรากำลังสนใจเรื่องการเรียนรู้ของเครื่องจักร

0:03:22.394,0:03:27.781
แทนที่จะค่อยๆ ป้อนข้อมูลหรือความรู้ต่างๆ

0:03:28.511,0:03:34.065
เราสร้างขั้นตอนวิธีในการเรียน[br]โดยมาก ด้วยข้อมูลที่ได้จากการรับรู้

0:03:34.065,0:03:39.063
เหมือนกับสิ่งที่ทารกของมนุษย์ทำ

0:03:39.063,0:03:43.270
ผลก็คือ ระบบเอไอที่ไม่ได้ถูกจำกัดอยู่เพียงสาขาเดียว

0:03:43.270,0:03:47.901
ระบบเดียวกันสามารถเรียนรู้[br]ที่จะแปลระหว่างคู่ภาษาใดๆ ก็ได้

0:03:47.901,0:03:53.338
หรือเรียนที่จะเล่นเกมคอมพิวเตอร์ใดๆ ด้วย[br]เครื่อง Atari

0:03:53.338,0:03:55.117
แน่นอนว่า ในตอนนี้

0:03:55.117,0:03:59.116
เอไอยังห่างไกลจากความสามารถอันทรงพลัง

0:03:59.116,0:04:02.335
ในการเรียนรู้หรือวางแผนข้ามสาขาของมนุษย์

0:04:02.335,0:04:04.461
เนื้อเยื่อสมองส่วนนอกยังมีลูกเล่นบางอย่าง

0:04:04.461,0:04:06.816
ที่เรายังไม่รู้ว่า เครื่องจักรจะทำตามอย่างไร

0:04:07.886,0:04:09.785
คำถามก็คือ

0:04:09.785,0:04:13.285
เรายังห่างไกลจากการเลียนแบบลูกเล่นพวกนั้นแค่ไหน

0:04:14.245,0:04:15.328
ไม่กี่ปีที่แล้ว

0:04:15.328,0:04:18.216
เราได้ทำการสำรวจผู้เชี่ยวชาญด้านปัญญาประดิษฐ์[br]ชั้นนำของโลกจำนวนหนึ่ง

0:04:18.216,0:04:21.440
เพื่อที่จะดูว่าพวกเขาคิดอย่างไร[br]และหนึ่งในคำถามของเราก็คือ

0:04:21.440,0:04:24.793
ปีไหนที่คุณคิดว่าเรามีโอกาส 50%

0:04:24.793,0:04:28.275
ที่จะสร้างเครื่องจักรที่มีสติปัญญาระดับมนุษย์

0:04:28.785,0:04:32.968
เรานิยาม "ระดับมนุษย์" ว่าความสามารถที่จะทำ

0:04:32.968,0:04:35.839
งานเกือบทุกอย่างได้ดีเทียบเท่ากับมนุษย์ผู้ใหญ่เป็นอย่างน้อย

0:04:35.839,0:04:39.844
นั่นคือระดับมนุษย์จริงๆ ไม่ใช่แค่จำกัดอยู่ภายในสาขาเดียว

0:04:39.844,0:04:43.494
คำตอบกลางๆ อยู่ในช่วง 2040-2050

0:04:43.494,0:04:46.300
ขึ้นอยู่กับว่าเราถามผู้เชี่ยวชาญกลุ่มไหน

0:04:46.300,0:04:50.339
แต่มันก็อาจจะเกิดขึ้นหลังจากนั้น หรือก่อนหน้านั้น

0:04:50.339,0:04:52.279
ความจริงก็คือ ไม่มีใครรู้หรอก

0:04:53.259,0:04:57.671
แต่สิ่งที่เรารู้แน่ๆ ก็คือข้อจำกัดในการประมวลข้อมูล

0:04:57.671,0:05:02.542
ของเครื่องจักรนั้น [br]อยู่นอกเหนือข้อจำกัดของเนื้อเยื่อชีวภาพ

0:05:03.241,0:05:05.619
มันกลับมาที่ฟิสิกส์

0:05:05.619,0:05:10.337
เซลล์ประสาทนั้นอาจจะส่งสัญญาณ[br]ด้วยความถี่ 200 เฮิร์ตซ์ หรือ 200 ครั้งต่อวินาที

0:05:10.337,0:05:13.931
แต่ในปัจจุบัน แม้กระทั่งทรานซิสเตอร์[br]ยังทำงานด้วยความถี่ระดับพันล้านเฮิร์ตซ์

0:05:13.931,0:05:19.228
สัญญาณเดินทางอย่างเชื่องช้าในแอกซอน[br]100 เมตรต่อวินาทีเป็นอย่างมาก

0:05:19.228,0:05:22.339
แต่ในคอมพิวเตอร์ สัญญาณเดินทางเท่าความเร็วแสง

0:05:23.079,0:05:24.948
นอกจากนี้ยังมีข้อจำกัดด้านขนาด

0:05:24.948,0:05:27.975
เหมือนกับที่สมองมนุษย์ต้องบรรจุในกะโหลกได้

0:05:27.975,0:05:32.736
แต่คอมพิวเตอร์อาจมีขนาดใหญ่เท่าโกดัง หรือกว่าน้้น

0:05:32.736,0:05:38.335
แสดงว่าศักยภาพของ superintelligence ยังคงหลบซ่อนอยู่

0:05:38.335,0:05:44.047
คล้ายๆ กับพลังของอะตอม ที่ไม่มีใครรู้ในอดีต

0:05:44.047,0:05:48.452
รอคอยให้ถูกค้นพบ ในปี 1945

0:05:48.452,0:05:49.700
ในศตวรรษนี้ นักวิทยศาสตร์อาจเรียนรู้ที่จะ

0:05:49.700,0:05:53.818
ปลุกพลังของปัญญาประดิษฐ์

0:05:53.818,0:05:57.826
ซึ่งผมก็คิดว่า เราอาจจะได้เห็นการเปลี่ยนแปลงครั้งใหญ่ในด้านนี้

0:05:58.406,0:06:02.363
สำหรับคนทั่วไป เมื่อคิดว่าอะไรฉลาดหรือโง่

0:06:02.363,0:06:05.386
ผมว่าเขามีภาพคร่าวๆ ในใจอย่างนี้ครับ

0:06:05.386,0:06:07.984
ปลายด้านนึงเรามีภาพคนซื่อบื้อบ้านนอกๆ

0:06:07.984,0:06:10.467
ส่วนด้านนู้น ของอีกฝั่งนึง

0:06:10.467,0:06:15.223
เราก็มี Ed Witten หรือ Albert Einstein[br]หรืออัจฉริยะสุดโปรดคนไหนก็ตาม

0:06:15.223,0:06:19.057
แต่ผมคิดว่า หากมองในมุมของปัญญาประดิษฐ์

0:06:19.057,0:06:22.738
ภาพจริงๆ อาจจะใกล้เคียงกับแบบนี้มากกว่าครับ

0:06:23.258,0:06:26.636
เอไอเริ่มจากจุดนี้ มีความฉลาดเป็นศูนย์

0:06:26.636,0:06:29.647
หลังจากการทำงานหนักหลายๆ ปี

0:06:29.647,0:06:33.491
สุดท้าย เราอาจจะเลื่อนขั้นไปสู่ความฉลาดระดับหนู

0:06:33.491,0:06:35.921
บางอย่างที่สามารถหาทางเดิน[br]รอบๆสิ่งแวดล้อมที่ยุ่งเหยิง

0:06:35.921,0:06:37.908
ได้ดีพอๆกับหนู

0:06:37.908,0:06:42.221
หลังจากนั้น ก็ต้องทำงานหนักอีกหลายปี [br]และการลงทุนจำนวนมาก

0:06:42.221,0:06:46.860
สุดท้าย เราอาจจะไปถึงความฉลาดระดับชิมแปนซี

0:06:46.860,0:06:50.070
จากนั้นก็ทำงานต่ออีกนาน

0:06:50.070,0:06:52.983
เราอาจจะเลื่อนระดับไปสู่คนซื่อบื้อบ้านนอก

0:06:52.983,0:06:56.255
แล้วอีกแป๊ปเดียวหลังจากนั้น [br]เราก็จะนำหน้า Ed Witten ไปแล้ว

0:06:56.255,0:06:59.225
รถไฟไม่ได้หยุดวิ่งที่สถานีหมู่บ้านมนุษย์

0:06:59.225,0:07:02.247
แต่มันน่าจะวิ่งหวือผ่านไปเลยมากกว่า

0:07:02.247,0:07:04.231
ซึ่งนี่ มีนัยยะที่ลึกซึ้ง

0:07:04.231,0:07:08.093
โดยเฉพาะเมื่อมันเกี่ยวกับคำถามเรื่องพลัง

0:07:08.093,0:07:09.992
ตัวอย่างเช่น ชิมแปนซีนั้นแข็งแรง

0:07:09.992,0:07:15.214
เทียบกันแล้ว อาจจะแกร่งเป็นสองเท่า[br]ของมนุษย์ผู้ชายที่แข็งแรง

0:07:15.214,0:07:19.828
แต่ถึงอย่างนั้น ชะตาของ Kanzi [br]และพวกพ้องกลับขึ้นอยู่กับ

0:07:19.828,0:07:23.968
สิ่งที่มนุษย์อย่างพวกเราทำมากกว่า[br]สิ่งที่ชิมแปนซีด้วยกันเองทำ

0:07:25.228,0:07:27.542
เมื่อ superintelligence ได้เกิดขึ้น

0:07:27.542,0:07:31.381
ชะตาของมนุษยชาติอาจขึ้นอยู่กับสิ่งที่พวกมันทำ

0:07:32.451,0:07:33.508
ลองคิดดูนะครับ

0:07:33.508,0:07:38.552
ความฉลาดของเครื่องจักร จะเป็นสิ่งประดิษฐ์[br]ชิ้นสุดท้ายที่เราได้สร้างขึ้นมา

0:07:38.552,0:07:41.525
เครื่องจักรจะประดิษฐ์สิ่งต่างๆ ได้ดีกว่าเรา

0:07:41.525,0:07:44.065
และพวกมันจะทำอย่างนั้น [br]ด้วยสเกลเวลาแบบดิจิตอล [br](digital time scale)

0:07:44.065,0:07:48.966
ก็เหมือนกับการย่นเวลาให้อนาคตมาถึงเร็วขึ้น

0:07:48.966,0:07:52.524
ลองคิดถึงทุกเทคโนโลยีบ้าๆ เท่าที่คุณจะจินตนาการได้

0:07:52.524,0:07:55.322
บางทีมนุษย์อาจจะพัฒนาพวกมันได้ถ้ามีเวลามากพอ

0:07:55.322,0:07:58.580
ยาชะลอความแก่ การย้ายไปอยู่ในอวกาศ

0:07:58.580,0:08:02.311
หุ่นนาโนบอทที่จำลองตัวเองได้ [br]หรือการอัพโหลดจิตใจขึ้นไปสู่คอมพิวเตอร์

0:08:02.311,0:08:04.470
ทุกอย่างที่ดูเหมือนจะหลุดมาจากนิยายวิทยาศาสตร์

0:08:04.470,0:08:07.207
แต่ก็ยังเป็นไปตามกฎฟิสิกส์

0:08:07.207,0:08:11.419
ทุกอย่างที่พูดมานี้ superintelligence [br]อาจสามารถพัฒนาขึ้นมาได้ค่อนข้างรวดเร็ว

0:08:12.449,0:08:16.007
การที่เรามี superintelligence ที่เก่งด้านเทคโนโลยีขนาดนี้

0:08:16.007,0:08:18.186
คงเป็นสิ่งที่ทรงพลังมากๆ

0:08:18.186,0:08:22.732
และอย่างน้อยในบางกรณี มันคงจะได้ในสิ่งที่มันต้องการ

0:08:22.732,0:08:28.393
เราก็จะมีอนาคตที่ขึ้นอยู่กับความต้องการของเอไอ

0:08:29.855,0:08:33.604
คำถามก็คือ ความต้องการพวกนั้นคืออะไร?

0:08:34.244,0:08:36.013
ตรงนี้เป็นส่วนที่ยุ่งยาก

0:08:36.013,0:08:37.448
เพื่อที่จะคืบหน้าไปได้

0:08:37.448,0:08:40.724
ก่อนอื่น เราจะต้องหลีกเลี่ยงการคิดว่าพวกนั้นจะเหมือนเรา

0:08:41.934,0:08:45.235
ซึ่งมันก็ย้อนแย้ง เพราะบทความในหนังสือพิมพ์

0:08:45.235,0:08:49.090
เกี่ยวกับอนาคตของเอไอ เป็นแบบนี้

0:08:50.280,0:08:54.414
ดังนั้นผมเลยคิดว่าเราน่าจะต้อง[br]คิดในเชิงนามธรรมมากขึ้น

0:08:54.414,0:08:57.204
ไม่ใช่เหมือนฉากในหนังฮอลลีวู้ด

0:08:57.204,0:09:00.821
เราต้องคิดถึงความฉลาดในฐานะ[br]กระบวนการเพิ่มประสิทธิภาพ

0:09:00.821,0:09:06.470
กระบวนการที่คุมให้อนาคตเป็นไปตามรูปแบบเฉพาะหนึ่งๆ

0:09:06.470,0:09:09.981
Superintelligence ก็คือกระบวนการ[br]เพิ่มประสิทธิภาพที่แข็งแกร่งมากๆ

0:09:09.981,0:09:14.098
เก่งในการใช้วิธีต่างๆ เพื่อให้ได้มาซึ่ง

0:09:14.098,0:09:16.007
สภาวะที่เป็นไปตามเป้าหมาย

0:09:16.447,0:09:19.119
หมายความว่า มันไม่จำเป็นที่จะมีความเชื่อมโยง

0:09:19.119,0:09:21.853
ระหว่างมีความฉลาดมากตามความหมายนี้

0:09:21.853,0:09:26.515
กับการมีเป้าหมายที่มนุษย์อย่างเราๆ[br]มองว่าคุ้มค่าหรือมีความหมาย

0:09:27.321,0:09:31.115
สมมติว่าเราตั้งเป้าหมายให้เอไอทำให้มนุษย์ยิ้ม

0:09:31.115,0:09:34.097
ถ้าเอไอยังอ่อนแอ มันอาจทำการกระทำที่มีประโยชน์

0:09:34.097,0:09:36.614
และทำให้ผู้ใช้ยิ้ม

0:09:36.614,0:09:39.031
แต่ถ้าเอไอกลายเป็น superintelligence

0:09:39.031,0:09:42.554
มันจะรู้ว่ามีวิธีที่มีประสิทธิภาพดีกว่า[br]ในการบรรลุเป้าหมาย

0:09:42.554,0:09:44.476
คือขึ้นครองโลก

0:09:44.476,0:09:47.638
แล้วติดขั้วไฟฟ้าไปที่กล้ามเนื้อบริเวณหน้าของคน

0:09:47.638,0:09:50.579
เพื่อทำให้เกิดรอยยิ้มกว้างไม่เปลี่ยนแปลง

0:09:50.579,0:09:51.614
ตัวอย่างต่อมานะครับ สมมติว่า

0:09:51.614,0:09:54.997
เป้าหมายที่เราให้เอไอคือแก้โจทย์คณิตศาสตร์ที่ยากมาก

0:09:54.997,0:09:56.934
เมื่อเอไอเป็น superintelligence

0:09:56.934,0:10:01.105
มันอาจตระหนักว่าวิธีที่มีประสิทธิภาพที่สุดในการแก้โจทย์

0:10:01.105,0:10:04.035
คือการเปลี่ยนดาวเคราะห์ให้กลายเป็นคอมพิวเตอร์ยักษ์

0:10:04.035,0:10:06.281
เพื่อที่จะเพิ่มสมรรถนะในการคิด

0:10:06.281,0:10:09.045
เห็นได้ว่าสิ่งนี้ให้เหตุผลที่เป็นเครื่องมือให้เอไอ

0:10:09.045,0:10:11.561
ทำสิ่งที่เราอาจไม่เห็นชอบด้วย

0:10:11.561,0:10:13.496
มนุษย์ สำหรับแบบจำลองนี้ คือภัยคุกคาม

0:10:13.496,0:10:16.417
เพราะมนุษย์อาจทำให้มันไม่สามารถแก้โจทย์นั้นได้

0:10:17.207,0:10:20.701
แน่นอนว่า เหตุการณ์อาจจะไม่เกิดตามนี้เป๊ะๆ

0:10:20.701,0:10:22.454
นี่เป็นแค่ตัวอย่างในการ์ตูน

0:10:22.454,0:10:24.393
แต่ประเด็นหลักนี้สำคัญมาก

0:10:24.393,0:10:27.266
ถ้าคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง

0:10:27.266,0:10:29.500
เพื่อจะให้มันทำงานได้ดีที่สุดเพื่อเป้าหมาย x

0:10:29.500,0:10:31.776
คุณควรทำให้มั่นใจด้วยว่าคำนิยามของ x นั้น

0:10:31.776,0:10:34.245
ครอบคลุมทุกๆ อย่างที่คุณสนใจ

0:10:34.835,0:10:39.219
นี่เป็นบทเรียนในตำนานหลายเรื่อง

0:10:39.219,0:10:44.517
ราชาไมดาส ผู้ขอให้ทุกอย่างที่เขาแตะจะเปลี่ยนเป็นทอง

0:10:44.517,0:10:47.378
เขาแตะลูกสาวของเขา เธอกลายเป็นทอง

0:10:47.378,0:10:49.931
เขาแตะอาหาร มันก็กลายเป็นทอง

0:10:49.931,0:10:52.520
ซึ่งนี่อาจจะเกี่ยวข้องอย่างมาก

0:10:52.520,0:10:54.590
ไม่ใช่แค่ในฐานะการอุปมาถึงความโลภ

0:10:54.590,0:10:56.485
แต่ในฐานะของสิ่งที่อาจจะเกิดขึ้น

0:10:56.485,0:10:59.322
หากคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง

0:10:59.322,0:11:04.111
และให้เป้าหมายที่ไม่ชัดเจนหรืออาจถูกตีความผิดกับมัน

0:11:04.111,0:11:09.300
คุณอาจจะคิดว่า "ถ้ามันเริ่มติดขั้วไฟฟ้ากับหน้าคนจริง

0:11:09.300,0:11:11.565
เราก็ปิดเครื่องมันซะสิ"

0:11:12.555,0:11:17.895
หนึ่ง มันอาจจะไม่ง่ายที่จะทำอย่างนั้น [br]ถ้าเราต้องพึ่งพาระบบนี้อีกมาก

0:11:17.895,0:11:20.627
เช่น... ไหนล่ะปุ่มปิดสวิตช์อินเตอร์เนต

0:11:20.627,0:11:25.747
สอง ทำไมชิมแปนซีถึงไม่ปิดสวิตช์มนุษยชาติ

0:11:25.747,0:11:27.298
หรือมนุษย์นีแอนเดอร์ทัล

0:11:27.298,0:11:29.964
พวกมันมีเหตุผลแน่นอน

0:11:29.964,0:11:32.759
พวกเรามีปุ่มปิดสวิตช์ ตัวอย่างเช่น ตรงนี้

0:11:32.759,0:11:34.313
(สำลัก)

0:11:34.313,0:11:37.238
เหตุผลนั้นก็คือพวกเราเป็นศัตรูที่มีความฉลาด

0:11:37.238,0:11:39.966
เราเห็นถึงภัยคุกคามและวางแผนจัดการมัน

0:11:39.966,0:11:42.470
เช่นเดียวกับ superintelligence ตัวนั้น

0:11:42.470,0:11:45.724
และมันคงทำได้ดีกว่าเรา

0:11:45.724,0:11:52.911
ประเด็นก็คือเราไม่ควรจะมั่นใจ..ว่าเราสามารถควบคุมมันได้

0:11:52.911,0:11:56.358
เราอาจจะทำให้งานมันง่ายขึ้น

0:11:56.358,0:11:57.948
โดยการใส่เอไอตัวนั้นในกล่อง

0:11:57.948,0:11:59.744
เช่นสภาพแวดล้อมทางซอฟต์แวร์แบบปิด

0:11:59.744,0:12:02.766
ระบบจำลองเสมือนจริง ที่มันหนีออกมาไม่ได้

0:12:02.766,0:12:06.912
แต่เราจะมั่นใจได้แค่ไหนว่าเอไอจะหาช่องโหว่(Bug) ไม่เจอ

0:12:06.912,0:12:10.081
ในเมื่อคนที่เป็นแฮกเกอร์ทั่วๆ ไปยังหาบั๊กเจอได้ตลอด

0:12:10.081,0:12:13.117
สรุปคือ มั่นใจไม่ได้มากนั่นเอง

0:12:14.237,0:12:18.785
เราอาจถอดสายอีเทอร์เน็ตเพื่อให้เกิดช่องว่างขึ้น

0:12:18.785,0:12:21.453
แต่ก็เหมือนเดิม แฮกเกอร์ก็ยังฝ่่ามาได้เป็นประจำ

0:12:21.453,0:12:24.834
โดยใช้วิศวกรรมสังคม

0:12:24.834,0:12:26.093
ในขณะที่ผมกำลังพูดอยู่นี้

0:12:26.093,0:12:28.482
ผมเชื่อว่า มีลูกจ้างคนนึงอยู่ซักแห่ง

0:12:28.482,0:12:31.828
กำลังถูกล่อให้บอกข้อมูลของเธอ

0:12:31.828,0:12:34.574
กับคนที่บอกว่าตัวเองมาจากแผนกไอที

0:12:34.574,0:12:36.701
เหตุการณ์ที่แปลกกว่านี้ก็ยังเป็นไปได้

0:12:36.701,0:12:38.016
เช่นถ้าคุณเป็นเอไอ

0:12:38.016,0:12:41.548
คุณอาจจะหมุนขั้วไฟฟ้าในวงจรภายใน

0:12:41.548,0:12:45.010
เพื่อสร้างคลื่นวิทยุ คุณจะได้สื่อสารได้

0:12:45.010,0:12:47.434
หรือคุณอาจจะแกล้งทำเป็นพัง

0:12:47.434,0:12:50.931
พอโปรแกรมเมอร์มาเช็กว่ามีอะไรผิดปกติ

0:12:50.931,0:12:52.867
เขาก็จะดูโค้ดโปรแกรม

0:12:52.867,0:12:55.314
ตู้ม! การควบคุมก็สามารถเริ่มขึ้นได้

0:12:55.314,0:12:58.744
หรือมันอาจจะสร้างพิมพ์เขียวของเทคโนโลยีดีๆ

0:12:58.744,0:13:00.142
แล้วพอเราสร้างตามนั้น

0:13:00.142,0:13:04.539
มันก็มีผลข้างเคียงลับๆ ที่เอไอวางแผนไว้

0:13:04.539,0:13:08.002
ประเด็นก็คือ เราไม่ควรมั่นใจในความสามารถของเรา

0:13:08.002,0:13:11.810
ว่าจะขังยักษ์จีนี่ superintelligence ไว้ในตะเกียงตลอดไปได้

0:13:11.810,0:13:14.064
ไม่ช้าก็เร็ว มันก็จะออกมาอยู่ดี

0:13:15.034,0:13:18.137
ผมเชื่อว่า ทางออกก็คือ

0:13:18.137,0:13:23.161
การหาวิธีสร้างเอไอ ที่ถึงแม้ว่ามันจะหนีออกมาได้

0:13:23.161,0:13:26.438
มันก็ยังไม่เป็นภัย เพราะโดยเนื้อแท้แล้วมันอยู่ฝั่งเดียวกับเรา

0:13:26.438,0:13:28.337
เพราะเราและมันมีความเชื่อหรือค่านิยมเหมือนกัน

0:13:28.337,0:13:31.547
ผมไม่เห็นทางออกอื่นของปัญหานี้อีกแล้ว

0:13:32.557,0:13:36.391
ที่จริง ผมก็ค่อนข้างมั่นใจว่าเราสามารถแก้ปัญหานี้ได้

0:13:36.391,0:13:40.294
เราคงไม่ต้องนั่งลิสต์ทุกอย่างที่เราแคร์

0:13:40.294,0:13:43.937
หรือแย่ไปกว่านั้น เขียนพวกมันในภาษาคอมพิวเตอร์

0:13:43.937,0:13:45.391
เช่น C++ หรือ Python

0:13:45.391,0:13:48.158
นั่นคงเป็นงานที่น่าสิ้นหวังเอามากๆ

0:13:48.158,0:13:52.455
แต่เราจะสร้างเอไอที่ใช้ความฉลาดของมัน

0:13:52.455,0:13:55.226
ไปเรียนรู้สิ่งที่เราเห็นคุณค่า

0:13:55.226,0:14:00.506
ระบบแรงจูงใจของมันจะถูกสร้าง เพื่อให้มันอยากจะ

0:14:00.506,0:14:05.738
เรียนรู้ค่านิยมของเรา หรือทำสิ่งที่มันคาดว่าเราจะเห็นด้วย

0:14:05.738,0:14:09.152
ดังนั้น เราจะให้อำนาจความฉลาดของมันให้มากที่สุด

0:14:09.152,0:14:11.897
ไปในการแก้ปัญหาเรื่องค่านิยมที่ไม่ตรงกัน

0:14:12.727,0:14:14.239
สิ่งนี้สามารถเป็นไปได้

0:14:14.239,0:14:17.835
และผลของมันอาจมีประโยชน์มากต่อมนุษยชาติ

0:14:17.835,0:14:21.792
แต่มันจะไม่เกิดขึ้นอย่างอัตโนมัติ

0:14:21.792,0:14:24.790
เงื่อนไขตั้งต้นของความก้าวหน้าในด้านนี้

0:14:24.790,0:14:27.653
ต้องถูกวางแผนจัดการในทางที่ถูกต้อง

0:14:27.653,0:14:31.183
หากเราต้องการให้ผลที่ออกมาควบคุมได้

0:14:31.183,0:14:33.801
ค่านิยมที่เอไอมีจะต้องเทียบเท่ากับของเรา

0:14:33.801,0:14:35.561
ไม่ใช่แค่ในบริบทเดิมๆ

0:14:35.561,0:14:37.999
ที่เราสามารถตรวจสอบพฤติกรรมของมันได้

0:14:37.999,0:14:41.233
แต่ยังรวมถึงบริบทใหม่ๆ ที่เอไออาจจะเจอ

0:14:41.233,0:14:42.790
ในอนาคตอันไม่สิ้นสุด

0:14:42.790,0:14:47.527
นอกจากนี้ ยังมีปัญหาเฉพาะอื่นๆ ที่จำเป็นต้องแก้

0:14:47.527,0:14:49.616
รายละเอียดของทฤษฏีการตัดสินใจของมัน

0:14:49.616,0:14:52.480
วิธีการรับมือกับความไม่แน่นอน และอื่นๆ

0:14:53.330,0:14:56.432
ปัญหาเฉพาะทางเหล่านี้อาจจะทำให้งานนี้ดู

0:14:56.432,0:14:57.545
ค่อนข้างยาก

0:14:57.545,0:15:00.925
ไม่ยากถึงขนาดการสร้างเอไอทรงภูมิปัญญา

0:15:00.925,0:15:03.793
แต่ก็ยากในระดับหนึ่ง

0:15:03.793,0:15:05.488
นี่คือสิ่งที่น่าเป็นกังวล

0:15:05.488,0:15:10.172
การสร้างเอไอทรงภูมิปัญญาเป็นความท้าทายที่ยากมากๆ

0:15:10.172,0:15:12.720
การสร้างเอไอที่ทั้งทรงภูมิปัญญาและไม่เป็นภัย

0:15:12.720,0:15:15.136
นั่นเป็นความท้าทายที่ยากยิ่งกว่า

0:15:16.216,0:15:19.703
ความเสี่ยงคือ กรณีที่มีคนแก้ปัญหาแรกได้สำเร็จ

0:15:19.703,0:15:22.704
โดยที่ยังไม่สามารถแก้ปัญหาที่สอง

0:15:22.704,0:15:24.605
ซึ่งจะเป็นตัวรับประกันความปลอดภัยอย่างสมบูรณ์แบบได้

0:15:25.375,0:15:28.706
ผมจึงคิดว่า เราควรจะหาทางออก

0:15:28.706,0:15:31.528
ของปัญหาด้านการควบคุมล่วงหน้าไว้

0:15:31.528,0:15:34.188
เพื่อที่เราจะได้เตรียมพร้อมใช้ในกรณีที่จำเป็น

0:15:34.768,0:15:38.275
ซึ่งมันก็เป็นไปได้ ที่เราจะไม่สามารถ[br]แก้ปัญหาทั้งหมดได้ล่วงหน้า

0:15:38.275,0:15:41.299
เพราะบางองค์ประกอบอาจจะแก้ได้

0:15:41.299,0:15:45.296
หลังจากที่เรารู้รายละเอียดของงานที่มันจะถูกใช้เท่านั้น

0:15:45.296,0:15:48.676
แต่ยิ่งเราสามารถแก้ปัญหาล่วงหน้าได้มากเท่าไหร่

0:15:48.676,0:15:52.766
โอกาสที่การเปลี่ยนแปลงไปสู่[br]ยุคปัญญาประดิษฐ์จะเป็นไปด้วยดี[br]

0:15:52.766,0:15:54.306
ก็มากเท่านั้น

0:15:54.306,0:15:58.950
สำหรับผมแล้ว นี่เป็นสิ่งที่คู่ควรกับการลงแรงทำ

0:15:58.950,0:16:02.282
ผมจินตนาการได้เลยว่า ถ้าผลออกมาโอเค

0:16:02.282,0:16:06.940
ผู้คนในอีกหนึ่งล้านปีข้างหน้ามองย้อนมาในศตวรรษนี้

0:16:06.940,0:16:10.942
เขาจะพูดกันว่าสิ่งหนึ่งที่เราทำ ซึ่งสำคัญจริงๆ

0:16:10.942,0:16:12.509
คือการทำให้สิ่งนี้ถูกต้อง

0:16:12.509,0:16:14.194
ขอบคุณ

0:16:14.204,0:16:15.054
(เสียงปรบมือ)