WEBVTT

00:00:00.570 --> 00:00:03.708
ผมทำงานกับนักวิทยาศาสตร์,นักปรัชญา

00:00:03.708 --> 00:00:06.486
และนักคอมพิวเตอร์

00:00:06.486 --> 00:00:08.574
และเรามานั่งคิดกัน

00:00:08.602 --> 00:00:12.030
เกี่ยวกับอนาคตสติปัญญาของจักรกล และเรื่องอื่นๆ

00:00:12.030 --> 00:00:14.638
บางคนคิดว่าสิ่งเหล่านี้

00:00:14.638 --> 00:00:17.016
เป็นเรื่องมาจาก นิยายวิทยาศาสตร์

00:00:17.016 --> 00:00:19.856
ซึ่งห่างไกลจากเราและบ้า

00:00:19.856 --> 00:00:21.326
แต่ผมอยากจะบอกว่า

00:00:21.326 --> 00:00:23.091
เราลองมาดูถึงเงื่อนไขการใช้ชีวิต

00:00:23.091 --> 00:00:24.856
ของมนุษย์สมัยใหม่

00:00:24.856 --> 00:00:28.112
(เสียงหัวเราะ) นี่คือสิ่งที่ โดยปกติมันควรจะเป็น

NOTE Paragraph

00:00:28.614 --> 00:00:31.309
และถ้าเราลองคิดดูดีๆ

00:00:31.309 --> 00:00:33.684
ก็จะรู้ว่าเราเพิ่งมาอยู่อาศัยตั้งรกรากบนโลก

00:00:33.684 --> 00:00:36.174
มนุษยชาติของเรา

00:00:36.174 --> 00:00:41.430
ลองคิดดูว่าถ้าโลกเพิ่งเกิดเมื่อปีที่แล้ว

00:00:41.430 --> 00:00:44.978
มนุษย์ก็จะเพิ่งเกิดเมื่อ 10 นาทีที่แล้ว

00:00:44.978 --> 00:00:48.146
ยุคอุตสาหกรรมเพิ่งเกิดเมื่อ 2 วินาทีที่แล้ว

00:00:49.276 --> 00:00:52.027
หรืออีกวิธีนึงคือดู GDP ของโลก

00:00:52.027 --> 00:00:54.778
ตลอด 10000 ปี ที่ผ่านมา

00:00:54.778 --> 00:00:57.530
ซึ่งผมมีปัญหากับการพล็อตกราฟนี้

00:00:57.530 --> 00:00:59.304
ดูนี่สิครับ (เสียงหัวเราะ)

00:01:00.667 --> 00:01:02.818
รูปร่างประหลาดมาก สำหรับสภาวะที่ปกติ

00:01:02.818 --> 00:01:04.516
ผมมั่นใจว่าเราคงไม่อยากนั่งทับมันหรอก

00:01:04.516 --> 00:01:07.067
(เสียงหัวเราะ)

NOTE Paragraph

00:01:07.067 --> 00:01:11.841
ลองถามตัวเราเอง ว่าอะไรทำให้เกิดสิ่งผิดปกตินี้

00:01:11.841 --> 00:01:14.393
บางคนบอกว่า เพราะเทคโนโลยี

00:01:14.393 --> 00:01:19.061
ถูกสำหรับตอนนี้ เทคโนโลยีได้พัฒนามาตลอด

00:01:19.061 --> 00:01:23.713
และตอนนี้ เทคโนโลยีได้ก้าวหน้าอย่างรวดเร็ว

00:01:23.713 --> 00:01:25.278
นั่นเป็นสาเหตุที่ใกล้เคียง

00:01:25.278 --> 00:01:27.843
นั่นคือเหตุผลที่ทำให้เรามีผลงานมากมายในปัจจุบัน

00:01:28.473 --> 00:01:31.275
แต่ผมอยากให้เรากลับไปคิดถึงสาเหตุ

00:01:31.275 --> 00:01:34.077
ที่ใหญ่กว่านั้น

NOTE Paragraph

00:01:34.077 --> 00:01:36.034
กรุณาดูสุภาพบุรุษที่สุดแสนจะแตกต่างกันสองท่านนี้

00:01:37.011 --> 00:01:38.480
ท่านแรกคือ Kanzi

00:01:38.480 --> 00:01:41.259
เขาสามารถแยกแยะสัญลักษณ์ได้ถึง 200 แบบ

00:01:41.259 --> 00:01:42.988
ช่างน่าทึ่ง

00:01:42.988 --> 00:01:45.038
ท่านที่สอง Ed Witten ผู้ทำให้เกิดการปฎิวัติ superstring

00:01:45.038 --> 00:01:46.817
ครั้งที่ 2

00:01:46.817 --> 00:01:49.141
ถ้าเราดูกลไกที่ถูกซ่อนไว้ นี่คือสิ่งที่เราจะเจอ

00:01:49.141 --> 00:01:50.711
โดยพื้นฐานแล้วมันคือสิ่งเดียวกัน

00:01:50.711 --> 00:01:52.524
หนึ่งในนั้นใหญ่กว่าเล็กน้อย

00:01:52.524 --> 00:01:55.282
มันอาจจะมีทริกบางอย่างในด้านการเชื่อมโยงของมัน

00:01:55.282 --> 00:01:56.282
อย่างไรก็ตาม ความแตกต่างที่มองไม่เห็นเหล่านี้

00:01:56.282 --> 00:01:59.094
ไม่น่าจะซับซ้อนมากนัก

00:01:59.094 --> 00:02:03.379
เพราะว่ามันเพิ่งผ่านมาเพียง 250,000 รุ่น

00:02:03.379 --> 00:02:05.111
หลังจากบรรพบุรุษที่เรามีร่วมกัน

00:02:05.111 --> 00:02:07.000
เรารู้ว่าจักรกลที่ซับซ้อนนั้น

00:02:07.000 --> 00:02:10.000
ใช้เวลานานในการพัฒนา

00:02:10.000 --> 00:02:11.000
นั่นคือ การเปลี่่ยนแปลง

00:02:11.000 --> 00:02:12.499
ที่เทียบแล้วถือว่าเล็กน้อยจำนวนหนึ่ง

00:02:12.499 --> 00:02:15.566
ทำให้เราห่างจาก Kanzi และเข้าใกล้ Witten

00:02:15.566 --> 00:02:20.109
จากกิ่งไม้หักๆ ไปสู่ขีปนาวุธข้ามทวีป

NOTE Paragraph

00:02:20.839 --> 00:02:24.774
ค่อนข้างเห็นได้ชัดว่า ทุกอย่างที่เราสร้างขึ้น

00:02:24.774 --> 00:02:26.152
และทุกๆ อย่างที่เราสนใจ

00:02:26.152 --> 00:02:29.650
ขึ้นอยู่กับความเปลี่ยนแปลงแค่เพียงเล็กน้อย

00:02:29.650 --> 00:02:32.650
ที่เกิดขึ้นในความคิดของของมนุษย์

00:02:32.650 --> 00:02:36.312
ผลที่ตามมาก็คือ ความเปลี่ยนแปลงใดๆ หลังจากนี้

00:02:36.312 --> 00:02:39.789
ที่สามารถเปลี่ยนพื้นฐานของความคิดไปได้

00:02:39.789 --> 00:02:42.991
ก็อาจจะมีผลลัพธ์ที่ใหญ่หลวงตามมา

NOTE Paragraph

00:02:44.321 --> 00:02:47.226
เพื่อนร่วมงานผมบางคนคิดว่า เรากำลังเข้าใกล้

00:02:47.226 --> 00:02:51.134
อะไรบางอย่างที่ทำให้เกิด
ความเปลี่ยนแปลงครั้งใหญ่ของวิธีคิด

00:02:51.134 --> 00:02:54.347
ซึ่งก็คือ เครื่องจักรทรงภูมิปัญญา
(Machine Superintelligence)

00:02:54.347 --> 00:02:59.086
ปัญญาประดิษฐ์เคยเป็นแค่เรื่องของการป้อนคำสั่ง

00:02:59.086 --> 00:03:00.751
คุณมีนักเขียนโปรแกรมเป็นมนุษย์

00:03:00.751 --> 00:03:03.886
ที่จะคอยใส่ความรู้เข้าไปอย่างระมัดระวัง

00:03:03.886 --> 00:03:05.972
คุณสร้างระบบผู้เชี่ยวชาญขึ้นมา

00:03:05.972 --> 00:03:08.296
ซึ่งมันก็ค่อนข้างจะมีประโยชน์สำหรับบางเรื่อง

00:03:08.296 --> 00:03:10.977
แต่มันก็ยังเปราะบาง 
คุณไม่สามารถขยายมันออกไปอีกได้

00:03:10.977 --> 00:03:14.410
สิ่งที่คุณได้ออกมาก็เป็นแค่สิ่งที่คุณใส่เข้าไป

00:03:14.410 --> 00:03:15.407
ตั้งแต่ตอนนั้น

00:03:15.407 --> 00:03:18.874
ความเปลี่ยนแปลงก็ได้เกิดขึ้น
ในสายงานปัญญาประดิษฐ์หรือเอไอ (AI)

NOTE Paragraph

00:03:18.874 --> 00:03:21.644
ทุกวันนี้ เรากำลังสนใจเรื่องการเรียนรู้ของเครื่องจักร

00:03:22.394 --> 00:03:27.781
แทนที่จะค่อยๆ ป้อนข้อมูลหรือความรู้ต่างๆ

00:03:28.511 --> 00:03:34.065
เราสร้างขั้นตอนวิธีในการเรียน
โดยมาก ด้วยข้อมูลที่ได้จากการรับรู้

00:03:34.065 --> 00:03:39.063
เหมือนกับสิ่งที่ทารกของมนุษย์ทำ

00:03:39.063 --> 00:03:43.270
ผลก็คือ ระบบเอไอที่ไม่ได้ถูกจำกัดอยู่เพียงสาขาเดียว

00:03:43.270 --> 00:03:47.901
ระบบเดียวกันสามารถเรียนรู้
ที่จะแปลระหว่างคู่ภาษาใดๆ ก็ได้

00:03:47.901 --> 00:03:53.338
หรือเรียนที่จะเล่นเกมคอมพิวเตอร์ใดๆ ด้วย
เครื่อง Atari

00:03:53.338 --> 00:03:55.117
แน่นอนว่า ในตอนนี้

00:03:55.117 --> 00:03:59.116
เอไอยังห่างไกลจากความสามารถอันทรงพลัง

00:03:59.116 --> 00:04:02.335
ในการเรียนรู้หรือวางแผนข้ามสาขาของมนุษย์

00:04:02.335 --> 00:04:04.461
เนื้อเยื่อสมองส่วนนอกยังมีลูกเล่นบางอย่าง

00:04:04.461 --> 00:04:06.816
ที่เรายังไม่รู้ว่า เครื่องจักรจะทำตามอย่างไร

NOTE Paragraph

00:04:07.886 --> 00:04:09.785
คำถามก็คือ

00:04:09.785 --> 00:04:13.285
เรายังห่างไกลจากการเลียนแบบลูกเล่นพวกนั้นแค่ไหน

00:04:14.245 --> 00:04:15.328
ไม่กี่ปีที่แล้ว

00:04:15.328 --> 00:04:18.216
เราได้ทำการสำรวจผู้เชี่ยวชาญด้านปัญญาประดิษฐ์
ชั้นนำของโลกจำนวนหนึ่ง

00:04:18.216 --> 00:04:21.440
เพื่อที่จะดูว่าพวกเขาคิดอย่างไร
และหนึ่งในคำถามของเราก็คือ

00:04:21.440 --> 00:04:24.793
ปีไหนที่คุณคิดว่าเรามีโอกาส 50%

00:04:24.793 --> 00:04:28.275
ที่จะสร้างเครื่องจักรที่มีสติปัญญาระดับมนุษย์

00:04:28.785 --> 00:04:32.968
เรานิยาม "ระดับมนุษย์" ว่าความสามารถที่จะทำ

00:04:32.968 --> 00:04:35.839
งานเกือบทุกอย่างได้ดีเทียบเท่ากับมนุษย์ผู้ใหญ่เป็นอย่างน้อย

00:04:35.839 --> 00:04:39.844
นั่นคือระดับมนุษย์จริงๆ ไม่ใช่แค่จำกัดอยู่ภายในสาขาเดียว

00:04:39.844 --> 00:04:43.494
คำตอบกลางๆ อยู่ในช่วง 2040-2050

00:04:43.494 --> 00:04:46.300
ขึ้นอยู่กับว่าเราถามผู้เชี่ยวชาญกลุ่มไหน

00:04:46.300 --> 00:04:50.339
แต่มันก็อาจจะเกิดขึ้นหลังจากนั้น หรือก่อนหน้านั้น

00:04:50.339 --> 00:04:52.279
ความจริงก็คือ ไม่มีใครรู้หรอก

NOTE Paragraph

00:04:53.259 --> 00:04:57.671
แต่สิ่งที่เรารู้แน่ๆ ก็คือข้อจำกัดในการประมวลข้อมูล

00:04:57.671 --> 00:05:02.542
ของเครื่องจักรนั้น 
อยู่นอกเหนือข้อจำกัดของเนื้อเยื่อชีวภาพ

00:05:03.241 --> 00:05:05.619
มันกลับมาที่ฟิสิกส์

00:05:05.619 --> 00:05:10.337
เซลล์ประสาทนั้นอาจจะส่งสัญญาณ
ด้วยความถี่ 200 เฮิร์ตซ์ หรือ 200 ครั้งต่อวินาที

00:05:10.337 --> 00:05:13.931
แต่ในปัจจุบัน แม้กระทั่งทรานซิสเตอร์
ยังทำงานด้วยความถี่ระดับพันล้านเฮิร์ตซ์

00:05:13.931 --> 00:05:19.228
สัญญาณเดินทางอย่างเชื่องช้าในแอกซอน
100 เมตรต่อวินาทีเป็นอย่างมาก

00:05:19.228 --> 00:05:22.339
แต่ในคอมพิวเตอร์ สัญญาณเดินทางเท่าความเร็วแสง

00:05:23.079 --> 00:05:24.948
นอกจากนี้ยังมีข้อจำกัดด้านขนาด

00:05:24.948 --> 00:05:27.975
เหมือนกับที่สมองมนุษย์ต้องบรรจุในกะโหลกได้

00:05:27.975 --> 00:05:32.736
แต่คอมพิวเตอร์อาจมีขนาดใหญ่เท่าโกดัง หรือกว่าน้้น

00:05:32.736 --> 00:05:38.335
แสดงว่าศักยภาพของ superintelligence ยังคงหลบซ่อนอยู่

00:05:38.335 --> 00:05:44.047
คล้ายๆ กับพลังของอะตอม ที่ไม่มีใครรู้ในอดีต

00:05:44.047 --> 00:05:48.452
รอคอยให้ถูกค้นพบ ในปี 1945

00:05:48.452 --> 00:05:49.700
ในศตวรรษนี้ นักวิทยศาสตร์อาจเรียนรู้ที่จะ

00:05:49.700 --> 00:05:53.818
ปลุกพลังของปัญญาประดิษฐ์

00:05:53.818 --> 00:05:57.826
ซึ่งผมก็คิดว่า เราอาจจะได้เห็นการเปลี่ยนแปลงครั้งใหญ่ในด้านนี้

NOTE Paragraph

00:05:58.406 --> 00:06:02.363
สำหรับคนทั่วไป เมื่อคิดว่าอะไรฉลาดหรือโง่

00:06:02.363 --> 00:06:05.386
ผมว่าเขามีภาพคร่าวๆ ในใจอย่างนี้ครับ

00:06:05.386 --> 00:06:07.984
ปลายด้านนึงเรามีภาพคนซื่อบื้อบ้านนอกๆ

00:06:07.984 --> 00:06:10.467
ส่วนด้านนู้น ของอีกฝั่งนึง

00:06:10.467 --> 00:06:15.223
เราก็มี Ed Witten หรือ Albert Einstein
หรืออัจฉริยะสุดโปรดคนไหนก็ตาม

00:06:15.223 --> 00:06:19.057
แต่ผมคิดว่า หากมองในมุมของปัญญาประดิษฐ์

00:06:19.057 --> 00:06:22.738
ภาพจริงๆ อาจจะใกล้เคียงกับแบบนี้มากกว่าครับ

00:06:23.258 --> 00:06:26.636
เอไอเริ่มจากจุดนี้ มีความฉลาดเป็นศูนย์

00:06:26.636 --> 00:06:29.647
หลังจากการทำงานหนักหลายๆ ปี

00:06:29.647 --> 00:06:33.491
สุดท้าย เราอาจจะเลื่อนขั้นไปสู่ความฉลาดระดับหนู

00:06:33.491 --> 00:06:35.921
บางอย่างที่สามารถหาทางเดิน
รอบๆสิ่งแวดล้อมที่ยุ่งเหยิง

00:06:35.921 --> 00:06:37.908
ได้ดีพอๆกับหนู

00:06:37.908 --> 00:06:42.221
หลังจากนั้น ก็ต้องทำงานหนักอีกหลายปี 
และการลงทุนจำนวนมาก

00:06:42.221 --> 00:06:46.860
สุดท้าย เราอาจจะไปถึงความฉลาดระดับชิมแปนซี

00:06:46.860 --> 00:06:50.070
จากนั้นก็ทำงานต่ออีกนาน

00:06:50.070 --> 00:06:52.983
เราอาจจะเลื่อนระดับไปสู่คนซื่อบื้อบ้านนอก

00:06:52.983 --> 00:06:56.255
แล้วอีกแป๊ปเดียวหลังจากนั้น 
เราก็จะนำหน้า Ed Witten ไปแล้ว

00:06:56.255 --> 00:06:59.225
รถไฟไม่ได้หยุดวิ่งที่สถานีหมู่บ้านมนุษย์

00:06:59.225 --> 00:07:02.247
แต่มันน่าจะวิ่งหวือผ่านไปเลยมากกว่า

NOTE Paragraph

00:07:02.247 --> 00:07:04.231
ซึ่งนี่ มีนัยยะที่ลึกซึ้ง

00:07:04.231 --> 00:07:08.093
โดยเฉพาะเมื่อมันเกี่ยวกับคำถามเรื่องพลัง

00:07:08.093 --> 00:07:09.992
ตัวอย่างเช่น ชิมแปนซีนั้นแข็งแรง

00:07:09.992 --> 00:07:15.214
เทียบกันแล้ว อาจจะแกร่งเป็นสองเท่า
ของมนุษย์ผู้ชายที่แข็งแรง

00:07:15.214 --> 00:07:19.828
แต่ถึงอย่างนั้น ชะตาของ Kanzi 
และพวกพ้องกลับขึ้นอยู่กับ

00:07:19.828 --> 00:07:23.968
สิ่งที่มนุษย์อย่างพวกเราทำมากกว่า
สิ่งที่ชิมแปนซีด้วยกันเองทำ

00:07:25.228 --> 00:07:27.542
เมื่อ superintelligence ได้เกิดขึ้น

00:07:27.542 --> 00:07:31.381
ชะตาของมนุษยชาติอาจขึ้นอยู่กับสิ่งที่พวกมันทำ

00:07:32.451 --> 00:07:33.508
ลองคิดดูนะครับ

00:07:33.508 --> 00:07:38.552
ความฉลาดของเครื่องจักร จะเป็นสิ่งประดิษฐ์
ชิ้นสุดท้ายที่เราได้สร้างขึ้นมา

00:07:38.552 --> 00:07:41.525
เครื่องจักรจะประดิษฐ์สิ่งต่างๆ ได้ดีกว่าเรา

00:07:41.525 --> 00:07:44.065
และพวกมันจะทำอย่างนั้น 
ด้วยสเกลเวลาแบบดิจิตอล 
(digital time scale)

00:07:44.065 --> 00:07:48.966
ก็เหมือนกับการย่นเวลาให้อนาคตมาถึงเร็วขึ้น

00:07:48.966 --> 00:07:52.524
ลองคิดถึงทุกเทคโนโลยีบ้าๆ เท่าที่คุณจะจินตนาการได้

00:07:52.524 --> 00:07:55.322
บางทีมนุษย์อาจจะพัฒนาพวกมันได้ถ้ามีเวลามากพอ

00:07:55.322 --> 00:07:58.580
ยาชะลอความแก่ การย้ายไปอยู่ในอวกาศ

00:07:58.580 --> 00:08:02.311
หุ่นนาโนบอทที่จำลองตัวเองได้ 
หรือการอัพโหลดจิตใจขึ้นไปสู่คอมพิวเตอร์

00:08:02.311 --> 00:08:04.470
ทุกอย่างที่ดูเหมือนจะหลุดมาจากนิยายวิทยาศาสตร์

00:08:04.470 --> 00:08:07.207
แต่ก็ยังเป็นไปตามกฎฟิสิกส์

00:08:07.207 --> 00:08:11.419
ทุกอย่างที่พูดมานี้ superintelligence 
อาจสามารถพัฒนาขึ้นมาได้ค่อนข้างรวดเร็ว

NOTE Paragraph

00:08:12.449 --> 00:08:16.007
การที่เรามี superintelligence ที่เก่งด้านเทคโนโลยีขนาดนี้

00:08:16.007 --> 00:08:18.186
คงเป็นสิ่งที่ทรงพลังมากๆ

00:08:18.186 --> 00:08:22.732
และอย่างน้อยในบางกรณี มันคงจะได้ในสิ่งที่มันต้องการ

00:08:22.732 --> 00:08:28.393
เราก็จะมีอนาคตที่ขึ้นอยู่กับความต้องการของเอไอ

00:08:29.855 --> 00:08:33.604
คำถามก็คือ ความต้องการพวกนั้นคืออะไร?

00:08:34.244 --> 00:08:36.013
ตรงนี้เป็นส่วนที่ยุ่งยาก

00:08:36.013 --> 00:08:37.448
เพื่อที่จะคืบหน้าไปได้

00:08:37.448 --> 00:08:40.724
ก่อนอื่น เราจะต้องหลีกเลี่ยงการคิดว่าพวกนั้นจะเหมือนเรา

00:08:41.934 --> 00:08:45.235
ซึ่งมันก็ย้อนแย้ง เพราะบทความในหนังสือพิมพ์

00:08:45.235 --> 00:08:49.090
เกี่ยวกับอนาคตของเอไอ เป็นแบบนี้

00:08:50.280 --> 00:08:54.414
ดังนั้นผมเลยคิดว่าเราน่าจะต้อง
คิดในเชิงนามธรรมมากขึ้น

00:08:54.414 --> 00:08:57.204
ไม่ใช่เหมือนฉากในหนังฮอลลีวู้ด

NOTE Paragraph

00:08:57.204 --> 00:09:00.821
เราต้องคิดถึงความฉลาดในฐานะ
กระบวนการเพิ่มประสิทธิภาพ

00:09:00.821 --> 00:09:06.470
กระบวนการที่คุมให้อนาคตเป็นไปตามรูปแบบเฉพาะหนึ่งๆ

00:09:06.470 --> 00:09:09.981
Superintelligence ก็คือกระบวนการ
เพิ่มประสิทธิภาพที่แข็งแกร่งมากๆ

00:09:09.981 --> 00:09:14.098
เก่งในการใช้วิธีต่างๆ เพื่อให้ได้มาซึ่ง

00:09:14.098 --> 00:09:16.007
สภาวะที่เป็นไปตามเป้าหมาย

00:09:16.447 --> 00:09:19.119
หมายความว่า มันไม่จำเป็นที่จะมีความเชื่อมโยง

00:09:19.119 --> 00:09:21.853
ระหว่างมีความฉลาดมากตามความหมายนี้

00:09:21.853 --> 00:09:26.515
กับการมีเป้าหมายที่มนุษย์อย่างเราๆ
มองว่าคุ้มค่าหรือมีความหมาย

NOTE Paragraph

00:09:27.321 --> 00:09:31.115
สมมติว่าเราตั้งเป้าหมายให้เอไอทำให้มนุษย์ยิ้ม

00:09:31.115 --> 00:09:34.097
ถ้าเอไอยังอ่อนแอ มันอาจทำการกระทำที่มีประโยชน์

00:09:34.097 --> 00:09:36.614
และทำให้ผู้ใช้ยิ้ม

00:09:36.614 --> 00:09:39.031
แต่ถ้าเอไอกลายเป็น superintelligence

00:09:39.031 --> 00:09:42.554
มันจะรู้ว่ามีวิธีที่มีประสิทธิภาพดีกว่า
ในการบรรลุเป้าหมาย

00:09:42.554 --> 00:09:44.476
คือขึ้นครองโลก

00:09:44.476 --> 00:09:47.638
แล้วติดขั้วไฟฟ้าไปที่กล้ามเนื้อบริเวณหน้าของคน

00:09:47.638 --> 00:09:50.579
เพื่อทำให้เกิดรอยยิ้มกว้างไม่เปลี่ยนแปลง

00:09:50.579 --> 00:09:51.614
ตัวอย่างต่อมานะครับ สมมติว่า

00:09:51.614 --> 00:09:54.997
เป้าหมายที่เราให้เอไอคือแก้โจทย์คณิตศาสตร์ที่ยากมาก

00:09:54.997 --> 00:09:56.934
เมื่อเอไอเป็น superintelligence

00:09:56.934 --> 00:10:01.105
มันอาจตระหนักว่าวิธีที่มีประสิทธิภาพที่สุดในการแก้โจทย์

00:10:01.105 --> 00:10:04.035
คือการเปลี่ยนดาวเคราะห์ให้กลายเป็นคอมพิวเตอร์ยักษ์

00:10:04.035 --> 00:10:06.281
เพื่อที่จะเพิ่มสมรรถนะในการคิด

00:10:06.281 --> 00:10:09.045
เห็นได้ว่าสิ่งนี้ให้เหตุผลที่เป็นเครื่องมือให้เอไอ

00:10:09.045 --> 00:10:11.561
ทำสิ่งที่เราอาจไม่เห็นชอบด้วย

00:10:11.561 --> 00:10:13.496
มนุษย์ สำหรับแบบจำลองนี้ คือภัยคุกคาม

00:10:13.496 --> 00:10:16.417
เพราะมนุษย์อาจทำให้มันไม่สามารถแก้โจทย์นั้นได้

NOTE Paragraph

00:10:17.207 --> 00:10:20.701
แน่นอนว่า เหตุการณ์อาจจะไม่เกิดตามนี้เป๊ะๆ

00:10:20.701 --> 00:10:22.454
นี่เป็นแค่ตัวอย่างในการ์ตูน

00:10:22.454 --> 00:10:24.393
แต่ประเด็นหลักนี้สำคัญมาก

00:10:24.393 --> 00:10:27.266
ถ้าคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง

00:10:27.266 --> 00:10:29.500
เพื่อจะให้มันทำงานได้ดีที่สุดเพื่อเป้าหมาย x

00:10:29.500 --> 00:10:31.776
คุณควรทำให้มั่นใจด้วยว่าคำนิยามของ x นั้น

00:10:31.776 --> 00:10:34.245
ครอบคลุมทุกๆ อย่างที่คุณสนใจ

00:10:34.835 --> 00:10:39.219
นี่เป็นบทเรียนในตำนานหลายเรื่อง

00:10:39.219 --> 00:10:44.517
ราชาไมดาส ผู้ขอให้ทุกอย่างที่เขาแตะจะเปลี่ยนเป็นทอง

00:10:44.517 --> 00:10:47.378
เขาแตะลูกสาวของเขา เธอกลายเป็นทอง

00:10:47.378 --> 00:10:49.931
เขาแตะอาหาร มันก็กลายเป็นทอง

00:10:49.931 --> 00:10:52.520
ซึ่งนี่อาจจะเกี่ยวข้องอย่างมาก

00:10:52.520 --> 00:10:54.590
ไม่ใช่แค่ในฐานะการอุปมาถึงความโลภ

00:10:54.590 --> 00:10:56.485
แต่ในฐานะของสิ่งที่อาจจะเกิดขึ้น

00:10:56.485 --> 00:10:59.322
หากคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่ทรงพลัง

00:10:59.322 --> 00:11:04.111
และให้เป้าหมายที่ไม่ชัดเจนหรืออาจถูกตีความผิดกับมัน

NOTE Paragraph

00:11:04.111 --> 00:11:09.300
คุณอาจจะคิดว่า "ถ้ามันเริ่มติดขั้วไฟฟ้ากับหน้าคนจริง

00:11:09.300 --> 00:11:11.565
เราก็ปิดเครื่องมันซะสิ"

00:11:12.555 --> 00:11:17.895
หนึ่ง มันอาจจะไม่ง่ายที่จะทำอย่างนั้น 
ถ้าเราต้องพึ่งพาระบบนี้อีกมาก

00:11:17.895 --> 00:11:20.627
เช่น... ไหนล่ะปุ่มปิดสวิตช์อินเตอร์เนต

00:11:20.627 --> 00:11:25.747
สอง ทำไมชิมแปนซีถึงไม่ปิดสวิตช์มนุษยชาติ

00:11:25.747 --> 00:11:27.298
หรือมนุษย์นีแอนเดอร์ทัล

00:11:27.298 --> 00:11:29.964
พวกมันมีเหตุผลแน่นอน

00:11:29.964 --> 00:11:32.759
พวกเรามีปุ่มปิดสวิตช์ ตัวอย่างเช่น ตรงนี้

00:11:32.759 --> 00:11:34.313
(สำลัก)

00:11:34.313 --> 00:11:37.238
เหตุผลนั้นก็คือพวกเราเป็นศัตรูที่มีความฉลาด

00:11:37.238 --> 00:11:39.966
เราเห็นถึงภัยคุกคามและวางแผนจัดการมัน

00:11:39.966 --> 00:11:42.470
เช่นเดียวกับ superintelligence ตัวนั้น

00:11:42.470 --> 00:11:45.724
และมันคงทำได้ดีกว่าเรา

00:11:45.724 --> 00:11:52.911
ประเด็นก็คือเราไม่ควรจะมั่นใจ..ว่าเราสามารถควบคุมมันได้

NOTE Paragraph

00:11:52.911 --> 00:11:56.358
เราอาจจะทำให้งานมันง่ายขึ้น

00:11:56.358 --> 00:11:57.948
โดยการใส่เอไอตัวนั้นในกล่อง

00:11:57.948 --> 00:11:59.744
เช่นสภาพแวดล้อมทางซอฟต์แวร์แบบปิด

00:11:59.744 --> 00:12:02.766
ระบบจำลองเสมือนจริง ที่มันหนีออกมาไม่ได้

00:12:02.766 --> 00:12:06.912
แต่เราจะมั่นใจได้แค่ไหนว่าเอไอจะหาช่องโหว่(Bug) ไม่เจอ

00:12:06.912 --> 00:12:10.081
ในเมื่อคนที่เป็นแฮกเกอร์ทั่วๆ ไปยังหาบั๊กเจอได้ตลอด

00:12:10.081 --> 00:12:13.117
สรุปคือ มั่นใจไม่ได้มากนั่นเอง

00:12:14.237 --> 00:12:18.785
เราอาจถอดสายอีเทอร์เน็ตเพื่อให้เกิดช่องว่างขึ้น

00:12:18.785 --> 00:12:21.453
แต่ก็เหมือนเดิม แฮกเกอร์ก็ยังฝ่่ามาได้เป็นประจำ

00:12:21.453 --> 00:12:24.834
โดยใช้วิศวกรรมสังคม

00:12:24.834 --> 00:12:26.093
ในขณะที่ผมกำลังพูดอยู่นี้

00:12:26.093 --> 00:12:28.482
ผมเชื่อว่า มีลูกจ้างคนนึงอยู่ซักแห่ง

00:12:28.482 --> 00:12:31.828
กำลังถูกล่อให้บอกข้อมูลของเธอ

00:12:31.828 --> 00:12:34.574
กับคนที่บอกว่าตัวเองมาจากแผนกไอที

NOTE Paragraph

00:12:34.574 --> 00:12:36.701
เหตุการณ์ที่แปลกกว่านี้ก็ยังเป็นไปได้

00:12:36.701 --> 00:12:38.016
เช่นถ้าคุณเป็นเอไอ

00:12:38.016 --> 00:12:41.548
คุณอาจจะหมุนขั้วไฟฟ้าในวงจรภายใน

00:12:41.548 --> 00:12:45.010
เพื่อสร้างคลื่นวิทยุ คุณจะได้สื่อสารได้

00:12:45.010 --> 00:12:47.434
หรือคุณอาจจะแกล้งทำเป็นพัง

00:12:47.434 --> 00:12:50.931
พอโปรแกรมเมอร์มาเช็กว่ามีอะไรผิดปกติ

00:12:50.931 --> 00:12:52.867
เขาก็จะดูโค้ดโปรแกรม

00:12:52.867 --> 00:12:55.314
ตู้ม! การควบคุมก็สามารถเริ่มขึ้นได้

00:12:55.314 --> 00:12:58.744
หรือมันอาจจะสร้างพิมพ์เขียวของเทคโนโลยีดีๆ

00:12:58.744 --> 00:13:00.142
แล้วพอเราสร้างตามนั้น

00:13:00.142 --> 00:13:04.539
มันก็มีผลข้างเคียงลับๆ ที่เอไอวางแผนไว้

00:13:04.539 --> 00:13:08.002
ประเด็นก็คือ เราไม่ควรมั่นใจในความสามารถของเรา

00:13:08.002 --> 00:13:11.810
ว่าจะขังยักษ์จีนี่ superintelligence ไว้ในตะเกียงตลอดไปได้

00:13:11.810 --> 00:13:14.064
ไม่ช้าก็เร็ว มันก็จะออกมาอยู่ดี

NOTE Paragraph

00:13:15.034 --> 00:13:18.137
ผมเชื่อว่า ทางออกก็คือ

00:13:18.137 --> 00:13:23.161
การหาวิธีสร้างเอไอ ที่ถึงแม้ว่ามันจะหนีออกมาได้

00:13:23.161 --> 00:13:26.438
มันก็ยังไม่เป็นภัย เพราะโดยเนื้อแท้แล้วมันอยู่ฝั่งเดียวกับเรา

00:13:26.438 --> 00:13:28.337
เพราะเราและมันมีความเชื่อหรือค่านิยมเหมือนกัน

00:13:28.337 --> 00:13:31.547
ผมไม่เห็นทางออกอื่นของปัญหานี้อีกแล้ว

NOTE Paragraph

00:13:32.557 --> 00:13:36.391
ที่จริง ผมก็ค่อนข้างมั่นใจว่าเราสามารถแก้ปัญหานี้ได้

00:13:36.391 --> 00:13:40.294
เราคงไม่ต้องนั่งลิสต์ทุกอย่างที่เราแคร์

00:13:40.294 --> 00:13:43.937
หรือแย่ไปกว่านั้น เขียนพวกมันในภาษาคอมพิวเตอร์

00:13:43.937 --> 00:13:45.391
เช่น C++ หรือ Python

00:13:45.391 --> 00:13:48.158
นั่นคงเป็นงานที่น่าสิ้นหวังเอามากๆ

00:13:48.158 --> 00:13:52.455
แต่เราจะสร้างเอไอที่ใช้ความฉลาดของมัน

00:13:52.455 --> 00:13:55.226
ไปเรียนรู้สิ่งที่เราเห็นคุณค่า

00:13:55.226 --> 00:14:00.506
ระบบแรงจูงใจของมันจะถูกสร้าง เพื่อให้มันอยากจะ

00:14:00.506 --> 00:14:05.738
เรียนรู้ค่านิยมของเรา หรือทำสิ่งที่มันคาดว่าเราจะเห็นด้วย

00:14:05.738 --> 00:14:09.152
ดังนั้น เราจะให้อำนาจความฉลาดของมันให้มากที่สุด

00:14:09.152 --> 00:14:11.897
ไปในการแก้ปัญหาเรื่องค่านิยมที่ไม่ตรงกัน

NOTE Paragraph

00:14:12.727 --> 00:14:14.239
สิ่งนี้สามารถเป็นไปได้

00:14:14.239 --> 00:14:17.835
และผลของมันอาจมีประโยชน์มากต่อมนุษยชาติ

00:14:17.835 --> 00:14:21.792
แต่มันจะไม่เกิดขึ้นอย่างอัตโนมัติ

00:14:21.792 --> 00:14:24.790
เงื่อนไขตั้งต้นของความก้าวหน้าในด้านนี้

00:14:24.790 --> 00:14:27.653
ต้องถูกวางแผนจัดการในทางที่ถูกต้อง

00:14:27.653 --> 00:14:31.183
หากเราต้องการให้ผลที่ออกมาควบคุมได้

00:14:31.183 --> 00:14:33.801
ค่านิยมที่เอไอมีจะต้องเทียบเท่ากับของเรา

00:14:33.801 --> 00:14:35.561
ไม่ใช่แค่ในบริบทเดิมๆ

00:14:35.561 --> 00:14:37.999
ที่เราสามารถตรวจสอบพฤติกรรมของมันได้

00:14:37.999 --> 00:14:41.233
แต่ยังรวมถึงบริบทใหม่ๆ ที่เอไออาจจะเจอ

00:14:41.233 --> 00:14:42.790
ในอนาคตอันไม่สิ้นสุด

NOTE Paragraph

00:14:42.790 --> 00:14:47.527
นอกจากนี้ ยังมีปัญหาเฉพาะอื่นๆ ที่จำเป็นต้องแก้

00:14:47.527 --> 00:14:49.616
รายละเอียดของทฤษฏีการตัดสินใจของมัน

00:14:49.616 --> 00:14:52.480
วิธีการรับมือกับความไม่แน่นอน และอื่นๆ

00:14:53.330 --> 00:14:56.432
ปัญหาเฉพาะทางเหล่านี้อาจจะทำให้งานนี้ดู

00:14:56.432 --> 00:14:57.545
ค่อนข้างยาก

00:14:57.545 --> 00:15:00.925
ไม่ยากถึงขนาดการสร้างเอไอทรงภูมิปัญญา

00:15:00.925 --> 00:15:03.793
แต่ก็ยากในระดับหนึ่ง

00:15:03.793 --> 00:15:05.488
นี่คือสิ่งที่น่าเป็นกังวล

00:15:05.488 --> 00:15:10.172
การสร้างเอไอทรงภูมิปัญญาเป็นความท้าทายที่ยากมากๆ

00:15:10.172 --> 00:15:12.720
การสร้างเอไอที่ทั้งทรงภูมิปัญญาและไม่เป็นภัย

00:15:12.720 --> 00:15:15.136
นั่นเป็นความท้าทายที่ยากยิ่งกว่า

00:15:16.216 --> 00:15:19.703
ความเสี่ยงคือ กรณีที่มีคนแก้ปัญหาแรกได้สำเร็จ

00:15:19.703 --> 00:15:22.704
โดยที่ยังไม่สามารถแก้ปัญหาที่สอง

00:15:22.704 --> 00:15:24.605
ซึ่งจะเป็นตัวรับประกันความปลอดภัยอย่างสมบูรณ์แบบได้

NOTE Paragraph

00:15:25.375 --> 00:15:28.706
ผมจึงคิดว่า เราควรจะหาทางออก

00:15:28.706 --> 00:15:31.528
ของปัญหาด้านการควบคุมล่วงหน้าไว้

00:15:31.528 --> 00:15:34.188
เพื่อที่เราจะได้เตรียมพร้อมใช้ในกรณีที่จำเป็น

00:15:34.768 --> 00:15:38.275
ซึ่งมันก็เป็นไปได้ ที่เราจะไม่สามารถ
แก้ปัญหาทั้งหมดได้ล่วงหน้า

00:15:38.275 --> 00:15:41.299
เพราะบางองค์ประกอบอาจจะแก้ได้

00:15:41.299 --> 00:15:45.296
หลังจากที่เรารู้รายละเอียดของงานที่มันจะถูกใช้เท่านั้น

00:15:45.296 --> 00:15:48.676
แต่ยิ่งเราสามารถแก้ปัญหาล่วงหน้าได้มากเท่าไหร่

00:15:48.676 --> 00:15:52.766
โอกาสที่การเปลี่ยนแปลงไปสู่
ยุคปัญญาประดิษฐ์จะเป็นไปด้วยดี


00:15:52.766 --> 00:15:54.306
ก็มากเท่านั้น

NOTE Paragraph

00:15:54.306 --> 00:15:58.950
สำหรับผมแล้ว นี่เป็นสิ่งที่คู่ควรกับการลงแรงทำ

00:15:58.950 --> 00:16:02.282
ผมจินตนาการได้เลยว่า ถ้าผลออกมาโอเค

00:16:02.282 --> 00:16:06.940
ผู้คนในอีกหนึ่งล้านปีข้างหน้ามองย้อนมาในศตวรรษนี้

00:16:06.940 --> 00:16:10.942
เขาจะพูดกันว่าสิ่งหนึ่งที่เราทำ ซึ่งสำคัญจริงๆ

00:16:10.942 --> 00:16:12.509
คือการทำให้สิ่งนี้ถูกต้อง

NOTE Paragraph

00:16:12.509 --> 00:16:14.194
ขอบคุณ

00:16:14.204 --> 00:16:15.054
(เสียงปรบมือ)