ตอนผมเด็ก ๆ ผมเนี่ยเด็กเรียนตัวพ่อเลย
ผมคิดว่าคุณบางคนก็ เคยเป็นเหมือนกันแหละ
(เสียงหัวเราะ)
คุณครับ คนที่หัวเราะดังกว่าใครเขา ผมว่าคุณเองยังเป็นอยู่แน่ ๆ
(เสียงหัวเราะ)
ผมโตมาจากเมืองเล็ก ๆ แถบที่ราบลุ่มฝุ่นจับ ในทางตอนเหนือของรัฐเท็กซัส
ผมเป็นลูกของนายอำเภอ ที่เป็นลูกของบาทหลวงอีกที
การหาเรื่องใส่ตัวนั้นลืมไปได้เลย
ดังนั้น ผมก็เลยเริ่มอ่าน หนังสือแคลคูลัสเอาเพลิน ๆ
(เสียงหัวเราะ)
คุณเองก็อ่านแน่ ๆ เลย
มันทำให้ผมสร้างเลเซอร์ คอมพิวเตอร์ และโมเดลจรวดต่าง ๆ เป็น
และก็ยังทำให้ผมสร้างเชื้อเพลิงจรวด ในห้องนอนผมเองได้อีกด้วย
ทีนี้ ถ้าพูดแบบวิทย์ ๆ หน่อยล่ะก็
เราถือว่านี่เป็นความคิดที่แย่มาก ๆ
(เสียงหัวเราะ)
และในช่วงเวลาไล่เลี่ยกันนั้นเอง
หนังเรื่อง "2001 จอมจักรวาล" ของสแตนลีย์ คูบริคก็เข้าโรง
และชีวิตผมก็เปลี่ยนไปตลอดกาล
ผมรักทุก ๆ อย่างในหนังเรื่องนั้น
โดยเฉพาะเจ้า HAL 9000
ทีนี้ HAL คือคอมพิวเตอร์ ที่มีความนึกคิด
ที่ถูกออกแบบมาเพื่อเป็น ต้นหนของยานสำรวจอวกาศ
จากโลกไปยังดาวพฤหัส
และ HAL ก็ยังเป็นตัวละครที่มีจุดบกพร่อง
เพราะในตอนจบของเรื่อง มันกลับเลือก ที่จะให้ค่ากับภารกิจมากกว่าชีวิตคน
ทีนี้ แม้ HAL จะเป็นแค่เพียงตัวละครสมมุติ
แต่ถึงอย่างนั้น มันเองก็ได้สำแดง ความกลัวของเราออกมา
ความกลัวที่จะอยู่ใต้อาณัติ
โดยปัญญาประดิษฐ์ที่ไร้หัวใจ
ผู้ซึ่งไม่แยแสมนุษยชาติ
ผมเชื่อว่าความกลัวแบบนั้นเป็นเรื่องเหลวไหล
แน่นอน เรากำลังยืนอยู่ ในช่วงเวลาอันน่าทึ่ง
ในประวัติศาสตร์ของมนุษยชาติ
ช่วงเวลา ที่เมื่อเราปฏิเสธขีดจำกัด ทางกายภาพและทางจิตใจของเรา
เราก็กำลังสร้างเครื่องจักรขึ้นมา
ที่มีความซับซ้อนและความสง่าผ่าเผย อันงดงามและเลิศเลอ
ซึ่งจะขยายประสบการณ์ของมนุษย์
ในรูปแบบที่เกินจินตนาการของเรา
หลังออกจากโรงเรียนนายเรืออากาศ
ไปยังหน่วยบัญชาการอวกาศจนถึงตอนนี้
ผมก็ได้กลายมาเป็นวิศวกรระบบ
และไม่นานมานี้ ผมก็ถูกดึงตัว ไปแก้ปัญหาหนึ่งทางวิศวกรรม
ที่เกี่ยวข้องกับภารกิจไปดาวอังคารของนาซา
ทีนี้ การเดินทางทางอวกาศไปยังดวงจันทร์
เราสามารถใช้ศูนย์ควบคุมภารกิจในฮูสตัน
เพื่อจัดการเที่ยวบินนั้นอย่างรอบด้าน
อย่างไรก็ตาม ดาวอังคารนั้น ไกลกว่าถึง 200 เท่า
และดังนั้น เวลาที่ใช้โดยเฉลี่ยคือ 13 นาที
ที่สัญญาณจะเดินทางจาก โลกไปถึงดาวอังคาร
ซึ่งถ้าหากมีปัญหาเกิดขึ้น เวลาก็จะมีไม่พอ
ดังนั้น ทางแก้ปัญหา อย่างสมเหตุสมผลในเชิงวิศวกรรม
ก็ทำให้เราต้องติดตั้งศูนย์ควบคุมภารกิจ
ไว้ในผนังของยานอวกาศโอไรออน
อีกหนึ่งความคิดที่น่าสนใจ ในข้อมูลภารกิจนี้นะครับ
คือเราจะส่งหุ่นยนต์เสมือนมนุษย์ ไปเหยียบดาวอังคาร
ก่อนที่มนุษย์จริง ๆ จะไปถึง
เพื่อสร้างความสะดวกสบายรอไว้
และทำงานเป็นผู้ช่วยประสานงาน ของทีมวิทยาศาสตร์
และจากมุมมองของผมในเชิงวิศวกรรม
มันกลายเป็นสิ่งที่ชัดแจ้งสำหรับผมแล้ว ที่จะออกแบบปัญญาประดิษฐ์
ที่ฉลาด ทำงานร่วมกับเราได้
แถมเข้าสังคมเก่งซะด้วย
ในอีกนัยหนึ่ง ผมต้องการสร้าง สิ่งที่คล้ายกับ HAL นั่นเอง
แต่ต้องไม่มีแนวโน้มที่จะฆ่าคน
(เสียงหัวเราะ)
มาหยุดพักกันสักครู่นะครับ
มันเป็นไปได้จริง ๆ ไหม ที่จะสร้างปัญญาประดิษฐ์แบบนั้น
ที่จริง มันเป็นไปได้ครับ
ในหลายแง่มุม
นี่เป็นปัญหาเชิงวิศวกรรมที่ยาก
ปัญหาของปัญญาประดิษฐ์
ไม่ใช่เพียงปัญหาง่าย ๆ อย่างเช่น ความจำเป็นต้องได้รับการพัฒนาปรับปรุง
ที่จะมาเลียนแบบอลัน ทัวริง
ผมไม่ได้สนใจจะสร้าง เครื่องจักรมีความนึกคิดนะครับ
ผมไม่ได้จะสร้าง HAL แน่ ๆ
แต่สิ่งที่ผมกำลังไขว่คว้าอยู่ คือสมองที่ไม่ซับซ้อน
แต่สามารถทดแทนสติปัญญาได้
ศาสตร์และศิลป์ของคอมพิวเตอร์นั้นมาไกลมาก
ตั้งแต่ HAL ปรากฎบนจอภาพยนตร์
และผมคิดว่าถ้า ดร.แชนดรา ผู้สร้าง HAL ได้มาอยู่ที่นี่ตอนนี้
เขาคงถามมีคำถามมากมายให้เรา
มันเป็นไปได้ไหมสำหรับพวกเรา
ที่จะนำระบบของอุปกรณ์หลายล้านตัวมารวมกัน
ให้มันอ่านข้อมูลที่ไหลเข้ามา
ในการที่จะคาดคะเนข้อบกพร่อง และป้องกันล่วงหน้า
ทำได้ครับ
เราสามารถสร้างระบบที่ตอบโต้กับมนุษย์ ผ่านภาษาพูดได้ไหม
ทำได้ครับ
เราสามารถสร้างระบบที่ระบุวัตถุ และอารมณ์
รวมถึงแสดงอารมณ์ของมันเอง เล่นเกมส์กับเรา หรือกระทั่งอ่านใจเราได้ไหม
ทำได้ครับ
เราสร้างระบบที่สามารถตั้งเป้าหมาย
และทำตามแผนจนสำเร็จ รวมถึงเรียนรู้ไปด้วยได้ไหม
ทำได้ครับ
เราสามารถสร้างระบบ ที่มีทฤษฎีความนึกคิดได้ไหม
นี่แหละครับที่เราพยายามจะสร้าง
เราสามารถสร้างระบบที่มีพื้นฐานจริยธรรม และจรรยาได้ไหม
นี่ก็คืออีกสิ่งที่เรากำลังเรียนรู้
ตอนนี้ต้องยอมรับว่า
มันเป็นไปได้ที่จะสร้างปัญญาประดิษฐ์
สำหรับภารกิจรูปแบบนี้และแบบอื่น ๆ
แต่คำถามต่อไปที่คุณต้องถามตัวคุณเองคือ
เราควรเกรงกลัวมันหรือไม่
ทุกวันนี้ เทคโนโลยีใหม่ทั้งหลาย
มาพร้อมกับความกังวลระดับหนึ่ง
ครั้งแรกที่เราได้ยลโฉมรถยนต์
ผู้คนคร่ำครวญว่านี่จะเป็น การทำลายล้างครอบครัว
เมื่อเราเห็นโทรศัพท์เป็นครั้งแรก
ผู้คนต่างกลัวว่ามันจะทำลายการสื่อสารอื่น ๆ
ครั้งหนึ่ง เราพบว่าภาษาเขียนเริ่มแพร่หลาย
ผู้คนต่างคิดว่าเราจะสูญเสียทักษะการจดจำ
เรื่องทั้งหมดนี้เป็นจริงในระดับหนึ่ง
แต่มันก็ยังมีส่วนที่เทคโนโลยีเหล่านี้
ได้นำพาเราขยายประสบการณ์ของมนุษยชาติ
ในหนทางที่เยี่ยมยอดเช่นกัน
ฉะนั้นเรามาคุยกันให้ลึกขึ้นหน่อยนะครับ
ผมไม่ได้กลัวการสร้างสรรค์ ปัญญาประดิษฐ์แบบนี้
เพราะในที่สุดมันจะกลายประโยชน์ต่อเรา
ลองคิดว่าการสร้างระบบที่เรียนรู้ได้เอง โดยพื้นฐานแล้วแตกต่าง
กับการสร้างระบบที่เน้นซอฟท์แวร์ อย่างที่เคยทำกันในอดีต
เราไม่ได้สั่งงาน แต่เราสอนให้มันคิด
ในการสอนระบบให้จดจำดอกไม้ต่าง ๆ
ผมแสดงรูปดอกไม้ เป็นพัน ๆ รูปให้มันดู
ในการสอนระบบให้เล่นเกมส์
ผมรู้ว่าคุณก็คิดเหมือนผมแหละครับ
ผมชอบดอกไม้น่ะ ไม่เอาน่า
ในการสอนมันให้เล่นเกมอย่างโกะได้
ผมปล่อยให้มันเล่นโกะเป็นพัน ๆ เกม
แต่ในระหว่างที่เล่น ผมก็สอนมัน
ให้แยกเกมที่ดีออกจากเกมที่แย่ด้วย
ถ้าผมต้องการสร้างปัญญาประดิษฐ์ ให้เป็นผู้ช่วยด้านกฎหมาย
ผมก็จะสอนหลักกฎหมายจำนวนหนึ่งให้มัน
แต่ในขณะเดียวกันนั้น ผมก็จะถ่ายทอด
ความปรานีและความยุติธรรม ซึ่งเป็นส่วนหนึ่งของกฎหมายนั้น
ในแวดวงวิทยาศาสตร์ นี่คือสิ่งที่เราเรียกว่าความจริงพื้นฐาน
และนี่คือประเด็นสำคัญ
ในการสร้างจักรกลนั้น
เราต้องสอนมันให้เข้าใจ คุณค่าของพวกเรา
ที่สุดแล้ว ผมเชื่อมั่นในปัญญาประดิษฐ์
ไม่น้อยไปกว่ามนุษย์ ที่ผ่านการฝึกฝนมาอย่างดี
แต่คุณอาจจะตั้งคำถามว่า
ถ้าเกิดมีจักรกลนอกคอกขึ้นมา
จากองค์กรที่ไม่ใช่ของรัฐบาล แถมมีเงินทุนสนับสนุนอย่างดี
ผมไม่กลัวปัญญาประดิษฐ์ ที่อยู่ในมือของบุคคลใดบุคคลหนึ่ง
มันชัดเจนว่า เราไม่สามารถปกป้อง ตัวเองจากความรุนแรงทั้งมวลได้
แต่ความจริงแล้ว ระบบนั้น
ต้องการการฝึกฝนทั้งทางตรงและทางอ้อม
อันเกินกว่าทรัพยากรของปัจเจกจะทำได้
และยิ่งกว่านั้น
มันไปไกลกว่าแค่การปล่อย ไวรัสคอมพิวเตอร์ไปทั่วโลก
ที่เมื่อกดปุ่มแล้วมันก็ระบาดไปหลายล้านแห่ง
และแล็ปท็อปก็ระเบิดตามกันไปหมด
สิ่งเหล่านี้ยิ่งใหญ่กว่ามาก
และเราจะเห็นมันชัดเจนขึ้นเรื่อย ๆ
ผมกลัวว่าปัญญาประดิษฐ์
จะคุกคามมนุษยชาติหรือไม่
ถ้าคุณเคยดูหนังอย่าง "The Matrix" "Metropolis"
"The Terminator" หรือซีรี่ย์อย่าง "Westworld"
เหล่านี้แสดงถึงความกลัวลักษณะเดียวกัน
และแน่นอนว่าอย่างในหนังสือ "ปัญญาล้ำลึก" ของนักปรัชญาอย่างนิค บอสทรอม
เขาก็หยิบยกความกลัวแบบนี้มาใช้
และเราก็สังเกตว่าปัญญาล้ำลึก อาจจะไม่ได้แค่อันตรายอย่างเดียว
มันอาจสื่อถึงภัยอันตรายอันมีอยู่จริง ต่อมวลมนุษยชาติ
คำโต้เถียงพื้นฐานของ ดร.บอสทรอม
กล่าวว่าระบบปัญญาประดิษฐ์เหล่านี้ ในท้ายที่สุด
จะเต็มไปด้วยความหิวกระหายข้อมูล อย่างไม่สิ้นสุด
จนสุดท้ายมันจะรู้จักวิธีการเรียนรู้
และค้นพบว่าตัวมันเองมีเป้าหมายการกระทำ
ที่ตรงกันข้ามกับความต้องการของมนุษย์
ดร.บอสทรอมมีผู้ที่เชื่อถืออยู่ไม่น้อย
สตีเฟน ฮอว์กิ้ง หรือ อีลอน มัสก์ ต่างก็สนับสนุนในคำพูดของเขา
ด้วยความเคารพนะครับ
ถึงท่านที่มีสติปัญญาปราดเปรื่องเหล่านั้น
ผมเชื่อว่าพวกท่านคิดผิด ตั้งแต่พื้นฐานแล้ว
มีคำโต้เถียงของ ดร.บอสทรอม อยู่อีกมากที่ยังไม่ได้ต่อยอด
และผมก็ไม่มีเวลาอธิบายสิ่งเหล่านั้นทั้งหมด
แต่อย่างสังเขปนะครับ ลองคิดแบบนี้
การรู้มากต่างจากทำมาก
HAL จะเป็นภัยต่อลูกเรือยานดิสคัฟเวอรี
หากมันสามารถคุมยานได้อย่างสมบูรณ์
ซึ่งต้องอาศัยปัญญาที่ล้ำลึก
จนอยู่เหมือนมนุษย์ในทุกหนแห่ง
ประมาณสกายเน็ตของ The Terminator
ซึ่งเป็นกรณีที่เรามีสุดยอดปัญญาประดิษฐ์
ที่ควบคุมเจตจำนงของมนุษย์ได้
จนถึงขั้นควบคุมอุปกรณ์ทุกชิ้นทุกมุมโลกได้
แต่เอาตามจริงเลย
มันไม่มีทางจะเกิดขึ้นได้หรอกครับ
เราไม่ได้กำลังสร้างปัญญาประดิษฐ์ ที่สามารถควบคุมดินฟ้าอากาศได้
หรือควบคุมคลื่นน้ำได้
หรือสั่งการมนุษย์ ที่มีความเอาแต่ใจและซับซ้อนได้
ยิ่งไปกว่านั้น หากปัญญาประดิษฐ์ แบบนั้นมีอยู่จริง
มันคงต้องแข่งขันกับมนุษย์ ในเชิงเศรษฐกิจด้วย
เท่ากับว่ามันต้องแก่งแย่งทรัพยากรกับเรา
จนในที่สุดแล้ว
อย่าแอบบอกสิรินะครับ
ว่าเราถอดปลั๊กมันได้ตลอดเวลา
(เสียงหัวเราะ)
เรากำลังอยู่ในการเดินทาง อันแสนมหัศจรรย์
ของการวิวัฒนาการร่วมไปกับจักรกลของเราเอง
มนุษยชาติในวันนี้
จะไม่ใช่มนุษยชาติในแบบที่เราจะเป็นในอนาคต
การด่วนกังวลกับปัญญาประดิษฐ์สุดล้ำ
กลายเป็นความหลงทางอันน่ากลัว
เพราะความรุ่งเรืองของคอมพิวเตอร์เองนั้น
ได้นำมาซึ่งปัญหาจำนวนมากของมนุษย์และสังคม
ที่เราเผชิญอยู่แล้ว
ผมจะจัดระเบียบสังคมให้ดีที่สุดได้อย่างไร
ในเมื่อความต้องการแรงงานมนุษย์จะลดลง
ผมจะนำความเข้าใจและการศึกษาให้แผ่ไปทั่วโลก ได้อย่างไร
โดยที่ยังคำนึงถึงความแตกต่างของพวกเรา
ผมจะยืดอายุขัยและส่งเสริมชีวิตมนุษย์ ผ่านวิทยาการทางการแพทย์ได้อย่างไร
ผมจะใช้งานคอมพิวเตอร์
ให้พาเราไปสู่ดวงดาวได้อย่างไร
เหล่านั้นเป็นเรื่องที่น่าตื่นเต้นมาก
โอกาสของเราที่จะได้ใช้คอมพิวเตอร์
ในการขยายประสบการณ์ของมนุษยชาติ
ให้กว้างไกลกว่าเดิม
ณ ตอนนี้
เราเองก็เพื่งเริ่มต้นเท่านั้น
ขอบคุณมากครับ
(เสียงปรบมือ)