อันตรายของ AI มันประหลาดกว่าที่คุณคิด
-
0:02 - 0:05ปัญญาประดิษฐ์
-
0:05 - 0:08สิ่งประดิษฐ์ที่เข้ามาแทรกแซง
อุตสาหกรรมทุกชนิด -
0:09 - 0:11แล้วกับไอศครีมล่ะ
-
0:12 - 0:16รสชาติสุดตะลึงแบบไหนกัน
ที่เราสามารถสร้างได้ -
0:16 - 0:19ด้วยพลังของปัญญาประดิษฐ์ขั้นสูง
-
0:19 - 0:23ฉันจึงจับกลุ่มกับนักเขียนโค้ด
จากโรงเรียนมัธยมต้น Kealing -
0:23 - 0:25เพื่อค้นหาคำตอบของคำถามนี้
-
0:25 - 0:31พวกเขารวบรวมไอศครีมทั้งหมด
1,600 รสชาติ ที่มีอยู่ -
0:31 - 0:36และเราก็ป้อนเข้าอัลกอริทึม
เพื่อดูว่ามันจะสร้างอะไร -
0:36 - 0:40และนี่คือบางรสที่ AI คิดขึ้นมา
-
0:40 - 0:42[ขยะฟักทอง]
-
0:42 - 0:43(เสียงหัวเราะ)
-
0:43 - 0:47[แยมเนยถั่วเหนียวเหนอะหนะ]
-
0:47 - 0:48[โรคครีมสตรอเบอรี่]
-
0:48 - 0:50(เสียงหัวเราะ)
-
0:50 - 0:55รสชาติพวกนี้ไม่อร่อยเอาซะเลย
ในขณะที่เราหวังว่าพวกเขาจะ -
0:55 - 0:57งั้นคำถามก็คือ มันเกิดอะไรขึ้น
-
0:57 - 0:58มันผิดพลาดตรงไหน
-
0:58 - 1:00นี่ AI พยายามจะฆ่าเราหรอ
-
1:01 - 1:06หรือมันพยายามทำตามที่เราสั่ง
และมันเป็นปัญหาหรอ -
1:07 - 1:09ในภาพยนต์ เมื่อมีบางอย่างผิดปกติกับ AI
-
1:09 - 1:12มันเป็นเพราะ AI เป็นคนตัดสินใจว่า
-
1:12 - 1:14มันไม่จำเป็นที่จะต้องทำตามคำสั่ง
มนุษย์อีกต่อไป -
1:14 - 1:16และมันมีเป้าหมายของมันเอง
ขอบคุณมากๆเลย -
1:17 - 1:21ในความเป็นจริง ถึงแม้ AI ที่เรามี
-
1:21 - 1:23ยังไม่ฉลาดพอที่จะทำเช่นนั้น
-
1:23 - 1:26มันมีพลังในการคำนวณโดยประมาณ
-
1:26 - 1:27พอๆกับไส้เดือนดิน
-
1:27 - 1:31หรืออาจจะพอๆกับผึ้งแค่ตัวเดียว
-
1:31 - 1:33อันที่จริง อาจจะน้อยกว่าด้วยซ้ำ
-
1:33 - 1:35เนื่องเพราะเราเรียนรู้สิ่งใหม่เกี่ยวกับสมอง
-
1:35 - 1:39นี่ทำให้รู้ชัดว่า AI ยังเทียบไม่ได้กับสมองคนมนุษย์
-
1:39 - 1:45ดังนั้นทุกวันนี้ AI สามารถทำงาน
อย่างระบุคนเดินเท้าในภาพ -
1:45 - 1:48แต่มันไม่ได้มีความคิดที่ว่า
อะไรคือคนเดินเท้า -
1:48 - 1:54มากไปกว่าว่ามันคือชุด
ของเส้น พื้นผิวและสิ่งของ -
1:54 - 1:57มันไม่รู้เลยว่าจริงๆแล้วมนุษย์คืออะไร
-
1:57 - 2:00ดังนั้นทุกวันนี้ AI
จะทำในสิ่งที่เราสั่งให้ทำ -
2:00 - 2:02มันจะทำถ้ามันทำได้
-
2:02 - 2:04แต่มันอาจไม่ทำในสิ่งที่เราต้องการ
-
2:04 - 2:07งั้นลองคิดว่าคุณ
พยายามใช้ AI -
2:07 - 2:10เพื่อรวบรวมชิ้นส่วนหุ่นยนต์นี้
-
2:10 - 2:14และประกอบมันกลายเป็นหุ่นยนต์
เพื่อไปจากจุด A ไปจุด B -
2:14 - 2:16ตอนนี้ ถ้าคุณกำลังพยายาม
และแก้โจทย์นี้อยู่ -
2:16 - 2:19โดยการเขียนโค้ดแบบเดิม
-
2:19 - 2:22คุณจะให้โปรแกรม
ทำตามคำแนะนำทีละขั้นตอน -
2:22 - 2:23วิธีการใช้ชิ้นส่วนเหล่านี้
-
2:23 - 2:26วิธีประกอบมันให้กลายเป็นหุ่นยนต์ที่มีขา
-
2:26 - 2:29และจากนั้นคือวิธีใช้ขาพวกนั้นไปให้ถึงจุด B
-
2:29 - 2:32แต่เมื่อคุณใช้ AI
เพื่อแก้โจทย์นี้ -
2:32 - 2:33มันต่างกันเลย
-
2:33 - 2:35คุณไม่ได้บอกมันว่า
ต้องแก้โจทย์นี้อย่างไง -
2:35 - 2:37คุณแค่ให้เป้าหมายกับมัน
-
2:37 - 2:40และมันก็คิดออกด้วยตัวมันเอง
ผ่านการลองผิดลองถูก -
2:40 - 2:42เพื่อให้ถึงเป้าหมาย
-
2:42 - 2:46และกลับพบว่าวิธีที่ AI มีแนวโน้ม
เพื่อแก้ปัญหานี้ -
2:46 - 2:48โดยการทำสิ่งนี้
-
2:48 - 2:51มันประกอบตัวเองเป็นหอคอย
และหล่นลงมา -
2:51 - 2:53ลงที่จุด B
-
2:53 - 2:55และในทางเทคนิค สิ่งนี้ช่วยแก้ปัญหา
-
2:55 - 2:58ทางเทคนิค มันไปยังจุด B
-
2:58 - 3:02อันตรายของ AI ไม่ใช่ว่า
มันกำลังจะกบฏต่อเรา -
3:02 - 3:07แต่มันกำลังจะทำในสิ่งที่เรา
ขอให้ทำแบบเฉพาะเจาะจงเลย -
3:07 - 3:09ดังนั้นแล้วเคล็ดลับ
การทำงานร่วมกับ AI ควรจะเป็น: -
3:09 - 3:13เราจะตั้งค่าปัญหาอย่างไร
เพื่อที่มันทำสิ่งที่เราต้องการจริงๆ -
3:15 - 3:18เจ้าหุ่นตัวจิ๋วนี้
กำลังถูกควบคุมโดย AI -
3:18 - 3:21AI มาพร้อมกับการออกแบบ
สำหรับขาหุ่นยนต์ -
3:21 - 3:25จากนั้นหาวิธีใช้มัน
เพื่อผ่านอุปสรรคเหล่านี้ทั้งหมด -
3:25 - 3:28แต่เมื่อ David Ha ตั้งค่าการทดลองนี้
-
3:28 - 3:31เขาตั้งค่ามันขึ้นมา
ด้วยข้อจำกัดที่เข้มงวดมาก -
3:31 - 3:34ว่า AI นั้นได้รับอนุญาต
ที่จะทำให้ขาใหญ่แค่ไหน -
3:34 - 3:35เพราะมิฉะนั้น...
-
3:46 - 3:49(เสียงหัวเราะ)
-
3:49 - 3:52และถ้าพูดในทางเทคนิคแล้ว
มันก็ไปถึงจุดหมายแหละค่ะ -
3:52 - 3:57ดังนั้นคุณจะเห็นว่ามันยากแค่ไหนที่จะให้ AI
ทำสิ่งที่ง่ายเพียงแค่เดิน -
3:57 - 4:01ดังนั้นเมื่อเห็น AI ทำเช่นนี้
คุณอาจพูดว่า มันไม่ยุติธรรม -
4:01 - 4:04คุณไม่สามารถเป็น
หอคอยสูงและล้มตัวลงมา -
4:04 - 4:07สิ่งที่คุณต้องทำจริงๆ
คือการใช้ขาเพื่อเดิน -
4:07 - 4:10ผลปรากฎว่า
มันก็ไม่ได้ผลเช่นกัน -
4:10 - 4:13งานของ AI ตัวนี้คือเคลื่อนที่ให้เร็ว
-
4:13 - 4:17พวกมันไม่ได้ถูกบอกว่า
มันต้องวิ่งเพื่อไปข้างหน้า -
4:17 - 4:19หรือว่ามันห้ามใช้แขนช่วย
-
4:19 - 4:24นี่คือสิ่งที่คุณได้รับ
เมื่อคุณฝึก AI ให้เคลื่อนที่เร็ว -
4:24 - 4:28สิ่งที่คุณจะได้ คือการตีลังกา
และท่าเดินโง่ ๆ -
4:28 - 4:30จนเป็นเรื่องธรรมดาไปเลย
-
4:30 - 4:33ดังนั้นการกระตุกไปมา
-
4:33 - 4:34(เสียงหัวเราะ)
-
4:35 - 4:38ในความคิดของฉัน คุณรู้มั้ย
อะไรที่จะประหลาดกว่านี้มาก -
4:39 - 4:40อย่างหุ่นยนต์ "Terminator"
-
4:40 - 4:44การแฮ็ก "The Matrix" เป็นอีกสิ่งหนึ่ง
AI นั้นจะทำถ้าคุณให้โอกาสมัน -
4:44 - 4:47ดังนั้นถ้าคุณฝึก AI ในแบบจำลอง
-
4:47 - 4:51มันจะเรียนรู้วิธีทำสิ่งต่าง ๆ เช่นแฮ็คเข้าไปใน
ความผิดพลาดของคณิตศาสตร์ที่ใช้ในการจำลอง -
4:51 - 4:53และเก็บเกี่ยวพวกมันเป็นพลังงาน
-
4:53 - 4:58หรือมันจะคิดว่าทำอย่างไรที่จะ
กระตุกตัวซ้ำๆ ลงกับพื้นเพื่อเคลื่อนที่เร็วๆ -
4:58 - 5:00เมื่อคุณทำงานร่วมกับ AI
-
5:00 - 5:02มันไม่เหมือนกับ
การทำงานกับมนุษย์คนอื่น -
5:02 - 5:07และยังเหมือนทำงานกับ
พลังธรรมชาติประหลาดๆสักอย่าง -
5:07 - 5:11และเป็นเรื่องง่ายโดยไม่ได้ตั้งใจ
ที่ให้ AI แก้ปัญหาที่ผิด -
5:11 - 5:16และบ่อยครั้งเราไม่ได้ตระหนักถึงมัน
จนกว่าจะมีบางอย่างผิดพลาดขึ้นมาจริงๆ -
5:16 - 5:18นี่คือการทดลองที่ฉันทำ
-
5:18 - 5:22ฉันให้ปัญญาประดิษฐ์ลอกแถบสีเหล่านี้
-
5:22 - 5:23เพื่อคิดค้นสีใหม่ขึ้นมา
-
5:23 - 5:26โดยให้รายการสีเหมือนกับ
อันที่อยู่ทางซ้ายมือนี้ -
5:27 - 5:30และนี่คือสิ่งที่ปัญญาประดิษฐ์
ให้ผลลัพท์ออกมา -
5:30 - 5:33[อึของซินดิส, เสมือนอึ, ความเจ็บปวด, ขนลับหงอก]
-
5:33 - 5:37(เสียงหัวเราะ)
-
5:39 - 5:41ดังนั้นทางเทคนิคแล้ว
-
5:41 - 5:43มันทำอย่างที่ฉันสั่งให้ทำ
-
5:43 - 5:46ฉันคิดว่าฉันขอให้มัน
ตั้งชื่อสีที่ดูดี -
5:46 - 5:49แต่สิ่งที่ฉันสั่งให้ทำจริงๆ
-
5:49 - 5:52แค่ลอกรูปแบบของกลุ่มอักษร
-
5:52 - 5:54อย่างที่มันเห็นในตัวต้นฉบับ
-
5:54 - 5:57และฉันไม่ได้บอกอะไรเลย
เกี่ยวกับความหมายของคำ -
5:57 - 5:59หรือว่าอาจจะมีบางคำ
-
5:59 - 6:02ที่มันควรเลี่ยงที่จะใช้
ในแทบสีเหล่านี้ -
6:03 - 6:07ดังนั้นโลกทั้งโลกของมัน
คือข้อมูลที่ฉันให้มัน -
6:07 - 6:11เช่นเดียวกับ รสของไอศครีม
มันไม่รู้อะไรอื่นเลย -
6:12 - 6:14ดังนั้น จากข้อมูลที่ให้มันนี่เอง
-
6:14 - 6:19บ่อยครั้งที่เราบอกให้ AI
ทำสิ่งที่ผิดโดยไม่เราตั้งใจ -
6:19 - 6:22นี่คือปลาที่เรียกว่าเทนช์
-
6:22 - 6:24และมีกลุ่มนักวิจัย
-
6:24 - 6:27ที่เป็นคนฝึกให้ AI ระบุ
ปลาเทนช์ในรูปนี้ -
6:27 - 6:29แต่เมื่อพวกเขาถามมัน
-
6:29 - 6:32ส่วนไหนของภาพที่ใช้
เพื่อระบุปลาจริงๆล่ะ -
6:32 - 6:34นี่คือสิ่งที่ AI บอกมาค่ะ
-
6:35 - 6:37ใช่ พวกนั้นคือนิ้วมือมนุษย์
-
6:37 - 6:39ทำไมถึงต้องมองหานิ้วมือมนุษย์ล่ะ
-
6:39 - 6:42ถ้ามันพยายามที่จะระบุตัวปลา
-
6:42 - 6:45คือปรากฎว่าปลาเทนช์
ตัวนั้นคือถ้วยรางวัล -
6:45 - 6:49และในภาพจำนวนมาก
ที่ AI ได้เห็นปลาตัวนี้ -
6:49 - 6:50ในระหว่างการฝึก
-
6:50 - 6:52ปลามีลักษณะเช่นนี้
-
6:52 - 6:53(เสียงหัวเราะ)
-
6:53 - 6:57และมันก็ไม่รู้ว่านิ้ว
ไม่ใช่ส่วนหนึ่งของปลา -
6:59 - 7:03ฉะนั้นคุณจะเห็นว่ามันยากเหลือเกิน
ที่จะออกแบบ AI -
7:03 - 7:06ที่สามารถเข้าใจจริงๆว่า
มันกำลังดูอะไรอยู่ -
7:06 - 7:09และนั้นคือเหตุผลที่การออกแบบ
กระบวนการจดจำรูปภาพ -
7:09 - 7:11ในพาหนะไร้คนขับถึงได้ยากนัก
-
7:11 - 7:13และนั้นคือเหตุผลที่ยานไร้คนขับ
ทั้งหลายล้มเหลว -
7:14 - 7:16นั้นก็เพราะ AI เกิดความสับสน
-
7:16 - 7:20ฉันอยากจะพูดเกี่ยวกับตัวอย่างจากปี 2016
-
7:20 - 7:25ครั้งนั้นได้เกิดอุบัติเหตุเมื่อมีคน
ใช้ระบบคนขับโดยใช้ AI ของ Tesla -
7:25 - 7:28แต่แทนที่จะใช้บนทางด่วน
อย่างที่มันถูกออกแบบมา -
7:28 - 7:31พวกเขากลับใช้มันบนถนน
-
7:31 - 7:32และสิ่งที่เกิดขึ้นคือ
-
7:32 - 7:36มีรถบรรทุกขับอยู่ข้างหน้ารถ
และรถไม่สามารถเบรกได้ -
7:37 - 7:41ตอนนี้ AI ถูกสอนให้
จดจำรถบรรทุกในรูป -
7:41 - 7:43แต่สิ่งที่ดูเหมือนว่าจะเกิดขึ้นคือ
-
7:43 - 7:46AI ถูกสอนให้จดจำ
รถบรรทุกที่ขับบนทางด่วน -
7:46 - 7:49ที่ที่คุณน่าจะเดาได้
ว่าจะเห็นรถบรรทุกจากข้างหลัง -
7:49 - 7:53ภาพรถบรรทุกด้านข้างไม่ควร
เกิดขึ้นบนทางด่วน -
7:53 - 7:56และเมื่อ AI เห็นรถบรรทุกเช่นนั้น
-
7:56 - 8:01มันกลับคิดว่าสิ่งนั้น
คล้ายกับป้ายจราจร -
8:01 - 8:03และดังนั้นมันจึงปลอดภัยที่จะขับต่อ
-
8:04 - 8:07นี่คือความผิดพลาดของ AI
จากสายงานต่างๆ -
8:07 - 8:10Amazon ต้องยอมล้มเลิก
อัลกอริธิมจัดเรียงเรซูเม่ -
8:10 - 8:11ที่พวกเขากำลังทำกันอยู่
-
8:11 - 8:15เมื่อพวกเขาค้นพบว่าอัลกอริทึม
เรียนรู้ที่จะเลือกปฏิบัติต่อผู้หญิง -
8:15 - 8:18สิ่งที่เกิดขึ้นคือพวกเขาฝึกมัน
ในตัวอย่างเรซูเม่ -
8:18 - 8:20ของคนที่เคยถูกจ้างมาแล้วในอดีต
-
8:20 - 8:24และจากตัวอย่างนี้ AI เรียนรู้
เพื่อหลีกเลี่ยงเรซูเม่ของ -
8:24 - 8:26คนที่มาจากวิทยาลัยสตรี
-
8:26 - 8:29หรือใครก็ตามที่มีคำว่า "ผู้หญิง"
สักแห่งในเร่ซูเม่พวกเขา -
8:29 - 8:34ไม่ว่าจะ "นักฟุตบอลหญิง"
หรือ "สมาคมวิศวะกรหญิง" -
8:34 - 8:38AI ไม่รู้ว่ามันไม่จำเป็นจะต้อง
สำเนาข้อความ -
8:38 - 8:40ที่มันได้เคยเห็นมนุษย์ทำไปเหล่านี้
-
8:40 - 8:43และในทางเทคนิค
มันทำอย่างที่มันถูกร้องขอให้ทำ -
8:43 - 8:46พวกมันถูกร้องขอโดยไม่ตั้งใจ
ให้ทำสิ่งผิด -
8:47 - 8:50และมันเกิดขึ้นตลอดเวลากับ AI
-
8:50 - 8:54AI สามารถทำตัวไม่เป็นประโยชน์
โดยที่มันไม่รู้ตัว -
8:54 - 8:59ฉะนั้น AI ที่แนะนำ
เนื่อหาใหม่ๆใน Facebook ใน Youtube -
8:59 - 9:02พวกมันถูกปรับแต่ง
เพื่อเพี่มยอดคลิกและยอดรับชม -
9:02 - 9:06และโชคร้าย วิธีที่พวกมันทำ
-
9:06 - 9:10คือการแนะนำเนื้อหา
เกี่ยวกับทฤษฎีสมคบคิดหรือการคลั่งศาสนา -
9:11 - 9:16ตัว AI เองไม่มีแนวคิดใดๆ
ว่าเนื้อหาพวกนี้คืออะไรกันแน่ -
9:16 - 9:20และพวกมันก็ไม่มีแนวคิด
ว่าผลกระทบที่ตามมาอาจเป็นอะไร -
9:20 - 9:22ของการแนะนำเนื้อหานี้
-
9:22 - 9:24ฉะนั้น เมื่อเราทำงานร่วมกับ AI
-
9:24 - 9:29มันขึ้นอยู่กับพวกเราเพื่อหลีกเลี่ยงปัญหา
-
9:29 - 9:31และหลีกเลี่ยงความผิดพลาดต่างๆ
-
9:31 - 9:35ที่จะนำไปสู่ปัญหาเดิมๆนั้นคือการสื่อสาร
-
9:35 - 9:39มนุษย์ต้องเรียนรู้
วิธีสื่อสารกับ AI -
9:39 - 9:43เราต้องเรียนรู้ว่าอะไรที่ AI
ทำได้หรือไม่ได้ -
9:43 - 9:46และเพื่อให้เข้าใจว่า
ด้วยสมองหนอนจิ๋วๆของมัน -
9:46 - 9:50มันไม่เข้าใจจริงๆ
ว่าอะไรคือสิ่งที่เราต้องการให้มันทำ -
9:51 - 9:54ในอีกแง่หนึ่งก็คือ เราต้องเตรียมพร้อม
ที่จะทำงานร่วมกับ AI -
9:54 - 10:00นั่นไม่ใช่ความสามารถระดับสูงของ
AI ที่ทุกคนรู้จักในนิยายวิทยาศาสตร์ -
10:00 - 10:03เราต้องเตรียมพร้อมทำงาน
ร่วมกับ AI -
10:03 - 10:06ที่เรามีในปัจจุบัน
-
10:06 - 10:10และในปัจจุบัน AI
ก็ดูจะแปลกมากขึ้นทุกที -
10:10 - 10:11ขอบคุณค่ะ
-
10:11 - 10:16(เสียงปรบมือ)
- Title:
- อันตรายของ AI มันประหลาดกว่าที่คุณคิด
- Speaker:
- Janelle Shane
- Description:
-
อันตรายของปัญญาประดิษฐ์ มันไม่ใช่ว่ามันจะลุกขึ้นมาต่อต้านเรา แต่คือการทำอย่างที่พวกเราสั่งให้มันทำต่างหาก นี่คือสิ่งที่นักวิจัย AI Janelle Shane ได้กล่าวไว้ Shane จะมาแบ่งปันความประหลาดที่บางครั้งก็น่าตกใจของอัลกอริธึม AI ในขณะที่พวกมันพยายามที่จะแก้ปัญหาของมนุษย์ เช่น การสร้างไอศครีมรสชาติใหม่หรือจดจำรถยนต์บนท้องถนน และเธอจะแสดงให้เห็นว่าทำไม AI ยังเทียบไม่ได้กับสมองคน
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Unnawut Leepaisalsuwanna approved Thai subtitles for The danger of AI is weirder than you think | ||
Unnawut Leepaisalsuwanna edited Thai subtitles for The danger of AI is weirder than you think | ||
Varut Wiseschinda accepted Thai subtitles for The danger of AI is weirder than you think | ||
Varut Wiseschinda edited Thai subtitles for The danger of AI is weirder than you think | ||
Varut Wiseschinda edited Thai subtitles for The danger of AI is weirder than you think | ||
Varut Wiseschinda edited Thai subtitles for The danger of AI is weirder than you think | ||
Patipon Tantisirivattana edited Thai subtitles for The danger of AI is weirder than you think | ||
Patipon Tantisirivattana edited Thai subtitles for The danger of AI is weirder than you think |