ฉันกำลังต่อสู้กับอคติในชุดคำสั่งขั้นตอนวิธีบนคอมพิวเตอร์อย่างไร
-
0:01 - 0:04สวัสดีค่ะ ฉันชื่อ จอย เป็นกวีเขียนรหัส
-
0:04 - 0:09มีภาระหน้าที่เพื่อหยุดยั้ง
พลังที่เรามองไม่เห็นที่กำลังพุ่งขึ้นมา -
0:09 - 0:12พลังที่ฉันเคยเรียกว่า
การจ้องมองที่ถูกเข้ารหัส (โคดเดด เกซ) -
0:12 - 0:15ศัพท์ของฉันเอง สำหรับอคติในชุดคำสั่งขั้นตอนวิธี
(algorithmic bias) -
0:15 - 0:20อคติที่ว่านั้น ก็เหมือนกับอคติของมนุษย์
มีผลทำให้เกิดความไม่เป็นธรรม -
0:20 - 0:26แต่ขั้นตอนวิธีปฏิบัติ ก็เหมือนกับไวรัส
สามารถแพร่กระจายอคติ ไปได้อย่างกว้างขวาง -
0:26 - 0:27ในย่างก้าวที่รวดเร็ว
-
0:28 - 0:32อคติในชุดคำสั่งขั้นตอนวิธี
ยังสามารถนำไปสู่ประสบการณ์ที่กันออกไป -
0:32 - 0:34และการกระทำที่แบ่งแยกเลือกปฏิบัติ
-
0:35 - 0:37ขอแสดงให้คุณเข้าใจว่าฉันหมายถึงอะไร
-
0:37 - 0:39(วิดีโอ) จอยบัวลามวินิ: สวัสดีค่ะ กล้อง
ฉันมีใบหน้า -
0:40 - 0:42คุณสามารถเห็นใบหน้าฉันหรือไม่ค่ะ
-
0:42 - 0:44ใบหน้าที่ไม่มีแว่นตานะค่ะ
-
0:44 - 0:46คุณสามารถเห็นใบหน้าของเธอได้
-
0:46 - 0:48แล้วใบหน้าของฉันเองล่ะ
-
0:52 - 0:56ฉันสวมหน้ากากอยู่นะ
คุณสามารถเห็นหน้ากากของฉันหรือไม่ค่ะ -
0:56 - 0:59จอย บัวลามมินิ: ค่ะ
สิ่งนี้เกิดขึ้นได้อย่างไรหรือ -
0:59 - 1:02ทำไมฉันจึงกำลังนั่งอยู่หน้าคอมพิวเตอร์
-
1:02 - 1:03ใส่หน้ากากสิขาว
-
1:03 - 1:07พยายามจะให้ถูกตรวจพบโดยเว็บแคมราคาถูก ๆ
-
1:07 - 1:09ค่ะ เมื่อฉันไม่ได้กำลังต่อสู้
อยู่กับโคดเด็ดเกซ -
1:09 - 1:11ในฐานะเป็นกวีเขียนรหัส
-
1:11 - 1:14ฉันเป็นนักศึกษาบัณฑิตศึกษา
อยู่ที่ห้องทดลองสื่อที่สถาบัน MIT -
1:14 - 1:19และที่นั่นฉันได้โอกาสทำงานในทุก ๆ เรื่อง
เกี่ยวกับโครงการแปลก ๆ ซึ่งรวมถึง -
1:19 - 1:21กระจกตามความปรารถนา (Aspire Mirror)
-
1:21 - 1:26เป็นโครงการที่ฉันทำ เพื่อให้ฉันฉาย
หน้ากากดิจิตอล ลงบนภาพสะท้อนของฉันบนกระจก -
1:26 - 1:29ดังนั้น ในตอนเช้า
ถ้าฉันต้องการจะรู้สึกมีพลัง -
1:29 - 1:30ฉันก็ใส่หน้ากากสิงโต
-
1:30 - 1:34ถ้าต้องการทำให้รู้สึกเบิกบานใจ
ฉันอาจยกหรือคัดลอกคำพูดมา -
1:34 - 1:37ดังนั้น ฉันจึงได้ใช้โปรแกรมจดจำใบหน้า
แบบพื้นฐาน -
1:37 - 1:38เพื่อสร้างระบบนั้นขึ้นมา
-
1:38 - 1:43แต่ก็ได้พบว่า มันยากจริง ๆ ที่จะทดสอบมัน
เว้นแต่ว่าฉันจะต้องใส่หน้ากากสีขาว -
1:44 - 1:49โชคไม่ดีค่ะ ฉันเคยวิ่งเข้าไปพบปัญหานี้
มาก่อน -
1:49 - 1:53เมื่อตอนเรียนปริญญาตรีอยู่ที่จอร์เจียเทค
เรียนวิทยาศาสตร์คอมพิวเตอร์ -
1:53 - 1:55ฉันเคยทำงานเกี่ยวกับหุ่นยนต์สังคม
-
1:55 - 1:59และงานหน้าที่อย่างหนึ่งของฉันก็คือ
ให้หุ่นยนต์เล่นเกมจ๊ะเอ๋ -
1:59 - 2:01เป็นเกมง่าย ๆ แบบผลัดกันเล่น
-
2:01 - 2:05ที่ผู้เล่นปิดหน้าของตนไว้ แล้วก็เปิดออก
พร้อมกับพูดว่า "จ๊ะเอ๋" -
2:05 - 2:09ปัญหาก็ตือ จะเล่น จ๊ะเอ๋ ไม่ได้
ถ้าฉันมองไม่เห็นคุณ -
2:09 - 2:12และหุ่นยนต์ของฉันก็มองไม่เห็นฉัน
-
2:12 - 2:16แต่ฉันไปยืมใบหน้าของเพื่อนร่วมห้องมา
เพื่อให้โครงการนี้สำเร็จ -
2:16 - 2:17ส่งงานนั้นให้อาจารย์ไปได้
-
2:17 - 2:21และก็คิดไปว่า คุณรู้ไหม
จะมีคนอื่นมาแก้ปัญหานี้ -
2:22 - 2:24หลังจากนั้นไม่นานนัก
-
2:24 - 2:28ตอนอยู่ที่ฮ่องกงในการแข่งขันผู้ประกอบการ
-
2:28 - 2:31ผู้จัดการแข่งขันตัดสินใจ
พาผู้เข้าร่วมการแข่งขัน -
2:31 - 2:33ไปเที่ยวชมธุรกิจเติบโตเร็วในท้องถิ่น
-
2:33 - 2:36หนึ่งในธุรกิจเติบโตเร็วนั้นมีหุ่นยนต์สังคม
(social robot) -
2:36 - 2:38และพวกเขาก็ตัดสินใจแสดงให้ดูเป็นตัวอย่าง
-
2:38 - 2:41การแสดงทำได้ดีกับทุก ๆ คน จนมาถึงฉัน
-
2:41 - 2:43และคุณก็น่าจะเดาออก
-
2:43 - 2:46มันตรวจไม่พบใบหน้าของฉัน
-
2:46 - 2:49ฉันเลยถามผู้ที่พัฒนาสร้างมันขึ้นมา
ว่าเกิดอะไรขึ้น -
2:49 - 2:54และก็กลายเป็นว่า พวกเราใช้
โปรแกรมจดจำใบหน้าแบบพื้นฐานแบบเดียวกัน -
2:54 - 2:56ห่างออกไปครึ่งหนึ่งของโลก
-
2:56 - 3:00ฉันเรียนรู้ว่าอคติในชุดคำสั่งขั้นตอนวิธี
สามารถเดินทางไปได้อย่างรวดเร็ว -
3:00 - 3:03เท่า ๆ กับที่มันใช้เวลาคัดลอกบางแฟ้มข้อมูล
ของอินเตอร์เน็ตออกไปจนหมด -
3:04 - 3:07ดังนั้น จึงเกิดอะไรขึ้นหรือค่ะ
ทำไมมันจึงตรวจไม่ใบหน้าของฉัน -
3:07 - 3:10ค่ะ เราก็ต้องมาดูว่า เราให้เครื่องจักรกล
มองเห็นได้อย่างไร -
3:10 - 3:14การมองเห็นของคอมพิวเตอร์นั้น
ใช้เทคนิคการเรียนรู้ของเครื่องจักรกล -
3:14 - 3:16เพื่อให้จดจำใบหน้าได้
-
3:16 - 3:19สิ่งนี้ทำงานอย่างไรนั้น คือ คุณสร้างชุด
การฝึกขึ้นมาพร้อมกับตัวอย่างใบหน้าแบบต่าง ๆ -
3:19 - 3:22นี่เป็นใบหน้า นี่ก็เป็นใบหน้า
นี่ไม่ใช่ใบหน้า -
3:22 - 3:27และเมื่อเวลาผ่านไป คุณก็สามารถสอนคอมพิวเตอร์
วิธีการจดจำใบหน้าอื่น ๆ ได้ -
3:27 - 3:31อย่างไรก็ตาม ถ้าหากว่าชุดการฝึกนั้น
ไม่มีความหลากหลายอย่างแท้จริงแล้ว -
3:31 - 3:34ใบหน้าใดก็ตามที่เบี่ยงเบนไปอย่างมาก
จากบรรทัดฐานที่สร้างขึ้นมา -
3:34 - 3:36ก็จะเป็นการยากที่จะตรวจพบได้
-
3:36 - 3:38ซึ่งก็คือ สิ่งที่กำลังเกิดขึ้นกับฉัน
-
3:38 - 3:40แต่ไม่ต้องเป็นห่วงนะคะ -- มีข่าวดีอยู่บ้าง
-
3:40 - 3:43ชุดการฝึกนั้น ไม่ได้แค่เป็นตัวเป็นตน
ขึ้นมาได้เอง -
3:43 - 3:45จริง ๆ เราสามารถสร้างพวกมันขึ้นมาได้
-
3:45 - 3:49ดังนั้นจึงมีโอกาสที่จะสร้าง
ชุดการฝึกแบบครบถ้วนทุกส่วน -
3:49 - 3:53ที่สะท้อนภาพเหมือนของมนุษย์
ได้สมบูรณ์ยิ่งขึ้น -
3:53 - 3:55ค่ะ คุณก็ได้เห็นในตัวอย่างของฉันแล้ว
-
3:55 - 3:57ว่า หุ่นยนต์สังคมเป็นอย่างไร
-
3:57 - 4:02ฉันค้นพบได้อย่างไร เกี่ยวกับการกันแยกออกไป
ด้วยอคติของชุดคำสั่งปฏิบัติ -
4:02 - 4:06แต่อคติของชุดคำสั่งขั้นตอนวิธี ยังสามารถ
นำไปสู่การเลือกปฏิบัติได้อีกด้วย -
4:07 - 4:09ขณะนี้ทั่วทั้งสหรัฐ
-
4:09 - 4:13กรมตำรวจกำลังเริ่มใช้โปรแกรมการจดจำใบหน้า
-
4:13 - 4:16ในคลังแสงต่อสู้อาชญากรรมของพวกเขา
-
4:16 - 4:18คณะกฎหมายมหาวิทยาลัยจอร์ดทาวน์
ได้ตีพิมพ์ -
4:18 - 4:24แสดงให้เห็นว่า ผู้ใหญ่หนึ่งในสองคน ในสหรัฐ
-- นั่นก็คือ คน 117 ล้านคน -- -
4:24 - 4:28มีใบหน้าของพวกเขา
อยู่ในเครือข่ายของการจดจำใบหน้าแล้ว -
4:28 - 4:33ปัจจุบันกรมตำรวจสามารถเข้าไป
ดูเครือข่ายเหล่านี้ได้ โดยไม่มีการควบคุม -
4:33 - 4:37โดยใช้ชุดคำสั่งที่ยังไม่ได้ถูกตรวจสอบ
ในเรื่องความเที่ยงตรง -
4:37 - 4:41แต่เราก็รู้ว่า การจดจำใบหน้า
ไม่ใช่ข้อมูลที่ใช้ไม่ได้ -
4:41 - 4:45และการบอกชื่อลักษณะของใบหน้า
ก็ยังคงเป็นสิ่งที่ท้าทาย -
4:45 - 4:47คุณอาจจะได้เห็นสิ่งนี้มาแล้ว ในเฟซบุค
-
4:47 - 4:50เพื่อน ๆ ฉันและตัวฉันหัวเราะตลอดเวลา
เมื่อเราเห็นคนอื่น ๆ -
4:50 - 4:52ติดป้ายชื่อผิด ๆ ในภาพของเรา
-
4:52 - 4:58แต่การระบุตัวอาชญากรผู้ต้องสงสัยผิดไป
ไม่ใช่เรื่องน่าขบขัน -
4:58 - 5:01และไม่ใช่เป็นเรื่องทำให้เกิดรอยแตกร้าว
ในเสรีภาพของพลเมือง -
5:01 - 5:04การเรียนรู้ของเครื่องจักรกล กำลังถูกใช้
สำหรับการจดจำใบหน้า -
5:04 - 5:08แต่มันยังกำลังขยายออกไปเกินขอบเขต
ของการมองเห็นของคอมพิวเตอร์ -
5:09 - 5:13หนังสือ "อาวุธของการทำลายเชิงคณิตศาสตร์"
(Weapons of Math Destruction) -
5:13 - 5:20นักวิทยาศาสตร์ข้อมูล แคธี่ โอนีล พูดถึง
การเกิดขึ้นของ ดับเบิลยูเอ็มดี แบบใหม่ -- -
5:20 - 5:24คือ ชุดคำสั่งที่ ขยายกว้าง (widespread)
ลึกลับ (mysterious) ทำลายล้าง (destructive) -
5:24 - 5:27ที่กำลังถูกใช้เพิ่มมากขึ้น
เพื่อใช้ในการตัดสินใจ -
5:27 - 5:31ที่เกิดผลกระทบต่อด้านต่าง ๆ
ในชีวิตของเรามากยิ่งขึ้น -
5:31 - 5:32ใครถูกจ้างงาน หรือถูกไล่ออกหรือคะ
-
5:32 - 5:35คุณได้เงินกู้นั่น หรือได้ประกันหรือไม่คะ
-
5:35 - 5:38คุณได้รับการตอบรับให้เข้าเรียน
ในมหาวิทยาลัยที่คุณต้องการหรือไม่คะ -
5:38 - 5:42คุณและฉันจ่ายเงินซื้อสินค้าอย่างเดียวกัน
ในราคาที่เท่ากันหรือไม่คะ -
5:42 - 5:44เมื่อสินค้านั้นถูกซื้อบนฐานงานเดียวกัน
-
5:44 - 5:48การบังคับกฏหมาย กำลังเริ่มต้นที่จะใช้
การเรียนรู้ของเครื่องจักรกล -
5:48 - 5:50เพื่อคาดเดาและระบุอาชญากรรม
-
5:50 - 5:54ผู้พิพากษาบางคนใช้คะแนนความเสี่ยง
ที่ได้จากเครื่องจักรกล เพื่อตัดสินใจว่า -
5:54 - 5:58บุคคลหนึ่งจะใช้เวลาติดคุกนานเท่าใด
-
5:58 - 6:01แท้จริง เราจึงต้องคิดเกี่ยวกับ
การตัดสินใจเหล่านี้ -
6:01 - 6:02มันยุติธรรมหรือไม่
-
6:02 - 6:05และเราก็ได้เห็นแล้วว่า
อคติในชุดคำสั่งขั้นตอนการวิธีนั้น -
6:05 - 6:08ไม่ได้จำเป็นเสมอว่า
จะนำไปสู่ผลลัพธ์ที่เป็นธรรม -
6:08 - 6:10ดังนั้น เราจะสามารถทำอะไรได้ในเรื่องนี้
-
6:10 - 6:14ค่ะ เราสามารถเริ่มคิดเกี่ยวกับว่า
จะสร้างรหัสที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้ -
6:14 - 6:17และใช้วิธีการปฏิบัติในการลงรหัส
ที่ครอบคลุมเบ็ดเสร็จ ได้อย่างไร -
6:17 - 6:19โดยแท้จริงแล้ว มันเริ่มต้นจากผู้คน
-
6:20 - 6:22ใครเป็นคนลงรหัส จึงเป็นเรื่องสำคัญ
-
6:22 - 6:26เรากำลังสร้างทีมงานที่ครบถ้วนทุกส่วน
พร้อมกับบุคคลที่หลากหลายหรือไม่ -
6:26 - 6:28มีใครที่จะสามารถตรวจสอบ
จุดบอดของแต่ละคนหรือไม่ -
6:28 - 6:32ในด้านเทคนิคนั้น เราลงรหัสอย่างไร
เป็นสิ่งสำคัญ -
6:32 - 6:35เราแบ่งแยกออกเป็นส่วนๆในเรื่องความเป็นธรรม
ขณะที่เราพัฒนาระบบหรือไม่ -
6:36 - 6:38และท้ายสุด ทำไมเราจึงลงรหัส ก็สำคัญ
-
6:39 - 6:44เราใช้เครื่องมือของการสร้างเชิงคอมพิวเตอร์
เพื่อปลดล็อกความมั่งคั่งที่มากมาย -
6:44 - 6:48ถึงตอนนี้ เรามีโอกาสที่จะปลดล็อกเปิดได้
แม้กระทั่งระดับคุณภาพที่ยิ่งใหญ่กว่า -
6:48 - 6:51ถ้าเราทำให้การเปลี่ยนแปลงทางสังคมนั้น
เป็นสิ่งสำคัญอันดับแรก -
6:51 - 6:53และไม่ใช่เป็นสิ่งที่จะนำมาคิดพิจารณา
ในภายหลัง -
6:54 - 6:59และทั้งหมดนี้ คือ หลักการสามข้อที่จะ
ก่อร่างขึ้นเป็นความเคลื่อนไหว "การลงรหัส" -
6:59 - 7:00คนที่ลงรหัสนั้นสำคัญ
-
7:00 - 7:02เราจะลงรหัสอย่างไรนั้นสำคัญ
-
7:02 - 7:04และทำไมเราจึงลงรหัส ก็สำคัญ
-
7:04 - 7:07ดังนั้น จะไปสู่การลงรหัส
เราสามารถเริ่มต้นการคิดเกี่ยวกับ -
7:07 - 7:10การสร้างฐานงานที่สามารถระบุอคติได้
-
7:10 - 7:13โดยการรวบรวมประสบการณ์ของผู้คน
เช่น คนที่ฉันได้ไปแบ่งปันความคิด -
7:13 - 7:16และก็ยังไปตรวจสอบโปรแกรมคอมพิวเตอร์
ที่มีอยู่อีกด้วย -
7:16 - 7:20เรายังสามารถที่จะสร้างชุดการฝึก
ที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้ได้อีกด้วย -
7:20 - 7:23ลองคิดดูซิคะ รณรงค์
"มือถือถ่ายภาพตัวเอง เพื่อนำไปรวมด้วย" -
7:23 - 7:27ซึ่งคุณและฉันสามารถช่วยนักพัฒนาทั้งหลาย
ทดสอบและสร้างขึ้นมาได้ -
7:27 - 7:29ชุดการฝึกแบบครอบคลุมเบ็ดเสร็จ
-
7:29 - 7:32และเรายังเริ่มต้นการคิดที่
เป็นเรื่องเป็นราวยิ่งขึ้นได้อีก -
7:32 - 7:38เกี่ยวกับผลกระทบของเทคโนโลยีต่อสังคม
ที่เรากำลังพัฒนากัน -
7:38 - 7:40เพื่อให้การเคลื่อนไหวเชิงการลงรหัส
เริ่มต้นขึ้นมา -
7:40 - 7:43ฉันได้เริ่ม คณะเพื่อความเป็นธรรม
ด้านชุดคำสั่งขั้นตอนวิธี -
7:43 - 7:49ซึ่งใครๆที่สนใจเกี่ยวกับความเป็นธรรมมาร่วม
ช่วยต่อสู้เรื่อง การจ้องมองที่ถูกเข้ารหัส -
7:49 - 7:52ที่ codedgaze.com
คุณสามารถรายงานเกี่ยวกับ อคติ -
7:52 - 7:55ร้องขอการตรวจสอบ มาเป็นผู้ทดสอบ
-
7:55 - 7:57และเข้ามาร่วมการสนธนาที่กำลังมีอยู่
-
7:57 - 8:00ที่ #codedgaze
-
8:01 - 8:03จึงขอเชิญชวนคุณให้มาร่วมกับฉัน
-
8:03 - 8:07ในการสร้างโลกใบหนึ่ง ซึ่งเทคโนโลยี
ทำงานให้กับเราทุกคน -
8:07 - 8:09ไม่ใช่แค่พวกเราบางคน
-
8:09 - 8:14โลกใบหนึ่ง ที่เราเห็นคุณค่าในการรวมกัน
และมีศูนย์กลางอยู่ที่การเปลี่ยนแปลงสังคม -
8:14 - 8:15ขอบคุณค่ะ
-
8:15 - 8:19(เสียงปรบมือ)
-
8:21 - 8:24แต่ฉันมีคำถามหนึ่ง
-
8:24 - 8:26คุณจะมาเข้าร่วมกับฉันในการต่อสู้หรือไม่คะ
-
8:26 - 8:27(เสียงหัวเราะ)
-
8:27 - 8:31(เสียงปรบมือ)
- Title:
- ฉันกำลังต่อสู้กับอคติในชุดคำสั่งขั้นตอนวิธีบนคอมพิวเตอร์อย่างไร
- Speaker:
- จอย บัวลามมินิ (Joy Buolamwini)
- Description:
-
more » « less
บัณฑิตจากสถาบันเทคโนโลยีแมสซาชูเซตส์ ชื่อ จอย บัวลามมินิ ตอนที่กำลังทำงานกับโปรแกรมชุดคำสั่งเรื่องการจดจำใบหน้าอยู่นั้น เธอได้สังเกตเห็นปัญหาอย่างหนึ่ง นั่นคือ โปรแกรมนั้นไม่สามารถจำใบหน้าของเธอได้ -- เพราะว่าคนที่ลงรหัสโปรแกรมชุดคำสั่งที่ว่านั้น ไม่ได้สอนมัน ให้ระบุการไล่ระดับของสีผิวและโครงสร้างของใบหน้าในขอบเขตที่กว้าง ปัจจุบันเธอกำลังมีภาระหน้าที่ในการต่อสู้กับอคติในเรื่องการเรียนรู้ของเครื่องจักรกล ซึ่งเป็นปรากฏการณ์ที่เธอเรียกว่า "การจ้องมองที่ถูกเข้ารหัส" เป็นการพูดที่เปิดหูเปิดตาให้รู้ถึง ความจำเป็นสำหรับความรับผิดชอบในการเข้ารหัส ... เพราะว่าโปรแกรมชุดคำสั่งได้เข้ามาควบคุมด้านต่างๆของชีวิตเราเพิ่มมากขึ้นเรื่อยๆ
- Video Language:
- English
- Team:
closed TED
- Project:
- TEDTalks
- Duration:
- 08:46
|
Kelwalin Dhanasarnsombut approved Thai subtitles for How I'm fighting bias in algorithms | |
|
|
Kelwalin Dhanasarnsombut edited Thai subtitles for How I'm fighting bias in algorithms | |
|
Rawee Ma accepted Thai subtitles for How I'm fighting bias in algorithms | |
|
yamela areesamarn edited Thai subtitles for How I'm fighting bias in algorithms | |
|
|
yamela areesamarn edited Thai subtitles for How I'm fighting bias in algorithms | |
|
|
yamela areesamarn edited Thai subtitles for How I'm fighting bias in algorithms | |
|
|
yamela areesamarn edited Thai subtitles for How I'm fighting bias in algorithms | |
|
|
Rawee Ma declined Thai subtitles for How I'm fighting bias in algorithms |