[วิดีโอนี้มีเนื้อหาที่เหมาะกับผู้ใหญ่]

Moritz Riesewieck: วันที่ 23 มีนาคม 2013

ผู้ใช้ทั่วโลกพบว่าบนหน้านิวส์ฟีดของตน

มีวิดีโอเด็กผู้หญิงถูกชายแก่ข่มขืน

ก่อนที่วิดีโอนี้จะถูกลบออกจากเฟสบุ๊ค

ก็มีการแชร์ไปแล้ว 16,000 ครั้ง

และมีคนกดไลค์ถึง 4,000 ครั้ง

วีดิโอนี้กลายเป็นกระแส
ลามไปทั่วอินเตอร์เน็ต

Hans Block: และนั่นเป็นตอนที่
เราถามตัวเองว่า

เนื้อหาแบบนี้มาอยู่ในเฟสบุ๊คได้อย่างไร

แต่ในเวลาเดียวกัน
ทำไมเราถึงไม่ค่อยเห็นเนื้อหาแบบนี้บ่อยๆ

ในเมื่อมีสื่อแย่ๆ เต็มโลกออนไลน์ไปหมด

แต่ทำไมเราจึงไม่ค่อยเห็นขยะแบบนั้น
ในเฟสบุ๊ค, ทวิตเตอร์ หรือกูเกิล ล่ะ

MR: แม้ซอฟต์แวร์จดจำใบหน้า

จะระบุรูปทรงอวัยวะที่เกี่ยวกับเพศ

เลือดหรือการเปลือยในรูปและวิดีโอได้

แต่กลับมีปัญหาในการแยกแยะ
เนื้อหาลามก

ออกจากภาพวันหยุด รูปปั้นอโดนิส

หรือแคมเปญตรวจคัดกรองมะเร็งเต้านม

มันไม่สามารถแยกแยะโรมิโอกับจูเลียต
ที่ตายบนเวที

จากการโดนแทงจริงๆ

มันไม่สามารถแยกแยะการเสียดสีออกจาก
การโฆษณาชวนเชื่อ

หรือการประชดออกจากความเกลียดชังจริงๆ
แล้วก็อีกหลายอย่าง

ดังนั้น จึงต้องมีคนที่คอยตัดสิน

ว่าเนื้อหาน่าสงสัยอันไหนควรลบทิ้ง

และอันไหนควรเก็บไว้

กลุ่มคนที่เราแทบไม่รู้จักเลย

เพราะการทำงานที่เป็นความลับ

พวกเขาเซ็นข้อตกลงห้ามเปิดเผยข้อมูล

ที่ห้ามพูดหรือแชร์ข้อมูล

ที่เห็นบนหน้าจอตัวเอง
หรือว่างานนี้ทำให้พวกเขาเป็นอย่างไร

พวกเขาถูกบังคับให้ใช้โค้ดลับ
เพื่อปิดบังว่าตนทำงานให้ใคร

พวกเขาถูกจับตา
จากบริษัทรักษาความปลอดภัยเอกชน

เพื่อให้แน่ใจว่า
จะไม่ไปพูดกับนักข่าว

และจะต้องเสียค่าปรับ
ถ้าเกิดทำอย่างนั้น

ทั้งหมดนี้ฟังดูเหมือน
อาชญากรรมแปลกๆ

แต่เป็นเรื่องจริงครับ

คนเหล่านี้มีตัวตนจริง

และเรียกกันว่าผู้คัดกรองเนื้อหา

HB: เราเป็นผู้กำกับภาพยนตร์
สารคดีความยาวปานกลางเรื่อง "The Cleaners"

และอยากพาคุณ

เข้าสู่โลกที่หลายๆ คนอาจยังไม่รู้จัก

มาดูคลิปสั้นๆ จากหนังของเรากันครับ

(เสียงดนตรี)

(วิดีโอ) ผู้คัดกรอง:ฉันเปิดเผยตัวตนไม่ได้
เพราะว่าเซ็นสัญญาไว้

เราเปิดเผยไม่ได้ว่าทำงานกับใคร

เหตุผลที่ฉันบอกคุณ

เพราะโลกควรได้รู้ว่ายังมีพวกเราอยู่

มีคนที่คอยตรวจสอบ
โซเชียลมีเดียอยู่

เราตั้งใจทำงานสุดความสามารถ
เพื่อให้แพลตฟอร์มนี้

ปลอดภัยสำหรับทุกคน

ลบ

ข้าม

ลบ

ข้าม

ลบ

ข้าม

ข้าม

ลบ

HB: กลุ่มคนที่เรียกว่าผู้คัดกรองเนื้อหา

ไม่ได้รับรายได้จากเฟสบุ๊ค,
ทวิตเตอร์ หรือกูเกิล โดยตรง

แต่จากบริษัทจัดจ้างภายนอกทั่วโลก

เพื่อให้ค่าจ้างต่ำ

คนหนุ่มสาวหลายหมื่นคน

ซึ่งเห็นทุกสิ่งที่เราไม่ควรเห็น

ทั้งการฆ่าตัดคอ
การตัดแขนขา

การประหารชีวิต การร่วมเพศกับศพ
การทรมาน การทารุณเด็ก

นับพันรูปในหนึ่งกะ

ลบ ข้าม ทั้งกลางวันกลางคืน

งานส่วนใหญ่ดำเนินการในมะนิลา

ที่ที่มีการขนส่งขยะอิเล็กทรอนิกส์มีพิษ

มาจากโลกตะวันตกเป็นเวลาหลายปี
ทางเรือขนส่ง

ซึ่งตอนนี้เป็นการทิ้งขยะ
ผ่านทางสายไฟเบอร์ออปติก

หน้าที่ของพวกเขาไม่ต่างจากคนเก็บขยะ

ที่คุ้ยอยู่เหนือขยะกองมหึมา
ใกล้เมือง

ผู้คัดกรองเนื้อหาก็คลิกไปบน
มหาสมุทรแห่งสารพิษอันไร้ที่สิ้นสุด

ทั้งรูปภาพ วิดีโอ และขยะที่ประดิษฐ์ขึ้น
ทุกรูปแบบ

เพื่อให้เราไม่ต้องเห็นมัน

MR: แต่บาดแผลของผู้คัดกรอง

ไม่เหมือนกับของคนเก็บขยะ
ตรงที่มันมองไม่เห็น

เนื้อหาทั้งรูปภาพและวิดีโอ

ที่ชวนผวาและรบกวนใจทั้งหลาย
ซุกซ่อนในความทรงจำของพวกเขา

และอาจส่งผลที่คาดเดาไม่ได้ทุกเวลา

ทั้งอาการกินผิดปกติ
หมดความรู้สึกทางเพศ

อาการวิตกกังวล ติดเหล้า

ซึมเศร้า กระทั่งนำไปสู่
การฆ่าตัวตาย

รูปภาพและวิดีโอพวกนั้น
ส่งผลต่อพวกเขา

และมักไม่มีทางหายไปไหน

หากโชคร้าย พวกเขาก็อาจมี
ภาวะผิดปกติทางจิตใจจากเหตุการณ์รุนแรง

เหมือนทหารที่เพิ่งกลับจากสงคราม

ในหนังเรื่องนี้ เราเล่าเรื่อง
ชายหนุ่มคนหนึ่ง

ที่ต้องคอยตรวจสอบการไลฟ์วิดีโอ
ทำร้ายตัวเองและการพยายามฆ่าตัวตาย

ซ้ำแล้วซ้ำเล่า

และท้ายที่สุดก็ฆ่าตัวตายเอง

เท่าที่เรารู้ เรื่องนี้ไม่ใช่แค่กรณีเดียว

นี่คือราคาที่เราทุกคนจ่าย

ให้กับสิ่งที่เรียกว่า
สภาพแวดล้อมในโซเชียลมีเดีย

ที่สะอาด ปลอดภัย
และ "ดีต่อจิตใจ"

เราติดต่อกับคนนับล้านทั่วโลก

ได้ง่ายขึ้นอย่างที่ไม่เคยมีมาก่อน
ในประวัติศาสตร์

ด้วยเวลาเพียงไม่กี่วินาที

สิ่งที่โพสต์ลงในโซเชียลมีเดีย
แพร่ออกไปอย่างรวดเร็ว

กลายเป็นกระแส และสร้างความตื่นเต้น
ให้ผู้คนทั่วโลก

ก่อนที่มันจะถูกลบ

ก็มักสายเกินไปแล้ว

ผู้คนนับล้านติดเชื้อ
ความเกลียดชัง

และความโกรธแค้นไปแล้ว

แล้วพวกเขาก็มามีบทบาท
ในโลกออนไลน์

ด้วยการแพร่หรือโหมกระพือ
ความเกลียดชัง

ไม่ก็ออกไปก่อความรุนแรง
ตามท้องถนน

HB: จึงต้องมีกองทัพผู้คัดกรองเนื้อหา

นั่งประจำตรงหน้าจอเพื่อเลี่ยงไม่ให้เกิด
ความเสียหายในแบบเดียวกันอีก

และพวกเขาต้องตัดสินใจ
ให้เร็วที่สุด

ว่าเนื้อหานั้นๆ จะอยู่ในแพลตฟอร์ม
ด้วยการกดข้าม

หรือต้องหายไปด้วยการกดลบ

แต่ก็ไม่ใช่ว่าทุกการตัดสินใจ
จะทำได้อย่างชัดเจน

เหมือนการตัดสินใจเกี่ยวกับ
วิดีโอการทารุณเด็ก

แล้วเนื้อหาซึ่งเป็นที่ถกเถียง
เนื้อหาที่ก้ำกึ่ง

ที่นักเคลื่อนไหวเพื่อสิทธิ
หรือนักข่าวพลเมืองอัปโหลดล่ะ

ผู้คัดกรองเนื้อหา
มักตัดสินใจในกรณีดังกล่าว

ด้วยความรวดเร็วเท่ากับ
เนื้อหาที่ [ชัดเจน]

MR: เราจะให้คุณดูวิดีโออันหนึ่ง

และอยากขอให้คุณตัดสินใจ

ว่าจะลบ

หรือไม่ลบ

(วิดีโอ) (เสียงการโจมตีทางอากาศ)

(เสียงระเบิด)

(คนพูดภาษาอาหรับ)

MR: เราได้เบลอบางส่วนในวิดีโอนะครับ

เด็กอาจตกใจอย่างรุนแรง

และหวาดกลัวเนื้อหาประะภทนี้อย่างมาก

งั้นคุณก็น่าจะลบใช่ไหมครับ

แต่ถ้าเกิดวิดีโอนี้ช่วยสืนสวน
การก่อสงครามในซีเรียได้ล่ะ

ถ้าเกิดไม่มีใครเคยได้ยิน
เรื่องการโจมตีทางอากาศนี้

เพราะเฟสบุ๊ค, ยูทูบ, ทวิตเตอร์
ตัดสินใจลบทิ้งไปล่ะ

Airwars ซึ่งเป็นองค์กรนอกภาครัฐ
ในลอนดอน

พยายามค้นหาวิดีโอเหล่านั้น
ให้เร็วที่สุด

ไม่ว่าจะอัปโหลดลงใน
โซเชียลมีเดียเมื่อไรก็ตาม

เพื่อบันทึกเก็บไว้

เพราะบริษัทนี้รู้ว่า
ไม่ช้าก็เร็ว

เฟสบุ๊ค, ยูทูบ, ทวิตเตอร์
จะลบเนื้อหานั้นออก

ผู้คนที่มีโทรศัพท์มือถือ

สามารถเห็นสิ่งต่างๆ
ที่นักข่าวมักไม่ได้เห็น

กลุ่มสิทธิมนุษยชน
มักไม่มีทางเลือก

ในการทำให้วิดีโอของกลุ่ม
เข้าถึงผู้ชมจำนวนมากอย่างรวดเร็ว

ได้ดีไปกว่าการอัปโหลดลงโซเชียลมีเดีย

นี่ไม่ใช่ศักยภาพของการส่งเสริม
ที่เครือข่ายอินเทอร์เน็ตควรมีหรอกหรือครับ

นี่ไม่ใช่ความฝัน

ที่ผู้คนในยุคแรกเริ่มมี
เกี่ยวกับอินเทอร์เน็ตหรือครับ

รูปภาพและวิดีโอพวกนี้

จะโน้มน้าวให้คนที่มีภูมิต้านทาน
ต่อความเป็นจริง

คิดทบทวนไม่ได้หรือครับ ?

HB: แต่ทุกสิ่งที่อาจก่อกวนจิตใจ
กลับถูกลบทิ้ง

และเกิดการเปลี่ยนแปลงไปทั่วในสังคม

เช่น มีสื่อจำนวนมากขึ้นเรื่อยๆ
ที่ขึ้นคำเตือนเนื้อหาสุ่มเสี่ยง

ตรงหัวบทความ

ซึ่งบางคนอาจมองว่า
ทำให้ขุ่นเคืองหรือสร้างปัญหา

หรือนักศึกษามหาวิทยาลัย
ในสหรัฐอเมริกาจำนวนมากขึ้น

เรียกร้องให้แบนผลงานคลาสสิกยุคเก่า

ที่บรรยายความรุนแรงทางเพศ
หรือการล่วงละเมิดออกจากหลักสูตร

แต่มันควรไปไกลขนาดไหนล่ะ

บูรณภาพแห่งร่างกาย
เป็นสิทธิมนุษยชนข้อหนึ่ง

ในสถาบันต่างๆ ทั่วโลก

ในกฎบัตรสิทธิขั้นพื้นฐาน
ของสหภาพยุโรป

สิทธิข้อนี้จะสื่อถึง
บูรณภาพทางจิตใจ

ถึงแม้ว่าผลกระทบจากเหตุรุนแรง

ที่มาจากรูปภาพและวิดีโอนั้นยากจะคาดเดา

แต่เราจำเป็นต้องระวังตัวมาก

จนอาจเสียการตระหนักรู้
ถึงความอยุติธรรมในสังคมเลยหรือครับ

แล้วควรทำอย่างไรดีล่ะ

เมื่อเร็วๆ นี้ Mark Zuckerberg
บอกว่าในอนาคต

ผู้ใช้ ก็คือเรา หรือเกือบทุกคน

ต้องเป็นคนตัดสินใจเอง

ว่าอยากเห็นอะไรในแพลตฟอร์ม

ด้วยการตั้งค่าตัวกรองส่วนบุคคล

ทุกคนก็จะเลือกได้ว่า
จะไม่ดูภาพสงคราม

หรือเนื้อหารุนแรงอื่นๆ เหมือนเดิม
อย่างเช่น...

MR: ผมเป็นคนประเภทที่โอเค
กับการเห็นภาพหน้าอก

และผมสนใจเรื่องภาวะโลกร้อนมาก

และไม่ชอบสงครามเอามากๆ

HB: ส่วนผมตรงข้ามเลยครับ

ผมไม่สนใจอะไรกับหน้าอกเปลือย
หรือร่างกายเปล่าเปลือยสักนิด

แต่ชอบปืน ชอบมากเลย

MR: แล้วกัน ถ้าเราไม่มี
จิตสำนึกทางสังคมร่วมกัน

เราจะถกปัญหาสังคมกันได้อย่างไร

เราจะเรียกร้องให้ผู้คนลงมือทำได้อย่างไร

ในเมื่อเกิดโลกที่แยกขาดจากกันขึ้น

หนึ่งในคำถามสำคัญคือ
"ในอนาคต

เสรีภาพในการแสดงออกจะมีความสำคัญแค่ไหน
เมื่อเทียบกับที่คนเราอยากได้รับการปกป้อง"

นี่เป็นเรื่องของหลักการ

เราอยากออกแบบสังคม
ในโลกดิจิทัลให้เป็น

พื้นที่ปิดหรือเปิดเท่านั้นหรือ

ใจกลางสำคัญของเรื่องนี้
คือ "เสรีภาพ ปะทะ ความปลอดภัย"

เฟสบุ๊ค อยากเป็นแพลตฟอร์ม
ที่ "ดีต่อใจ" มาโดยตลอด

เหนือสิ่งอื่นใด ผู้ใช้ต้อง
รู้สึกปลอดภัยและได้รับการปกป้อง

ซึ่งเป็นคำเดียวกับที่

ผู้คัดกรองเนื้อหาในฟิลิปปินส์
เลือกใช้

จากการสัมภาษณ์จำนวนมาก

(วิดีโอ) โลกที่เราอาศัยอยู่ทุกวันนี้

ฉันเชื่อว่ามันไม่จรรโลงใจนัก

(เสียงดนตรี)

ในโลกนี้ ปีศาจร้ายมีตัวตนอยู่จริงๆ

(เสียงดนตรี)

เราต้องคอยจับตาดู

(เสียงดนตรี)

เราต้องคอยควบคุมทั้งสิ่งดีและเลว

(ดนตรี)

[ระวังหน่อยเจ้าหนุ่ม! --พระเจ้า]

MR: สำหรับผู้คัดกรองหนุ่มสาว
ในสังคมคาทอลิกของฟิลิปปินส์ที่เคร่งศาสนา

งานนี้เชื่อมโยงกับภารกิจของชาวคริสต์

ในการต่อสู้กับบาปของโลก

ที่แพร่ไปทั่วเว็บไซต์ต่างๆ

"รองจากศรัทธาในพระเจ้าคือความบริสุทธิ์"

นี่เป็นวาทะที่ทุกคนในฟิลิปปินส์รู้จัก

HB: และอีกหลายคนจูงใจตัวเอง

ด้วยการเปรียบเทียบกับ
ประธานาธิบดีโรดริโก ดูแตร์เต

ที่ดำรงตำแหน่งมาตั้งแต่ปี 2016

และชนะการเลือกตั้งจากคำสัญญาว่า
"ผมจะทำให้ประเทศนี้ใสสะอาด"

ซึ่งหมายถึงการกำจัด
ปัญหาทุกอย่างตรงตามตัว

ด้วยการฆ่าผู้คนบนถนน

ที่มีโอกาสเป็นอาชญากร
ไม่ว่าอย่างไรก็ตาม

และตั้งแต่เขาได้รับเลือก

มีคนถูกฆ่าไปประมาณ 20,000 คน

ผู้คัดกรองคนหนึ่งในหนังของเราบอกว่า

"ผมทำสิ่งเดียวกับที่ดูแตร์เตทำ

แต่เป็นทางอินเทอร์เน็ต"

พวกเขาเป็นซูเปอร์ฮีโร่ที่ประกาศตน

เป็นผู้บังคับใช้กฎระเบียบ
ในโลกดิจิทัล

พวกเขาเก็บกวาด
ขัดถูทุกอย่างจนบริสุทธิ์ผุดผ่อง

ทำให้สิ่งชั่วร้ายหายไป

หน้าที่ที่เคยสงวนไว้
สำหรับเจ้าหน้าที่รัฐ

กลายมาเป็นของเด็กจบมหาวิทยาลัย
วัย 20 ต้นๆ

ที่ได้รับการฝึกอบรม 3 ถึง 5 วัน

คุณสมบัติประจำตำแหน่งนี้คือ

คนที่ทำงานไม่ต่างไปจาก
หน่วยกู้ภัยโลก

MR: อธิปไตยของชาติถูกฝากฝัง
ในมือบริษัทเอกชน

แล้วก็ส่งต่อความรับผิดชอบ
ให้กับบริษัทภายนอก

ซึ่งเป็นบริษัทภายนอกของภายนอก
ของภายนอกอีกที

ที่ได้รับหน้าที่นี้

ในสังคมออนไลน์

เราต้องรับมือกับ
โครงสร้างพื้นฐานแบบใหม่ล้วนๆ

ที่ระบบกลไกของมัน

และตรรกะในการทำสิ่งต่างๆ

หรือก็คืออันตรายแบบใหม่

ยังไม่เคยมีการพูดถึงในพื้นที่สาธารณะ
ก่อนหน้ายุคดิจิทัล

HB: ตอน Mark Zuckerberg
ขึ้นให้การที่สภาคองเกรส

หรือที่รัฐสภายุโรป

เขาต้องเผชิญกับ
คำวิจารณ์ทุกรูปแบบ

และเขาก็ตอบแบบเดิมเสมอ

"เราจะแก้ไข

และผมจะติดตามผลเรื่องนี้
กับทีม"

แต่การถกเถียงไม่ควรเกิดขึ้น
ที่หลังห้องประชุมของเฟสบุ๊ค

ทวิตเตอร์ หรือกูเกิล

การถกเถียงนั้นควรพูดคุยอย่างเปิดกว้าง
ในรัฐสภาแบบใหม่ทั่วโลก

ในสถาบันแบบใหม่ที่มี
ผู้คนหลากหลายแบบ

ซึ่งอุทิศตนให้กับโครงการ
อินเทอร์เน็ตโลกในอุดมคติ

และแม้การคำนึงถึงค่านิยม
ของผู้ใช้ทั่วโลก

อาจเป็นไปได้ยาก

แต่ก็คุ้มที่จะเชื่อมั่น

ว่ามีสิ่งที่เชื่อมโยงเราเข้ากัน
มากกว่าแยกเราออกจากกัน

MR: ครับ ในช่วงเวลา
ที่ความเป็นประชานิยมมีมากขึ้น

ผู้คนนิยม
ตัดสินสิ่งต่างๆ

ถอนรากถอนโคน

และทำให้หายไปจากการรับรู้

แนวคิดนี้แพร่ไปทั่วโลก

ทั้งโลกอะนาล็อกและดิจิทัล

ซึ่งเราทุกคนมีหน้าที่หยุดเรื่องนี้

ก่อนจะสายเกินไป

การตั้งคำถามอย่างเสรี
และเป็นประชาธิปไตย

ไม่ควรมีแค่สองตัวเลือกนี้

HB: คือลบ

MR: หรือข้ามไป

HB: ขอบคุณมากครับ

(เสียงปรบมือ)