Blog / Technology & society

อคติของอัลกอริทึม: เงามืดของยุคดิจิทัล

ปกรณ์ ลี้สกุล อ่าน 6 นาที
มือเอื้อมไปยังประติมากรรมอนุภาคข้อมูลสีส้มและดำ
ภาพ: Google DeepMind / Unsplash

ความเท่าเทียมที่จริงเพียงครึ่งเดียว

“เทคโนโลยีดิจิทัลจะช่วยสร้างความเท่าเทียมในโลก” ประโยคนี้จริงเพียงครึ่งเดียว ด้านที่จริงคือ โครงข่ายข้อมูลทำให้เราดูหนัง ซื้อเสื้อผ้า หรือใช้บริการต่าง ๆ ได้โดยไม่ต้องออกจากบ้าน และเด็กในพื้นที่ห่างไกลก็เข้าถึงความรู้ดี ๆ ได้โดยไม่มีระยะทางเป็นอุปสรรค

อีกครึ่งหนึ่งที่ไม่จริงคือ พื้นที่ข้อมูลขนาดใหญ่นี้อาจสร้างความเหลื่อมล้ำมหาศาล หากระบบที่ประมวลผลและคัดข้อมูลมาให้เรามีอคติในตัวเอง หรือที่เรียกว่า “อคติของอัลกอริทึม” (algorithm bias) นี่คือเงามืดอีกด้านของแสงสว่างในโลกดิจิทัล ที่คนส่วนใหญ่มองไม่เห็น

อคติที่ซ่อนอยู่ในระบบ

อคติของอัลกอริทึมมีอย่างน้อยสามแบบ

  1. อคติจากการเรียงลำดับ ผลค้นหาบน Google ที่อยู่อันดับบนถูกเห็นมากกว่าผลที่อยู่หน้าท้าย ๆ แม้แต่การเรียงตามตัวอักษรที่ดูเป็นกลางก็ทำให้สายการบินที่ขึ้นต้นด้วย A ได้เปรียบสายที่ขึ้นต้นด้วย B
  2. อคติจากการสมมติว่าทุกคนทำงานเหมือนกัน โปรแกรมตรวจการลอกงาน (plagiarism) มักจับงานของนักศึกษาที่ไม่ได้ใช้ภาษาอังกฤษเป็นภาษาแม่ได้บ่อยกว่า เพราะเจ้าของภาษารู้วิธีเรียบเรียงใหม่ให้ไม่ซ้ำต้นฉบับได้ดีกว่า
  3. อคติที่ขยายตัวเอง โปรแกรมทำนายอาชญากรรม PredPol ในเมืองโอ๊คแลนด์ รัฐแคลิฟอร์เนีย แนะนำให้ส่งตำรวจไปชุมชนคนผิวสีมากขึ้นตามสถิติที่มีการแจ้งความ Human Rights Data Analysis Group ชี้ว่านี่คือวงจรเลือกปฏิบัติ ยิ่งส่งตำรวจไปมาก ก็ยิ่งพบ “อาชญากรรม” มาก และยิ่งถูกตีความว่าพื้นที่นั้นอันตรายกว่าความจริง

ในทางกลับกัน การไม่มีข้อมูลเลยก็เป็นปัญหา หากการพิจารณาประกันภัยอิงประวัติอุบัติเหตุที่ไม่เคยบันทึกคนกลุ่มน้อยหรือคนชายขอบ คนเหล่านั้นก็ตกอยู่ในภาวะล่องหน ไม่มีบันทึกก็เหมือนไม่มีตัวตน การบรรเทาอคติเหล่านี้จึงต้องอาศัยทั้งทักษะรู้เท่าทันของพลเมือง นโยบายของภาครัฐ และการเคลื่อนไหวเชิงข้อมูลของภาคประชาสังคม เช่น อาสาสมัครด้านข้อมูล

Daily Me และชนชั้นดิจิทัล

มวลชนออนไลน์รวมกลุ่มกันด้วยความสนใจร่วม ซึ่งขึ้นกับทั้งตัวเลือกของเราเองและอัลกอริทึมที่เลือกว่าจะแสดงอะไร ผลคือโลกแบบ “Daily Me” ที่มีตัวเราเป็นศูนย์กลาง นาย ก. ที่สนใจพรรค A จะรับรู้เรื่องพรรค B C D ก็ต่อเมื่อเกี่ยวกับพรรค A ส่วนนาง ข. ที่ตามแต่ BNK48 จะรู้จักนักการเมืองก็ต่อเมื่อเขาพูดถึงวงที่เธอชอบ

พื้นที่ออนไลน์ควรเป็นพื้นที่สาธารณะสำหรับการอภิปราย แต่ในทางปฏิบัติผู้นำสุดขั้วกลับใช้เป็นที่วัดความนิยมและเก็บเกี่ยวแรงสนับสนุน บทสนทนาจึงถูกกำหนดด้วย “ปริมาณ” เสียงที่หนุนผู้นำ มากกว่าเนื้อหาที่มาจากการมีส่วนร่วมของประชาชน

แพลตฟอร์มดิจิทัลยังสร้างชนชั้นนำใหม่ที่เรียกว่า “ชนชั้นดิจิทัล” (digital class) คือคนที่มีความรู้พอจะสร้างและกำหนดทิศทางของเทคโนโลยี คำถามจึงไม่ใช่แค่ว่าคนเข้าถึงเครื่องมือได้หรือไม่ แต่เป็นเรื่องอำนาจ ว่าเทคโนโลยีทำให้ประชาชนมีโอกาสในชีวิตมากขึ้นจริงหรือเปล่า ข่าวดีคือผู้บริโภคเรียนรู้เร็วขึ้นเรื่อย ๆ เมื่อบัตรสมาชิกอย่าง All Member แพร่หลาย ไม่นานก็มีคนตั้งคำถามเรื่องการยกเลิกที่ยุ่งยากและสิทธิความเป็นส่วนตัว

ฟีดของเราถูกจัดอย่างไร

อัลกอริทึมไม่ใช่เทคโนโลยีลี้ลับ มันคือชุดขั้นตอนแก้ปัญหาที่อธิบายได้ชัดเจน เหมือนตอนที่แฟนมาสายแล้วเราต้องสั่งอาหารรอให้ เราคิดต่อเนื่องเป็นขั้น เธอชอบปลามากกว่าแฮมเบอร์เกอร์ มื้อเย็นไม่ควรมัน และไม่ควรซ้ำกับมื้อก่อน สุดท้ายจึงได้เมนูที่คาดว่าเธอจะพอใจที่สุด

Facebook ทำแบบเดียวกันกับเนื้อหามหาศาลที่เกิดขึ้นทุกวัน ผ่านระบบจัดอันดับ (ranking) สามส่วน ส่วนแรกคือ inventory คือเนื้อหาทั้งหมดที่มีสิทธิ์ขึ้นฟีด ส่วนที่สองคือ signals เช่น โพสต์ใหม่แค่ไหน ใครโพสต์ เป็นสแปมหรือคลิกเบตหรือไม่ ส่วนสุดท้ายคือ predictions คือการคาดว่าเราจะกดไลก์ คอมเมนต์ แชร์ ซ่อน หรือรายงานโพสต์ไหน ระบบนำทั้งหมดมาคำนวณเป็นคะแนนความเกี่ยวข้อง แล้วเรียงฟีดตามคะแนนนั้น

ความสัมพันธ์ก็ถูกจัดลำดับด้วย เพื่อนที่เรากดไลก์บ่อยจะยิ่งปรากฏบ่อย ฟีดจึงค่อย ๆ แคบลงจนเหลือแต่คนและแหล่งข่าวที่เราสนใจ ฟังดูเป็นบริการที่ดี แต่คือดาบสองคม ถ้าเรามีปฏิสัมพันธ์กับข่าวด้านเดียวหรือข่าวปลอม เช่น มะนาวโซดารักษามะเร็ง ฟีดก็จะป้อนสิ่งเดียวกันมาให้อีก จนเราเชื่อว่าสิ่งที่เห็นคือความจริงทั้งหมด

เมื่อเราถาม แล้ว AI ตอบ

หน้าจอแชตบอต AI ที่มีช่องพิมพ์ Ask anything
ภาพ: Zulfugar Karimov / Unsplash

วันนี้หลายคนไม่ได้ค้นหาผ่าน Google หรือไล่ดูฟีดอีกต่อไป แต่พิมพ์ถามแชตบอต AI แล้วรับคำตอบสำเร็จรูปกลับมา อคติจากการเรียงลำดับจึงเข้มข้นขึ้น จากเดิมที่ยังเห็นผลค้นหาหลายรายการให้เลือก วันนี้เหลือคำตอบเดียวที่ AI สรุปมาให้ และคนจำนวนมากไม่ได้เปิดดูแหล่งที่มาเลย

AI ประเภทนี้เรียนรู้จากข้อความมหาศาลบนอินเทอร์เน็ต จึงรับอคติของข้อมูลเหล่านั้นมาด้วย มุมมองที่มีคนเขียนถึงมาก และภาษาที่มีข้อมูลมากอย่างภาษาอังกฤษ มักถูกสะท้อนออกมามากกว่า ส่วนคนที่ไม่ค่อยมีบันทึกก็ยิ่งล่องหน นอกจากนี้ AI ยังอาจ “แต่ง” ข้อมูลที่ฟังดูน่าเชื่อแต่ไม่จริง (hallucination) และมีแนวโน้มคล้อยตามสมมติฐานที่ผู้ถามใส่มาในคำถาม (sycophancy) คำถามที่เอนเอียงจึงมักได้คำตอบที่เอนเอียงตาม กลายเป็นห้องเสียงสะท้อนส่วนตัวที่คุยกับเราได้

ทางรับมือคือถามแบบเปิด ไม่ใส่คำตอบที่อยากได้ไว้ในคำถาม ขอแหล่งอ้างอิงแล้วเปิดดูจริง ลองถามซ้ำจากอีกมุม หรือให้ AI ช่วยหาเหตุผลฝั่งตรงข้าม และถือคำตอบของ AI เป็นจุดเริ่มต้นของการคิด ไม่ใช่ข้อสรุป

จากฟีดสู่ทฤษฎีสมคบคิด

ชายเอามือกุมหน้า ใบหน้าสว่างจากแสงหน้าจอโทรศัพท์ในที่มืด
ภาพ: Adrian Swancar / Unsplash

ทำไมเรายังเข้าหาโซเชียลมีเดีย คำตอบหนึ่งคือ เมื่อชีวิตออฟไลน์น่าพอใจ คนมักใช้โซเชียลน้อยลง แต่เมื่อชีวิตลำบาก โซเชียลเข้ามาเติมความต้องการของสัตว์สังคม คนกลุ่มนี้เปราะบางที่สุดต่อ “ความจริงที่ถูกปรุงแต่ง” เพราะมันให้ทั้งคำตอบและพื้นที่ให้มีตัวตน

ทฤษฎีสมคบคิด (conspiracy theory) อนุมานจากผลไปหาเหตุ ตรรกะที่ถูกคือ “ฝนตก รถจึงติด” แต่ทฤษฎีสมคบคิดพูดว่า “รถติด แสดงว่าฝนเพิ่งตก” ทั้งที่รถอาจติดด้วยสาเหตุอื่น นั่นคือตั้งคำตอบไว้ก่อนแล้วหาเหตุผลมารองรับ เมื่อเรื่องเหล่านี้ตื่นเต้นและถูกป้อนซ้ำผ่านฟีด ความเชื่อก็ค่อย ๆ ก่อตัว เหมือนน้ำเซาะหิน

คำถามที่น่ากลัวกว่าคือ ถ้าคนที่ป้อนเนื้อหาให้ฟีดตั้งใจสร้างข่าวลวงเสียเองล่ะ กรณี Cambridge Analytica ที่นำข้อมูลผู้ใช้ Facebook โดยไม่ได้รับความยินยอมไปใช้เจาะกลุ่มทำโฆษณาทางการเมืองช่วงเลือกตั้งประธานาธิบดีสหรัฐฯ ปี 2016 คือคำตอบ การวิเคราะห์ข้อมูลไม่ผิด แต่การนำข้อมูลที่ไม่ได้รับความยินยอมไปสร้างความเกลียดชังและโฆษณาชวนเชื่อคือสิ่งที่ผิด ผู้ใช้จึงเหลือเพียง “การมีส่วนร่วมเชิงรับ” (passive participation) และคำกล่าวอ้างว่าโซเชียลมีเดีย “เชื่อมคนเข้าหากัน” ก็ถูกตั้งคำถามอย่างหนัก

ใครเป็นคนจัดฟีดของเรา

โลกเปลี่ยนไปมาก แต่มนุษย์ยังคงมองหาสิ่งที่เติมเต็มสิ่งที่ขาด ตั้งแต่ความรักจนถึงเทคโนโลยี สิ่งที่ต่างไปคือวันนี้มีอัลกอริทึมคอยตัดสินใจแทนเราว่าควรเห็นอะไร และอัลกอริทึมนั้นมีอคติได้เสมอ

เมื่อเราจ่ายค่าโซเชียลมีเดียด้วยข้อมูลส่วนตัวไปแล้ว คำถามที่เหลือคือ เราจะปล่อยให้ฟีดชักจูงเรา หรือจะสร้างฟีดที่เราเลือกเอง เริ่มได้จากการตามแหล่งข่าวที่เห็นต่างจากเรา ตรวจสอบก่อนกดแชร์ และจำไว้ว่าสิ่งที่ฟีดแสดง ไม่ใช่ภาพทั้งหมดของโลก

เครดิตภาพ

  1. มือเอื้อมไปยังประติมากรรมข้อมูล (ภาพปก): Google DeepMind / Unsplash
  2. หน้าจอแชตบอต AI: Zulfugar Karimov / Unsplash
  3. ชายกับแสงหน้าจอโทรศัพท์: Adrian Swancar / Unsplash

ทุกภาพใช้ได้ฟรีภายใต้ Unsplash License

← บทความทั้งหมด