ปัญหาโลกไม่สวย Trolley problem … เรื่องของเรื่องคือ ไม่กี่วันก่อน อ่านบทความหนึ่งเกี่ยวกับปัญหาทางจริยธรรมปัญหาหนึ่งที่เกี่ยวข้องกับเทคโนโลยีที่กำลังพัฒนาขึ้นมาใช้ในเร็วๆนี้ ก็เลยอยากจะเอามาคุยแบ่งปันกัน
… เหรียญมีสองด้านเสมอ บ้างก็ว่ามีสามด้าน เพราะเหรียญมีความหนา … (ด้านที่มักถูกลืม)
ปัญหาโลกไม่สวย Trolley problem
ทุกชีวิตมีค่า (แล้วมีค่าเท่ากันไหม ?)
แต่เล็กแต่น้อย เราทุกคนได้รับการอบรมสั่งสอนมาว่าอย่างนั้น ใช่ไหมครับ ให้รู้จักคุณค่าของทุกชีวิต ให้เคารพในสิทธิ์การมีชีวิตของทุกชีวิต ทุกชีวิตมีค่า แต่เราไม่เคยถูกสอนมาโดยตรงว่า ค่าที่ว่านั้น เท่ากันหรือไม่
เลือกให้ใครตาย ใครรอด ใช้มาตราฐานหลักการอะไร โควิด และ อื่นๆ
แน่นอนว่า คงไม่มีใครฟันธงบอกเราว่า “ทุกชีวิตมีค่าเท่ากัน”
บางระบบความคิดความเชื่อ ก็พยายามบอกแบบอ้อมๆว่าเท่ากัน แต่ในขณะเดียวกันก็บอกว่า การพรากชีวิตให้ผลแก่ผู้พรากต่างกัน ขึ้นกับว่า ชีวิตที่พรากเป็นชีวิตอะไร … (อ้าว)
ถ้าชีวิตแต่ล่ะชีวิตมีค่าไม่เท่ากัน การ บวก ลบ คูณ หาร ทางคณิตศาสตร์ สามารถนำมาใช้ได้กับ ค่าของชีวิตหรือไม่ …
Trolley problem (ปัญหารถราง)
ปัญหารถรางเป็นปัญหาคลาสิก เชื่อว่ามีมาตั้งแต่สมัยกรีซโบราณโน้น แต่เวอร์ชั่นร่วมสมัยก็ประมาณรูปข้างล่างนี้แหละครับ
มีรถรางขบวนหนึ่งกำลังวิ่งมาถึงทางแยก เรายืนอยู่ที่จุดสับราง และ สามารถสับรางได้
ถ้าเราไม่สับราง รถรางจะวิ่งไปชนคน 5 คน
คน 5 คนจะตาย แต่ถ้าเราสับราง รถรางจะวิ่งไปชนคน 1 คน คน 1 คน นั้นก็จะตาย
… เป็นเรา เราจะทำอย่างไร
อย่างที่บอกไว้ตอนต้นว่า ปัญหานี้ไม่ใช่เรื่องใหม่
ในเวอร์ชั่นล่าสุด Phillipa Foot ได้นำเสนอปัญหานี้ไว้ในปี พ.ศ. 2510 โดยเวอร์ชั่นก่อนหน้า เป็นข้อสอบปริญญาตรีของ มหาวิทยาลัย วิสคอนซิล โดยเวอร์ชั่นนั้น คน 1 คนที่อยู่บนรางรถไฟ เป็นลูกของคนที่ยืนอยู่ที่จุดสับราง … !
ชีวิตไม่เหมือนหนังฮอลลีวู๊ดใช่ไหม ที่พระเอก หรือ นางเอก กู้โลกได้ ไม่มีใครตาย เด็กรอด หมาปลอดภัย …
The lesser of 2 devils
ถ้าคุณเลือกให้คน 5 คน ตาย
- ก็จะโดนสังคมประนามว่าเห็นแต่ตัว และ อยู่กับความรู้สึกผิดที่ทำให้คน 5 คน ต้องตาย แต่ลูกตัวเองรอด และ ตัวเองเป็นคนเห็นแก่ตัว
ถ้าคุณเลือกให้คน 5 คน รอด
- ก็จะโดนสังคมชื่นชมปรบมือว่าเห็นแก่ส่วนรวม เสียสละ (อาจจะมีรูปปั้น อนุสาวรีย์ แต่งเพลง บทกลอน กล่ววถึงในตำราเรียน เป็นของแถม) และ อยู่กับความรู้สึกผิดที่ฆ่าลูกตัวเอง และ โทษตัวเอง เสียใจไปตลอดชีวิต
แล้วอะไรล่ะที่เราจะเลือกทำ ผมไม่รู้หรอก
แต่ผมรู้ 2 อย่างว่า …
- สังคมนั้น ไม่ว่าจะ ประนามก่นด่า หรือ ชื่นชม (แบบมีของแถมหรือไม่มี) นั้น ไม่ยั่งยืน ยิ่งในโลกสื่อสังคม 5 จี มะรืนก็มีข่าวใหม่จับจองพื้นที่แล้ว เรื่องของเราก็จะเลื่อนหายไปตามเวลา
- ความรู้สึกของเราอาจจะจางไปตามกาลเวลาเช่นกัน แต่ความรู้สึกนั้นจะอยู่กับเราตลอดไป
Implications for autonomous vehicles
ทุกคนคงรู้จักรถยนต์ไร้คนขับดีใช่ไหมครับ พูดแบบง่ายๆคือเราให้โปรแกรมคอมฯขับรถให้เรา แน่นอนว่าจะต้องมีเงื่อนไข สถานการณ์ต่างๆที่ถูกป้อนเข้าไว้ หรือ แม้แต่เป็น จักรกลที่เรียนรู้ได้ด้วยตนเอง (Machine learning) ก็ต้องมีสิ่งที่เรียกว่า algorithm ฝังอยู่เพื่อจะบอกว่า อะไรคือวัตถุประสงค์ของการตัดสินใจหนึ่งๆในสถานการณ์หนึ่งๆที่การขับรถจะพบเจอ
แน่นอนว่าความปลอดภัยเป็นเรื่องหลักแน่ๆ ที่เป็นจุดประสงค์อันดับต้นๆ เมื่อถึงคราวต้องให้จักรกลตัดสินใจ … และ ก็แน่นอนที่สุด ความปลอดภัยนั้น ก็ต้องเป็นความปลอดภัยของเจ้าของรถ และ ผู้ที่อยู่ในรถ …
ผมลองหลับตานึกภาพดูว่า ถ้ารถบนถนนเป็นรถที่ถูกโปรแกรมมาแบบนี้ทั้งหมด และ ทุกคันมีปฏิกริยาโต้ตอบ ตอบสนองการตัดสินใจของคันอื่นๆที่อยู่บนถนน ด้วย algorithm เดียวกัน จะเกิดอะไรขึ้น … !
… คันที่ เทคโนโลยี algorithm ล้าหลังกว่า หรือ CPU ทำงานช้ากว่า (แน่นอนว่าราคาถูกกว่า) จะเป็นคันที่โดนอัดก๊อปปี้ ?
… คนที่เดินทางเท้า แผงลอย สนามเด็กเล่นข้างถนน ตกเป็นเป้า (safe landing) เมื่อคราวฉุกเฉิน ?
แต่ถ้าบอกว่า รถขับเคลื่อนอัตโนมัติคันนี้ ถูกออกแบบมาเพื่อความปลอดภัยโดยรวมๆของรถทุกคันและผู้คนที่ใช้ถนนร่วมกันเป็นอันดับแรก แล้วถามว่าเราจะซื้อรถคันนี้ไหม …
… น่าคิดนะครับ
ไม่มีคำตอบครับ ฝากไว้ให้คิด …
—————————————–