ปัญหาที่ยากที่สุดสำหรับรถขับเคลื่อนอัตโนมัติไม่ได้อยู่ที่สี่แยกที่พลุกพล่านเสมอไป แต่เป็นช่วงเวลาสุดโต่งเมื่อโลกความเป็นจริงพลันสูญเสียกฎเกณฑ์ บริษัทรถขับเคลื่อนอัตโนมัติในเครือ Amazon อย่าง Zoox ประกาศ เรียกคืน 105 คัน Robotaxi ด้วยเหตุผลชัดเจน: เมื่อรถขับเข้าใกล้พื้นที่เกิดไฟและเผชิญกับควันหนาทึบ ระบบเกิดอาการตัดสินใจล้มเหลว เหตุการณ์นี้ชี้ให้เห็นความจริงที่แข็งกระด้างว่าเมื่อเซ็นเซอร์ถูกบดบังทางกายภาพและกฎจราจรปกติถูกรบกวนโดยเหตุฉุกเฉิน AI ยังไม่เรียนรู้พอที่จะรับมือกับความสับสนเช่นนี้
เหตุเกิดเมื่อวันที่ 20 มิถุนายน 2569 ตามรายงานของสำนักงานความปลอดภัยบนทางหลวงแห่งชาติของสหรัฐอเมริกา (NHTSA) ขณะที่รถขับเคลื่อนอัตโนมัติของ Zoox เคลื่อนเข้าใกล้จุดเกิดไฟ เนื่องจากควันหนาทึบทำให้ระบบสับสนจนเกิดการเบรกกะทันหันและหยุดนิ่ง สุดท้ายต้องให้บุคลากรจากระยะไกลเข้าควบคุมเพื่อถอยรถออกด้วยมือ ทำให้ทีมกู้ภัยสามารถวางกรวยจราจรและปิดเลนได้อย่างปลอดภัย Zoox ระบุว่าปัญหาได้รับการแก้โดยการอัปเดตซอฟต์แวร์ผ่าน OTA และย้ำว่านี่เป็นรายงานเดียวที่ทราบถึงปัญหาเกี่ยวกับควันในขณะนี้
ในสถานการณ์ภัยพิบัติ การหยุดรถไม่ได้เท่ากับปลอดภัย
ในภาพรวมแล้ว การตั้งให้ระบบเบรกเมื่อเจอสิ่งกีดขวางหรือทัศนวิสัยไม่ชัดเจน เป็นมาตรการป้องกันที่ปลอดภัยและอนุรักษ์นิยมที่สุดสำหรับรถอัตโนมัติ แต่เมื่ออยู่ใกล้ไฟไหม้ กลไก “ความปลอดภัย” นี้อาจกลายเป็นอุปสรรคถึงชีวิตได้ คำเตือนจาก NHTSA ชี้ชัดว่า ควันที่หนาทึบไม่เพียงทำให้ภาพจากกล้องมีคอนทราสต์ลดลงเท่านั้น แต่ยังรบกวนการอ่านค่าจากไลเดอร์ (LiDAR) และเซ็นเซอร์อื่นๆ ทำให้รถยนต์เสียความสามารถในการตัดสินใจในเวลาที่ต้องการการขับเคลื่อนอย่างแม่นยำที่สุด
เรื่องที่ซับซ้อนยิ่งกว่าคือ พื้นที่เกิดไฟเป็นฉากที่ไม่เป็นมาตรฐานและเปลี่ยนแปลงรวดเร็ว สัญญาณไฟจราจรอาจใช้ไม่ได้ ช่องทางบนพื้นถนนอาจหมดความหมาย สิ่งที่ปรากฏแทนคือรถดับเพลิงที่อาจเปลี่ยนเลนตลอดเวลา เส้นกั้นแบบชั่วคราวที่ถูกดึงขึ้น และตำรวจหรือเจ้าหน้าที่กู้ภัยที่ยืนชี้นำจราจร เมื่อรถไม่สามารถตีความกฎชั่วคราวเหล่านี้ การหยุดจอดกลางถนนมักจะขวางทางการเข้าถึงของทีมกู้ภัยโดยตรง
ดังนั้น ประเด็นของเหตุการณ์นี้ไม่ใช่ผลลัพธ์สุดท้ายว่ารถคันนั้นออกจากจุดเกิดเหตุได้หรือไม่ แต่เป็นคำถามเชิงระบบ: ระบบขับเคลื่อนอัตโนมัติจะตรวจจับได้อย่างไรว่า “กฎถนนปกติชั่วคราวใช้ไม่ได้” และจะทำอย่างไรให้ไม่ขัดขวางการกู้ภัย แทนที่จะเลือกเพียงแค่หยุดรถ
เมื่อใดควรคืนพวงมาลัยให้มนุษย์
การเรียกคืนรถยนต์แบบดั้งเดิมมักเกี่ยวกับความเสียหายของฮาร์ดแวร์ แต่สำหรับ Robotaxi ที่พึ่งพาซอฟต์แวร์อย่างหนัก การเรียกคืนบ่อยครั้งเป็นการปะช่องว่างทางปัญญาของอัลกอริธึม Zoox เลือกแก้ปัญหาครั้งนี้ด้วยการอัปเดตซอฟต์แวร์ ซึ่งสะท้อนว่าผู้ให้บริการรถขับเคลื่อนอัตโนมัติยังต้องเก็บข้อมูลจากเหตุการณ์จริงที่เกิดขึ้นแบบหายาก (edge cases) เพื่อนำมาปรับปรุงกฎและแบบจำลองการตัดสินใจ
อย่างไรก็ตาม การเขียนโค้ดเพิ่มขึ้นไม่มีทางครอบคลุมเหตุฉุกเฉินทุกรูปแบบในโลกจริง ปัญหานี้โยงถึงคำถามพื้นฐานเกี่ยวกับการร่วมมือระหว่างคนกับเครื่อง: เมื่อรถเข้าสู่บริบทที่มีควัน ไฟไหม้ อุบัติเหตุรุนแรง หรือพื้นที่ก่อสร้างที่ผิดปกติ ระบบจะสามารถรู้ล่วงหน้าได้หรือไม่ว่าตัวเอง “ไม่สามารถจัดการ” สถานการณ์นั้นได้ และในเวลาที่เหมาะสมจะขอให้ศูนย์ควบคุมระยะไกลเข้ามารับช่วงการควบคุม เพื่อไม่ให้เป็นอุปสรรคต่อการกู้ภัย
Zoox ยกระดับเหตุการณ์เบรกเพราะควันที่เกิดขึ้นเป็นความเสี่ยงเชิงระบบ ซึ่งเป็นแนวทางที่น่ายกย่อง แต่การเรียกคืนซอฟต์แวร์ของ 105 คันนี้ก็เตือนตลาดว่าการเสริมเซ็นเซอร์ให้หรูหราขึ้นก็ไม่อาจแปลกฎชั่วคราวในภาวะฉุกเฉินได้โดยอัตโนมัติ การรู้ว่าเมื่อไรต้องยอมรับข้อจำกัดของตัวเองและตัดสินใจคืนการควบคุมอย่างเด็ดขาด อาจเป็นโค้ดส่วนที่สำคัญที่สุดที่รถขับเคลื่อนอัตโนมัติยังต้องเขียนให้ดี