לגמרי לא בטוח, במידה ובמקום המערכת האוטונומית של אובר נהג בשר ודם היה אוחז בהגה מונית הוולוו בליל ה-18 למרץ בפרבר של פינקס, האם באמת ניתן היה להגיב בזמן ולהימנע מפגיעה באיירין הרצברג שחצתה את הכביש באזור חשוך ולא במעבר חציה, אבל ספק שלכולנו היה ברור באותה שנייה וחצי שלפני התאונה שהדבר הזה שהפנסים הראשיים מאירים עליו בקדמת הרכב הוא בן אדם שחוצה את הכביש.
אבל בסיום חקירה מעמיקה של התאונה האוטונומית הקטלנית הראשונה, התברר שמה שנראה ברור כשמש, גם בתנאי תאורה בעייתיים, לכל אחד מאיתנו, פשוט לא תויג על ידי האלגוריתם של המערכת האוטונומית כיצור אנושי ולכן לא הופעלו בלמי הרכב ולמעשה לא נעשה דבר על מנת לנסות למנוע או לצמצם את עוצמת הפגיעה.
על פי דו"ח החקירה מתברר שהחיישני המערכת כן זיהו משהו שחוצה את הכביש, אך התוכנה של אובר תייגה וסווגה את העצם כ- “false positive”, משמע קריאה שגויה או אובייקט לא אנושי מהסוג שלא מסכן את הרכב או נוסעיו כמו למשל שקית ניילון באמצע הכביש.
עוד ב-TheCar:
למרות התאונה הקטלנית אובר טוענת: עתיד התחבורה הוא אוטונומי
קליפורניה אישרה ניסויים בטכנולוגיה אוטונומית ללא נהג
חברת טכנולוגיה ישראלית טוענת: יכולנו למנוע את התאונה של אובר
מיד עם חשיפת סרטון התאונה, אנו כאן ב-TheCar העלנו את האופציה הזו לזיהוי שגוי של המערכת זאת מאחר שגברת הרצברג חצתה את הכביש ברגל כשהיא מוליכה את אופניה לצידה, לובשת סוודר שחור וכשעל כידון האופניים תלויות שקיות. ומאחר שבמסד הנתונים של המערכת, ככל הנראה, לא הייתה אף תמונה דומה שתויגה כהולך רגל או רוכב אופניים "המוח" של המערכת קבע שמדובר בהתראת שווא או אובייקט לא מסוכן.
Tempe Police Vehicular Crimes Unit is actively investigating
the details of this incident that occurred on March 18th. We will provide updated information regarding the investigation once it is available. pic.twitter.com/2dVP72TziQ— Tempe Police (@TempePolice) 21 במרץ 2018
סביר להניח שדווקא מערכות פשוטות יותר כמו בלימת חירום אוטונומית, מהסוג שניתן למצוא בהרבה רכבים חדישים, היו דווקא פועלות, אך מאחר שמערכות אוטונומיות מלאות אמורות להוציא את הנהג האנושי מהמשוואה, הם אמורות להיות מסוגלות להפעיל סוג של "שיקול דעת" על מנת להציג נהיגה דומה לאנושית וחייבות להיות מצוידות ביכולות בינה מלאכותית המאפשרת לעקוף נתונים מסוימים המתקבלים משלל חיישני המערכת.
כעת מומחי תוכנה יהיו חייבים לבדוק לעומק את האלגוריתם של המערכת של אובר על מנת לוודא שבמרוץ להשקת יכולות אוטונומיות מלאות ברות שימוש, מהנדסי אובר לא כיילו את המערכת בצורה כזו הלוקחת סיכונים ומתעלמת מהתראות רבות לטובת רציפות הנהיגה.
על אף שניתוח מהלכים רבים של אובר בעבר חשף סוג של התנהלות חתרנית אנרכיסטית, נראה שהתאונה הקטלנית גרמה לאנשי אובר לחשב מסלול מחדש ובשלב זה החברה השהתה את הניסויים ברכבים האוטונומיים ברחובות הערים ולפני מספר ימים אף שכרה את שרותיו של כריסטופר הארט יו"ר NTSB לשעבר (המועצה הלאומית לבטיחות בדרכים של ארצות הברית) כדי לייעץ לה בנושאי בטיחות מגוונים בעקבות התאונה.
הארט בין היתר היה החוקר הראשי של התאונה המפורסמת בה נהרג בעליה של מכונית טסלה שעשה שימוש במערכת "הטייס האוטומטי" של החברה מעמק הסיליקון ולמרות שהמערכת לא אמורה לשחרר את הנהג ממלאכת הנהיגה אלא רק לסייע לו בחר לצפות בסרט.
הארט התבטא בזמנו בנושא וציין "מערכות אוטונומית מסוגלות למנוע תאונות רבות, אבל גם בעתיד יהיו תאונות קטלניות והרוגים בכבישים, ועם כל הצער זה לא אמור לשנות או למנוע המעבר למכוניות ללא נהג – זה העתיד והרכבת בדרך לשם כבר יצאה מזמן מהתחנה".
