בעתיד הלא מאוד רחוק כל המכוניות החדשות שימכרו, לפחות במדינות המפותחות, יהיו בעלות יכולות אוטונומיות חלקיות או מלאות.
למרות החשש, הדי מובן אמוציונלית, של חלק מהאנשים מהפקדת חייהם הלכה למעשה בצורה המוחשית ביותר בידי מחשב, המומחים תמימי דעים וסבורים כי נטילת ההגה מידיהם של בני האנוש תפחית בצורה דרסטית את מספר תאונות הדרכים והנפגעים בכבישים.
עם זאת, על אף שמערכות נהיגה אוטונומיות בניגוד לבני האנוש, הסובלים מצבי רוח משתנים, רמות ערנות שונות ובעיקר הסחות דעת בלתי פוסקות (מי אמר סמארטפונים…), עסוקות אך ורק במלאכת הנהיגה, מאחר שבכל זאת מדובר עדיין במחשב ישנם מצבים מסוימים שעלולים לבלבל את הבינה המלאכותית של המערכת.
עד היום מערכות הנהיגה האוטונומיות המלאות או החלקיות הפגינו גם בניסויים וגם בשימוש של משתמשי קצה רמות דיוק גבוהות מאוד, אולם צוות חוקרים מכמה אוניברסיטאות נחשבות בארצות הברית גילה כי ניתן לבלבל את המערכות הללו בקלות מפחידה.
בשלב ראשון החוקרים ניתחו את האלגוריתם של כמה מערכות נהיגה אוטונומיות המצויות בשוק והתמקדו בחלק העוסק בפענוח התמונה המתקבלת ממצלמות הדרך.
לאחר שחקרו את הדרך בה מערכות אלו מזהות תמרורים הם הבינו כי שינויים מינוריים בשלטי הדרך מהסוג שלא היה מקשה כנראה על בן אנוש להבין באיזה תמרור מדובר עשויים לגרום לבינה המלאכותית של מערכת לא לזהות את התמרור וחמור מכך – לעיתים לסווג אותו כתמרור שונה לחלוטין.
הבעיה היא שבעוד שמערכות זיהוי תמרורים, הקיימות כבר כיום בלא מעט כלי רכב כסטנדרט, למעשה רק משמשות כעוד אמצעי תזכורת לאוחז בהגה, במכונית אוטונומית מלאה למערכות אלו יש חשיבות אדירה ובעזרתן המחשב אמור לדעת לדוגמה מה המהירות המותרת בקטע דרך זה, מתי צריך לתת זכות קדימה והיכן יש לעצור.
החוקרים גילו למשל שכמה מדבקות קטנות פשוטות שהם הדביקו במקומות אסטרטגיים שונים על פני תמרור עצור גרמו למערכת לזהות ( ב-3 מכל 4 ניסיונות) את התמרור באופן שגוי ובמקום עצירה המערכת קבעה כי מדובר בתמרור המורה על מהירות נסיעה של 45 מייל (80 קמ"ש) – ללא ספק טעות מפחידה שבמקרה שהייתה מתרחשת בעולם האמיתי הייתה יכולה להיות הרת אסון.
לא מדובר במקרה יחיד ופרטני והחוקרים גילו כי ניתן לבלבל את המערכת בזיהוי תמרורים נוספים. בין היתר המערכת כשלה בזיהוי תמרור עם חץ של פניה ימינה ולאחר שהודבקו עליו כמה מדבקות הוא סווג במוח המערכת כתמרור "עצו"ר בשני שליש מהמקרים וכתמרור המסמן הוספת נתיב ביתר הפעמים.
החוקרים מרגיעים ומציינים שכדי לפרוץ ולבלבל את המערכת בצורה מכוונת יש צורך להבין היטב את האלגוריתם שלה, אך מתריעים שמערכות נהיגה אוטונומיות עלולות לטעות בזיהוי שלטים גם ללא כוונות זדוניות, אם על שלט מסוים רוסס גרפיטי למשל, ומציינים שלמעשה המדבקות ששימשו אותם כדי להטעות את המערכת מוקמו על השלטים במקומות שהיו מוסתרים אם מישהו היה מחליט לרסס עליו גרפיטי טריוויאלי עם מילים כמו אהבה (LOVE) או שנאה (HATE).
עם זאת, החוקרים מציינים כי ישנם פתרונות לכשלים ולפריצות למערכת מן הסוג הזה, אם בעזרת שימוש במספר מצלמות המעניקות למערכת כמה זוויות צילום ומצמצמות את האופציה לקריאה שגויה ואם בעזרת מערכת גיבוי מבוססת מיקום שיכולה לזהות טעויות במקרה שהמערכת מצביעה על תמרור שלא הגיוני למיקום ולמידע על המפה.
