האתגרים האתיים במכוניות לנהיגה עצמית יתמודדו בכל יום

הרבה דיונים ומחשבה ערכית על מכוניות בנהיגה עצמית התמקדו בדילמות טרגיות, כמו היפותטיות בהן מכונית צריכה להחליט אם לדרוס קבוצה של תלמידי בתי ספר או לצלול מצוק, ולהרוג את דייריה שלה. אבל סוגים כאלה הם מקרים קיצוניים.

כהתרסקות האחרונה - בה נהגה מכונית בנהיגה עצמית בהולך רגל בטמפה, אריזונה - מדגימה, הסיטואציות היומיומיות, היומיומיות בכל מסלול מעבר, צומת וצומת, מציגות תביעות אתיות קשות ורחבות בהרבה.

אתיקה של הקצוות

כפילוסוף העובד עם מהנדסים במרכז לחקר רכב בסטנפורד, הייתי מופתע בתחילה כי בילינו בפגישות המעבדה שלנו בדיונים על מה שנראה לי שאלה קלה: כיצד מכונית שנוהגת בעצמה תתקרב למעבר חצייה?

ההנחה שלי הייתה שנחשוב כיצד מכונית צריכה להחליט בין חיי הנוסעים שלה לבין חייהם של הולכי הרגל. ידעתי לחשוב על דילמות כאלו כיוון שתרחישים של התרסקות אלה דומים למוח פסיכולוגי מפורסם שנקרא "בעיית הטרולי". דמיין לעצמך שעגלה בורחת מטילה על המסילה והיא אמורה לפגוע בקבוצה של חמישה או אדם בודד - האם היית להרוג אחד כדי להציל חמישה?

עם זאת, פילוסופים רבים בימינו ספקים כי חקירת שאלות מסוג זה היא שדרת מחקר פורה. ברברה פריד, עמיתה בסטנפורד, למשל, טענה כי התלבטויות טרגיות גורמות לאנשים להאמין שבריון מוסריים מתעוררים בעיקר בנסיבות קיצוניות ומצערות.

לאמיתו של דבר, מגבלות ערכיות הן בכל מקום. מצבים יומיומיים, ארציים, מבולגנים ומורכבים באופן מפתיע, לרוב בדרכים עדינות. לדוגמא: האם עירך צריכה להוציא כסף על תוכנית למניעת סוכרת או על עובדים סוציאליים נוספים? האם המחלקה לבריאות הציבור המקומית שלך צריכה לשכור מפקח אחר בסטנדרטים של היגיינת המסעדות, או להמשיך בתוכנית המספקת מחטים וציוד הזרקה בחינם?

על שאלות אלה קשה מאוד לענות בגלל אי ​​וודאות לגבי ההשלכות - למשל מי יושפע ובאיזו מידה. הפתרונות שהציעו פילוסופים לסיטואציות קיצוניות ונואשות אינם מועילים כאן.

הבעיה דומה במכוניות שמניעות עצמית. חשיבה דרך מצבים קיצוניים ותרחישים של התרסקות אינה יכולה לעזור לענות על שאלות המתעוררות במצבים ארציים.

אתגר בהליכות חצייה

אפשר לשאול, מה יכול להיות קשה כל כך במצבי תנועה ארציים כמו גישה למעבר חצייה, נסיעה בצומת או פנייה שמאלה. גם אם הראות במעבר החצייה מוגבלת ולעיתים קשה לדעת אם הולך רגל סמוך אכן רוצה לחצות את הרחוב, הנהגים מתמודדים עם זה מדי יום.

אבל עבור מכוניות שנוהגות בעצמן, מצבים ארציים כאלה מהווים אתגר בשני אופנים.

ראשית, יש את העובדה שמה שקל לבני אדם קשה לרוב למכונות. בין אם מדובר בזיהוי פרצופים או רכיבה על אופניים, אנו טובים בתפיסה ובמשימות מכניות מכיוון שהאבולוציה בנתה עבורנו את הכישורים הללו. עם זאת, הדבר מקשה על מיומנויות אלה להוראה או להנדסה. זה מכונה "הפרדוקס של מוראבק."

שנית, בעתיד בו כל המכוניות הן מכוניות שנוהגות בעצמן, שינויים קטנים בהתנהגות הנהיגה היו עושים הבדל גדול במצטבר. החלטות שקיבלו מהנדסים היום, במילים אחרות, יקבעו לא כיצד מכונית אחת נוהגת אלא כיצד נוהגות כל המכוניות. האלגוריתמים הופכים למדיניות.

מהנדסים מלמדים מחשבים כיצד לזהות פרצופים וחפצים בשיטות של למידת מכונה. הם יכולים להשתמש בלימוד מכונות גם כדי לעזור לרכבים בנהיגה עצמית לחקות את האופן בו בני האדם נוהגים. אבל זה לא פיתרון: זה לא פותר את הבעיה כי מהנדסים מקבלים החלטות נרחבות בנושא בטיחות וניידות.

יתר על כן, מכוניות בנהיגה עצמית לא צריכות לנהוג כמו אנשים. בני אדם אינם למעשה נהגים טובים במיוחד. והם נוהגים בדרכים מטרידות אתיות, ומחליטים אם להיכנע במסלולי חצייה, על סמך גיל הולכי הרגל, גזעם והכנסתם. לדוגמא, חוקרים בפורטלנד גילו כי הולכי רגל שחורים עוברים על פני מכוניות רבות מכפי שנאלצו להמתין שליש יותר זמן מאשר להולכי רגל לבנים לפני שיוכלו לעבור.

מכוניות בנהיגה עצמית צריכות לנהוג בצורה בטוחה יותר והוגנת יותר מכפי שאנשים עושים.

אתיקה מורדית

הבעיות האתיות מעמיקות כשמקפידים על ניגודי האינטרסים העולים במצבים ארציים כמו מסלולי חצייה, פניות וצמתים.

לדוגמא, תכנון מכוניות הנוהגות בעצמו צריך לאזן בין בטיחותם של אחרים - הולכי רגל או רוכבי אופניים - לאינטרסים של נוסעי המכוניות. ברגע שמכונית עוברת מהר מקצב ההליכה, היא לא יכולה למנוע להתנגש בילד שעלול לרוץ לכביש בשנייה האחרונה. אבל קצב ההליכה הוא כמובן איטי מדי. כל אחד צריך להגיע למקומות. אז איך על המהנדסים לקיים את האיזון בין בטיחות לניידות? ומה המהירות מספיק בטוחה?

ישנן שאלות אתיות נוספות שעולות גם כן. מהנדסים צריכים לבצע חילופי דברים בין ניידות להשפעות על הסביבה. כאשר הם מיושמים על פני כל המכוניות במדינה, שינויים קטנים בתאוצה, עקיפה ובלימה מבוקרים על ידי מחשב יכולים להשפיע מאוד על השימוש באנרגיה ופליטת זיהום. כיצד על המהנדסים לסחור ביעילות נסיעה עם השפעה על הסביבה?

מה צריך להיות עתיד התנועה?

מצבים של מונדאן מציבים בעיות הנדסיות ואתיות חדשות, אך הם גם מביאים אנשים לפקפק בהנחות יסוד של מערכת התעבורה.

לעצמי התחלתי לשאול אם אנו זקוקים בכלל למקומות שנקראים "מסלולי חצייה"? אחרי הכל, מכוניות בנהיגה עצמית עשויות לגרום לבטחון לחצות כביש בכל מקום.

ולא רק מסלולי ההליכה הופכים למיותרים. רמזורים בצמתים יכולים להיות נחלת העבר גם כן. בני אדם זקוקים לרמזורים כדי לוודא שכולם יצליחו לחצות את הצומת ללא התרסקות וכאוס. אבל מכוניות בנהיגה עצמית יכלו לתאם את עצמן בצורה חלקה.

השאלה הגדולה יותר כאן היא זו: בהתחשב בכך שמכוניות בנהיגה עצמית טובות יותר מאשר נהגים אנושיים, מדוע המכוניות צריכות להיות כפופות לכללים שתוכננו לפגיעות אנושית ושגיאות אנושיות? וכדי להאריך את ניסוי המחשבה הזה, יש לשקול גם את השאלה הכללית יותר: אם אנו כחברה נוכל לתכנן את מערכת התעבורה שלנו מאפס, איך היינו רוצים שהיא תיראה?

מכיוון ששאלות קשות אלה נוגעות לכל אחד בעיר או בחברה, הם דורשים מעיר או חברה להסכים על תשובות. המשמעות היא איזון אינטרסים מתחרים באופן שעובד עבור כולם - בין אם אנשים חושבים רק על מסלולי חצייה או על מערכת התעבורה כולה.

עם מכוניות שנוהגות עצמית, חברות יכולות לעצב מחדש את מערכות התנועה שלהן. מהמעבר לחצייה וכלה בתכנון כללי התנועה - זה מצבים ארציים שמעלים שאלות קשות באמת. מצבים קיצוניים הם הסחת דעת.

בעיית העגלה אינה עונה על השאלות הקשות הללו.

יוהנס הימלרייך, עמית אתיקה בינתחומי, המרכז המשפחתי לאתיקה בחברה של סטנפורד מקנוי