האם המשכפלים של להב ראנר "אנושיים"? לספר ולוק יש כמה מחשבות

"אתה נמצא במדבר, מסתובב בחול, כשלפתע אתה מסתכל למטה ורואה צב ... אתה מושיט את ידך ומפנה את הצב על גבו. הצב מונח על גבו, בטנו אפויה בשמש החמה, מכה את רגליה ומנסה להפוך את עצמה, אך היא לא יכולה. לא בלי עזרתך. אבל אתה לא עוזר. "

תוכן קשור

• וולטייר: פילוסוף הארה והונאת הלוטו

אולי שום דבר אינו סמלי יותר מהסרט הדיסטופי של רידלי סקוט משנת 1982, "Blade Runner", מאשר מבחן ה- Voight-Kampff המנוהל על ידי אכיפי החוק הכותריים של הסרט, כולל הריסון פורד בתפקיד ריק דקארד. סדרת השאלות במבחן הבדיוני, כמו זו שלמעלה, נועדה להפריד בין בני אדם ומשכפלים על ידי עורר תגובה פיזיולוגית המעידה על אמפתיה. רק בני אדם אמיתיים, לא משכפלים, מרגישים את הרגש הזה. האשמה של דקארד היא להתמודד עם משכפלים המתחילים לא לציית להוראות. הוא ואחרים משתמשים במבחן כדי להחליט אם "לפרוש" - הרוגים - המשכפלים.

לא רק שהאנדרואידים המרדניים האלה מהווים איום על בני האדם, אלא שבעולם זה אין להם שום זכויות חוקיות להגנה. איך הם יכלו, כאשר הם לא נחשבים אנושיים?

זה כל כך מרתק עד שהסיפור יימשך בסרט ההמשך המיוחל "Blade Runner": 2049. חלק מהסיבה לפופולריות המתמשכת של הסרט המקורי הוא המאבק האישי של דקארד, כזה שמופיע בצורה דומה בסרטים כמוה ומציג כמו "Westworld" ": מי או מה נחשב לאנושי, במיוחד בעולם של טכנולוגיה מתקדמת?

וכדי להבין זאת, עלינו לפנות לכמה פילוסופים ותיקים מאוד.

***

עבור היוונים הקדמונים, מכונות שיוצרו על ידי אלים או בני אדם מוכשרים בצורה יוצאת דופן, לרוב הוליכו שולל מאנשים להאמין שהאנדרואידים היו אותנטיים, כותב ראש העיר אדריאן באיון. המלך נאביס מספרטה היה בעל גרסה רובוטית של אשתו, שדה בסתר מעוטר בציפורניים. הוא השתמש במכונה כדי לחבק אזרחים שלא צייתו לו, בשרם נקב בכלי הנשק הנסתרים. ובסין, אוטומט מהמאה העשירית לפני הספירה שנעשה על ידי הממציא יאן שי נראה כה אנושי, שר וקורץ לגברות, עד שהמלך התרגז מכך. ואז הוא למד את האמת, והתפעל ממכונה שיש לה אפילו איברים מכניים. כפי שכותב המלומד נייג'ל ווייל, "בכל התקופות, " דמויות אנושיות "הועלו על הדעת כישויות הבוחנות או מגדירות את התחושה העכשווית של ערך אנושי."

כל זה אומר שהדאגה כיצד להבדיל בין בני אדם בדם ודם ממכונות שרק נראות אנושיות (וההחלטה אם המכונות הללו מהוות איום עלינו הומו ספיינס) אינה מוגבלת לתקופה המודרנית. תמיד תהינו אם כל בני האדם הם באמת מה שהם נראים - וזו הסיבה שפילוסופי ההשכלה הקדישו זמן כה רב לניתוח השאלה מה הופך אנושי לאנושי.

רנה דקרט, פילוסוף צרפתי מהמאה ה -17 שטייל ​​ברחבי אירופה, שקל לעומק את השאלה מה הפך אותנו לאנושיים. לא במקרה ציטוטו המפורסם ביותר חוזר על ידי אחד המשכפולים בבלייד ראנר: "אני חושב, לכן אני כן." ואם כל זה לא מספיק הוכחה לקשר שלו לסרט, קחו בחשבון את השמות: דקארט ו- דקארד.

כפי שמציין הפילוסוף אנדרו נוריס, דקארט חשד שיום אחד עשוי להיות צורך בבדיקה אם משהו הוא אנושי או מכונה. "אם היו מכונות הנושאות תמונות של גופנו, ומסוגלות לחקות את פעולותינו ככל שניתן מבחינה מוסרית, עדיין היו נשארות שתי בדיקות ודאיות ביותר לפיהן לדעת שהן לא היו גברים באמת, " כתב דקארט. אז הוא יצר בדיקות משלו, שהסתמכו על יכולת לשונית וגמישות התנהגות.

המשכפלים מדברים ומתנהגים בדיוק כמו שבני האדם נוהגים, כלומר הם היו עוברים במבחנים של דקארט. אך יש סיבה נוספת לכך שדקלד נאבק להפריך את האנושיות שלהם: לרפליקנטים יש זיכרונות מושתלים. עבור הפילוסוף האנגלי ג'ון לוק, מה שנותן לאדם תחושת עצמי הוא המשכיות הזיכרונות שלהם. גוף האדם משתנה עם הזמן, אך זכרונות נשארים, ומציעים בסיס לזהות יציבה. "ככל שניתן להרחיב את התודעה הזו לאחור לכל פעולה או מחשבה בעבר, עד כה מגיע לזהותו של אותו אדם, " כתב לוק.

אז עבור רחל של בלייד ראנר, המשכפל המתקדם ביותר שפותח עד כה, לא משנה שהיא עשויה להיות רק בת כמה שנים; זיכרונותיה נמתחים הרבה יותר רחוק, ויוצרים את הרושם שהיא חיה הרבה יותר זמן. זה מה שהופך את רחל לדמות כה טרגית - הזיכרונות "שלה" לא שייכים לה. הם באים מאחייניתו של הממציא שלה.

"זה דבר קורע לב, אבל אתה יכול לדמיין [הזכרונות] הם עדיין מיוחדים לה גם אחרי שהיא לומדת שהם לא באמת שלה, " אומרת סוזן שניידר, פרופסור לפילוסופיה באוניברסיטת קונטיקט וחברת האתיקה והטכנולוגיה. קבוצה בייל. "זה כמו לגלות שאתה העותק שהועלה, לא האדם שעושה את ההעלאה. אבל עדיין יש לך איזשהו יחסים מיוחדים אליהם. כמו הורה. "

אבל לא רק זיכרונות או רציונליות הם שהופכים אנושיים בבלייד ראנר. והכי חשוב מכל, על פי מבחן ה- Voight-Kampff, הוא אמפתיה. מכיוון שאיננו יכולים לקרוא מוחות או לראות ראיות פיזיות כלשהן לגביהם, הוגים כמו הפילוסוף הגרמני תיאודור ליפס טענו שאנחנו יכולים לתפוס שאחרים מרגישים ופועלים כפי שאנחנו עושים בכוח של אמפתיה.

"על ראנר הלהב לבחון, באופן אירוני, את האמפתיה של הזולת - לא כאן, במובן של ליפס, אלא בזה של הרגישות שלהם לעולם טבעי שנספה כיום, המאוכלס על ידי בעלי חיים שאינם אנושיים, " כותב נוריס בעיתונו על הפילוסופיה של הסרט. מכאן באה השאלה הצבורה המפורסמת הלכודה-על-גב-המדבר.

"רגשות עצמם לעולם לא יהיו מבחן מושלם לאנושות: סוציופתים הם אנושיים, אחרי הכל, " אמרה דבורה נייט, פרופסור לפילוסופיה באוניברסיטת קווינס, במייל. "אבל רגשות הם יותר מתגובות לא-קוגניטיביות. הם עוזרים לנו להחליט על מה עלינו לעשות ומי עלינו לשאוף להיות. "

זה ברור במיוחד במקרה של המשכפל רועי באטי, אותו מגלם רוטגר האואר. רועי מרגיש רגשות דמויי אדם ויש לו שאיפות, אך אינו מקבל תוחלת חיים אנושית, אמר נייט. רועי מודע לכך שכמו המשכפלים האחרים, הוא נבנה למות לאחר ארבע שנים בלבד, מה שמובן מעצבן אותו.

אם כן, המשכפלים מרגישים רגשות, ויש להם זיכרונות. האם זה הופך אותם לאנושיים? עבור שניידר, תשובה סופית לא בהכרח משנה. המשכפלים חולקים בני אדם מספיק איכויות שהם ראויים להגנה. "זה מקרה חזק מאוד לטיפול באדם שאינו אנושי עם אותן זכויות משפטיות שאנו נותנים לאדם. לא היינו קוראים ל [רחל] אדם, אלא אולי אדם ", היא אומרת.

עבור אריק שוויצבל, פרופסור לפילוסופיה באוניברסיטת קליפורניה בריברסייד, המסקנה דרמטית עוד יותר. "אם אנו יוצרים יום אחד רובוטים בעלי יכולות קוגניטיביות ורגשיות דמויי אנוש, אנו חייבים להם שיקול מוסרי יותר מכפי שאנו בדרך כלל חייבים לבני אדם דומים אחרת", הוא כותב ב- Aeon. "היינו היוצרים והמעצבים שלהם. אנו אחראים באופן ישיר הן לקיומן והן למצבם המאושר או הלא מאושר. "

***

Blade Runner הוא רק סרט ובני אדם עדיין לא הצליחו ליצור משכפלים. אך התקדמנו רבות בתחום הבינה המלאכותית, החל ממכוניות בנהיגה עצמית והלמדו להסתגל לטעות אנושית לרשתות עצביות שמתווכחות אחת עם השנייה כדי להיות חכמות יותר. זו הסיבה שבשביל שניידר לשאלות שהסרט מעלה על טבע האנושות וכיצד אנו יכולים להתייחס לאנדרואידים יש השלכות חשובות בעולם האמיתי.

"אחד הדברים שעשיתי זה לחשוב אם זה אי פעם ירגיש כמו משהו להיות AI. יהיה אי פעם רחל? "אומר שניידר, שמשתמש בבלייד ראנר בכיתתה על פילוסופיה במדע בדיוני. השנה פרסמה שניידר מאמר על המבחן שפיתחה עם האסטרופיזיקאי אדווין טרנר כדי לגלות אם ישות מכנית עשויה להיות מודעת. בדומה למבחן ווייט-קמפף, הוא מבוסס על סדרה של שאלות, אך במקום לדרוש נוכחות של אמפתיה - רגשות המופנים כלפי אחר - הוא מסתכל על רגשות לגבי להיות עצמי. המבחן, שנקרא מבחן התודעה AI, נמצא בתהליך של פטנט בפרינסטון.

המבחן שונה ממבחן טיורינג המפורסם יותר, שפותח על ידי המתמטיקאי אלן טיורינג בשנת 1951. במבחן קודם זה, שופט היה מנהל שיחה דיגיטלית עם המשתתף (כמו מה שהיית חווה היום באולמות צ'אט), שואל שאלות להבחנה. האם המשיב היה אנושי או מכונה. אבל כפי שניידר מציין במאמרה, מדענים יכולים לפתח תוכניות שעוברות את מבחן טיורינג אך אינן יצורים מודעים. מבחן טיורינג מעוניין להעריך את האימות שבין תגובת המכונה לתגובת האדם, ולא מתוך הבנה אם המכונה חיונית או לא. בדומה למבחן ה- Voight-Kampff, מבחן התודעה AI של שניידר עוסק בניסיון להבין מה קורה בתוך המכונה.

עבודה כזו היא דחופה, היא אומרת, מכיוון שהאנושות אינה מוכנה מבחינה מוסרית להתמודד עם ההשלכות של יצירת חיים חיים. מה שיגרום לשפוט את יצירותינו עוד יותר קשה הוא ההסתמכות האנושית על אנתרופומורפיזם כדי להצביע על מה שצריך לספור כישות ראויה לשיקול מוסרי. "חלק [הרובוטים] נראים אנושיים, או שהם חמודים ומרופפים, כך שאנו חושבים על החתולים והכלבים שלנו", אומר שניידר. "זה גורם לנו להאמין שהם מרגישים. אנחנו אמורים מאוד. יתברר שרק מערכות ביולוגיות יכולות להיות מודעות, או שה- AI החכם ביותר הם אלה המודעים, אותם דברים שלא נראים אנושיים. "

מדענים חשוב לפגישה עם פילוסופים - דבר שרבים כבר עושים, אומר שניידר - אך גם עבור חברי הציבור לחשוב על ההשלכות של טכנולוגיה מסוג זה. והיא מוסיפה, לא כל הפילוסופים מסכימים על טיב התודעה, כך שאין תשובות קלות.

אולי סרטי הוליווד כמו Blade Runner: 2049 יקרבו אותנו צעד אחד קרוב יותר לעסוק בשיחות האלה. אבל אם זה לא, נצטרך לקחת על עצמנו את העבודה של הכניסה למגפה האתית. מוקדם יותר, ולא מאוחר יותר - או שנסיים עם בעיה כמו המשכפלים ואין שום מושג איך להגיב.