בעתיד הלא רחוק הופכת יוהנסבורג, הרקובה מפשע, לעיר הראשונה אי פעם שפרסה צי של דרוריסטים של משטרת רובוטים. בהתחלה, המכונות נראות כפתרון יעיל. הפשע טובל באופן דרסטי והפרויקט מתקבל בהצלחה - עד שמשהו משתבש. גנגסטרים ראפ-ראווה המחפשים חטיפה מהירה של יום המשכורת דרואיד פגום שנקבע להריסה. בעזרת מהנדס שנאלץ באיומי אקדח, הם מתכנתים מחדש את הדרואיד, בשם צ'אפי, כסוכן אוטונומי, ויוצרים למעשה את הייחודיות, הנקודה בה הבינה המלאכותית הופכת חכמה יותר מהבינה האנושית.
כמו רוב המדע הבדיוני הטוב, גם סרטו החדש של הבמאי ניל בלומקמפ, צ'אפי , משמש כפרשנות על טבע האדם ובעיות עכשוויות, כולל עוני, פשע, אפליה, בריונות ואכזריות של המשטרה. אבל זה גם מעלה שאלות חשובות יותר לגבי מה שרבים חושבים - לטוב ולרע - יהיה הופעה בלתי נמנעת של בינה מלאכותית חיונית.
"בעבר, בכל רחבי הסביבה, כל מה שבני האדם הגו, ללא קשר למוסר ולמוסר, נוסו, ואם אפשר, " אומר וולפגנג פינק, פיזיקאי מאוניברסיטת אריזונה והמכון הטכנולוגי בקליפורניה. . "מערכות אוטונומיות יופיעו אם מישהו יבין כיצד ליצור אותן - זה נתון."
ואכן, מדענים רבים, כולל פינק, רודפים כעת בקדחתנות את קו המחקר הזה, וכבר הושגה התקדמות. מלבד צ'אפי עצמה, חלק גדול מהרובוטיקה המתוארת בסרט למעשה כבר זמינה או קרובה מאוד להיות זמינה. קיימים כיום רובוטים שהופעלו מרחוק בדומה למוז של הסרט - מכונת המוות הקולנית שמזכירה את ED-209 של רובוקופ שמופעלת על ידי השוטר המופרע של יו ג'קמן - קיימים כיום.
באופן דומה, רובוטים כמו נפילות משטרת צ'אפי - כאלה שמתוכנתות כמערכות מבוססות כללים ואינטליגנטיות באופן מלאכותי, אך חסרות מודעות עצמית או אוטונומיה - כמעט מוכנים, אם כי חיי הסוללה שלהם וזריזותם אינם תואמים את הדגמים המוצגים בסיירת רחובות יוהנסבורג. אם וכאשר מכונות כאלה נפרסות, יתכן וזה לא דבר רדיקלי שכזה שנצטרך לקבל. "אנחנו מאוד טובים בהתרגלות ולהתרגל לשינויים בסביבה, כולל טכנולוגיות", אומר עלי מאטו, פסיכולוג קליני במרכז הרפואי של אוניברסיטת קולומביה ויוצר 'המוח יודע טוב יותר', בלוג פסיכולוגיה מדע בדיוני. "ככל שרובוטים הופכים לחלק מחיי היומיום שלנו, אני חושב שבמובנים מסוימים זה עשוי להרגיש חלק."
עם זאת, דרואיד משטרתי אינו גורם להיות גורם אוטונומי. ישות ממשית שלטונית, מודעת לעצמה כמו צ'אפי, תהיה סטייה מכל דבר שנראה לפני כן. "בתקופה שחלפה מאז הניאנדרטלים, מעולם לא היה לנו פוטנציאל לעבוד בשיתוף פעולה עם מין חדש לגמרי שהוא אינטליגנטי", אומר מאטו. "אם נוכל להתגבר על המחסומים לשיתוף אמפתיה עם צורת חיים מלאכותית, זה יכול להוביל לעידן מדהים לאנושות."
חומרה אינה המכשול שמונע יצור כזה - זו פשוט משימה הנדסית, אומר פינק. במקום זאת, יצירת התוכנה - רוח הרפאים במכונה - היא האתגר האמיתי. החוקרים נוקטים שתי גישות שונות לבעיה זו. חלקם מנסים ליצור יצור חי מוכן לטעינה מהתחלה, בעוד שאחרים חושבים שכתיבת תוכנית בסיסית המצוידת בכלים הדרושים לה כדי ללמוד, להתאים ולשנות את עצמה באמצעות ניסיון - כפי שניתן לראות בצ'אפי - היא הדרך ללכת . כפי שמסביר פינק: "זה מקרה של כבר לאפות את העוגה ולהכניס את הפאי למערכת, או לתת למערכת את החומרים לפשטידה ולהשאיר אותה למערכת לאפות אותה."
כאשר הפריצה אכן תגיע, קרוב לוודאי שהיא תתרחש לא במדרגה אלא פתאום, כפי שמתואר בצ'אפי . פינק צופה כי - במקום שאוניברסיטה, ממשלה או תאגיד יקבלו את הקרדיט - ההפרעה שתוביל לייחודיות תועבר על ידי צוות חוקרים קטן או אפילו אדם בודד, ככל הנראה מגובה במימון פרטי עשיר, שרוח החופש מתעוררת. להתנסות ולהשתחרר ממחקר מיינסטרימי שמרני. אכן, זה כמעט התרחיש בצ'אפי : צ'אפי נוצר לא על ידי תאגיד מאסיבי, אלא על ידי מהנדס מונע על ידי עצמו, בגילומו של דב פאטל, שמשתמש בכל המשאבים המסופקים על ידי עבודתו היומיומית לתמיכה בעבודתו השונה בהרבה. על בינה מלאכותית אוטונומית בלילה.
עם זאת, ברגע שתופיע בינה מלאכותית הממשלתית העצמית באמת, לא ניתן יהיה לחזות עד כמה מורכבת המערכת, או לאיזה כיוון היא תתפתח. בניגוד למערכות אורגניות כמונו, זה לא יוגבל על ידי הסיסמה האיטית של האבולוציה הביולוגית. פיתוחו יהיה נפץ. אין שום ערובה לכך שמערכת כזו תאמץ או תחזיק מערך ערכים מוסריים או אתיים - או שערכים אלה יתפשטו על בני אדם. במקרה של צ'אפי - שמתפתח כמו ילד אנושי, הלומד ומתבגר ככל שעובר הזמן - הבטחה מוקדמת לא לפגוע בבני אדם עוברת דרך ארוכה בשמירה על פעולות הרובוט. אך כאשר מאוימים בהשמדה, צ'אפי, כמו בני אדם רבים, מפנה במידה רבה את מוסר ההליכה ופועל מתוך אינטרס עצמי מוחלט, ומגן על עצמו גם אם זה אומר לפגוע באחרים.
ולמרות שצ'אפי נתקל כאיכות-יחסי וכדומה לאנושות, רובוט חיוני בעולם האמיתי, ככל הנראה, לא היה עומד בהנמקות דמויי-אנוש, ומפחית את היכולת שלנו לחזות את מעשיו או להבין את המוטיבציות שלו. "ברגע שתגיע לרמה זו, בעצם איבדת שליטה על המערכת, " אומר פינק. "זה גם מרגש וגם מפחיד, כי זה לא יהיה דמוי אדם."
בנוסף, בין אם התוכנה מאכלסת בתחילה את הקליפה של רובוט אנושי דמוי צ'אפי, חללית או אפילו שתל בגופך, ברגע שהיא תימלט מהגבול של אותה צורה פיזית - כפי שתואר (אם כי ראוי ליתר דיוק) בהתעלות - זה היה להיות כמעט בלתי אפשרי להכיל אותו.
אף על פי שספרי וסרטי מדע בדיוני שמרו על שאלת האינטליגנציה המלאכותית במשך עשרות שנים, פינק מציין כי הפריצה ההכרחית "יכולה ממש להתרחש בכל עת עכשיו." לא כולם מרגישים בנוח עם זה. בינואר האחרון, מייסד שותף של פייפאל ומנכ"ל טסלה מוטורס, אלון מאסק, תרמו 10 מיליון דולר כדי למנוע משליחות רובוטים ביום מן הימים להשתלט על כדור הארץ ולחסל אותנו. על ידי ניסיון ליצור בינה מלאכותית אוטונומית, הוא מזהיר, אנו "מזמנים את השד".
מאסק איננו לבדו בטרדותיו לגבי קו המחקר הזה. בכתב העת "שאל אותי כל דבר" מאת Reddit שכתב לאחרונה, מייסד משותף והפילנתרופ של מיקרוסופט, ביל גייטס, כתב כי הוא "נמצא במחנה שדואג לאינטליגנציה סופר" ו"לא מבין מדוע יש אנשים שלא מודאגים "ממלאכותיות מעשה ידי אדם. יצורים החורגים מהיכולות הקוגניטיביות שלנו וזוכים לאוטונומיה. הפיזיקאי סטיבן הוקינגס משתף את הדאגה באותה מידה, ומנסח זאת בצורה בוטה עוד יותר: "פיתוח אינטליגנציה מלאכותית מלאה יכול לאיית את סיום המין האנושי", אמר ל- BBC.
אפילו סרטי הקומיקס שוברי הקופות דורכים בדרך זו שחוקה היטב, השמורה בדרך כלל לז'אנר המדע הבדיוני. כפי שנרמז בטריילר האחרון ל"נוקמים של מארוול: עידן אולטרון ", גיבורי הסרט נלחמים ברובוט שנוצר במקור כמושיע כוכב הלכת ממלחמה, אך במקום זאת מחליט להשמיד את האנושות.
עם זאת, על הצד השמאלי, בני אדם יכולים להיות התוקפנים, ומאיימים על קיומם של היצורים האוטונומיים שאנו עצמנו יוצרים, כפי שמתואר בצ'אפי . אם אנו בני האדם הולכים בדרך שלווה תלויה במידה רבה בשני דברים, מאטו אומר: אם אנו יכולים לתקשר עם הרובוטים, ואם יש לנו אמפתיה אליהם. האחרון, הוא מסביר, תלוי בגורמים רדודים לכאורה כמו נראים הרובוטים - האם יש להם עיניים? האם הם נראים לנו דומים, אך לא דומים מדי? - והאם הם נתקלים כחביבים ככל האפשר. שיתוף אותן מטרות כמונו יעזור גם במקרה שלהם. גורמים אלה משתמשים בנטייה הנוירולוגית המולדת שלנו לקטלג אחרים כחלק מהקבוצה המהימנה שלנו, או כחלק מקבוצה חיצונית שעלולה להיות מאיימת. רובוטיסטים לוקחים בחשבון גורמים פסיכולוגיים כאלה בעיצוב המכונות האחרונות שלהם.
מאטו מציין, עם זאת, שגם אם הרובוטים אכן יספקו את כל התנאים המוקדמים הללו, עדיין אין שום ערובה לכך שהדברים יתנהלו כשורה. "לבני אדם קשה מספיק לראות אחד את השני כאנושיים, קל וחומר כ- AI או חיים זרים", אומר מאטו. "יש לנו גם היסטוריה של קשרים ראשונים שהולכים בצורה גרועה מאוד."
אז יכול להיות שאנחנו הורסים את היצירה שלנו עוד לפני שנכיר אותה, או שההפך מתגשם - שצאצאי התוכנה שלנו הופכים עבדים לכולנו כפי שניתן לראות במטריקס, או מחליטים, בסגנון Skynet, שהאנושות פשוט אינה לא ראוי לקיום. מצד שני, בני אדם ורובוטים אוטונומיים יכולים לחבק זה את זה, להסכים לעבוד יחד על עיסוקים מעניינים כמו חקר החלל. הדרך היחידה לגלות אם הדברים מסתיימים בלהבות ובדמעות או בהתקדמות ובחברות, היא ליצור את היצורים האלה מלכתחילה. אבל אם העבר הוא אינדיקטור כלשהו, זה יהיה רק עניין של זמן. "אנו מונעים תמיד על ידי סקרנות, על ידי רצון לחקור ולגלות את הבלתי צפוי", אומר פינק. "ואתיקה מדעית נוטה לפגר אחרי ההתקדמות שלנו."
"לפעמים אנו מקבלים כוח אטומי, ולפעמים אנו מקבלים נשק אטומי", מוסיף מאטו. "איננו יודעים באיזה כיוון זה ייקח, אך איננו יכולים להפסיק את המדע."
