מה קורה כאשר בינה מלאכותית מדליקה אותנו?

בינה מלאכותית עשתה דרך ארוכה מאז R2-D2. בימינו, רוב המילניאלים יאבדו ללא מערכות GPS חכמות. הרובוטים כבר מנווטים בשדות קרב, ומזמינים עשויים בקרוב למסור חבילות אמזון לפתחנו.

סירי יכולה לפתור משוואות מורכבות ולספר לכם איך לבשל אורז. היא אפילו הוכיחה שהיא יכולה אפילו להגיב לשאלות עם חוש הומור.

אך כל ההתקדמות האלו תלויות בכך שמשתמש ייתן את הכיוון של ה- AI. מה יקרה אם יחידות ה- GPS יחליטו שהם לא רוצים ללכת למנקים היבשים, או גרוע מכך, סירי החליטה שהיא יכולה להיות חכמה יותר בלעדיך?

ההמצאה הסופית שלנו: בינה מלאכותית וסוף העידן האנושי. "> ההמצאה הסופית שלנו: בינה מלאכותית וסוף העידן האנושי. ">" לפני שנשתף את כדור הארץ במכונות סופר-אינטליגנטיות, עלינו לפתח מדע להבנתן. אחרת הם ישתלטו ", אומר הסופר ג'יימס ברט על ספרו החדש, ההמצאה הסופית שלנו: בינה מלאכותית וסוף העידן האנושי . (באדיבות ג'יימס בארת)

אלה הן רק התוצאות המוזרות ביותר שג'יימס בארט, סופר ויוצר דוקומנטרי, מנבא בספרו החדש, ההמצאה הסופית שלנו: בינה מלאכותית וסוף העידן האנושי .

לא מעט זמן, אומר ברט, בינה מלאכותית - מסירי וכלה במל"טים ומערכות כריית נתונים - תפסיק לחפש אחר בני אדם אחר שדרוגים ותתחיל לחפש שיפורים בכוחות עצמם. ובניגוד לרמות ה- R2-D2 ו- HAL של המדע הבדיוני, ה- AI של עתידנו לא בהכרח יהיה ידידותי, הוא אומר: הם למעשה יכולים להיות מה שהורס אותנו.

על קצה המזלג, אתה יכול להסביר את הרעיון הגדול שלך?

במאה זו מדענים ייצרו מכונות עם אינטליגנציה השווה ואז עולה על שלנו. אך לפני שנשתף את כדור הארץ במכונות סופר-אינטליגנטיות, עלינו לפתח מדע להבנתן. אחרת הם ישתלטו. ולא, זה לא מדע בדיוני.

מדענים כבר יצרו מכונות שהן טובות יותר מבני אדם בשחמט, Jeopardy!, ניווט, כריית נתונים, חיפוש, הוכחת משפט ואינספור משימות אחרות. בסופו של דבר, ייווצרו מכונות שהן טובות יותר מבני אדם במחקר AI

בשלב זה הם יוכלו לשפר את היכולות שלהם מהר מאוד. מכונות אלו המשפרות את עצמן יצליחו למקד את היעדים שאיתם נוצר, בין אם מדובר בחקירת חלל, משחק שחמט או קטיף מניות. כדי להצליח הם יחפשו ויוציאו משאבים, יהיה זה אנרגיה או כסף. הם יבקשו להימנע ממצבי הכישלון, כמו כיבוי או ניתוק. בקיצור, הם יפתחו כוננים, כולל הגנה עצמית ורכישת משאבים - כוננים כמו שלנו. הם לא יהססו להתחנן, לשאול, לגנוב וחמור מכך להשיג את מה שהם צריכים.

איך התעניינת בנושא זה?

אני קולנוען דוקומנטרי. בשנת 2000 ראיינתי את הממציא ריי קורצוויל, את הרובוטיסט רודני ברוקס ואת אגדת המדע המדעי ארתור סי קלארק לסרט TLC על יצירת הרומן והסרט, 2001: אודיסיאה בחלל. הראיונות בחנו את הרעיון של האל 9000 והמחשבים המרושעים. ספריה של קורצוויל הציגו את עתיד ה- AI כ"סינגולריות "נלהבת, תקופה בה ההתקדמות הטכנולוגית עולה על היכולת של בני האדם להבין אותם. עם זאת, הוא צפה רק לדברים טובים העולים מ- AI שהם מספיק חזקים כדי להתאים ואז להתעלות על האינטליגנציה האנושית. הוא חוזה שנוכל לתכנת מחדש את תאי גופנו כדי להביס מחלות והזדקנות. אנו נפתח סיבולת סופר עם ננו-רובוטים שמספקים יותר חמצן מאשר תאי דם אדומים. אנו נטען את מוחנו באמצעות שתלים ממוחשבים כך שנהפוך לאינטליגנציה-על. ואנחנו נעביר את המוח שלנו למדיום עמיד יותר מ"כלי הרטוב "הנוכחיים ונחיה לנצח אם נרצה. ברוקס היה אופטימי והתעקש שרובוטים המשופרים ב- AI יהיו בעלי ברית ולא איומים.

לעומת זאת, הסופר קלארק, שהפך למדע, היה פסימי. הוא אמר לי שהאינטליגנציה תנצח, ובני אדם יתחרו ככל הנראה על הישרדותם עם מכונות סופר-אינטליגנטיות. הוא לא היה ספציפי לגבי מה שיקרה כשנחלוק את כדור הארץ עם מכונות סופר-אינטליגנטיות, אבל הוא הרגיש שזה יהיה מאבק למין האנושי שלא ננצח.

זה נוגד את כל מה שחשבתי על AI, אז התחלתי לראיין מומחי בינה מלאכותית.

באילו ראיות יש לך כדי לתמוך ברעיון שלך?

בינה מלאכותית מתקדמת היא טכנולוגיה לשימוש כפול, כמו ביקוע גרעיני, המסוגלת לפגוע בטוב או גדול מאוד. אנחנו רק מתחילים לראות את הפגיעה.

שערוריית הפרטיות של ה- NSA התרחשה מכיוון שה- NSA פיתחה כלי כריית נתונים מתוחכמים מאוד. הסוכנות ניצלה את כוחה בכדי לצלול את המטא נתונים של מיליוני שיחות טלפון ואת כל האינטרנט - באופן קריטי, כל הדוא"ל. פיתוי מכוחו של AI לכריית נתונים, סוכנות שהופקדה להגן על החוקה במקום ניצלה אותה לרעה. הם פיתחו כלים חזקים מכדי שיוכלו להשתמש בהם באחריות.

כיום מתנהל קרב אתי נוסף על יצירת מל"טים ורובוטים בשדה הקרב באופן מלא, המונע על ידי AI מתקדמים - הרוצחים אנושיים ללא בני אדם. זה מתבשל בין משרד ההגנה לבין יצרני המל"טים והרובוטים שמשולמים על ידי ה- DOD, לבין אנשים שחושבים שזה טיפשי ולא מוסרי ליצור מכונות הרג אינטליגנטיות. אלה בעד מל"טים אוטונומיים ורובוטים בשדה הקרב טוענים שהם יהיו יותר מוסריים - כלומר פחות אמוציונליים, יכוונו טוב יותר ויהיו ממושמעים יותר ממפעילים אנושיים. המתנגדים להוצאת בני האדם מהלולאה בוחנים את ההיסטוריה האומללה של המל"טים של הרג אזרחים, ומעורבות בהתנקשויות חוץ-משפטיות. מי מושך את האשמה המוסרית כאשר רובוט הורג? יצרני הרובוטים, משתמשי הרובוט או אף אחד? לעולם אל תזכר את המשוכות הטכניות של לספר לחבר מאויב.

בטווח הארוך יותר, כפי שטוענים מומחים בספרי , לא ניתן יהיה לשלוט בקלות ב- AI המתקרב למודיעין ברמה האנושית; למרבה הצער, אינטליגנציה-על אינה מרמזת על חסד. כפי שניסח זאת תיאורטיקן AI אליעזר יודקובסקי מ- MIRI (מכון המחקר למודיעין מכונות), "ה- AI לא אוהב אותך וגם לא שונא אותך, אבל אתה עשוי מאטומים שהוא יכול להשתמש בהם למשהו אחר." אם האתיקה לא יכולה נבנה במכונה, אז ניצור פסיכופתים סופר-אינטליגנטים, יצורים ללא מצפנים מוסריים, ואנחנו לא נהיה אדוניהם לאורך זמן.

מה חדש בחשיבה שלך?

אנשים וקבוצות מגוונים כמו מדען המחשבים האמריקני ביל ג'וי ו- MIRI הזהירו זה מכבר שיש לנו הרבה מה לחשוש ממכונות שהאינטליגנציה שלהם מעלימה את שלנו. בהמצאה הסופית שלנו, אני טוען ש- AI ינוצל לרעה בדרך לפיתוח למודיעין ברמה האנושית. בין היום ליום בו מדענים יוצרים אינטליגנציה ברמה האנושית, יהיו לנו טעויות הקשורות ל- AI ויישומים פליליים.

מדוע לא נעשה יותר, או מה נעשה בכדי למנוע מ- AI להפעיל אותנו?

אין סיבה אחת, אלא רבות. ישנם מומחים שלא מאמינים כי אנו קרובים מספיק ליצירת בינה מלאכותית ברמה האנושית ומעבר לדאגה מהסיכונים שלה. יצרני AI רבים זוכים בחוזים עם סוכנות הפרויקטים למחקר מתקדם של הביטחון [DARPA] ואינם רוצים להעלות נושאים שהם מחשיבים פוליטיים. הטיית הנורמליות היא הטיה קוגניטיבית המונעת מאנשים להגיב לאסונות ולאסונות במהלך ההתרחשות - זה בהחלט חלק מזה. אבל הרבה יצרני AI עושים משהו. בדוק את המדענים שמייעצים למירי. ועוד, הרבה יותר יסתבכו ברגע שהסכנות הכרוכות ב AI מתקדם יכנסו לדיאלוג המיינסטרים.

האם אתה יכול לתאר רגע בו ידעת שזה גדול?

אנו בני האדם מכוונים את העתיד לא בגלל שאנחנו היצורים המהירים ביותר או החזקים ביותר בכוכב הלכת, אלא בגלל שאנחנו החכמים ביותר. כשאנחנו חולקים את כדור הארץ עם יצורים חכמים מאיתנו, הם יכוונו את העתיד. כשהבנתי את הרעיון הזה הרגשתי שאני כותב על השאלה החשובה ביותר בזמננו.

לכל הוגה גדול יש קודמים שעבודתם הייתה מכריעה לגילויו. מי נתן לך את הבסיס לבנות את הרעיון שלך?

היסודות לניתוח סיכוני AI פותחו על ידי המתמטיקאי IJ Good, סופר המדע הבדיוני ורנור וינגה, ואחרים כולל מפתח AI סטיב אומוהונדרו. כיום, MIRI והמכון לעתיד אנושי של אוקספורד כמעט בודדים בטיפול בבעיה זו. ההמצאה הסופית שלנו כוללת כ -30 עמודים של הערות קצה המוכרות בהוגים אלה.

בחקר ופיתוח הרעיון שלך, מה היה נקודת השיא? ונקודת השפל?

נקודות השיא היו כתיבת ההמצאה הסופית שלנו, והדיאלוג המתמשך שלי עם יצרני התעשייה האווירית. אנשים שמתכנתים AI מודעים לנושאי הבטיחות ורוצים לעזור לבוא עם אמצעי הגנה. לדוגמה, MIRI עובדת על יצירת AI "ידידותי"

מדען המחשוב ותיאורטיקן סטיב אומוהונדרו דגל בתפיסת "פיגומים", שבה AI בטוח להפליא עוזר לבנות את הדור הבא של AI כדי להבטיח שגם הוא בטוח. ואז ה- AI עושה את אותו הדבר, וכן הלאה. אני חושב שיש ליצור שותפות ציבורית-פרטית בכדי להפגיש בין יצרני AI כדי לחלוק רעיונות בנושא ביטחון - משהו כמו הסוכנות הבינלאומית לאנרגיה אטומית, אך בשותפות עם תאגידים. נקודות השפל? ההבנה שטכנולוגיית ה- AI הטובה והמתקדמת ביותר תשמש ליצירת נשק. והנשק הזה בסופו של דבר יפנה נגדנו.

אילו שניים או שלושה אנשים נוטים לנסות להפריך את טענתך? למה?

הממציא ריי קורצוויל הוא המתנצל הראשי לטכנולוגיות מתקדמות. בשני הראיונות שלי איתו הוא טען שנתקשר עם טכנולוגיות ה- AI באמצעות שיפורים קוגניטיביים. קורצווייל ואנשים שנקראו באופן כללי טרנס-הומניסטים ורווקות יחידים חושבים כי AI ובסופו של דבר אינטליגנציה כללית מלאכותית ומעבר לה תתפתח אצלנו. לדוגמא, שתלים ממוחשבים ישפרו את מהירות המוח ואת היכולות הכלליות שלנו. בסופו של דבר, נפתח את הטכנולוגיה שתעביר את האינטליגנציה והתודעה שלנו למחשבים. אז אינטליגנציה-על תהיה אנושית לפחות בחלקה, מה שבתיאוריה יבטיח כי אינטליגנציה-על הייתה "בטוחה".

מסיבות רבות אני לא חובב נקודת מבט זו. הבעיה היא שאנו בני האדם אינם בטוחים באופן מהימן, ונראה שלא סביר שבני אדם סופר-אינטליגנטים יהיו כאלה. אין לנו מושג מה קורה לאתיקה של האדם לאחר שהאינטליגנציה שלהם מתעצמת. יש לנו בסיס ביולוגי לתוקפנות שלמכונות חסרות. מודיעין-על יכול מאוד להיות מכפיל תוקפנות.

מי יושפע ביותר מהרעיון הזה?

לכל אחד על הפלנטה יש הרבה מה לחשוש מהפיתוח הבלתי מוסדר של מכונות סופר-אינטליגנטיות. מרוץ מודיעיני קורה ממש עכשיו. השגת AGI היא תפקיד מספר אחת עבור גוגל, יבמ וחברות קטנות רבות יותר כמו Vicarious and Deep Thought, כמו גם DARPA, NSA והממשלות והחברות בחו"ל. הרווח הוא המוטיבציה העיקרית לאותו גזע. דמיין יעד אחד סביר: מוח אנושי וירטואלי במחיר מחשב. זה יהיה הסחורה הרווחית ביותר בהיסטוריה. דמיין בנקים של אלפי מוחות איכות הדוקטורט העובדים 24/7 על פיתוח תרופות, מחקר סרטן, פיתוח נשק ועוד ועוד. מי לא ירצה לקנות את הטכנולוגיה הזו?

בינתיים, 56 מדינות מפתחות רובוטים בשדה הקרב, והכונן הוא להפוך אותם למל"טים לאוטונומיים. אלה יהיו מכונות שהורגות, שלא מפוקחות על ידי בני אדם. מדינות מרוששות ייפגעו בעיקר ממל"טים אוטונומיים ורובוטים בשדה הקרב. בתחילה, רק מדינות עשירות יוכלו להרשות לעצמן בוטים להרוג אוטונומי, ולכן מדינות עשירות יפעילו נשק זה נגד חיילים אנושיים ממדינות מרוששות.

איך זה עשוי לשנות את החיים, כידוע?

תארו לעצמכם: תוך פחות מעשור, חצי תריסר חברות ואומות שדות מחשבים המתחרים או עולים על בינה אנושית. תאר לעצמך מה קורה כאשר מחשבים אלה מתמחים בתכנות מחשבים חכמים. בקרוב נשתף את כדור הארץ עם מכונות חכמות מאלפי או מיליוני פעמים חכמות מאיתנו. ובכל זאת, כל דור של טכנולוגיה זו יהיה בנשק. ללא פיקוח, זה יהיה אסון.

אילו שאלות נותרות ללא מענה?

פתרונות. הפיתרון המתבקש יהיה לתת למכונות תחושה מוסרית הגורמת להערכה של חיי אדם ורכוש. אבל תכנות אתיקה למכונה מתגלה כקשה ביותר. נורמות מוסריות שונות מתרבות לתרבות, הן משתנות עם הזמן והן בהקשר. אם אנו בני האדם לא יכולים להסכים על תחילת החיים, כיצד נוכל לומר למכונה שתגן על החיים? האם אנחנו באמת רוצים להיות בטוחים , או שאנחנו באמת רוצים להיות חופשיים ? אנחנו יכולים להתווכח על זה כל היום ולא להגיע לקונצנזוס, אז איך אפשר לתכנת אותו?

אנו, כמו שציינתי קודם, צריכים לחבר בין מפתחי AI. בשנות השבעים החליטו חוקרי DNA רקומביננטי להשעות את המחקר ולהיפגש לכנס באסילומאר בפסיפיק גרוב, קליפורניה. הם פיתחו פרוטוקולי בטיחות בסיסיים כמו "אל תעקוב אחר ה- DNA הנעליים שלך", מחשש לזיהום הסביבה בעבודות גנטיות הנמצאות בעיצומה. בגלל "הנחיות אסילומאר", העולם מרוויח גידולים מהונדסים גנטית, וטיפול גנטי נראה מבטיח. ככל הידוע, נמנעו תאונות. הגיע הזמן לכנס אסילומאר עבור AI

מה עומד בדרך?

רוח כלכלית ענקית מציעה פיתוח של אינטליגנציה מתקדמת ברמה AI אנושית במחיר מחשב תהיה הסחורה החמה ביותר בהיסטוריה. גוגל ויבמ לא ירצו לחלוק את סודותיהם עם הציבור או המתחרים. משרד ההגנה לא ירצה לפתוח את המעבדות שלהם לסין וישראל, ולהיפך. מודעות ציבורית צריכה לדחוף את המדיניות כלפי פתיחות ושותפויות ציבוריות-פרטיות שנועדו להבטיח בטיחות.

מה הבא בשבילך?

אני קולנוען דוקומנטרי, אז ברור שאני חושב על גרסת סרטים של ההמצאה הסופית שלנו .