כיצד הבנת בעלי חיים יכולה לעזור לנו להפיק את המרב מהבינה המלאכותית

בכל יום יוצאים אין ספור כותרות ממקורות רבים ברחבי העולם, הן מזהירות מפני השלכות חמורות והן מפני עתיד אוטופי מבטיח - והכל בזכות הבינה המלאכותית. AI "הופך את מקום העבודה", כותב וול סטריט ג'ורנל, בעוד מגזין פורצ'ון אומר לנו שאנחנו עומדים בפני "מהפכת AI" שתשנה "את חיינו." אבל אנחנו לא ממש מבינים איך יהיה אינטראקציה עם AI - או איך זה צריך להיות

עם זאת, מסתבר שכבר יש לנו מושג שאנחנו יכולים להשתמש בו כשאנחנו חושבים על AI: ככה אנחנו חושבים על בעלי חיים. כמאמן בעלי חיים לשעבר (גם אם בקצרה) שלומד כעת כיצד אנשים משתמשים ב- AI, אני יודע שבעלי חיים ואילוף בעלי חיים יכולים ללמד אותנו די הרבה על איך עלינו לחשוב, לגשת ולאינטראקציה עם בינה מלאכותית, גם עכשיו וגם ב עתיד.

שימוש באנלוגיות של בעלי חיים יכול לעזור לאנשים קבועים להבין רבים מההיבטים המורכבים של בינה מלאכותית. זה יכול גם לעזור לנו לחשוב איך הכי טוב ללמד מערכות אלה מיומנויות חדשות, ואולי הכי חשוב, איך נוכל להגות נכון את המגבלות שלהם, אפילו כשאנחנו חוגגים את האפשרויות החדשות של AI.

מסתכל על אילוצים

כפי שמסבירה מומחית AI, מגי בודן, "בינה מלאכותית מבקשת לגרום למחשבים לעשות כל מיני דברים שמוחות יכולים לעשות." חוקרי AI עובדים על לימוד מחשבים להגות, לתפוס, לתכנן, לנוע ולעשות אסוציאציות. AI יכול לראות דפוסים במערכות נתונים גדולות, לחזות את הסבירות להתרחש אירוע, לתכנן מסלול, לנהל את לוח הזמנים של האדם ואפילו לשחק תרחישים של משחקי מלחמה.

הרבה מהיכולות הללו הן כשלעצמן לא מפתיעות: כמובן שרובוט יכול להתגלגל סביב חלל ולא להתנגש בשום דבר. אבל איכשהו AI נראה קסום יותר כשהמחשב מתחיל להרכיב את הכישורים האלה כדי לבצע משימות.

קח, למשל, מכוניות אוטונומיות. מקורה של המכונית נטולת הנהג היא בפרויקט סוכנות המחקר המתקדמת להגנת המחקר של ההגנה שנקראה "רכב היבשה האוטונומי". מטרות הפרויקט היו לעודד מחקר על ראייה ממוחשבת, תפיסה, תכנון ובקרה רובוטית. בשנת 2004 הפך מאמץ ה- ALV לאתגר הגדול הראשון למכוניות בנהיגה עצמית. כעת, יותר משלושים שנה מאז שהמאמץ התחיל, אנו עומדים על כיפת המכוניות האוטונומיות או הנעות עצמן בשוק האזרחי. בשנים הראשונות, מעטים חשבו שמיצג כזה בלתי אפשרי: מחשבים לא יכלו לנהוג!

ובכל זאת, כפי שראינו, הם יכולים. היכולות של מכוניות אוטונומיות קלות יחסית להבנה. אך אנו נאבקים להבנת המגבלות שלהם. לאחר התרסקות טסלה הקטלנית ב -2015, בה פונקציית הטייס האוטומטי של המכונית לא הצליחה לחוש קרוואן הטרקטור החוצה לנתיבו, נראה כי מעטים עדיין מבינים את חומרת כמה הטייס האוטומטי של טסלה מוגבל באמת. אמנם החברה והתוכנה שלה נוקו מרשלנות על ידי המינהל הלאומי לבטיחות בתעבורה בכבישים, אך לא ברור אם הלקוחות באמת מבינים מה המכונית יכולה ואינה יכולה לעשות.

מה אם היו אומרים לבעלי טסלה לא שהם נוהגים בגרסת "בטא" של טייס אוטומטי אלא במכונית חצי אוטונומית עם השוויון הנפשי של תולעת? מה שמכונה "אינטליגנציה" שמספק "יכולת נהיגה עצמית מלאה" הוא באמת מחשב ענקי שדי טוב לחוש חפצים ולהימנע מהם, לזהות פריטים בתמונות ותכנון מוגבל. זה עשוי לשנות את נקודת המבט של הבעלים לגבי כמה המכונית באמת יכולה לעשות בלי קלט או פיקוח אנושי.

מה זה?

לעיתים קרובות טכנולוגים מנסים להסביר את ה- AI במונחים של בנייתו. קח, למשל, את ההתקדמות שנעשתה בלימוד מעמיק. זוהי טכניקה המשתמשת ברשתות רב שכבתיות בכדי ללמוד כיצד לבצע משימה. הרשתות צריכות לעבד כמויות אדירות של מידע. אך בגלל נפח הנתונים שהם דורשים, מורכבות האסוציאציות והאלגוריתמים ברשתות, לרוב לא ברור לאדם כיצד הם לומדים את מה שהם עושים. מערכות אלה עשויות להיות טובות מאוד במשימה מסוימת אחת, אך איננו באמת מבינים אותן.

במקום לחשוב על AI כמשהו על אנושי או זר, קל יותר לנתח אותם לבעלי חיים, שאינם אנושיים חכמים שיש לנו אימונים.

לדוגמא, אם הייתי משתמש בלימוד תגבור כדי לאמן כלב לשבת, הייתי משבח את הכלב ומעניק לו פינוקים כשהוא יושב על הפיקוד. עם הזמן הוא היה לומד לקשר את הפקודה להתנהגות לטפל.

הכשרת מערכת AI יכולה להיות זהה מאוד. כחיזוק למידה עמוקה, מעצבים אנושיים הקימו מערכת, רואים את מה שהם רוצים שהיא תלמד, יתנו לה מידע, צפו במעשיה ויתנו לה משוב (כמו שבח) כשהם רואים מה הם רוצים. בעיקרו של דבר, אנו יכולים להתייחס למערכת ה- AI כמו שאנחנו מתייחסים לבעלי חיים שאנו מאמנים.

האנלוגיה עובדת גם ברמה עמוקה יותר. אני לא מצפה שהכלב היושב יבין מושגים מורכבים כמו "אהבה" או "טוב". אני מצפה שהוא ילמד התנהגות. בדיוק כשאנחנו יכולים לגרום לכלבים לשבת, להישאר ולהתגלגל, אנחנו יכולים לגרום למערכות AI להזיז מכוניות סביב כבישים ציבוריים. אבל יותר מדי מצפה מהמכונית "לפתור" את הבעיות האתיות שיכולות להתעורר במקרי חירום.

גם עוזרים לחוקרים

חשיבה על AI כחיה ניתנת להדרכה אינה מועילה רק כדי להסביר אותה לקהל הרחב. זה מועיל גם לחוקרים ומהנדסים שבונים את הטכנולוגיה. אם מלומד AI מנסה ללמד מערכת מיומנות חדשה, חשיבה על התהליך מנקודת מבטו של מאמן בעלי חיים יכולה לעזור בזיהוי בעיות או סיבוכים פוטנציאליים.

לדוגמה, אם אני מנסה לאמן את הכלב שלי לשבת, ובכל פעם שאני אומר "לשבת" הבאזר לתנור הולך, הכלב שלי יתחיל לשייך את הישיבה לא רק לפקודה שלי, אלא גם לצלילי הקול. זמזם התנור. בעיקרו של הזמזם הופך לאות נוסף לאומר לכלב לשבת, המכונה "חיזוק מקרי". אם אנו מחפשים חיזוקים או אותות מקריים במערכות AI שאינם פועלים כראוי, אנו נדע טוב יותר לא רק מה הולך לא נכון, אך גם איזה הסבה מקצועית יעילה ביותר.

זה דורש מאיתנו להבין אילו מסרים אנו מעבירים במהלך אימוני AI, כמו גם מה ה- AI עשוי לצפות בסביבה הסובבת אותו. זמזם התנור הוא דוגמא פשוטה; בעולם האמיתי זה יהיה הרבה יותר מסובך.

לפני שאנו מברכים על אדוני AI שלנו ומסירים את חיינו ואת עבודתנו לרובוטים, עלינו להשהות ולחשוב על סוג האינטליגנציות שאנו יוצרים. הם יהיו טובים מאוד בביצוע פעולות או משימות מסוימות, אך הם אינם יכולים להבין מושגים ואינם יודעים דבר. אז כשאתה חושב על הפגזת אלפים לרכב טסלה חדש, זכור שתפקוד הטייס האוטומטי שלה הוא באמת רק תולעת מהירה וסקסית מאוד. האם אתה באמת רוצה לתת שליטה על חייך ועל חיי יקיריך לתולעת? כנראה שלא, אז שמור על הידיים על ההגה ואל תירדם.

הת'ר רוף, עמיתת מחקר בכירה, המחלקה לפוליטיקה ויחסים בינלאומיים, אוניברסיטת אוקספורד; מדען מחקר, יוזמת אבטחה גלובלית, אוניברסיטת מדינת אריזונה