המופע המוזיקלי "מכונת ראייה" חושף מה הבינה המלאכותית "חושבת" עלינו | בבית הסמיתסוני | סמית'סוניאן - מאמרים, אמנות ותרבות, אומנות ואמנים, בסמיתסוניאן, תערוכות, חדשנות, מחדשים

בשנה שעברה יצרה פייסבוק שני צ'אט בוטים וביקשה מהם להתחיל לדבר זה עם זה, לתרגל את כישורי המשא ומתן שלהם. הבוטים, מסתבר, היו די טובים במשא ומתן - אבל הם עשו זאת בשפה המורכבת שלהם שלא הייתה מובנת לבני אדם.

תוכן קשור

אמן זה שוכן בעולם הקלסטיני של סודות ומעקב מסווגים

לכאן הולך העולם. מחשבים יוצרים תוכן אחד לשני, לא לנו. תמונות מצולמות על ידי מחשבים, כך שמחשבים אחרים יוכלו להציג ולפרש אותם. הכל קורה בשקט, לעתים קרובות ללא ידיעתנו או הסכמתנו.

לכן לימוד כיצד לראות כמו מחשב - הפיכת התקשורת בין מכונה למכונה - עשוי להיות המיומנות החשובה ביותר של המאה ה -21.

ב- 25 באוקטובר 2018 ניגן רביעיית קרונוס - דייוויד הרינגטון, ג'ון שרבה, האנק דאט וסאני יאנג - קונצרט במוזיאון האמנות האמריקני סמית'סוניאן. 400 אנשים ובנו תריסר אלגוריתמים של בינה מלאכותית צפו בהם, באדיבות טרבור פגלן, האמן שמאחורי תערוכת "אתרים לא נראים", המוצגת כעת במוזיאון.

בזמן שהנגנים ניגנו, מסך מעליהם הראה לנו בני אדם את מה שהמחשבים רואים.

בזמן שקרונוס עבר את דרכו ביצירה עגומה במקור מהאימפריה העות'מאנית, על המסך זיהו האלגוריתמים העומדים על המסך את פני הנגנים, מתווים שפתיים, עיניים ואף עבור כל אדם (ולפעמים רואים פרצופים "רפאים" שבהם לא היו כאלה - לעתים קרובות בתוך סמרטוט השיער של מייסד קרונוס). ככל שהאלגוריתמים הלכו והתקדמו, עדכון הווידיאו דעך עד שנשארו רק שורות ניאון על רקע שחור. לבסוף, קווי המתאר של הפנים התפוגגו עד שסידור קווי מופשט - ככל הנראה כל המחשב הדרוש להבנת "פנים", אך לא מובן לחלוטין לבני אדם - היה כל מה שנשאר.

"מכונת ראייה", טרבור פגלן, רביעיית קרונוס (ברוס גוטרי)

"מכונת ראייה", טרבור פגלן, רביעיית קרונוס

הופעת הבכורה של "החוף המזרחי" של המופע, שכונתה "מכונת ראיה", כמו עבודתו האחרת של פגלן, ביקשה מהצופים והמאזינים ללמוד כיצד לראות כמו מחשבים, ולבחון מחדש את הקשר האנושי לטכנולוגיה - הטלפונים בכיסים שלנו והעיניים בפנים השמיים, וכל מה שביניהם.

זה 2018, והרעיון שטלפונים סלולריים צופים בנו כבר לא מרגיש כמו תיאוריית קונספירציה המוצגת על ידי בלוגר מרתף עם כובעי פח. גוגל נתפסה מוקדם יותר השנה אחרי מעקב אחר מיקומי משתמשי הטלפונים של אנדרואיד, גם אם המשתמשים השביתו את הפיצ'ר. אנשים רבים משוכנעים שהטלפונים שלנו מקשיבים לנו להצגת מודעות טובות יותר - פייסבוק וחברות אחרות מכחישות את ההאשמות הללו, למרות שזה אפשרי מבחינה טכנית וחוקית לעשות זאת. עיתונאים טכניים אלכס גולדמן ו- PJ Vogt חקרו ומצאו את אותו הדבר: אין שום סיבה שהטלפונים שלנו לא יקשיבו, אך מצד שני, מפרסמים יוכלו ללקט עלינו מספיק מידע בשיטות אחרות שהם פשוט לא צריכים. .

בהקשר זה בוצע "מכונת הראייה". תריסר המצלמות שצפו ברביעיית קרונוס שלחו וידיאו בשידור חי מההופעה אל מתלה מחשבים, המשתמש באלגוריתמים של בינה מלאכותית מחוץ למדף כדי ליצור את הוויזואליות המוזרות. האלגוריתמים זהים לאלה שמשמשים בטלפונים שלנו כדי לעזור לנו לקחת טוב יותר selfies, כאלה שמשמשים מכוניות בנהיגה עצמית כדי למנוע מכשולים, ואלה המשמשים את אכיפת החוק והנחיית אמצעי לחימה. אז בעוד שהתוצאות על המסך היו לפעמים יפות, או אפילו מצחיקות, היה זרם של אימה.

"מה שנדהמתי מהיצירה הספציפית הזו הוא שהוא מראה לנו משהו שהוא - וזה נכון לגבי כל העבודות שלו - הוא מראה לנו משהו שמטריד והוא עושה את זה באמצעות טריקים", אומר ג'ון ג'ייקוב, אוצר המוזיאון. לצילום, שארגן את "אתרים שלא נראו".

"זה טריק מכוון, " הוא אומר, "וזה עובד."

מאוחר יותר, אלגוריתמים מתוחכמים לזיהוי פנים קיבלו פסקי דין לגבי חברי קרונוס, והציגו את תוצאותיהם על גבי מסך. "זה ג'ון [שרבה]. ג'ון בן 24-40, " אמר המחשב. "סאני [יאנג] היא 94.4% נקבה. סאני כועסת 80% ו -10% נייטרלית."

"אחד הדברים שאני מקווה שההופעה מראה, " אומר פגלן, "הוא כמה מהדרכים בהן סוג התפיסה של המחשבים אינו נייטרלי. זה מוטה מאוד ... עם כל מיני הנחות פוליטיות ותרבותיות לא נייטרלי. " אם מערכת סיווג המגדר אומרת שסאני יאנג היא 94.4 אחוז נשים, זה מרמז שמישהו הוא 100 אחוז נקבה. "ומי החליט מה זה מאה אחוז נקבה? האם ברבי מאה אחוז נקבה? ולמה מגדר הוא בינארי?" פוגלן שואל. "לראות שזה קורה ברגע שהממשלה הפדרלית מנסה למחוק אנשים מגדרים משונים באופן מילולי, זה מצחיק מצד אחד אבל בעיניי זה גם מחריד."

אלגוריתם מאוחר יותר מחלק את האחוזים ועבר פשוט לזהות אובייקטים בסצנה. "מיקרופון. כינור. אדם. מדוזה. פאה." (שני הדברים האחרונים הם בבירור טעויות; נראה כי האלגוריתם בלבל את האנק דאט עבור מדוזה ואת שערה האמיתי של הרינגטון עבור פאה.) ואז הסיווגים הפכו מורכבים יותר. "סאני מחזיקה זוג מספריים, " אמרה המכונה כשאור נצץ מיתרי הצ'לו שלה. "ג'ון אוחז בסכין." מה היה קורה אם המסווג ימסור מידע - לא נכון - לאכיפת החוק, לעולם לא נדע.

רוב משתמשי הקצה של פלטפורמות AI - שאינן אמניות - עשויים לטעון שמערכות אלה עשויות להיות בעלות הטיות משלהן, אך תמיד יקבלו כניסה סופית על ידי אדם. אלגוריתם מתוצרת אמזון, Rekognition, אותו מוכרת החברה לאכיפת החוק ואולי גם ל- ICE, זיהה באופן מפורש 28 חברי קונגרס כאנשים שהאשימו אותם בעבירה על ידי השוואה בין פניהם לתמונות ספלים במאגר מידע זמין לציבור. באותה תקופה טענה אמזון כי ה- ACLU, שהשתמשה במערכת כדי ליצור את ההתאמות, השתמשה לא נכון ב- Rekognition. מהחברה נמסר כי הגדרת ברירת המחדל של המערכת למשחקים, המכונה "סף אמון" היא 80 אחוזים בלבד. (במילים אחרות, האלגוריתם היה בטוח רק ב -80 אחוז כי הנציג ג'ון לואיס עבריין.) דובר אמזון אמר כי הוא ממליץ למחלקות המשטרה להשתמש בסף אמון של 95 אחוז, וכי "הכרה באמזון משמשת כמעט אך ורק כדי לעזור צמצם את התחום ואפשר לבני אדם לבחון באופן מהיר ולשקול אפשרויות תוך שימוש בשיקול דעתם. "מחשבים אולי מתקשרים זה עם זה, אך - לעת עתה - הם עדיין מבקשים מבני האדם לבצע את השיחה הסופית.

למוזיקה, שנבחרה על ידי פגלן עם קלט של קרונוס, יש מה לומר על הטכנולוגיה. קטע אחד, "כוח", מאת ריימונד סקוט, הוא "ככל הנראה המפורסם ביותר בשימוש בקרטונים בסצינות מפעל", אומר פגלן. "אם אי פעם אתה רואה מפעל מסוג של ייצור יתר ומשתגע, זו לעיתים קרובות המוזיקה שמדברת אליו. בשבילי זו דרך של סוג של חשיבה על התיעוש הכמעט קריקטורי הזה וסוג למקם אותם בהקשר טכנולוגי." קטע נוסף, "רכבות שונות" של סטיב רייך, סגר את הסט. קרונוס מבצע רק את התנועה הראשונה, העוסקת בילדותו של הרייך בשנות השלושים והארבעים; פגלן אומר שהוא חושב על היצירה כחוגג "תחושת העושר וההתקדמות שהרכבות מקלות". *

זה צורף לתמונות ממסד נתונים זמין לציבור בשם ImageNet, המשמשות ללמד מחשבים מה הדברים. (נקרא גם "נתוני אימונים", אז כן, זה קצת משחק מילים). המסך הבזיק תמונות מהירות בצורה בלתי אפשרית, והראו דוגמאות לפירות, פרחים, ציפורים, כובעים, אנשים עומדים, אנשים הולכים, אנשים קופצים ואנשים כמו ארנולד שוורצנגר. אם היית רוצה ללמד מחשב כיצד לזהות אדם, כמו שוורצנגר, או בית או את המושג "ארוחת ערב", היית מתחיל בלראות למחשב את אלפי התמונות האלה.

היו גם קטעי וידיאו קצרים של אנשים מתנשקים, מחובקים, צוחקים ומחייכים. אולי AI שהוכשר בתמונות האלה יהיה ידידותי וידידותי.

אבל "רכבות שונות" לא עוסק רק באופטימיות; התנועות המאוחרות יותר, שקרונוס לא ניגן ביום חמישי אך "מרומזות" על ידי הראשון, הן על אופן השימוש בהבטחה לנסוע ברכבת כדי להפוך למכשיר השואה. רכבות, שנראו כמו התקדמות טכנולוגית, הפכו לרכבים שבהם הועברו עשרות אלפי יהודים למחנות המוות. מה שנראה כמו טכנולוגיה מיטיבה נחתם לרוע.

"זה כמו 'מה יכול להשתבש?' פגלן אומר. "אנחנו אוספים את כל המידע על כל האנשים בעולם."

ולמעשה, עם סיום "רכבות שונות" המיקוד עבר. המסך לא הראה עוד תמונות של קרונוס או נתוני האימונים מ- ImageNet; במקום זאת, הוא הראה עדכון וידאו חי של הקהל, כאשר אלגוריתמים לזיהוי פנים בחרו בתכונות של כל אחד מהם. באמת, גם כשאנחנו חושבים שלא מעקב עלינו, אנחנו כן.

בעדכון וידאו חי של הקהל, אלגוריתמים לזיהוי פנים בחרו בתכונות של כל אחד מהם. (ברוס גוטרי)

כדי לדווח על סיפור זה, עזבתי את ביתי והלכתי לתחנת הרכבת התחתית, שם סרקתי כרטיס אלקטרוני המקושר לשמי כדי לעבור דרך הקרוסלה, ושוב כשיצאתי מהרכבת התחתית במרכז העיר. במרכז העברתי חצי תריסר מצלמות אבטחה לפני שנכנסתי למוזיאון, שם הבחנתי בלפחות שתיים נוספות נוספות (דובר סמיתסוניאן אומר שהסמיתסוניאן לא משתמש בטכנולוגיית זיהוי פנים; מחלקת המשטרה המטרופולינית של DC אומרת את אותו דבר לגבי המצלמות שלה).

הקלטתי ראיונות באמצעות הטלפון שלי והעליתי את השמע לשירות תמלול שמשתמש ב- AI כדי להבין מה אני, והנושאים שלי, אומרים, ואולי לא יכול לכוון את הפרסום לעברי בהתבסס על תוכן הראיונות. שלחתי דוא"ל באמצעות ג'ימייל, שעדיין "קורא" את כל מה שאני שולח (אם כי כבר לא כדי להציג מודעות).

בתהליך הדיווח, כשעברתי בעיר, נתקלתי במכונית Google Street View - אני לא ממציא את זה. פעמיים. זו לא פרנויה אם הם באמת צופים בך, נכון?

אז מה נשאר, בעולם הזה שבו מחשבים מבצעים את הראייה, ואולי פוסקים עלינו פסקי דין? "מכונת ראייה" קוראת לנו ללמוד לחשוב כמו מחשב - אך היא גם מזכירה לנו שיש כמה חלקים בנו שהם לעת עתה אנושיים לחלוטין.

מוסיקה, אומרת פגלן, "זה משהו שממש לא ניתן לכימות ... כשאתה צופה במערכת ראייה ממוחשבת שעוסקת בחקירת מבצעים, זה באמת בשבילי מציין כי המפרץ העצום בתפיסות בין האופן בו אנו תופסים תרבות ורגש ומשמעות. וכל הדרכים בהן אלה אינם נראים למערכות אוטונומיות. "

או כהגדרתו של הרינגטון, אתה יכול לעשות מוזיקה עם כינור עשוי עץ או כזה שנעשה במדפסת תלת מימד. אתה יכול להשתמש בקשת סיבי פחמן או כזו העשויה מעץ פרנמבוקו. אבל, הוא אומר, עדיין צריך להעביר את הקשת לאורך המיתרים. המוזיקה "הופכת ליקרה יותר כי היא בעבודת יד."

ובינתיים זה עדיין משהו שרק אנחנו יכולים לעשות. ייתכן שהמכונות כבר לא צריכות אותנו. אבל כשמדובר בצליל החגיגי של קשת על מיתר הכינור והמיתרים הרגשיים שמציינים משיכה, אנחנו לא צריכים את המכונות.

"טרוור פגלן: אתרים בלתי נראים", שאצר ג'ון ג'ייקוב, ממשיך במוזיאון האמנות האמריקני סמית'סוניאן בוושינגטון הבירה, עד 6 בינואר 2019. הוא אמור לנסוע למוזיאון לאמנות עכשווית בסן דייגו, 21 בפברואר - 2 ביוני, 2019.

* הערת העורך, 2 בנובמבר 2018: סיפור זה נערך כדי להבהיר את המשמעות והסיפור המקורי המיועד של קומפוזיציית "הרכבות השונות" של סטיב רייך.