להאזנה לפרק לחצו פליי כאן, יש לגלול מטה על מנת לקרוא את התמלול
להאזנה בכל יישומוני ההסכתים או לצד תמלול כאן באתר
הביקורת שלי על עיצוב רובוטים זה שנראה שאת כל הרובוטים עיצבו ילדים בני עשר. צריך לתכנן את הגוף של הרובוט כממשק משתמש. האינטראקציה מעניינת אותנו הרבה פעמים הרבה יותר מאשר האינטליגנציה
פרופ’ גיא הופמן
האורח שלי היום הוא פרופ’ גיא הופמן
פרופסור-חבר באונ’ קורנל, עוסק באינטראקציה בין בני אדם לרובוטים
גיא קצת מצטנע כאן, כי הוא מחלוצי התחום, רובוטיקאי מקורי בעל שם עולמי, שהגישות שלו יצרו סטנדרטים חדשים לאינטראקציה עם רובוטים. גיא הביא לתחום הרובוטיקה כלים מעולמות המשחק והאנימציה, ובעזרתו נבין את העתיד של תחום הרובוטים החברתיים, ומה באמת חשוב לנו בו כבני אדם
רודני ברוקס והאנס מוראבק היו שותפים לחדר במעונות של אם.איי.טי בשנות השמונים, ושניהם למדו רובוטיקה. לפרויקט הסיום שלו, מוראבק בנה רובוט עם יחידת עיבוד שמנסה לחקות מוח אנושי, כך שלאחר כל צעד, הרובוט היה ממפה מחדש את הסביבה, ורק אז לוקח את הצעד הבא. המשמעות היא שזה לקח לו כמה שעות לחצות חדר, ואם מישהו בינתיים היה נכנס לחדר, חלילה, זה היה מחרבש לו את המסלול. לילה אחד, רודני ברוקס נשאר עם מוראבק במעבדה. הוא הביט בתסכול ברובוט האומלל של שותפו, וחשב לעצמו שג’וק הוא יותר אינטליגנטי מפאר היצירה הטכנולוגית הזו. הלילה הזה במעבדה נתן לברוקס השראה לגישה אחרת לגמרי לבניית רובוטים. הוא החליט לבנות רובוטים פחות “חכמים”, כלומר, עם פחות כוח עיבוד, ולשים דגש על התנועתיות שלהם דווקא. המוח בכלל התפתח אחרון באבולוציה האנושית, אז למה להתחיל ממנו? “פילים לא משחקים שחמט” הוא אהב לצטט, ודיבר על זה שהמוח קצת אוברייטד. הגישה של ברוקס הפכה לגישה הרווחת ברובוטיקה. לימים, הוא עמד בראש המעבדה בה למד, וכשעזב את האקדמיה, הקים את החברה שהמציאה את האיירובוט, הרובוט שמנקה את הרצפה, וזז באמת בהשראת ג’וק
בשנות התשעים, פרופ’ סינתיה ברזיל הייתה דוקטורנטית של ברוקס באם.איי.טי, והיא בנתה את קיסמט, רובוט שאותו ניסתה ללמד אינטראקציה עם בני אדם, באותן שיטות שבהן ילדים לומדים. היא דיברה לקיסמט בקולות גבוהים, חמודים, וצחקניים, ותכנתה אותו כך שיגיב לזה בחיוכים, עיניים פתוחות, וצלילים דומים. לעומת זאת, כשהיא גערה בו, ואמרה לו “לא” בקולות נמוכים, הוא תוכנת להשפיל את ראשו, למשל
גיא: מבחינת ההיסטוריה הקונספטואלית אני בהחלט בשושלת רודני ברוקס. אני נכד אקדמי שלו, המנחה שלי הייתה סינתיה ברזיל, והמנחה שלה היה רודני ברוקס. סינתיה היא זו שעבדה על קיסמט בדוקטורט שלה, וזה היה בעצם הפעם הראשונה, אני חושב, שהסתכלו על העניין של רובוטים כאמצעי אינטראקציה ותקשורת, ויותר להסתכל על האינטראקציה בין בני אדם לרובוטים. אני חושב שפה היא הייתה חלוצה יותר ממנו. אני עבדתי במעבדה שלה ממש מתחילת דרכה, כשהיא פתחה את המעבדה. הכנס הראשון בנושא היה בשנה הרביעית של הדוקטורט שלי
הגעתי לרובוטיקה בתואר השני שלי באונ’ ת”א שבו עסקתי בראיה ממוחשבת. המנחה שלי, פרופ’ חזי ישורון, קיבל רובוט מאיזשהו תורם, וביקש ממני לעשות איזשהו דמו של ראיה ממוחשבת על הרובוט הזה. אני יצרתי מן אינטראקציה שבה אני זורק כדור, והרובוט מחפש את הכדור, ואז הוא הולך אליו. ומה שקרה זה שאחרי שהרובוט הגיע אל הכדור, הוא לא יכל לעשות כלום, כי זה רק היה כמו מכונית רובוטית עם מצלמה, מן כזה כלב רובוטי. תכנתי שהרובוט הזה ינבח ברגע שהוא מגיע לכדור ויסתכל מסביב בעצבנות. זה פעם ראשונה שבעצם הגעתי לעניין של אינטראקציה עם רובוטים באיזה פרויקט צדדי, בזמן שעבדתי בכלל על עניינים של ראיה ממוחשבת
את התרומה הייחודית שלו לרובוטיקה, גיא הביא מעולמות האנימציה והמשחק דווקא
שנה לפני שהגעתי לדוקטורט, היה לי חלום להיות אנימטור, ואז ב2002 בעצם נסעתי לניו יורק ללמוד אנימציה. התוודעתי לכל העולם הזה של איך לעצב תנועה, ואיך להעביר סיפור בתנועה, ואיך להעביר אופי דרך הגוף באופן מאד נשלט. אחד הדברים שלומדים באנימציה זה איך לוקחים את כל פוזיציה וכל תנועה, ומייצרים איתה איזשהו סוג של אופי של דמות. לא סיימתי את לימודי האנימציה, בעיקר כי נגמרו לי כל החסכונות שבאתי איתם לניו יורק תוך שנה, לא היה לי כסף לסיים את השנה השנייה, אבל אז בדיוק קיבלתי הודעה מאם.איי.טי שהתקבלתי לדוקטורט אצל סינתיה ברזיל. אחד הדברים הראשונים שעשיתי במעבדה זה לייצר תנועות לרובוט ליאונרדו, זה הרובוט שהיא בדיוק בנתה. אז היה לי כיף שיכולתי לקחת את כל מה שלמדתי באנימציה ולנסות להפעיל לפי זה רובוטים. עד אז הקשר הזה לא ממש נעשה, כל התנועה של רובוטים הייתה עדיין מאד נשלטת על ידי המתמטיקה של הנדסת מכונות
כרמל: כלומר, היא הייתה מאד רובוטית
גיא: היא הייתה מאד רובוטית, כן. חשבו איך מגיעים מנקודה א’ לנקודה ב’, בלי לחשוב מה הדרך ואיך זה משפיע. במדיה-לאב, שם עשיתי את הדוקטורט, הם דורשים ממך להתמחות גם בתחום שהוא מאד רחוק מהתחום שלך, זה חלק מהפילוסופיה של המקום הזה, אז אני בחרתי להתמקד במשחק. לצורך זה לקחתי שיעורי משחק, ומצאתי מורה מדהימה (שהיא, דרך אגב, הייתה אז אשתו של רודני ברוקס) סוזן זוננפלד, שהיא הייתה שחקנית מניו יורק. קראתי המון ספרים, חיפשתי בספרייה, על היסטוריה של משחק, ממש נכנסתי לזה לאיזושהי תקופה, כולל שיחקתי בכמה הצגות. זה נתן עוד נקודת השראה מאד מעניינת לכל נושא הרובוטיקה אחרי זה. לא רק בעניין של התנועה, תנועה אני חושב שבאה יותר מעולם האנימציה. מה שלמדתי מהמשחק ומהתיאוריה של המשחק, ומאיך ששחקנים לומדים לשחק, זה את כל העניין של האינטראקציה, של איך מגיבים לאדם אחר. יש שם המון כללים, המון משחקים, המון ידע של אלפי שנים, אפשר לומר, של איך שחקנים על הבמה מייצרים תחושה של יחסים
האנימציה והמשחק גרמו לגיא להבין, שרובוט לא צריך להראות אנושי כדי לעורר הזדהות
הרובוטים שראיתי כשהתחלתי את הדוקטורט היו כולם רובוטים שנראים כמו רובוטים, נראים כמו בני אדם, ואני אוהב להגיד, זה נראה כמו צעצוע אסטרונאוט. הביקורת שלי על עיצוב רובוטים זה שנראה שאת כל הרובוטים עיצבו ילדים בני עשר. הרובוט ליאונרדו, שעליו עבדתי בדוקטורט שלי בהתחלה, היו לו 65 מנועים, או כמו שהיינו מתבדחים עד 65 מנועים, כי אף פעם לא כולם עבדו. לא היה רגע אחד שבו כל הרובוט הזה עבד בו זמנית, שלא משהו ממנו היה מקולקל, או בתיקון, או מחכה לחלק. הוא עלה עשרות אלפי, אם לא מאות אלפי דולרים, ולקח חצי שעה לאתחל אותו, כי אין בקר ששולט ב65 מנועים בו זמנית, כאילו זה חתיכת מפלצת. ואני, באיזשהו מקום, לא ראיתי את זה כעתיד של הרובוטיקה הביתית-מסחרית. אם אנחנו מסתכלים, יש לי פה שואב אבק רובוטי, שכמו הרבה אנשים נתתי לו שם, ואני עוזר לו כשהוא נתקע, ואני מאד מסתקרן מההתנהגות שלו, למרות שאני מבין את האלגוריתמים שמאחוריה, ויש בו הרבה אנושיות בלי הרבה עיצוב אנושי. אז זה קצת מה שרציתי להוכיח למנחה שלי. רציתי להגיד לה, בואי ניקח את המנורה הזאת, ואנשים יתייחסו אליה באותו סוג של יחס, בלי שהמנורה הזאת נראית כמו בן אדם, אין זרועות, אין הבעות פנים. ומאחורי זה גם הייתה גם קצת פילוסופיה של פשטות ומינימליזם של עיצוב
מכירות את המנורה של פיקסאר, זו שנמצאת בלוגו של החברה, וכולם זוכרים את סרט האנימציה הקצר והמרגש איתה? אז בהשראתה, גיא לקח מנורה מהמעבדה, והפך אותה לשחקן התיאטרון הרובוטי הראשון
זה היה זרוע רובוטית שהייתה במעבדה, שהמרתי אותה למנורה רובוטית, בהשראת המנורה של פיקסאר, והיה לי חלום, בעקבות כל ענייני המשחק, לקחת את הרובוט הזה ולשים אותו בתוך הצגת תיאטרון. נכנסתי לתוך פסטיבל שנתי של הצגות קצרות, וסטודנט אחר כתב הצגה במיוחד לרובוט הזה, למנורה הזאת. בשני המקרים, גם של רובוטיקה וגם של משחק, אנחנו מייצרים פה משהו מלאכותי, אבל ה”בינה המלאכותית” הזאת של המשחק היא עתיקה ועשירה. יש מאמר שכתבתי אז – שעדיין לא התפרסם, הוא בדיוק עכשיו שוב נמצא בסבב תיקונים – על מה רובוטיקאים יכולים ללמוד משחקנים
השחקן אף פעם לא נח על הבמה, גם כשאין לו שורה. תכנתי שבתוך כל הסקריפטינג של הרובוט הזה, הוא לא רק מבצע את התנועות והשורות שכתובות בתסריט, אלא גם בין לבין, מייצרים את כל התנועות של הביניים. לתת תחושה שהרובוט ממשיך להתפתח רגשית גם בזמן שהוא לא בקדמת הבמה. וזה אחד הדברים שנכנסו מאד חזק היום, כמעט בכל רובוט שבאיזושהי אינטראקציה, מנסים להקפיד שהוא אף פעם לא נראה שהוא כבוי. נגיד רובוט שעובד בסופר ומנחה אנשים בסופר, אז אפשר להגיד שהוא יעמוד שם, וברגע שהוא מזהה בנאדם, כמו דלת אוטומטית, סנסור מזהה, הרובוט נכנס לתנועה. אז היום כבר זה כמעט לא מקובל לעשות כזה דבר. היום דואגים שהרובוט (או צריכים לדאוג, אני חושב) שהרובוט בין לבין יסתובב בין המדפים, אולי יסתכל על מוצרים, כאילו יש לו מן עולם פנימי משלו, זה נותן לו תחושה של רצף ישותי. זה משהו שמאד מדגישים במשחק, שיהיה לשחקן רצף ישותי
דוגמא שניה: פעולה לא מתחילה משום מקום, פעולה נבנית ואז מתפרצת. אם נגיד יש איזה ריב, ואחת הדמויות מחליטה לצעוק על הדמות השנייה, הצעקה הזאת לא באה משומקום, הצעקה הזאת צריכה להיבנות, כמעט לצעוק, להתחיל ולהפסיק. כאילו תכנתי לתוך הרובוט השחקן הזה מן פעולות מקדימות חלשות יותר לפני הפעולה האמיתית. גם השחקנים וגם הבמאית של ההצגה אמרו שמאד מהר הם התייחסו לרובוט כעוד שחקן, וכעוד דמות על הבמה, זה כן הוסיף מאד לתחושת הריאליזם של הרובוט ולנוכחות החברתית שלו. עדיין לא רואים את זה מספיק ברובוטים שמתכנתים אותם. מה שאותי מאד עניין זה באמת לראות איך אפשר להתחבר לידע עתיק כזה. האנושות יש לה המון ידע מפוזר במקומות לא צפויים
בנוסף לכישורים שלו שהוזכרו עד כה, גיא הופמן הוא גם נגן פסנתר מוכשר. אז בפוסט-דוקטורט שלו הוא יצר רובוט שמנגן ג’אז
אני הגעתי לעשות פוסט-דוקטורט אצל גיל ויינברג באטלנטה, בג’ורג’יה טק, הוא “מר רובוטים מוסיקליים”, הוא פחות או יותר המציא את התחום, והוא בדיוק בנה רובוט שמנגן על מרימבה, שזה מן קסילופון עץ גדול של קונצרטים, ואני מאד התעניינתי אז באינטראקציה, אז רציתי לחשוב על אלגוריתמים של בינה מלאכותית, שמאפשרים לנגן ג’אז באינטראקציה בזמן אמת. מה שהיה לפני זה ברובוטים מנגנים זה באמת ענין כזה של שאלה-תשובה, אתה מנגן משהו, ואז הרובוט עונה עם משהו שהוא רלוונטי ומתאים, וזה גם מבריק. אותי נורא עניינה הבו-זמניות של הנגינה, זה היה הפרויקט שלי, כי זה היה נראה לי מטאפורה מעניינת לבו-זמניות של אינטראקציה. אם את מתחילה לדבר באמצע שהבוט מדבר, זה לא יכול להיות ששניכם תסיימו את המשפט, ותשתמשו בחפיפה הזו בשביל לכוון את השיחה. אז אותו הדבר גם בתנועה של רובוטים. אז אני חשבתי שזה יהיה אתגר נורא מעניין לנסות לעשות רובוט שיכול לנגן ביחד עם בן אדם
עסקתי המון בניתוח המוסיקה, ניתוח הקצב, איך אפשר מתוך זה לתת לרובוט הזדמנות לנגן באופן שמתאים למה שהבנאדם התכוון. הרובוט מתאים את עצמו כל הזמן לרעיונות של הנגן האנושי, אבל גם נמצא אתו בתוך הגרוב תוך כדי. פרויקט מאד מורכב ומאד מעניין. הייתה הופעה באטלנטה, ניגנתי, הרובוט ניגן, יש וידיאו של זה. הצלם קלט את הרובוט מקרוב, אבל הקהל בקושי ראה את הרובוט, הוא ראה כלי נגינה, ומה שקורה ליד כלי הנגינה לא ברור, קצת הקטע הפרפורמטיבי התפספס שם. ואז חזרנו חזרה ואמרנו טוב, הרובוט צריך להיות יותר נוכח על הבמה, אז נוסיף לו ראש. אז היה איזה ראש אחר שהיה בג’ורג’יה טק, וזה היה ראש שנראה מאד אנושי. התנגדתי לרעיון ואמרתי, נעצב לו ראש שמתאים לכלי, כי הוא יהיה מן מקל נגינה ענק
ואז עיצבנו לו את התנועות, רצינו לעשות משהו שבסופו של דבר יהיה באווירת ג’אז, לא יודע איך להסביר את זה, משהו שיהיה קצת סנובי, וקצת מתנשא, וקצת קול. ואז עשינו עוד כמה הופעות עם הרובוט הזה עם הראש, והראש הזה הגיב למוסיקה, או הראה התכוונות מוסיקלית לפני שהוא ניגן. זה היה יותר מן אמצעי תקשורת מעבר לבינה המלאכותית של האלתור. והוא תפס את כל תשומת הלב, זה היה די מטורף. היתה שם שנה של מחקר בינה מלאכותית של אלתור ומוסיקה, ומה מנגנים, ואיך מנגנים וכל זה, ואז היה חודש של עיצוב האנימציה של הראש הזה, שנראה שהוא נהנה מהמוסיקה, אבל התהודה הייתה בדיוק הפוכה. אנשים מאד התפקסו על הראש
התנועתיות של הראש הרובוטי הזה הייתה כל כך מעניינת, שהאייטם הזה אפילו הגיע לתוכנית הבידור של סטיבן קולבר, שצחק על זה שגם לאחר מרד הרובוטים וסוף האנושות, עדיין יהיה בעולם מישהו שיעמיד פנים שהוא אוהב ג’אז
בקטע הזה של קולבר הוא אומר “הרובוט הזה מנגן ג’אז, אבל יותר מעניין, הוא גם נהנה מג’אז”. יש פה שני דברים. אחד, שזה יותר מעניין שהוא מזיז את הראש לפי הקצב, מאשר זה שהוא יודע לאלתר, שזה הרבה יותר קשה. כל אחד יודע להזיז את הראש לפי הקצב, ורק מתי מעט יודעים לאלתר. והדבר השני הוא, שהוא לא אמר שהוא מזיז את הראש לפי הקצב, הוא אמר שהוא נהנה מהמוסיקה. הוא עשה את הקפיצה הזאת לאיזושהי האנשה נוספת, שיש לרובוט הנאה, ושהוא נהנה מהמוסיקה הספציפית הזאת. שוב, אין לי מחקר על זה, אבל אני יכול להגיד מהתגובות שמקבלים: העניין של הראש שמגיב למוסיקה, יותר עלה לתשומת הלב של אנשים, מאשר זה שהוא מנגן, והוא יודע לנגן טוב. זה קצת מאכזב, קצת מצחיק, קצת מלמד, כמה שהאינטראקציה מעניינת אותנו הרבה פעמים יותר מאשר האינטליגנציה
זו נקודה חשובה, זה אולי ה-מסר של הפרק הזה. ובמבט לאחור, גיא ראה את זה עוד קודם, עם המנורת-שחקן הרובוטית שלו, שהתנועתיות שלה התפרשה על ידי הצופים בהצגה כחצופה, או מושפלת, וכשנוצרה שם אישיות ורגש, יוחסה לה גם אינטליגנציה גבוהה יותר
אני חושב שזה מסר יותר רחב שלמדנו אותו בעניין של מחשבים עשרים שנה לפני, וזה העניין של הממשק לעומת האינטליגנציה. אם זה משהו שאמור להיות באינטראקציה עם בני אדם, אז האינטליגנציה של זה יכולה להיות מדהימה, אם הממשק לא עובד, אז זה לא מעניין אף אחד. הגוף הוא הממשק של הרובוט. צריך לתכנן את הגוף של הרובוט כממשק משתמש. הרבה פעמים הממשק יכול לחפות על אינטליגנציה אולי לא מאד גבוהה של הרובוטים. לי זה מאד מתחבר לעניין הזה של שחקנים על במה, זה הכל קורה בגוף, זה הכל קורה דרך איך שהגוף זז ואיך אנחנו משתמשים בגוף שלנו
ואז, כמעט כבדיחה אמרתי לגיל ויינברג, בוא נעשה רובוט שרק מקשיב למוסיקה ולא מנגן בכלל, רק רובוט שמקשיב למוסיקה, שזה אחד הדברים הבאמת מפגרים. ואז עיצבתי את הרובוט הזה שנקרא שימי, והרובוט הזה תוכנן לזוז למוזיקה, אז הוא מניד את הראש קדימה ואחורה, אבל בגלל שהאוזניים לא סימטריות, נראה שהאוזניים מתכווצות ומתרחבות מקדימה. וזה אולי הדוגמא המובהקת של לעצב רובוטים לפי התנועה. לא צריך לקחת רובוט ולעצב אותו כאילו שהוא עומד, ואז לקחת אותו ולנסות להפעיל אותו בדרכים מעניינות, אלא צריך לעצב אותו עם חשיבה של תנועה מלכתחילה. וכל הרובוטים שעיצבתי אחרי זה, בעצם עוצבו בתוך תוכנת אנימציה. אז כל סקיצה שעשיתי העברתי לאנימציה, וניסיתי לראות איך זה נראה כשזה זז
טוב, זה לא היה לגמרי רובוט חסר תועלת, כי הוא בעצם היה רמקול שמתחבר לסמארטפון, ומי לא רוצה רמקול שגם נהנה מהמוסיקה שהוא משמיע? לדעתי זה היה גאוני, ואני הייתי רוצה רמקול כזה אפילו עכשיו
היה סטרטאפ, הייתה השקעה, היה לנו מפעל. אפילו נבחרנו להיות בטקראנץ’ דיסראפט על הבמה בסן פרנסיסקו עם הסטרטאפ הזה ב2013 או 2014. היה שם ניהול די כושל, הרבה גורמים, כולל זה שאני בדיוק התחלתי קריירה אקדמית ואני כבר חייתי חזרה בארץ, ואיכשהו לא הצלחנו לנסות להפוך את זה למוצר. הסטרטאפ הזה לדעתי היה קיים איזה שנתיים
כרמל: תשמע, לדעתי זה לא נגמר. אתה מאד הקדמת את זמנך בנושא הזה, והשוק עוד לא בשל לזה אפילו, רק מתחיל להיות בשל לזה. עכשיו שבכל מקום יש אלקסה שכזו, זה רק עניין של עוד צעד אחד להפוך את אלקסה לתנועתית, ואולי זה הזמן להחזיר את הפטנט הזה
גיא: אני אצור קשר עם כל הח’ברה
We’ll get the old crew back together
אבל אל דאגה, שימי לא נותר במזוודה, אלא הפך לעוזר מחקר, כשגיא הצטרף לצוות החוג לתקשורת באוניברסיטת רייכמן, ועזר לבדוק איך עצם ההקשבה שלו לשיר, משפיעה על ההנאה של האדם מהמוסיקה
זה משהו שקראתי לו “בן לוויה לחוויה”. כלומר, האינטראקציה עצמה עם הרובוט היא לא הדבר המרכזי, אלא עצם זה שאתה חולק את החוויה, נגיד של שמיעת שיר, איך זה משפיע על ההנאה מהשיר. הרובוט כגורם חיברות, מאפשר לך לא להיות לבד בחוויה. זה לא שאתה משחק משחק עם הרובוט, אלא הרובוט הוא שם, ועושה את מה שאתה עושה, ולכן אתה מרגיש שאתה לא עושה את זה לבד. מצאנו שאנשים חשבו ששיר הוא יותר טוב, אם הרובוט היה מגיב לשיר, לעומת אם הוא לא היה מגיב לשיר
באוניברסיטת רייכמן, גיא ערך מספר מחקרים עם חוקרים ממדעי החברה, למשל, עם פרופ’ גורית בירנבוים מהחוג לפסיכולוגיה
המחקרית האלה עסקו בתגובתיות. תגובתיות היא תופעה פסיכולוגית שבה הבן/בת שיח מגיבים באופן מועיל לדברים שאת אומרת. בדיוק היום בבוקר גיליתי שגנבו לי את הגלגל הקדמי של האופניים, שבדיוק סיימתי לתקן ולשפצר. אז תגובתיות אופיינית ולא טובה היא להגיד “לא נורא, אפשר לקנות גלגל אחר”. תגובתיות טובה היא יותר תומכת בחוויה של האדם שמדבר, היא אומרת “אני יודעת כמה עבדת על האופניים האלה, כמה שזה עוד יותר מבאס”. אל תגידו לא נורא, אל תציעו פתרון, תראו אמפתיה והבנה. אז עשינו ניסוי עם רובוט, בעצם הרובוט היה מאד פשוט, הוא רק הגיב בצורה מאד מתוכנתת. הוא הגיב או בתגובתיות חיובית “זה נשמע שזה חוויה מאד קשה, אם זה היה קורה לי גם אני הייתי מתבאס מזה” או משהו כזה, או תגובתיות שלילית, שהוא אמר “אה, לא נורא, שמעתי כבר סיפורים יותר קשים מזה”. קודם כל, שפת הגוף של אנשים נהייתה יותר ויותר פתוחה לרובוט שנתן תגובתיות חיובית. אחרי זה עשינו מבחן של בטחון עצמי בקשרים זוגיים, זה פרוטוקול סטנדרטי בפסיכולוגיה, שהם צריכים להקליט וידיאו של עצמם לאתר הכרויות, וגם שאלנו אנשים אם הם רוצים שהרובוט יתלווה אליהם להקלטה, או לאירוע אחר מלחיץ (היו כל מני גרסאות של הניסוי הזה). מצאנו באופן מובהק, שאם הרובוט נתן תגובתיות חיובית, אנשים היו עם יותר בטחון עצמי אחרי שהם סיפרו את הסיפור שלהם, וכל זה כשאנחנו אמרנו שזה רובוט שרק מנסה את השפה שלהם, אף אחד לא ניסה להגיד להם שהרובוט הזה אינטליגנטי
התנהגויות יחסית פשוטות, שהולכות לפי תיאוריה פסיכולוגית נכונה, יכולות באמת לתת איזשהו בוסט לאנשים, שעוזר להם. כמובן שאיך שהעיתונות אספה את הסיפור הזה, הם רק התרכזו בקטע של הוידיאו-דייטינג בסוף. אחת הכותרות הייתה: “רווק? רובוט עשוי להיות טייס-המשנה הנכון עבורך”, כאילו שכדאי לקחת את הרובוט לדייטים כי הם מעלים לך את הביטחון העצמי. התובנה באמת הייתה, שתכנות התנהגות נכון יכול להיות מועיל פסיכולוגית, גם אם אין את האשליה האנושית מאחורה. התועלת הפסיכולוגית כן קרתה. ליצור אפקטים פסיכולוגיים שיכולים להיות מועילים, או גם לא מועילים. יש לי מחקר אחר עם פרופ’ אורי חפץ, שאנחנו מראים איך רובוטים שעובדים אתך בתחרות, מורידים לך את המוטיבציה לעבוד, אם הם יותר טובים ממך. אנחנו חושבים שרובוטים יעלו את הפרודוקטיביות של המפעל. הם יכולים בעקיפין להוריד את הפרודוקטיביות של העובד, אם הם לא מתוכננים נכון לגבי האינטראקציה שלהם, ושהסט-אפ הוא לא סט-אפ של שיתוף פעולה, לעומת תחרות
כרמל: כשנחשפתי למחקרים האלו, הם התחברו לי עם המחקרים שעשתה הפסיכולוגית שרי טרקל מאם.איי.טי עם רובוט בשם פארו, שנראה כמו גור כלב ים, וכל מה שהוא עושה זה קולות המהום כשמלטפים אותו. הגבול בין צעצוע לרובוט במחקרים של טרקל לא תמיד היה ברור, אבל המחקרים שלה הראו שאנשים מבוגרים שטופלו בעזרת פארו, נקשרו אליו מאד, ודיברו עליו כאילו שהוא מבין אותם, בגלל שהוא מהמהם ברגעים שנתפסו כנכונים. הסיבה שהאינטליגנציה של הרובוטים לא באמת חשובה היא, שההשלכה הפסיכולוגית שלנו היא המוקד כאן. בגלל שאנחנו לא מודעות לאופן שבו אנחנו קוראות פידבק ושפת גוף, יש לכולנו פגיעות או חולשה במקום הזה. לפתח רגש כלפי חפץ, או לשפוט אותו לטובה על סמך תזמון של הנהון או גוון של תנועה, זה לא הם, זה אנחנו. טרקל כינתה את זה “אפקט אלייזה“, על שם הצ’ט-בוטית הראשונה שאנשים התייעצו עמה כסוג של פסיכולוגית, ולמרות שהם ידעו את מגבלות הטכנולוגיה, הם עדיין ציפו ממנה ליותר, והשלימו המון מהדמיון שלהם. יש בסיפור הזה גם עניין ביולוגי, שכשגוף אחר מתכוונן אלינו אנחנו מגיבים, אנחנו מישירים מבט, אנחנו מסתנכרנים אתו כמעט בלא מודע
אבל במחקרים אחרים התוצאות היו מפתיעות ושונות, כמו למשל, במחקר עם פרופ’ אורן צוקרמן על רובוטים וריבים בין בני זוג
זה הי מחקר עם אורן צוקרמן וגלעד הירשברגר. יש מחקרים פסיכולוגיים שמדברים על זה שזוגות רבים באופן יותר קונסטרוקטיבי כשהילדים שלהם בסביבה מאשר כשהם לבד, ואמרנו אולי הרובוט בסביבה. זה דווקא פרויקט מחקר שיש לי הרבה תובנות ממנו. כי אחד הדברים שרצינו לעשות זה שהרובוט יגיב לווליום של הריב, והרובוט שלנו היה אמור לנסות לזהות מקומות בריב שהריב מתגבר, להיבהל מזה, ולגרום לזוג להוריד את הווליום. ומסתבר שזה מאד לא עבד. הווליום בכלל לא היה בקורלציה עם עוצמת הריב, פשוט אמרו דברים מאד מעליבים באופן מאד שקט. ברגע שהזוגות היו בתוך הריב, הם די התעלמו מהרובוט, בכלל לא הסתכלו עליו. פה ושם, אנקדוטלית, היה איזה זוג שאמר, את רואה או אתה רואה, הרובוט גם חושב שאתה מגזים. אחד הדברים שאנשים השתמשו ברובוט זה דווקא בשביל להפיג את המתח, ואז שניהם צחקו
כרמל: זה ממש מרתק בעיני באיזה הקשרים הרובוט הוא אובייקט, הוא חוזר להיות אובייקט, ובאיזה הקשרים הוא פתאום סובייקט. ופתאום משהו שתכננתם אותו כסובייקט, להגיב, הופך לאובייקט
גיא: את מעלה פה נקודה מאד טובה. אני חושב שזה יותר אומר משהו על בני אדם, ואיך הם מייחסים סובייקטיביות לאובייקטים במצבים שבהם זה נוח להם או כיף להם. אנשים לא חושבים שרובוט הוא באמת חי או בנאדם, או יש לו הבנה אמיתית. אני חושב שלפעמים כיף לנו או נחוץ לנו להתייחס ככה לדברים
כרמל: אני חושבת שזה איזשהו רובד יותר במוח החייתי, הזוחלי, הראשוני שלנו, מהתקופה של הקסם, מהתקופה האנימיסטית. וזה מאותן סיבות שגם אנשים מאד רציונליים ואינטליגנטיים לא יעברו מתחת לסולם, או דברים כאלה. יש איזה משהו, כשמשהו נע, כשמשהו מגיב, הרובד הזה מתעורר, ואתה מתפתה לשקול את האפשרות לפחות
גיא: אותי מאד מעניין דווקא מה שאת אומרת, הצד האנימיסטי והמיתי, והיחס שלנו לאובייקטים, ואני חושב שהרובוטים מאפשרים לנו באמת לחקור את הגבול הזה, איפה הרובוט הזה נמצא בין המיקרופון, לבין בן דוד שיש לי. אני חושב שזה יותר בא מעולם המשחק (במובן של משחקיות, לא משחק מקצועי), אנחנו אוהבים לדמיין דברים, אנחנו אוהבים להאניש חפצים. כשבסוף צריך לקבל החלטות, אז מבינים שמדובר בחפץ, הוא יותר נמוך בהיררכיה מאשר יצורים חיים. פיטר קאן, חוקר שאני מאד אוהב מאונ’ וושינגטון, הוא הסתכל על ילדים, שהייתה אצלם איזושהי הדרגתיות של רחמים, בין בובת כלב שהיא רק בובה, לבין רובוט כלב, לבין כלב אמיתי. אז הם כן מבינים שהרובוט כלב נמצא איפשהו בין הכלב האמיתי לבין הבובה של הכלב. שרי טרקל, יש לה ציטוט שאני אוהב, שהילדים קראו לרובוטים “דיי חי”, סוג של חיים
כרמל: במחקרים ששרי טרקל עשתה עם ילדים וצעצועים רובוטיים, הם כינו את זה “חי דיו”. כלומר, הם יודעים שזה לא יצור חי, אבל הוא חי דיו לצרכי אינטראקציה והתייחסות רצינית מצדם, ואני מזכירה לכםן שכבר דיברנו בפודקאסט הזה, גם על חיילים שרואים ברובוט חבר צוות, ולא רק כלי, ומסכנים את החיים שלהם כדי לא להשאיר אותו בשטח, וגם על מערכות יחסים רומנטיות בין אנשים לרובוטים. זה מגיע בדיוק מאותו המקום שעליו דיברנו בפרק שעבר ובפרקים אחרים, המקום הזה שבו בני אדם הם לא חיה רציונלית, ולכן מה שראוי להתייחסות מבחינתנו הוא לא עניין לוגי של הגדרות אינטליגנציה או חיים, זה עניין רגשי. שרי טרקל אפילו הציעה שנחליף את מדד הבינה המלאכותית של מבחן טיורינג, במה שהיא קראה לו “מבחן טיורינג רגשי”. היא עשתה את זה עם צעצוע פרבי, זוכרות את הצעצועים המדברים הלומדים האלה? כשהיו הופכים את הפרבי, הוא היה בוכה, והיה אומר שכואב לו, ומתחנן שיהפכו אותו חזרה. גם ילדים וגם מבוגרים, שידעו בוודאות שמדובר בצעצוע שלא באמת חש כאב, נשברו מתישהו, די מהר, והפכו אותו חזרה. כי זה לא עליו, זה עלינו. זה מקריפ אותנו לחשוב שאנחנו אכזריים, והשפה והבכי נוגעים בנו רגשית, ומתקשרים לחוויות שלנו. אז “חי מספיק” זה בעצם משהו שמסוגל לעורר בנו תגובה אתית, גם אם אין לו חוויה סובייקטיבית. אנחנו לא נבעט ברובוט כלב בגלל מי שאנחנו, ולא בגלל מה שהוא. ונראה שגם אינטליגנציה היא משהו שאנחנו משליכים על דבר, בתגובה לתנועתיות ואינטראקציה, יותר מאשר שהיא תכונה של אותו הדבר
גיא: לי יש המון היסוס או לפחות מחשבה מרובדת לגבי כל העניין של רובוטים חברתיים כפתרון לבדידות. אני בבורד של חברה שמפתחת רובוט כזה, אינטואישן רובוטיקס. אני חושב שהם צריכים להבין את הפסיכולוגיה ואת האנושיות שנמצאת בתוך זה, ולנסות לקלוע לצדדים החיוביים שלה. אני לא בעד ולא נגד רובוטים. בכל המחקרים שעשיתי, ובכל העבודה שאני נמצא בתוכה בעשרים השנה האחרונות, מעניין אותי להבין את האינטראקציה הזאת, ולנסות ליצור טכנולוגיות שתומכות בערכים האנושיים שאנחנו רוצים לקדם. ולכן חשוב להבין למה מתכוונים כשאומרים ש”הרובוט שונא אותי”, מה זה אומר שמישהו חושב ככה או מרגיש ככה
בפרק 10 עם ניעה ארליך, הזכרנו בקצרה את הנטייה לעצב רובוטים כחמודים, כדי לעמעם את טכנולוגיות המעקב, או מאפיינים אחרים מפחידים שיש להם. ניעה דיברה שם על מושג האל-בייתי של פרויד, ועל התובנה של הרובוטיקאי היפני, מורי, שככל שננסה לעשות רובוטים בעלי מראה אנושי יותר, זה דווקא יצור רתיעה. השיטה של גיא להתרחק מהמראה האנושי אבל להכניס אנושיות דרך הגוף, יכולה לדעתי לעקוף את המכשול הזה. אבל גיא טוען שרובוטים חברתיים מעוררים סוג חדש של אל-בייתיות, אל-בייתיות חברתית
האל-בייתיות החברתית, חלק ממנה יצא ממחקר שעשינו עם אוכלוסייה מבוגרת, שוב עם אורן צוקרמן. עשינו מחקר עם אוכלוסייה מבוגרת בשנות השבעים פלוס של חייה, שרצינו לקבל את חוות הדעת שלהם על רובוטים מסייעים. הייתה שם הרבה התנגדות. הם אמרו טוב, אולי לאנשים זקנים, אבל אני לא מרגיש כל כך זקן, וחשבו שעצם הרובוט עצמו לוקח מהם עצמאות, מתנשא עליהם – לא הרובוט, אלא החשיבה שהם צריכים רובוט כזה. ואני שם טענתי, שרובוטים, גם עצם זה שהם מנסים להיות חברתיים, אם הם יותר מדי מנסים להיות חברתיים, אנחנו בעצם מבינים שהם לא חברתיים. ולכן החברתיות שלהם יוצרת אל-בייתיות חברתית, אל-בייתיות אינטראקטיבית. מה בעצם זה מעורר בנו, שאיזשהו יצור מנסה להיות חבר שלנו, כשהיצור הזה באופן ברור הוא מכונה? הידע שלנו שהיצור הזה לא ייחודי, שאם לי יש איזה רובוט בבית, לעוד מאה אלף אנשים יש את אותו רובוט בבית. הרפליקציה שלו מעוררת בנו איזה משהו שהוא אל-בייתי. פה חזרתי קצת למאמר על האל-בייתיות של פרויד, שמדגיש דווקא המון את העניין הזה של רפליקציה. יש משהו לא טבעי בשכפול של משהו, שהוא מאד קרוב אלינו רגשית
כרמל: מכירים את שלושת חוקי הרובוטיקה שכתב אייזיק אסימוב? אז לפני שנתיים, פרנק פסקואל כתב ארבעה חוקי רובוטיקה חדשים נוספים, שמעודכנים לימינו. החוק הראשון ממש רלוונטי, למשל, למה שקורה בחודש האחרון סביב טכנולוגיות ייצור הדימויים והטקסטים. הוא אומר “רובוטים ובינות מלאכותיות יהוו טכנולוגיות משלימות לבני אדם ולא תחליף להם”. חוק חשוב אחר קשור לשקיפות, “רובוטים ובינות מלאכותיות תמיד יציינו את זהות היוצרים, המפעילים, והבעלים שלהם”. הייתי מוסיפה לזה אולי גם שקיפות לגבי דאטה האימון, או המודלים האלגוריתמיים שלהם. אבל לענייננו, אחד החוקים שפסקואל מציע הוא שרובוטים לא ינסו להידמות לבני אדם. וזה מתוך ההבנה שאנחנו מנסים לפתח טכנולוגיות רגשיות, ושאנחנו פגיעים למניפולציות שלהן. הדוגמאות שהוא נתן זה העוזרת הקולית של גוגל, או חברות טלמרקטינג, שעושות שימוש בשיחות, שבהן הצד השני בטוח שהוא מקבל שירות מאדם, אבל בעצם מדבר עם רובוט. אבל הוא מדבר באופן כללי גם על עיצוב טכנולוגיה, שמפתה בני אדם לראות ברובוטים משהו ששווה להם. האיסור הוא לנצל בדיוק את החולשה הפסיכולוגית הזאת, שמתגלה במחקרים של גיא
אבל דווקא כמי שתרם כל כך לתחום הזה, גיא סקפטי לגבי היכולות של הרובוטים והבינה המלאכותית בתחום האינטליגנציה הרגשית
הבינה המלאכותית היא לא מאד טובה ברמות הרגשיות העדינות והמדויקות, שצריך בשביל אינטראקציה אינטליגנטית. אני מאד ספקן לגבי היכולת של בינה מלאכותית להבין את הניואנסים הרגשיים שלנו באמת. לדעתי, אנחנו רואים היום מאד את הגבול של היכולת של הלמידה הממוחשבת ובינה מלאכותית לגבי דברים שהם יותר רגשיים, יותר חברתיים, יותר עדינים ונפשיים. והפנטזיה הזאת שבאמת תהיה איזושהי אלייזה שגם תבין את הניואנסים, לדעתי היא לא מציאותית היום. אני בספק אם מישהו היה יכול לעשות סנסור שבאמת יזהה מתח בין בני זוג. אפילו הדבר שבו הושקעו רוב המאמצים המסחריים, ולדעתי נשפך עליו רוב הכסף, שזה למצוא לי פרסומות מתאימות באינטרנט, אפילו זה לא עובד, וזה באמת לא בעיה מאד מתוחכמת מבחינה רגשית וחברתית
כרמל: אני מסכימה אתך, אבל מצד שני, דווקא הגישה שלך מאפשרת איזושהי כניסה אחרת לתוך הדבר הזה. זה עניין של הגדרה. איך אתה תיכנתת או עיצבת התנשאות? מה משדר התנשאות? אתה גם לקחת את המשחק והאנימציה ונעזרת בזה כדי לתרגם איכויות, שהן מאד לא ברות חישוב, לאיזשהו סימן קריקטוריסטי, שעובד. ואנחנו כן אנשים של קריקטורות וסטריאוטיפים, וגם בני אדם קולטים את הסימן הקריקטוריסטי ומגיבים אליו, ולכן אני חושבת שדווקא סוג העבודה שלך יעזור, בגישה אחרת, להביא דברים כאלה שיהיו טובים דיים. הם לא יבינו, אבל הם כל כך יראו כאילו שהם יבינו, שזה יהיה טוב דיו
גיא: אני חושב שהם יראו כאילו הם יבינו, אני לא חושב שהם יבינו הרבה. אני חושב שלייצר התנהגות קריקטוריסטית שאנשים מבינים זה קל, לעומת להבין התנהגות (שהיא לא קריקטוריסטית, כי בני אדם הם לא קריקטורות), זה קשה. זה מתחבר לקונספירציה הגדולה שלי של עולם הטכנולוגיה, שאני יכול לספר לך עליה. הטכנולוגיה מנסה להסליל אותנו להתנהגות יותר ויותר קריקטוריסטית, כדי שיהיה לה יותר קל להבין אותנו. כל הממשקים שגורמים לכולנו לדבר אותו הדבר, ולהתנהג אותו הדבר. ניסיון להתנהגויות ותקשורות יותר ויותר מובנות. זה לא טוב לנו כבני אדם, זה טוב לאלגוריתמים שמנסים להבין אותנו, כי ברגע שכולנו נתנהג כמו הבוטים שאנחנו מדברים איתם, אז גם הבוטים יוכלו לדעת בדיוק למה אנחנו מתכוונים. יש המון שונות בין בני אדם, אנחנו יכולים להיות רגועים שהבינה המלאכותית לא באמת תבין אותנו. אם היא יכולה לעשות כאילו שהיא מבינה אותנו, אז ברמות מסוימות כן, השאלה איפה זה נשבר. אני עוד לא ראיתי צ’טבוט שנראה שהוא מבין אותי. יש להרבה אתרים כזה צ’ט התכתבות, עד שאני מקבל בן אדם אני מבלה הרבה זמן עם צ’טבוט, שבהחלט לא נראה יותר אינטליגנטי מאשר ניווט שיחה משנות השמונים בטלפון
האמת היא שדווקא בתחום של שירות לקוחות רובוטי, זה יכול להיות ממש נחמד להיתקל בבוט שבאמת יבין וגם יוכל לעזור, אבל עוד חזון למועד, אולי אם הם באמת יתבססו על הג’יפיטי הכי חדשים. אז לסיום, כמי שהיה חלוץ בתחום הרובוטים החברתיים, אני שואלת את גיא מה הוא עושה בימים אלה, ומה הדבר הבא שהוא מתכנן לנו
את יודעת, אני נמצא עכשיו בשלב לפני השלב האחרון בקריירה. יש לי חברים יותר פסימיים, שאומרים לי, יש לך עוד רעיון אחד לעשות, וזהו. רובוטים מכאניים בלי סוללה, בלי חשמל, זה כיוון אחד. אני קצת חושב על העניין הזה של קיימות ורובוטיקה, של לעשות רובוטים מחומרים מתחדשים, שלא צורכים אנרגיה, או שהם צורכים אנרגיה, אבל האנרגיה הזאת היא אנרגיה מתחדשת, או אנרגיה אנושית
?כרמל: מה זאת אומרת אנרגיה אנושית
גיא: כאילו חוזר פה קצת למאה ה-19, כמו ששעונים צריך למתוח, צריך למתוח את הרובוט, אבל עדיין שיש לו איזושהי אינטליגנציה
כרמל: סטימפאנקי כזה
גיא: סטימפאנק בדיוק, אולי הם יעבדו על קיטור בכלל. תשימי איזה נר בתוך הרובוט והוא יפעל. זה בצד העיצובי יותר. בצד המחקרי של הבינה המלאכותית, הדבר שהכי מעניין אותי היום זה רובוטים שמשתתפים בתהליך עיצוב. כלומר, רובוט שעוזר לחברת הרכבת הקלה בתל אביב לעצב את הקווים שלהם, רובוטים שעוזרים לאדריכלים לעצב בניינים. יש לנו כרגע רובוט שעוזר לעשות גינת זן, גינת חול כזאת עם אבנים. ביחד עם בן אדם, אתם יוצרים גינת זן מאוזנת והרמונית. ודרך זה אני, בשנים האחרונות, הרבה עוסק במה זה עיצוב, איך מעצבים חושבים על עיצוב, מה המודלים החישוביים והמלאכותיים של עיצוב. מה זה תהליך העיצוב בכלל ואיך רובוט יכול להשתלב בזה, וספציפית איך רובוט יכול להשתמש בגוף שלו בשביל לעזור לעיצוב
כרמל: זה נשמע שאם תפצח משהו כזה, זה יעזור גם לרובוט לעשות קפה ולקפל כביסה, שזה גם עד עכשיו ניגשו לזה כנראה בצורות רובוטיות מדי, בגלל זה אין לי דבר כזה בבית, אולי מהרובוט עיצוב שלך ייצא לנו טוויסט כזה. כנראה שצריך לדעת עיצוב כדי להכין קפה ולקפל כביסה כמו שצריך, כי זה הרבה יותר אמנות של התנועעות בבית וטיפול בדברים בעיני, זו גישה אמנותית, לא גישה חישובית
גיא: יש בזה משהו
רובוטים היו אמורים להחליף את הפועלים בתעשייה, אבל בכל כך הרבה מטלות מסתבר, שכפות ידיים אנושיות עדיין יוצאות עם היד על העליונה… כבר בפרק 4 הצבענו על זה שאלגוריתמים מחליפים דווקא את דרגי הביניים של הניהול, ובחודשיים האחרונים אנחנו דנים באפשרות שהם יחליפו עובדים ועובדות במקצועות יצירתיים פתאום. אבל כל זה אמור לגבי בינות וירטואליות, אלגוריתמים. כשאנחנו מדברות על רובוטים אנחנו מתכוונים לגוף. גוף הרובוט היה אמור להיות סוג של תשובה או תרופה לווירטואליות, אבל הוא לא בהכרח מביא את הבינה המלאכותית ליומיום שלנו. ובמחקרים של גיא ראינו, שהבינה היא לא מה שמעניין בכלל ברובוט, אלא דווקא עצם הנוכחות הגופנית שלו. הרובוט החברתי בכלל לא צריך להיות חכם כדי להשפיע עלינו במחווה או תגובה אחת, לטוב ולרע
דיברנו בפרק הזה לא מעט על פסיכולוגיה אנושית, וזה מעניין שדווקא התחום הטיפולי הזה – שבו נדמה שכל כך חשוב שיהיה מולנו אדם אחר, ואולי זה המקצוע האחרון שניתן לדמיין כמוחלף על ידי מכונות – דווקא כאן הופיעה אלייזה, הצ’טבוטית הראשונה שהייתה מעין פסיכולוגית; ודווקא כאן יש פרוטוקולים כל כך ברורים וברי תכנות, שבהם רובוט עשוי להצליח לשקף לנו, ולהניע אותנו לשינוי, במידה זהה לאדם אחר, אם לא טובה יותר לפעמים. המחקרים של גיא מאירים על האפשרות, שכמה מההישגים היותר משמעותיים של רובוטים חברתיים, בכלל לא יהיו קשורים ליכולות מתקדמות של בינה מלאכותית. ואפרופו המחשבות של גיא על רובוטים מבוססי אנרגיה מתחדשת, בפרק הבא נדבר על העתיד של מקורות אנרגיה חדשים ועל מחשוב קוונטי
אם אהבתםן, אשמח אם תמליצו על הפרק ועל הפודקאסט בכלל לחברים וחברות, ונשתמע בפרק הבא
?רוצה לקבל מייל כשהפרק הבא מתפרסם
:מקורות וקריאה
לכל הפרסומים של פרופ’ גיא הופמן
הרצאת פצ’ה קוצ’ה בעברית של גיא הופמן מינואר 2011
Hoffman, G. (2006). Acting Lessons for Artificial Intelligence [AI’50 Summit]
Hoffman, Guy, and Gil Weinberg. “Interactive improvisation with a robotic marimba player.” Autonomous Robots 31.2 (2011): 133-153.
Hoffman, G. (2012). Dumb Robots, Smart Phones: a Case Study of Music Listening Companionship [RO-MAN’12]
Hoffman, G. (2012). Embodied Cognition for Autonomous Interactive Robots [TopiCS’12]
Hoffman, G., & Vanunu, K. (2013). Effects of Robotic Companionship on Music Enjoyment and Agent Perception [HRI’13]
Hoffman, G., & Ju, W. (2014). Designing Robots with Movement in Mind [J-HRI’14]
Zuckerman, O., & Hoffman, G. (2015). Empathy Objects: Robotic Devices as Conversation Companions [TEI’15]
Hoffman, Guy., Birnbaum, G. E., Vanunu, K., Sass, O., & Reis, H. T. (2014). Robot responsiveness to human disclosure affects social impression and appeal. In Proceedings of the 9th ACM/IEEE International Conference on human-robot interaction (HRI 2014) (pp. 1-8).
Birnbaum, Gurit E., Moran Mizrahi, Guy Hoffman, Harry T. Reis, Eli J. Finkel, Omri Sass. (2016). What robots can teach us about intimacy: The reassuring effects of robot responsiveness to human disclosure, Computers in Human Behavior, Volume 63: 416-423.
Birnbaum, G. E., et al. (2016). Machines as a source of consolation [HRI’16]
Weinberg, G., Bretan, M., Hoffman, G., & Driscoll, S. (2020). Robotic Musicianship: Embodied Artificial Creativity and Mechatronic Musical Expression. Springer.
Hoffman, G. (2020). The Social Uncanniness of Robotic Companions. In Proc. of the 2020 Robophilosophy Workshop: Culturally Sustainable Social Robotics. Series: Frontiers of AI and Its Applications, Nørskov, Seib, & Quick. (eds.), IOS Press.
Hoffman, G., Kshirsagar, A., & Law, M. V. (2022). Human–robot interaction challenges in the workplace. In S. C. Matz (Ed.), The psychology of technology: Social science research in the age of Big Data (pp. 305–348). American Psychological Association.
Pasquale, Frank. (2020). New Laws of Robotics: Defending human Expertise in the Age of AI. Harvard University Press.
Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
Dr. Carmel Vaisman 