פרק 62. מה אלגוריתמים רוצים? עם פרופ’ ערן פישר

להאזנה לפרק לחצו פליי כאן, יש לגלול מטה על מנת לקרוא את התמלול

להאזנה בכל יישומוני ההסכתים או לצד תמלול כאן באתר

Apple
Google
Spotify
YouTube
RSS
Pod.link

אלגוריתמים רוצים בני אדם צפויים ככל האפשר, וניבויים ככל האפשר, ולכן אנשים שהחירות שלהם היא קטנה ככל האפשר. אבל הם לא רק רוצים, אלא באמת יש פה מהלך דיאלקטי, הם גם מייצרים את הסוג הזה של בן אדם

פרופ’ ערן פישר

האורח שלי היום הוא

פרופ’ ערן פישר מהאונ’ הפתוחה, המחלקה לסוציולוגיה, מדע המדינה ותקשורת

לערן יש ספר חדש בעברית בשם “חושבים בשבילך: מבט ביקורתי על אלגוריתמים“, בהוצאת הקיבוץ המאוחד

למעשה זה ספר שהוא בעיקר מסכם עבודה של בערך 6-7 שנים אחרונות על הנושא הזה

הספר עוסק בשינוי האפיסטמולוגי שמחולל ידע אלגוריתמי, במיוחד ל”עצמי”, ובעולם שאלגוריתמים ונתונים יוצרים עבורנו. מכיוון שזה גם הפרק האחרון שלנו לשנת 2022, אז יש בו מן איכות סיכומית. דיברנו הרבה על בינה מלאכותית ואלגוריתמים בעבר, ובפרק הזה תהיה לנו זווית שתחבר בין כמה מהדברים הללו בצורה חדשה. בניגוד להרגלי, אני גם משלבת בפרק הזה יותר ממה שאני עצמי אמרתי בשיחה בשטח


לפני שנתיים, בפרק השמיני של הפודקאסט, שעסק באושר, דיברתי עם ענת פנטי על התזה שלה בנוגע לאפליקציות לניטור אושר, ועל המשמעות של לפעול בעקבות סוג כזה של ידע על עצמי, ידע שלא מגיע מתוכי. ערן פישר יצא לדרך משאלה דומה

מה שעניין אותי זה קצת פחות איך חברות המדיה האלה מכירות אותנו, ויותר איך זה משנה את הידיעה שלנו על עצמנו, מה זה אומר לדעת את עצמנו דרך נתונים? מהר מאד הבנתי שהדרך שלהם לדעת בני אדם, לדעת מי אני, יש בה סוג חדש של ידיעה דרך הנתונים האלה, שהם לא האופן שבו אני, למשל, מכיר אותך, שזה בעיקר היכרות הרמנויטית, היכרות של פרשנות, את מדברת, אני מתעסק בתוכן של הדברים שלך. מה שעניין אותי זה, איך הם אוספים כל כך הרבה נתונים על מתי אנחנו כותבים, וכמה פעמים אנחנו לוחצים על מקש הבקספייס, ואיך מזה מייצרים תמונה של בנאדם

יש תנועה חברתית של אנשים שמטיפה לצורה כזו של ידיעה עצמית, ולמדידה עצמית בעזרת אפליקציות רבות כדי לנהל את עצמי, ולשנות הרגלים לטובה. קוראים לזה “העצמי המכומת“. הפילוסוף מישל פוקו קרא לזה “טכנולוגיות של העצמי“, והראה איך עוד מיוון העתיקה, הציווי “לדעת את עצמך” מומש באמצעות מדיה, כמו לכתוב יומן, למשל. לפני עשור זה היה אולי לכתוב בלוג ברשת. והעצמי המכומת מסמן מעבר מידע מילולי, גילוי האמת הפנימית בעזרת דיבור, לידע באמצעות נתונים גופניים שמבטיחים לנו את אותו סוג גילוי

העצמי המכומת זה דוגמא מאד מודעת ומכוונת, “זה הפרויקט שלי, אני אלמד את עצמי דרך נתונים”. אבל גם כשאת משתמשת ביוטיוב או בספוטיפיי והם עושים זאת עבורך, זו כן איזושהי השתקפות במראה. רעיון העצמי המכומת, הרבה מזה זה בתחום הגופני. לי, כהומניסט, הרבה יותר קל לקבל את זה. זאת אומרת, יש לי איזושהי גישה ל”קופסה”, למה שקורה בפנים, וגם זה בהרבה מאמץ והשקעה, אבל אני לא יודע מה קורה אצלי בכבד ובריאות, אז יש מכשיר שמשקף לי את זה. אבל מה שאני חושב שאלגוריתמים עושים, האלגוריתמים שאני התעסקתי איתם, זה שהם מנסים להוציא את הסובייקט המשתקף בפני עצמו מתוך התהליך הזה, ולתת לך איזשהו תוצר. זה מאפשר צורת חיים מסוימת, אבל אני שואל איזה צורות חיים צומחות מתוך עצמי כזה, שמשתקף כל הזמן בדאטה? אין לו גישה, או אין לו שום עניין במה שקורה “בתוך הקופסה”. את אמרת “דע את עצמך”. יש לנו היסטוריה של שימוש במדיה שעוזרים לנו להכיר את עצמנו. למשל, היומן הפרטי זה היה מכונה להכיר את עצמנו. אני קורא לזה מדיה אפיסטמית, מדיה של יצירת ידע. אתה עושה משהו נורא דומה למה שקורה היום במדיה דיגיטליים, עובד ברמה של דאטה. אתה אומר “היום פגשתי את זה. זה היה החלום שלי”י

המטא-דאטה הכי חשובה ביומן זה המטא-דאטה גם שהכי חשובה במכונות דיגיטליות, זה חתימת הזמן. בלי זה אי אפשר אפילו להתחיל לעבד את המידע הזה. זה לא רק מה קרה, אלא מתי קרה. בדיוק כמו שגוגל, ברגע שהם אוספים את זה לאורך זמן, וכמויות גדולות של דאטה, איזושהי תמונה חדשה הולכת ומתבהרת, אז במובן הזה גם היומן הפרטי עשה אותו דבר. אתה כותב כל יום מעט, כותב דאטה, ואיזושהי דמות מתרקמת מזה. אני חושב שההבדל הגדול בין שני סוגי המדיה האלה, זה עד כמה הם מאפשרים בעצם צמיחה או פיתוח של סובייקטיביות, מרחב שבו אנחנו לא רק פועלים, אלא גם חושבים על הפעולה שלנו, רפלקטיביים על הפעולות והמחשבות שלנו. ואני חושב שהרבה ממה שמכונות אלגוריתמיות עושות, הייתי אומר שההבטחה הגדולה שלהם, זה להגיד לנו מי אנחנו יותר טוב ממה שאנחנו מכירים את עצמנו. אז כשגוגל כותבים את היומן הפרטי שלנו, הם קצת מוציאים אותנו מתוך התהליך של הגילוי. הגילוי הזה הוא זה שמאפשר את הצמיחה של הסובייקט, והסובייקט הוא זה שמאפשר את הגילוי בהמשך

אז בואו באמת נדבר על הסובייקט ועל סובייקטיביות, כי זו מילת מפתח בספר של ערן, וזה מושג קצת יותר מקצועי, פילוסופי ופסיכולוגי, לתיאור האני שלנו, ההוויה האנושית, שכל הפילוסופיה המודרנית עסקה בעיצוב שלו, ויותר מכל בשחרור של הסובייקט. זו בעצם מטרת הפסיכואנליזה, לגלות מה מונע מהאדם להיות חופשי, ובמובן הזה זוהי תיאוריה ביקורתית. המסקנה שערן הגיע אליה היא שידע אלגוריתמי, אפילו שהוא יכול להוסיף לנו המון נתונים מעניינים, הוא לא ידע ביקורתי במהותו. כי אין לו איזה מודל תיאורטי של מי אנחנו, או מי ראוי שנהיה, ויש עם זה בעיה

אנחנו אף פעם לא נהיה חופשיים, אף פעם לא נהיה סובייקטים, אבל עצם החתירה לעבר זה היא הפרויקט. היא זאת שאיכשהו מאפשרת איזשהו חופש אנושי בכל זאת, מאפשרת לנו לא להיות רק יצורים שנתונים לכוחות פיזיולוגיים, לכוחות שבאים מבחוץ וכו’. מה שהפסיכואנליזה כתשתית תרבותית נותנת, זה את הניסיון להבין איך ההתנהגות שלנו, הרצונות והתשוקות שלנו, הם לא הסוף המוחלט של מה שנקרא “אני”. אני יכול גם לדעת שאני נורא רוצה לקנות איזשהו מותג יוקרתי, וגם להבין שבניית המותג הזה היא בנייה שנעשתה מבחוץ, עם המון כסף, עם קנייה של מדיה, עם ניסיון לשלוט במחשבה וברגש שלי. זאת אומרת, אני יכול לעבוד בתוך המרחב הזה, שבו אני גם נורא רוצה לקנות גוצ’י, אבל גם, למשל, יכול לפתח איזושהי התנגדות לזה

יש ציטוט יפה מפרק אחר עם נורמה מוסי, פוסט דוקטורנטית שלי, שחקרנו את מנועי ההמלצות של אמזון ונטפליקס. יש שם ציטוט שאני מאד אוהב, שאיזה כותבת טור אומרת: אני לא אוהבת את הדמות שמשתקפת ממה שהם מציעים לי. כאילו, נכון שאני כל הזמן רוצה לראות סרטונים של חתולים, אבל אני לא באמת רוצה לקבל את מה שאני “רוצה”, כי מה שאני רוצה הוא מורכב יותר. מצד אחד גם רואים את האני הזה שמשתקף במראה, הם רואים אותו עם איזשהו מרחק ביקורתי. זה לא שאנשים מסתכלים על מה נטפליקס מציעה להם ואומרים “אה, כזה אני”, אבל זה בהחלט חושף איזשהו פן בתוכם

כרמל: אנחנו מאמינים לפי הפסיכואנליזה, שיש בנו כל מני קולות. פרויד באמת סידר את זה לפי כל מני אגו, איד וכו’, אבל יש אני ילדותי יותר ותשוקתי ורוצה וחסר סיפוקים, ויש את ההורה הפנימי היותר ביקורתי וכו’. ומה שאתם אומרים כאן זה שבעצם מנועי ההמלצה מדברים לאני מאד מסוים, אולי האני היותר ילדי הזה והפשוט, שקל להפעיל אותו עם דופמין. ואם ההורה הפנימי שלנו לא מספיק מפותח, אנחנו נופלים בדבר הזה, ואז יש בנו כל הזמן איזה קול שאומר “אני לא רוצה להיות הדבר הזה” ויש משהו שמפתה אותי להיות הדבר הזה. זאת אומרת, זה לא מדבר אלינו כאדם מורכב. זה מדבר למשהו מאד ספציפי שזה מתקשר אתו

ערן: נהדר, אני לא הייתי יכול לנסח את זה יותר טוב. זה בדיוק זה, וגם, אגב, אנשים מגיבים לזה. זאת אומרת, הם מרגישים את – איך אלתוסר קרא לזה – האינטרפלציה. קוראים לך בצורה מסוימת, וקוראים לרבדים מסוימים בך. בואו נגיד שהמכשירים האלה, האלגוריתמים, הם בעלי כוונות טובות. אני מניח את זה, ואני חושב שבהרבה מקרים באמת האינטרסים שלהם ושלנו דומים. זאת אומרת, בא לי להיחשף לדברים חדשים ומעניינים, והם רוצים להשאיר אותי שם. אז נשים רגע את הפרסומות בצד, זה לא מעניין אותי, זו לא השאלה שמעסיקה אותי. יש להם רצון כן להשאיר אותי שם, אבל כמו שאת אומרת, הם פונים להיבטים מסוימים שלי, של המורכבות הזאת, של האני הזה, כדי לפתות אותי

כרמל: הם רוצים לספק אותי, אבל מי זה “אני”, מי זה ה”אני” בעיניהם? איזה אני הם רוצים לספק בתוכי

ערן: חד משמעית, לגמרי. הספר קודם כל מזכיר לנו, שסובייקטיביות היא לא דבר נתון, היא הייתה איזשהו פרויקט שצמח עם המודרניות והנאורות, שבעצם ביקש להסתכל על האדם בתוך תהליך, שמנסה להגיע לרמה של חופש גדול יותר, שחרור  גדול יותר, במובן הכי עמוק מעצמו, מהכבלים של עצמו. כדי לעשות את זה אנחנו צריכים להכיר את עצמנו, לא רק במובן של לדעת מה המציאות האובייקטיביות שאנחנו חיים בה, אלא יש בתוך הסובייקטיביות, מה שהיא מאפשרת, זה איזשהו מרחב להליכה לעבר מקום שאנחנו עוד לא הגענו אליו. הפרויקט של הנאורות כמו שקאנט הגדיר אותה, היה לשחרר את עצמנו מהכבלים האלה, ובין השאר, זה דרש מאתנו להכיר את עצמנו בצורה מסוימת. מה שידע אלגוריתמי עושה בעיני, התוצר שלו, זה להקטין את מרחב החופש הזה. זאת אומרת, להגיד לנו מי אנחנו ברגע נתון, ובעצם לצמצם את מידת החופש להתרחק ממי שאנחנו, או לזוז לעבר איזשהו אופק אוטופי של חופש

ממש לאחרונה יצא ספר של כהנמן, על אלגוריתמים כפתרון לסובייקטיביות, במובן שכמו שאנחנו אומרים על מישהו שהוא לא אובייקטיבי. הוא בעצם  מדבר על חוסר רציונליות, על זה שאנחנו בני אדם, ויש לנו גזענות שטמונה בנו, ודעות קדומות וכו’. הוא צודק במובן הזה, שזו הפנטזיה של אלגוריתמים, להוציא את המרחב הזה, שהוא מרחב של חופש, שיכול ללכת באמת לכל מני כיוונים; הוא יכול ללכת גם לכיוון שלילי, כמו, למשל,  גזענות של החלטות משפטיות, אבל הוא גם זה שמאפשר לנו כאינדיבידואלים לדעת שזה מה שאנחנו רוצים

כרמל: איפה זה פוסט אנושי בעיני? לנאורות יש תפיסה אידאלית של האדם, מי הוא אמור להיות, מי הוא יכול להיות, ואני אתייחס אליו לפי מה שהוא יכול להיות, כי כאילו הוא היצור הבוחר הזה, ויש לו את המסוגלות לרציונליות, והוא רוצה חירות, ואני אתן לו. וכהנמן והאנשים האלה באים ואומרים בעצם, בואו נראה מי אתם באמת. רוב הזמן אתם ממילא אוטומטיים, אז תנו לי להחליף אתכם באיזה אוטומט

ערן: חד משמעית. בגלל זה אני מזכיר שסובייקטיביות היא לא דבר קיים, זו לא אונטולוגיה אנושית, אלא זה פרויקט פוליטי, זה אפילו פרויקט אוטופי. אבל כל המוסדות המודרניים מבוססים עליו, על “השקר” הזה. זאת אומרת, אנחנו הולכים לבחור בבחירות, ואנחנו יודעים איך תעמולה עובדת, אנחנו יודעים איך בחירות עובדות בצורה שבטית ולא רציונלית. כדי שהפסאדה של דמוקרטיה כבחירה  – שאני בוחר מישהו, וזו בחירה חופשית – תעבוד, אני צריך לטפח את הפנטזיה הזו שאנחנו באמת יכולים להיות חופשיים, ושהבחירה שלנו באמת תהיה חופשית. אלגוריתמים רוצים בני אדם צפויים ככל האפשר, וניבויים ככל האפשר, ולכן אנשים שהחירות שלהם היא קטנה ככל האפשר. אבל הם לא רק רוצים, אלא באמת יש פה מהלך דיאלקטי, הם גם מייצרים את הסוג הזה של בן אדם, אם הם ממשיכים להראות לך סרטונים של חתולים. האופן שבו הם מדמיינים מי אנחנו, בני האדם, כרוך גם באופן שבו הם מייצרים אותנו כבני אדם, או הניסיון שלהם לייצר אותנו. הסובייקטיביות לא נעלמת אבל אני חושב שהיא תחת מתקפה. במובן מסוים, מה שניסיתי זה רק לשרטט את קווי המתאר של המתקפה הזאת

אבל הספר לא עוסק רק בעצמי האינדיבידואלי. אם כי גם זה דבר שאלגוריתמים היו רוצים, פרסונליזציה בכזו רזולוציה עד שכל אחד הוא קטגוריה בפני עצמו. וכשאלגוריתמים מתייחסים אלינו כיחידים, כנתונים בדידים, זה סוג של הפרד ומשול. זה לא יודע לקחת בחשבון, ולכן זה גם מפקיע, את מרחב ההתארגנות הקולקטיבית שלנו, את המרחב הפוליטי. בספר של ערן יש פרק על ווייז, שמדגים את הדבר הזה במיוחד

האמת שזה התחיל מזה שהייתי נוסע מחיפה למשרד שלי ברעננה, ותוך כדי שאני נוסע הרבה פעמים הווייז מסיט אותי מהכביש הראשי לבית ינאי, והתגובה הראשונה שלי הייתה לחשוב בוא’נה, זה חתיכת אירוניה. את יודעת, בית ינאי, עשירון ראשון או שני, האנשים האלה – עוד פעם, במושגים מאד תמימים – שילמו המון כסף בשביל איכות חיים, ופתאום יש על ידם פקק בבוקר ותנועה סואנת. האלגוריתם פה עושה משהו, והתחלתי לבדוק את זה. עוד דבר שקרה היה שנתקלתי בתושבי המקום שמוחים נגד זה. אחד הדברים שהוא מסקנה פוליטית שלי מהסיפור הזה, זה בעצם היכולת של המכשירים האלה להפקיע החלטות מסוימות, נהלים מסוימים, או נהגי חיים מסוימים, מהמרחב הפוליטי. זאת אומרת, כבישים, תחבורה, ומרחב עירוני, זה תמיד מרחב מלא שחקנים שבוחשים – התושבים, ובעלי הון, והעירייה, ואנשי מקצוע, וארכיטקטים – זה גיהינום להתמודד עם הדבר הזה, בלגן

ומה שהשחקן האלגוריתמי עושה זה בעצם לבטל את הדיונים האלה. פה זה לא ביטול של הסובייקטיביות, זה ביטול של האינטר-סובייקטיביות, של העניין של ‘אני אדבר אתך על זה’. אגב, גם כשהייתי מציג את המחקר הזה, אז המון פעמים הדיון של הקהל היה, האם זה בסדר או לא בסדר שהמכוניות יעברו דרך בית ינאי, או דרך כל מני מושבים כאלה. והטענה שלי הייתה הנה, הנה הדיון הפוליטי! אבל מה שהרבה יותר מעניין אותי זה, האם זה בסדר שאלגוריתם יפקיע את עצם הדיון הזה מהחיים שלנו? רוב המחקר שלי היה בעצם חשיפה של התסכול, של חוסר היכולת של הגופים האחרים – בני אדם, המשטרה, העירייה – להתמודד עם המכשיר הזה, שעובד כאילו על פי החוקים, ועל פי הדברים שהם הכתיבו, אבל בעצם מייצר איזושהי נוכחות בעולם

כרמל: אז יש כאן החלטה פוליטית שהפכה להחלטה טכנית, ולכן אובייקטיבית, ולכן מדעית, ולכן יעילה (לפחות כך היא מתפרשת). זאת אומרת, האם אנשים באמת תופסים את זה בתור הדבר היעיל, הדבר האובייקטיבי, הדבר הטכני? כי לאלגוריתם אין משוא פנים לכאורה, ואז אנחנו נוטים לקבל את ההחלטה שלו. זו שאלה אחרת אם אנחנו יכולים להתנגד לה או לא וכמה זה  טכנוקרטי, אבל מה אנחנו חושבים, מאיפה מגיעה ההחלטה הזאת? והאם היא עליונה בגלל שהיא לא פוליטית

ערן: חד משמעית, אני חותם על כל מה שאמרת. זאת אומרת, מה שתושבי הכפרים האלה ביקשו, מבחינתי, זה לשמור על הפריבילגיה שלהם. הם השיגו לעצמם פריבילגיה מתוך זה שהם בעשירון גבוה. יש שם ציטוטים יפים כאלה שהם אומרים “מה, אנחנו משלמים מיסים גבוהים!”, כאילו שאם אתה משלם מיסים אז מגיעה לך גם איכות חיים. אני אומר שגם אם במקרה הזה האלגוריתם פועל לטובתי, אני עדיין מוטרד שהדיון לא נעשה במרחב פוליטי שבו מדברים על פריבילגיות, ומדברים על איזה חיים צריכים להיות. חלוקה צודקת של פקקים זו שאלה פוליטית. ואני חושבת שאת לגמרי צודקת, אגב, זה הטיעון של ווייז וזה טיעון מנצח. הם אומרים, יש לנו גישה לידע שאין לאף שחקן אחר, לא לארכיטקטים, לא לעירייה, אנחנו מכירים את הדבר הזה

אחד הדברים שגיליתי זה ש”מובאיט”, אפליקציית התחבורה הציבורית, נרכשה ע”י אינטל, אבל היא בעצם תחת פיקוח וניהול של מובילאיי. כשנגיע לרגע הזה של תחבורה אוטונומית, כל הידע הזה יהיה מאד קריטי, וגם יהיה מאד חשוב לחבר את כולנו לתוך הפלטפורמה הזאת כדי שהם ידעו איפה אנחנו. איזושהי פוליטיקה שבה אנחנו מעבירים נתחים הולכים וגדלים מהחיים שלנו בעצם, לניהול של חברות פרטיות שאין להן בעצם כפיפות לנורמות דמוקרטיות. זה לא רק איזה קורנפלקס אנחנו צורכים, אלא זה באיזה עיר אנחנו חיים. אפרופו בחירות, נורא קל לדמיין מצב, שבו אלגוריתמים יזהו מי ראש הממשלה הבא, או מי הנבחרים

כרמל: למה אני צריכה לבזבז כסף על מערכות בחירות, כשהם פשוט יכולים לקבוע שזה מה שממילא הציבור יבחר, ויאללה בוא נלך על זה

ערן: חד משמעית. או תחשבי על עיר חכמה, על עיר שבה ראש העירייה, במקום כל הזמן לבדוק עם התושבים, פשוט אוספים המון נתונים ובודקים כמה אנשים מגיעים לפארק, באיזו שעה, עם כמה ילדים, כמה הם מדברים שם, כמה הם משתמשים בסלולר, כל הנתונים שאנחנו יודעים שאפשר לאסוף. ועל פי זה נקבע את המבנה של העיר, איפה צריכה להיות תעבורה

כרמל: מה שאנחנו מתארים כאן, הרבה אנשים אומרים, כן!! זו אוטופיה, הקדשנו לזה גם את פרק 11, כשדיברנו על העיר החכמה, ד”ר מישל אורן סיפרה לנו את האפשרויות האלה בתור אוטופיה, די לשחיתות, בואו ננהל את זה לפי דאטה. אז מה אנחנו אומרים?י

ערן: מה זה פוליטיקה? פוליטיקה זה להתמודד עם זה שאחרים לא רוצים מה שאתה רוצה. היא לא מדעית ואין בה אמת, אלא יש בה פשוט רצון אנושי מתנגש, ולנסות לנהל הרבה מהחיים שלנו ללא פוליטיקה. אני מאד מודרניסט ומאד ומנסה לשמור, או לחשוב איך אנחנו יכולים לשמר הישגים מסוימים מהמודרניות. ונראה לי שאחד מהם זה דמוקרטיה, במובן העמוק של המילה, לא רק תהליכי הבחירות, אלא עצם הרעיון שאנחנו, בני האדם, נחליט איך אנחנו נחייה. זאת אומרת, שהדיון הוא לא פחות חשוב מהתוצאה של הדיון. אחד הפרויקטים של המודרניות היה באמת לייצר מדע רציונלי. זה לא רק לדעת מה קורה, אלא לדעת למה קורה. המטרה הייתה לייצר שינוי. נשים מרוויחות פחות? בואו נבדוק איך היציאה משוק העבודה כדי להיות אימהות משפיעה. הרבה מהמדיניות שלנו, הרבה מהאופן שבו ארגנו את החיים במדינה מודרנית, מבוססים על זה. אחד הדברים שאלגוריתמים עושים זה לוותר על האטיולוגיה הזאת, לוותר על השאלה למה משהו קורה, ופשוט להגיד “ככה זה. אני פשוט אספתי המון נתונים, ואני יודע, למשל, שהאישה הזאת בוחרת במישהו מסוים, או תהיה ענייה”. מאד יכול להיות שחיים מנוהלים הם חיים אנושיים, ואפשר לחיות אותם. אני מוצא את עצמי שאני צריך להגן (ואולי זה באמת הסיטואציה) על המרחב הזה, שהוא מלוכלך, שיש בו טעויות. פוליטיקה דמוקרטית, כי זה דרך לחיות חיים יותר חופשיים. צריך להילחם בגזענות, אבל צריך להילחם באמצעים פוליטיים

את יודעת, גם פוקו – שאיפה שאולי מודרניסטים רואים מרחב של חופש, הוא רואה בזה משמוע – גם אצלו היית צריך את שיתוף הפעולה של הסובייקט. היית צריך להבנות סובייקט שממשמע את עצמו, וברגע שבנית את הסובייקט הזה, גם אצל פוקו עדיין יש מרחב של חופש, של התנגדות. אני חושב שהרבה מהחיים שלנו הולכים ונהיים מנוהלים ע”י מערכות טכנולוגיות כאלה – באמת ווייז זה דוגמא טובה – שם כבר לא ברור שצריך סובייקט. זאת אומרת, במודרניות, גם אם ההשקפה שלך היא די פסימית לגבי מידת הדכאנות, והחינוך שלנו להיות פועלים, ותלמידים, ולהיות ממושמעים, אבל בכל זאת, זה היה אינטרס גם של הממשמע, לייצר את הסובייקט שמחזיק את עצמו. אבל היום יותר ויותר אנחנו עוברים למשטרים שבהם אפשר להתחיל להתייחס לאנשים יותר ויותר כאובייקטים. אתה לא באמת זקוק לסובייקט הזה שממשמע את עצמו, בגלל שיש לך יותר ויותר את היכולת לנהל אוכלוסייה באמצעים שהם הרבה  יותר מבחוץ. ומשטר של נתונים יכול להביא אותנו למצב שאנחנו נהיה יותר נתינים של המשטר. ההברקה הזאת של נתונים ונתינים היא של עמיתה שלי וחברה, ענת בן דוד. זה באמת בין להיות נתין שמופעל, לבין להיות סובייקט, שיכול להיות שהוא יעשה הרבה פעמים אותה פעולה, אבל לפעמים לא. כמו שארנדט אמרה, כל אדם שנולד עולם חדש נולד, יש אפשרות לשינוי. עולם אלגוריתמי, עולם מנוהל, הוא עולם הרבה יותר קפוא ויציב, ושיהיה הרבה יותר קשה לשנות אותו

כרמל: אני חושבת על זה, שתמיד הסתכלנו על הסינים כאילו שהם עושים משהו נורא מוזר, ואני מדברת עוד הרבה לפני שהם עשו מערכות מעקב. זוכר את האולימפיאדה שהם עשו כזה פתיח מטורף של הרמוניה, שכולם התאמנו עליו שלושה חודשים, והרביצו לאנשים שלא עשו את זה נכון? הסתכלנו עליהם כאילו שהם נורא מוזרים שהם מנסים למשטר, ולייצר הרמוניה בכוח. אני חושבת שזה מה שאנחנו מנסים לעשות עם בינה מלאכותית. בעצם לקחת את הכאוס שהם בני אדם, ולייעל אותם, שהכל יסתדר, באיזשהו כוח

 ערן: זה באמת העוצמות וההיקפיות של המכשירים האלה. זאת אומרת, אנחנו יותר ויותר חיים בתוך העולמות האלה. נגיד המטאוורס זה באמת הטופ של הפנטזיה הזאת, שאתה תהיה בתוך העולם שלהם, זה כבר עולם שהוא באמת מנוהל לגמרי

ב2018 הודלף לרשת סרטון פנימי, שהופק שנתיים לפני כן בגוגל, בניסיון לדמיין את העתיד. כותרת הסרטון הייתה “הפנקס האנוכי“. זה על אותו משקל של “הגן האנוכי” של ריצ’ארד דוקינס, כמובן. אבל בעוד שדוקינס העניק איזושהי סוכנות לגנים שלנו, גוגל האנישה את הדאטה. ערן הקדיש את אחד הפרקים בספר שלו לניתוח הסרטון הזה, שחושף, לטענתו, את הלא-מודע הפוליטי של גוגל, ואת האופן בו היא מדמיינת, וככל הנראה בונה, אלגוריתמים. אני ממש ממליצה לעצור רגע ולצפות בסרטון הזה אולי אפילו בחלק ממנו כי הוא די ארוך, זה איזה תשע דקות. אבל גם אם אתם רוצים להמשיך, בגדול הסרטון מדמיין עולם, שבו כל אדם מיוצג באמצעות פנקס אישי על שרתי גוגל, והדאטה שנאסף עליו מתחיל לקבל חיים משל עצמו

הייתי אומר שהסרטון הזה פשוט מדוורר את הפנטזיה שלהם. אני כן יודע בהיסטוריה של הטכנולוגיה, שלפנטזיות האלה יש המון כוח מעצב. הן לא רק מספרות איזשהו סיפור, הן גם מתוות דרך, הן נותנות איזשהו חזון, איזה מן עולם אנחנו הולכים ובונים. צריך לזכור שלגוגל יש חזון מאד יומרני, הם לא רואים את עצמם כמי שרוצים לעשות מכונת כביסה מאד טובה, הם רוצים לשנות את העולם, הם רוצים לעשות עולם חדש. אז איזה מן עולם זה? אחד הדברים שאני חושב שמדהימים בסרטון הזה, זה הרצון שלהם בעצם קצת לפטור אותנו מעצמנו. מה שנורא מעניין בסרטון הזה, זה באמת ההנפשה, הניסיון להפיח חיים באלגוריתמים. מה שאלגוריתמים רוצים זה נתונים. אז למשל, הרצון שלו מתבטא בצורה נורא פשוטה, בזה שחסר לו מידע. בסרטון הוא לא יודע מה המשקל של המשתמש הזה. אז הפנקס מתחיל להציע לו מאזני משקל לרכישה, והוא לא מצליח. אז הוא מעצב בעצמו מוצר שלא היה קיים קודם בעולם, מצליח לפתות את המשתמש, המשתמש אומר “מוכן אני”, קונה, ואז באמצעות טכנולוגיות תלת ממד וכל מני טכנולוגיות שאולי עוד עתידות להתקיים, הוא מייצר את המוצר הזה

ואז כמובן זה “אינטרנט של הדברים”, אז ברגע שהוא עולה על המשקל, יש לפנקס את המידע הזה. והרעיון הוא באמת של איזושהי פנטזיה פוסטהומניסטית קלאסית, של מכשירים שמפתחים רצונות משל עצמם, שיש להם אופקים משל עצמם, יש להם רצון, והרצון זה לדעת. זה לא רק ברמה האינדיבידואלית, אלא יש גם רעיון ציוויליזציוני. זאת אומרת, שדורות של אנשים שמפיקים נתונים, תהיה ספרייה ענקית של כל הרצונות, של כל מה שדיברנו, של כל הנתונים בקיצור, של הקיום האנושי, ודרך זה נוכל בעצם – ציטוט פחות או יותר מדויק – לפתור את הבעיות הכי בוערות של האנושות. אני חושב שלמשל, עוני או רעב, זו בעיה פוליטית. מנסים לפתור בעיות פוליטיות באמצעים טכניים, באמצעים של עוד טכנולוגיה, איזושהי וורסיה על הפנטזיה הזאת

כרמל: באמת זו מחשבה עם היסטוריה, שאולי בזכות טכנולוגיה נוכל להחליף ולבטל יחסי כוח, ולכן באמת לקבל יותר “חירות, שוויון, ואחווה”. וכבר ראינו – היו לנו כמה גלגולים, וכבר דיברנו עליהם בכמה פרקים בפודקאסט – שזה לא עובד, אי אפשר לבטל אותם. יכול להיות שלא נוכל לעשות פה “כביש עוקף”, וקיצור דרך, ורק נגמור במקום הרבה יותר חשוך. אחד הדברים שאני ראיתי בסרטון הזה, זה באמת המקום שבו המידע/הנתונים/הפנקס חי אחרינו, סוג של חיי נצח שלנו. זה כמו להשאיר את הנשמה על איזשהו שרת, הגוף מת מזמן, אבל התיעוד נשאר, וכל ההיסטוריה האנושית. זאת אומרת, היה שם איזה משהו כאילו שמרתי את הגנים שלכם. וזה לא סתם השוואה של הגן האנוכי והפנקס האנוכי. יש פה איזושהי מחשבה שהסוכנות האמיתית היא לא האדם האינדיבידואל, היא המידע עליו. והיא תחיה לנצח

ערן: כן, זה באמת מציע היסטוריה פוסטהומניסטית, שבה האדם מוצא מהמרכז. ההיסטוריה של היקום בעצם היא היסטוריה של דאטה. הם מדמיינים עולם, או שואלים מה יקרה אם נדמיין עולם שבו בני אדם הם בסך הכל – זה עוד פעם ציטוט ישיר – נשאים של הדאטה שלהם. הם עוברים פה, הדאטה יישאר. אם חושבים על ההיסטוריה האנושית, ועל המקום המרכזי שהיה לשפה, ולפרשנות, ולהרמנויטיקה, ולשיחה, בהבנה ובהבניה של העולם האנושי, יש פה בהחלט קפיצה קוונטית לעבר הבנה והבנייה שמבוססת על נתונים. את יודעת, יש ספר יפה בשם “דאטה-קליזם“, של מי שיצר והיה מנכ”ל של אוקיי-קיופיד. אני קצת מפשט מה שהוא אומר, אבל הוא אומר משהו בסגנון, לא אכפת לנו מה אתה כותב, זה לא מעניין אותנו, זה נורא מסובך להתעסק עם שפה. כדי לדעת מי אתה, אנחנו בודקים מתי אתה נכנס, באיזו שעה. כמה בקספייס אתה עושה כשאתה כותב, כמה זמן לוקח לך להגיב. זהו, ככה הם מכירים אותנו. אז זה סוג של עולם, ותקשורת, והבנה, וידע, שזה באמת קפיצה קוונטית אני חושב, לא רק מהנאורות, אם אנחנו הולכים ליובל נח הררי ולמרכזיות של שפה. את מה שקורה שם עם שורות הדאטה, אין קוגניציה אנושית שיכולה להבין את זה, זה לא בר תרגום לשפה אנושית

כרמל: אתה מרים לי להנחתה, כי מתישהו אני חושבת לכתוב ספר “המצב הפוסט אנושי”, שמסכם מגמות רוחב שמשותפות להרבה פרקים בפודקאסט. אני ממש מרגישה שאני מייצרת ידע מהרבה אנשים מתחומים שונים, שלא מדברים אלה עם אלה, ואומרים את אותם דברים בצורה אחרת. ואחת התמות שעולות מזה, זה הנושא של שפה. גם הקדשנו לזה כבר את הפרק השני בפודקאסט, “תקשורת ללא שפה” עם פרופ’ עמית פינצ’בסקי, וגם עלו שם כל מני דברים, אפילו בפרק על עיר חכמה עם מישל אורן. פתאום הבנתי שתכנון של עיר חכמה הוא עיר ללא שפה, עיר ללא סמיוטיקה. היא אמרה לנו שרמזורים ייעלמו, לא יהיו מדרכות, לא צריך תמרורים. כלומר, אנחנו עוד נקודת דאטה עבור הווייזים האלה, וזה בדיוק מה שאתה דיברת עליו. זאת אומרת, התחלתי להבין יותר ויותר, שיש פה תהליך של מחיקת שפה. והנתונים הם איזשהו רעיון, שחושבים שאולי יש במוח שלנו נתונים מאחורי השפה, שהשפה עצמה היא רק מתווך. ואם אני אוכל טלפתית להתחבר לתוך הדבר הזה, יהיה לי משהו אמיתי יותר, ואני אהיה חלק מהאינטרנט של הדברים. ואני אומרת את זה בעברית, המעבר מ”דיבור” ל”דבר”, להיות עוד דבר, גם אני הופכת להיות “דבר” בתוך האינטרנט-של-הדברים, ואין לי צורך יותר לדבר. אני דיברתי על זה קצת דווקא כשהתארחתי בפודקאסט אחר, “האח הירושלמי” של “המצב הפוסט אנושי”, הפודקאסט “סף” של יואל בוטביניק וארי בן אריה. אני מאד ממליצה לשמוע את זה, ממש דיברנו על תזת השפה שלי

ערן: את יודעת, האברמס היה במצב הזה, במעבר הזה בין איזושהי אונטולוגיה אנושית, שהיא מאד בעייתית היום, מודרניסטית, של מה זה הבנאדם, והוא בסוף נשאר עם אונטולוגיה מאד מינימליסטית של פרוצדורה, של שפה טבעית. כי הוא אומר שבתוך השפה הטבעית, בתוך האופן שבו בני אדם מדברים בצורה טבעית, המון מהתשתית של החיים שלנו כמו שאנחנו מכירים אותם, של מוסדות כמו דמוקרטיה, פוליטיקה, אפילו שוק

כרמל: הכל מבוסס על שיח

ערן: הכל מבוסס על זה שאתה יכול להביע את עצמך בשפה טבעית, לקבל משוב בשפה טבעית, ועוד רובד נגיד, שהשפה הטבעית הזו פחות או יותר גם מייצגת איזשהו אני אמיתי

כרמל: והתפיסה הזאת אומרת, לא, זה תיווך. יש אני אמיתי בפנים, שאולי לא יודע אפילו מה הוא מרגיש, ואני אגיע אליו בעזרת ממשק מוח-מחשב, ואמיר את זה ישירות לנתונים

ערן: האופק שמגלם את זה, זה באמת העניין הזה של להיכנס למוח, ולמצוא שם את היחידה הכי קטנה שאפשר לעבוד איתה, שזה זרם חשמלי, דאטה, אחד או אפס, כן יורה לא יורה. מתוך הנחה שכל הכסות הזאת של התרבות, כל הנימוסין האלה שהמצאנו, שהם באמת שבריריים, הם לא אמיתיים לגמרי, הם לא עד הסוף שם. אנחנו באמת לא עד הסוף בני אדם חופשיים, אבל היו כמה מאות שנים שבהם היינו יכולים להיות באיזושהי פנטזיה שאפשר לשפר את המצב האנושי, שבני אדם עצמם יכולים לשפר את המצב האנושי, מתוך בחירה, מתוך תבונה. להגיד זה מה שאני רוצה, זה העולם שאני רוצה, ואני אפנה לשם. מה שהטכנולוגיות האלה מציעות, הן אומרות, עזבו, אנחנו נסדר לכם עולם יותר טוב. באמת

כרמל: כי אין לכם תבונה, אז בואו

ערן: כן, וגם אתם לא יודעים בדיוק מה אתם רוצים, אנחנו יודעים הרבה יותר טוב מכם

כרמל: אני חושבת שההבדל פה בין אוטופיסטים לדיסטופיים בסיפור הזה, זה שהאוטופיסטים בטוחים שהסדר הזה, הניהול היעיל הזה, גם יביא לנו יותר חירות אישית בגלל שהוא יהיה יעיל. ואני חושבת שהדיסטופיים אומרים, זה שולל חירות. על זה הוויכוח שלנו. כי פרויקט הנאורות תמיד דאג לחירות, והשאלה אם חירות זה בכלל הערך. נראה לי שחירות האינדיבידואל לא חשובה לאלגוריתם שרואה אותך כנתין, כדאטה. חשובים לו דברים אחרים כשהוא מודד אותך, חשוב לו יותר המשקל שלך מאשר כל דבר אחר שאתה חושב אולי. זאת אומרת, נקודות הדאטה הן שונות, כי הוא צריך ממך דבר מסוים, הוא צריך לדעת מה מקומך ברשת, ופחות אכפת לו מה הם הדברים שאכפת לנו. אני חושבת שזאת השאלה הגדולה, האם נצליח להנדס אותם בצורה שתגדיל לנו את החירות, והם ישרתו את פרויקט הנאורות, או שיהיה פה מצב הפוך לחלוטין

ערן: אז לנוכח הדברים שאמרת, נראה לי שאת היחידה שתבין את הכותרת של מאמר שאני מנסה לכתוב אחרי שסיימתי לכתוב את הספר הזה, “מדוע בינה מלאכותית לא הומצאה בימי הביניים?”. אחת התשובות שלי היא, שעברנו תהליך מאד ארוך במודרניות, וברציונליזציה, ובסטנדרטיזציה של החיים שלנו, שבעצם אפשרו למכונות האלה יותר ויותר להתערב בחיים שלנו. זאת אומרת, אם אנחנו חושבים על אביר בימי הביניים שעולה על הסוס שלו, ועכשיו תני לווייז לנווט, לנווט במה? באיזה שבילים? איפה התמרורים? איך הם יודעים איפה יש תנועה? אז עברנו איזשהו מהלך. אבל יש עדיין דבר שיותר קשה לעשות לו סטנדרטיזציה, וזה האדם

כרמל: זו טענה מעניינת העניין של למה זה לא הומצא בימי הביניים, ושבעצם זה מייצר עכשיו אנשים כאלה. זאת אומרת, אנשים הם קצת חסרי בטחון, אם מישהו בא מבחוץ ואומר להם “אתה ככה, זה מה שאני רואה מבחוץ, תאמין לי”, מעטים הם האנשים שיכולים בביטחון להגיד “פחחחח”. יש את הספק הגדול של וואי, אם ככה תופסים אותי, אולי זה מה שאני? וזה אני מדברת בכלל באנשים אחרים. אם אלגוריתם, שאתה תופס אותו כאובייקטיבי, ומתמטי, ואסף עליך דאטה, אומר לך משהו, אתה מהר מאד יכול לוותר, לא רק על התפיסה העצמית שלך, אלא גם על האמונה שלך שאתה יכול להשתנות

ערן: רק למען הסר ספק, כפרט, כערן פישר, אני גם לגמרי נתון לדברים האלה, ולהתנגד לזה ברמה פרטית ואישית נראה לי חסר תוחלת. הדיון צריך להיות חברתי. אגב, אחד הדברים – גם בווייז ראיתי את זה, ואני חושב שאנחנו מרגישים את זה בכל האפליקציות – אנחנו חווים את זה כפרטים, חווים את זה מאד לבד. אחד הדברים שלמשל תושבי הכפרים האלה עשו, הם עמדו שם ברחוב עם שלטים כאלה של “מקצר דרך יקר, אנחנו נחסום פה את הכביש, אתה לא תוכל לעבור”. אני חושב שבזה מה שהם ניסו לעשות, זה להגיד, שכל אחד מאיתנו מקבל מווייז כאילו התקשרו אליו ואמרו “ערן תיסע דרך זה”. זאת אומרת, זה מאד אישי, פרסונליזציה זה חלק מהאתוס וחלק מהפרקטיקה, שהכל נורא אישי, אתה מקבל את הניוזפיד האישי שלך. באמת מבחינה פוליטית אחת התזוזות שצריך לשים לב אליהן, זה להתעקש שהמאבק לא יהיה אישי אלא חברתי. איזו חברה אנחנו רוצים? כמה כוח אנחנו רוצים לתת לחברות האלה? אני רואה את זה מאד חזק באוניברסיטה, את הניסיון להכניס את המכשירים האלה עמוק לתוך החינוך עצמו. אף אחד לא יודע מי אנחנו. אף תיאוריה לא תדע מי אנחנו, אף מבחן פסיכולוגי. אבל בסוף אנחנו עובדים בעולם פרגמטי, ואם אני אשתכנע שכדי להכיר את הסטודנטים שלי, במקום לעשות את זה בבחינה קלינית שהיא מלאה בהטיות (אולי יש לי הטיה מגדרית וכל מני דברים כאלה), במקום זה אני מסתכל על המד שהדאטה נותן לי, אז זה יהיה טוב דיו. זה צריך להיות טוב דיו, זה לא צריך להיות מושלם

כרמל: נכון, זה משהו שאני תמיד אומרת, שהטוב דיו הוא מספיק טוב ביחס להרבה מאד אנשים, ובטח שנסתפק בו, אנחנו מסתפקים גם בהרבה פחות

ערן: בדיוק. והוא יקבע בפועל מה יהיה ידע, מה יהיה ידע רלוונטי, למשל להחליט איך אנחנו בוחנים אנשים ומחליטים אם הם יכנסו לאוניברסיטה או לא בבחינות, ואנחנו יודעים שהבחינות האלה לא באמת אומרות מה האינטליגנציה שלהם. אבל אם אנחנו משתכנעים שזה מספיק טוב, האפקט של זה בעולם הוא כזה

כרמל: כלומר, ממש הקריטריונים שלנו הולכים להשתנות, למהו ידע, ואיך מודדים את העצמי, כל האפיסטמולוגיה

ערן: כן. אם אתם רוצים לדעת איך נדע, תקראו את הספר


יובל נח הררי סיים את “קיצור תולדות האנושות” ברעיון, שכנראה בעתיד נוכל גם להנדס את הרצון, אז השאלה האמיתית שאנחנו צריכים לענות עליה היא, מה נרצה לרצות? לי נראה שהבעיה עכשיו היא אחרת, שאין לנו מושג מה אנחנו רוצים, ואנחנו רוצות שמישהו אחר ינחש את זה, ויספק את זה. אבל היופי בחוויה האנושית זה לגלות לבד את הרצון האמיתי. לשהות בבלבול ובחוסר הידיעה, להיות בניסוי וטעייה, להבחין בין רצון אמיתי למדומה, לרגעי, לחשוף ולחדד את העצמי הזה דרך רצון. ואני חושבת שלא סתם יש פריחה של תהליכי התפתחות אישית עכשיו, א/נשים כן רוצים ורוצות להמשיך את הפרויקט הזה של עיצוב הסובייקטיביות. אבל מצד שני, העולם באמת מורכב ומבלבל ומעייף, ו”הגיהנום הוא הזולת” כמו שאמר סארטר, נמאס להיאבק על הרצונות שלנו מול אנשים שרוצים משהו אחר. וכמו שהסכמנו לוותר על חופש בעד נוחות, אולי נמכור אותו גם למען התשובה הנכונה, החישוב הנכון, ההכרעה מבחוץ של אוטופיית הדאטה. הרי דיברנו על החלום ההיסטורי להמיר את הפוליטיקה במתמטיקה כבר מפרק 4. ובפרק 20, על השמרנות החדשה עם גדי טאוב, גילינו שיש נקודה משותפת מעניינת לשמאל ההומניסטי ולפרויקט השמרני, שניהם חוששים מטכנוקרטיה. אז יכול להיות שהפופוליזם הפוליטי ועליית הימין בעולם, גם הם בעצם סוג של תגובה לאיום הזה של להישלט ע”י משהו שלא יבטא עוד את הרצון שלי, יכריע באצטלה של מקצועיות טכנית. אם תחשבו על הטיעונים שלהם כנגד ה”דיפ-סטייט”, הבירוקרטיה וכו’, זה בדיוק אותו טיעון, והרי בינה מלאכותית היא אוטומציה של תהליכים בירוקרטיים ודאטה בירוקרטי

בפרק הראשון של הספר של ערן, הוא העלה טענה מעניינת: הוא אומר שאם הייתה לנו בינה מלאכותית בעידן הנאורות, זה לא היה תופס, זה לא היה זוכה לכזו דומיננטיות. כי בני האדם אז חשבו את עצמם ליצורים חופשיים, עם זכויות טבעיות להגשים את התשוקות שלהם בעולם ולממש את החופש שלהם, אנשים שמחויבים להתבוננות עצמית כדי להרחיב את הסובייקטיביות שלהם. הם לא היו רוצים לקבל פקודות משום דבר אחר מבחוץ. כבר בפרק הראשון של הפודקאסט הזה, כשדיברתי על השינוי שחל בתפיסת האדם במדע הבדיוני, קשרתי את זה לשינוי בתפיסה העצמית של האנושות. הדהדתי את אזהרתו של פרופ’ זאב שטרנהל, שאם נתחיל לפקפק ולו באחד מרעיונות הנאורות, הכל יתפורר עלינו כמו דומינו. ואני עצמי לא הייתי עקבית בפודקאסט הזה. לפעמים עודדתי את היופי שבאנושיות הפגומה שלנו, ולפעמים גם אני תמכתי בשבירת הדימוי העצמי האנושי הגבוה מדי, כי כשעפנו על עצמנו יותר מדי עם הנאורות, עשינו גם עוולות. והמחשבה שאנחנו סתם עוד חיה, או לא מאד שונים ממכונה, אמורה להכניס בנו ענווה, זה מה שגם הפוסטהומניזם הביקורתי חושב. אבל לכל דבר יש מידה, וצריך לדעת ללכת על החבל הדק של דרך האמצע. לא ללכת למקום אנטי-הומניסטי, למקום שבו הקטנו את עצמנו כל כך, שאיבדנו בעצמנו אמון, ואנחנו רוצים להעביר את הכח לאלגוריתמים. אפשר לקבל עזרה, גם מאלגוריתמים, אבל ממקום של אדונות ובטחון עצמי גדול יותר. מערכת תומכת החלטה, כן? ובייחוד כדאי להישאר עם התקווה שאני יכולה, אני יכולה בכל רגע, לבחור אחרת, לשבור את הדפוסים והתחזיות. יש לנו את החופש לא להיות צפויים, להיות כלום וגם הכל, להיות מסתורין גדול שלפעמים פועל על אוטומט, לשהות באי הידיעה של הרצון. והעיקר, לא להיות דבר, אלא להמשיך לברבר, לדבר

זה היה הפרק האחרון לשנת 2022. בפרק הבא נדבר על רובוטים מזווית מפתיעה. ואני מאחלת לנו שבשנת 2023 נאכזב את הבינות המלאכותיות, נבלבל את התחזיות האלגוריתמיות, ונפתיע את עצמנו לטובה. עד הפרק הבא, אני מזמינה אתכם ואתכן לדף הפייסבוק של המצב הפוסט אנושי, או לאינסטגרם והטיקטוק. יש שם קטעי וידיאו מתוך הפרקים, קטעים גנוזים, סטטיסטיקות, ועוד הפתעות. להשתמע

?רוצה לקבל מייל כשהפרק הבא מתפרסם

:מקורות וקריאה להרחבה

לכל הפרסומים של פרופ’ ערן פישר

פישר, ערן. (2022). חושבים בשבילך: מבט ביקורתי על אלגוריתמים. תל אביב: הקיבוץ המאוחד

Fisher, Eran. (2022). Algorithms and Subjectivity: The Subversion of Critical Knowledge. London: Routledge

Lupton, Deborah. (2016). The Quantified Self: A Sociology of Self Tracking. Malden, MA: Polity.

Schull , Natasha Dow. (2018). Self in the Loop: bits, patterns, and pathways in the quantified self.  In A Networked Self and Human Augmentics Vol 5ת Ed. Zizi Papacharisi. Routledge, pp. 25-38.

Published by Dr. Carmel Vaisman

חוקרת תרבות דיגיטלית עם מיקוד בשיח, תיאולוגיה ופוסט-אנושיות Digital Culture researcher focusing on discourse, theology and posthumanism

One thought on “פרק 62. מה אלגוריתמים רוצים? עם פרופ’ ערן פישר

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: