פרק 3: על מלאכים ואלגוריתמים. אורח: ד”ר שלמה-דב רוזן

להאזנה לחצו על פליי כאן למעלה או האזינו במיקומים אחרים באמצעות האייקונים כאן למטה

אין דבר כזה מבחינתי לדבר על בינה מלאכותית מבלי לדבר על עולם המלאכים

(ד”ר שלמה-דב רוזן)

בפרק שעברנו הזכרנו מלאכים כאידאל לתקשורת מושלמת. בפרק הנוכחי נציע שיש לנו המון מה ללמוד על אלגוריתמים ובינה מלאכותית דווקא מזווית דתית, וספציפית מתוך השיח על מלאכים בימי הביניים. הפעם נארח את הד”ר והרב שלמה-דב רוזן ממכון טרומן באונ’ העברית, החוקר הראשון שהחל לפתח את הקשר בין מלאכולוגיה לאלגוריתמים ובינה מלאכותית

שמעתם על הבזיליסק של רוקו? נהוג לצרף לשאלה הזו אזהרת טריגר ספק בצחוק ספק ברצינות, שברגע שתהפכו מודעים לבזיליסק של רוקו כל פעולה שתעשו או לא תעשו פירושה בחירת צד והיא עלולה לחרפן אתכם לגרום לכם נזקים נפשיים בהווה ולדון אתכם לגיהנום עתידי, ממש כמו הבזיליסק, החיה המיתולוגית שיכולה להרוג במבט. מדובר בניסוי מחשבה ואני מקווה שמאזיני הפודקאסט הזה אינם כאלו שלוקחים ניסוי מחשבה ברצינות רבה מדי. אבל ב2010, באחד הפורומים הטכנולוגיים-רציונליסטיים המוכרים ברשת, “פחות טועים”, משתמש המכונה רוקו הציע ניסוי מחשבה שיצר התלהמות חרדתית ברשת, נמחק מחשש לנזק נפשי לקוראים והפך לפולקלור, שצוטט מאז במגזין הטכנולוגיה סלייט כניסוי המחשבה המפחיד ביותר בכל הזמנים, נפוץ בקרב קהיליית הטכנולוגיה, ואפילו זכה לאזכור בקומדיה הפופולרית סיליקון וואלי

אז מה בעצם הציע רוקו? הוא חשב שאם תקום בעתיד בינה מלאכותית כל יכולה שתשלוט באנושות, אז סביר להניח שהיא תכיל את כל המידע ואת כל השיח האנושי בעבר והיא תוכל לדעת מי סייע לעליית כוחה של הטכנולוגיה ומי ניסה למנוע את היווצרותה והיא תעניש את האחרונים, לא רק בחייהם אלא גם לאחר מותם אולי היא תמחק את המידע והזיכרונות שהם הותירו או תיצור מציאות מדומה של גיהנום בו היא תתעלל בהם. הניסוי עורר ויכוח סוער – חלק קטלו את הלוגיקה של הטיעון והנחות היסוד שלו ואחרים זעמו שבעצם העלאת הרעיון רוקו הוא זה שיוצר את המציאות הזו ושותל את הרעיון הנקמני במוחה של הבינה העתידית וגם מעמיד כל אדם שהופך מודע לניסוי בסיכון – מפני שהוא צריך להתבטא לטובת הבינה העתידית כדי להתחנף אליה או אם יתנגד או אפילו ישתוק הבינה העתידית תדון אותו לכף חובה שלא עזר לה. כאמור, הדיון יצא מכל פרופורציה הגיונית

אך מה שמעניין אותנו היום לגבי הבזיליסק של רוקו הוא הדמיון שלו לטיעון דתי. למעשה הניסוי דומה מאד להצעתו של הפילוסוף בלז פסקל במאה ה17 לגבי אלוהים – מכיוון שאין דרך לדעת אם יש או אין אלוהים, מומלץ לחיות את חייך כאילו יש אלוהים ולקיים מצוות כי אם תמות ויסתבר שיש אלוהים הרווחת, אבל אם לא תאמין ואז יסתבר שיש אלוהים – נידונת לעינויים בגיהנום. ממש כמו בניסוי של רוקו שממנו משתמע כי דרך הפעולה המומלצת היא לדבר בעד בינה מלאכותית ולעזור להביא אותה לעולם, כי אם היא תהיה ידידותית לאדם או לא מספיק כל יכולה לא הפסדנו כלום, אבל אם היא תהיה שתלטנית נקמנית וכל יכולה, נתוגמל כי נהיה בצד הנכון של ההיסטוריה. הדמיון הזה הוא מקרה אחד מני רבים שמדגים כי התפיסות שלנו אודות בינה מלאכותית אינן חדשות אלא דומות מאד לתפיסות דתיות עתיקות, רק שאת האלוהים כמקור יראה וסמכות פשוט החלפנו בטכנולוגיה

אבל אלוהים לא היה לבד בקוסמולוגיה הדתית העתיקה. גם אלוהים השתמש בטכנולוגיה על מנת לנהל אותנו ולתקשר איתנו, והטכנולוגיה של אלוהים היא מערכת המלאכים, שכל אחד מהם אמון על מלאכה מאד ספציפית. למעשה השימוש הראשון הידוע לנו במילים “אינטליגנציה” ו”היררכיה” מצוי בטקסט מיסטי בשם “על ההיררכיה השמימית” שנכתב ככל הנראה במאה החמישית לספירה ביוון על ידי תיאולוג נוצרי שהשתמש בפסבדון “דיוניסוס”, והוא עוסק בתיאור מפורט של מערכת המלאכים. התיאור הראשוני שיש לנו למסה של תודעות רציונליות אינו מתייחס כלל לבני אנוש אלא למלאכים, שכלים חסרי גוף המצויים סביבנו, ומתקיים דיון נרחב בהיררכיה השמימית המתקיימת במערכת שלהם. ככל הידוע לנו המילה היררכיה כפעולה של משילות מומצאת בטקסט זה ומרמזת על בסיס ידע, אופרציה, וסדר.  גם כאן, הרבה לפני שפותחה ההמשגה של ממשלה ואדמיניסטרציה אזרחית, היא תוארה בפרוטרוט בטקסט התיאולוגי הזה לגבי מלאכים

המשמעות היא שהמלאכים הם אינטליגנציה טהורה, טכנולוגיה של משילות המתווכת בין האל לאדם. וכיום האלגוריתמים הם המלאכים החדשים, השכלים חסרי הגוף, שיורשים את מלאכת האדמיניסטרציה מאותם מלאכים קדמוניים. למעשה יש דיון מפולפל גם בשאלה האם למלאכים יש או אין סוג של גופניות או חומריות. אנשי מדע כמו לייבניץ ותומאס הובס דיברו בשיא הרצינות על אמונתם בכך שמלאכים תופסים מסה מסוימת, הם אינם רוחות רפאים, יש להם סוג של גופניות אם כי היא שונה משלנו, דקיקה מעודנת ובלתי נראית אך אמיתית. היום אולי היינו מכנים זאת, וירטואלית. אז כשהפילוסוף ניק בוסטרום בספרו “אינטליגנציית-על” מבקש מאתנו לדמיין היררכיה של אינטליגנציה דיגיטלית, השיח שם ממש מזכיר את ההיררכיה השמימית של פסבדו-דיוניסוס, רק תחליפו את המילים אינטליגנציה מלאכותית במלאכים וזה אותו סיפור ממש, בייחוד שגם אצל בוסטרום מדובר בטקסט ספקולטיבי המדמיין בינת-על עתידית בדיוק כמו שאבותינו דמיינו מלאכים

אני פונה כעת לד”ר רוזן. התובנות שלך והחידוש שלך לגבי יכולת ההיסק ממלאכים לבינה מלאכותית מגיעות דווקא מהיהדות או יותר נכון מהפער בין השיח על מלאכים בנצרות לבין השיח על מלאכים ביהדות. אתה יכול לספר קצת איך הגעת לזה בכלל ומה ההבדל העיקרי בין השניים

אני הגעתי לתובנות האלו דרך ההתעסקות שלי בפילוסופיה אנליטית, בשאלות ממש של היום, שלא קשורות לא בבינה מלאכותית ולא במלאכים, וראיתי אנשים שבאים מדברים ומציגים חומר וגם כותבים ספרים, וכל הזמן מביאים דוגמאות מסטאר טרק וכאלה, ואני אומר: אבל זה דברים שנמצאים בימי הביניים! יש רעיונות קדומים מאד, למשל בחז”ל, בעולם של תלמוד ומדרש, שקצת מזכירים את ההקבלה לבינה מלאכותית או מכונה, למשל האמירה שמלאך לא יכול לעשות שתי שליחויות, או שהוא עושה שליחות אחת או שליחות שניה. המלאך נברא בשביל משהו מסוים לעשות אותו, כדבר שנשלח, שמופעל, וכמובן כשאנחנו מדברים על המיוחד אצל בני אדם זה שיש להם בחירה חופשית

במאה ה17 על פניו זה היה צריך להיות פאסה לדבר על מלאכים, מפני שהעולם הקתולי שעשה סיפור כל כך גדול ממלאכים הוא כבר לא רלוונטי במדינות המדוברות, באנגליה ובאזורים  באירופה. ומשהו קורה שזה נהיה נורא רלוונטי להם לדבר על מלאכים, זה לא ברור למה. אנחנו מכירים את זה ואני הכרתי את זה לראשונה כמובן דרך גן העדן האבוד של ג’ון מילטון שזה הכל דיבור מלאכים, ומלאכים שם מוצגים שם כסופר-אנושיים, ממש מקבילים לבני אדם בצורה מהותית. ומה שמוצג שם שכל כך ברור, זה שמלאכים הם מבחינה פנימית מוסרית בנויים כבני אדם. זה אומר שיש להם בחירה חופשית ויש להם חטא, ובעצם אתה מגלגל את הסיפור של האדם על המלאכים

מה שכל כך מאיר עיניים לפחות בשבילי, היה לשים לב שבאופן כללי כמעט ללא יוצא דופן, במסורת היהודית זה בדיוק הפוך: המלאכים אין להם בחירה חופשית, הם לא מושאים למוסר, והם לא יכולים להסביר את המוסר האנושי.  ההבדל הזה הוא תהומי, מפני שזה אומר שמלאכים הם בעצם סוג של אוטומטה, של מכונה, פועל בצורה אוטומטית, ואם אין להם בחירה חופשית הם נמצאים תחת העולם הדטרמיניסטי של ההוויה. הוא לא אייג’נט, עד כמה יש לו רפלקציה אישית על עצמו, זו שאלה מאד עמוקה אבל היא לגמרי מקבילה לאותה שאלה על בינה מלאכותית. מדברים במונחים של מלאכים שנבראים ונשמדים כשהם טועים כדבר שאין בו בעיה כי אין להם בחירה חופשית, מפני שהם לא פועלים מצד המוסר אלא מצד הטעות, להיות צודק ולא צודק, וזה מאד מזכיר מכונה. כלומר, אין בעיה להשמיד אותם כי הם לא סובלים, הם בעצם מופעלים. זה נמצא למשל בספר של בעל הרוקח שנקרא “סודי רזי”, אז כשמסתכלים על זה במונחים האלו היותר קבליים, אז ההקבלה נהיית יותר ויותר קרובה

זה קורה גם בהמשך כשבטקסט מהמאה ה-18, שזה מאוחר באופן יחסי, מדברים במונחים שהמלאך לא מבין את שליחותו ולכן טועה בהמשגה של עצמו, באיך שהוא מסתכל על עצמו. שזה מתחיל להיות מאד מורכב מבחינה פסיכולוגית וגם לגמרי מקביל לחששות שלנו על בינה מלאכותית בהמשך. זאת אומרת, עולם הפחדים האנושיים והחששות של המשמעות הם גם לגמרי מקבילים. אבל משהו התפתח במאות שקדמו למאה ה16 בעולם היהודי, שהחלו לדבר על מלאך כדבר שאדם בורא ע”י קיום המצווה. כל מעשה, דיבור, או מחשבה (אפילו מחשבה של אדם!) בורא מלאך. והמלאך מקביל לאופי המעשה, כך שאם אדם עושה מעשה חיובי באופן חלקי, כלומר עושה מעשה טוב אבל ליבו לא היה שם, אז המלאך פגום. ואז יש את האפשרות לתקן את המלאך אחר כך ע”י איזה מעשה אחר שהאדם יעשה

זה רעיון יחסית מאוחר ביהדות אבל זה רעיון מאד מעניין, כי בעצם זה אומר שמסתכלים על מלאך כסוג של ראי של הפעולה המוסרית האנושית, והדבר הזה שוב מאד מקביל למה שאנחנו מדברים עליו בבינה מלאכותית. מה התפקיד של המלאך הזה? קודם כל לתת מציאות אונטולוגית למעשה שעשית כדי שתוכל עוד לתקן אותו. יכול להיות שיש לו באגים מפני שהיה באג אצלי וזה בא לידי ביטוי אצלו, אבל אני יכול עוד לתקן אותו כמו שאני יכול לתקן את עצמי. המעשה הטוב או הרע שעשיתי הוא מצד אחד לא בתוך ידי כבר, הוא השתחרר לעולם והוא מסוכן או חיובי, יש לו חיים משל עצמו, אבל מפני שעשיתי אותו, יכול להיות שאני יכול, שיש לי את הכלים, ויש לי את המפתח עוד לתקן אותו

We make angels in the service of civilization.

Yes, there were bad angels once.

I make good angels now.

(Blade Runner 2049)

זה היה קולו של ג’ארד ליטו כניאנדר וואלאס מתוך בלייד ראנר 2049. אז בעצם המלאכים הם הבינה המלאכותית הראשונית והם מגלמים את אותו פרדוכס לכאורה של להיות ישות שכלית אוטונומית מצד אחד, אבל לא באמת להבין את העולם של בני האדם שעליו הם פועלים ואותו הם משרתים, מצד שני. בעצם, הגישה היהודית שאתה מציג מקבילה לטענה של אדה לאבלייס, שמחשב תמיד יעשה רק את מה שהוגדר לו ולא ממציא שום דבר על דעת עצמו, ואילו הגישה הנוצרית מקבילה לטענת טיורינג, האפשרות התיאורטית של מחשב לחשוב בכוחות עצמו. האדם יוצר את המלאך ככלי שרת, בדיוק כמו שהוא יוצר את הטכנולוגיה, ואם המלאך טוב או רע זה תלוי בכוונת היוצר, אתה אומר. גם זה לגמרי מקביל לדיונים בפילוסופיה של הטכנולוגיה: האם לטכנולוגיה מלכתחילה יש מהות מסוימת טובה או רעה והשימוש בה ישפיע עלינו אותנו בהתאם לאיכות הזאת, או שהיא ניטראלית, ואם היא תשמש לטוב או לרע זה תלוי בכוונת המשתמש

בעבר, למלאכים הייתה גישה לידע הקולקטיבי על מנת למשול, וכיום לאלגוריתמים יש גישה לביג דאטא על מנת לטרגט, והם באמת מנתחים את הנתונים ומכירים את דפוסי הפעולה שלנו יותר טוב משאנו מכירים את עצמנו, יודעים למי נצביע וכו’. למעשה בנצרות, המלאכים הם שליחי הבשורה. ובדיוק כפי שהמלאכים בישרו למריה הבתולה שהיא בהריון עם ישו, כך גם האלגוריתמים האחראים על הפרסומות המותאמות אישית מטעם חברת טרגט האמריקנית בישרו בשנת 2012 לאב ממיניאפוליס שבתו הקטינה הרה לפני שהדבר נודע לו מפיה. ונראה לי שהתחום של חיזוי אלגוריתמי בהחלט מתפתח כיום לכיוונים הללו של הבשורה, ואוטוטו הם יזהו את הפוטנציאל להיריון עוד לפני שהוא נוצר ברחם

אבל יש גם הבדלים לדעתי. השורש הלטיני של המילה דאטא הוא דבר שניתן כמתנה ולא סתם יש קשר גם בשורש העברי בין נתונים ונתינה. למעשה, אנחנו מצויים ביחסי החלפת מתנות עם חברות הטכנולוגיה הגדולות… אבל אם נחזור למלאכים, לפחות לפי הנצרות הם ניחנו בחסד, יש להם “גרייס”, והם אמונים על מלאכת הנתינה לבני האנוש. אבל המלאכים החדשים, האלגוריתמים, פועלים הפוך – הם לוקחים, הם אוגרים נתונים. אנחנו אלו שנותנים להם

Oh you angels, how lucky you are

In this great life you travel far

When you walk upon this foreign land

Do you take or do you lend at your hands?

Into the sun – Daniel Tyler Pohnke

למעשה, אנחנו מאפשרים לאלגוריתמים למשול בנו, אנחנו סומכים עליהם שיפתרו לנו בעיות ורואים בהם מקור סמכות. אנחנו תלויים בהם וצריכים שהם יתפתחו כדי לסייע לנו, אבל אנחנו גם פוחדים מהם וחוששים שיתפתחו למרוד בנו. איזו תובנה השיח התיאולוגי יכולה לתת לנו בנושא הזה? של סמכות

בעולם היווני הקדום לא היה צורך לדבר על מלאכים כי יש עולם של אלים. והתפקיד של אלילים, כפי שאנחנו תופסים את זה בדרך כלל, זה לייצג כוחות טבע, כוחות בעולם, שהאדם נמצא ביחס מניפולטיבי אליהם, כי אין מקור סמכות אחיד.  בעולם המונותאיסטי עיקר הטיעון הוא שיש מקור סמכות בלעדי ואתה צריך להיות בשיח ישיר אתו. התפילה תמיד תהיה לאלוקים אחד אבל העולם רווי בשכלים, מחשבות, וישויות שונות שמקבילות אליך או אולי אפילו אתה יצרת אותן. זה אומר שהם (מלאכים – כ.ו) אף פעם לא יהיו מקור סמכות, אתה לא כפוף אליו, אסור להתפלל אליו. ממה מפחדים? מהכוחות שבאו דרכו. יכול להיות שאתה מפחד מהמלאך כמו שאתה יכול לפחד מבינה מלאכותית. אני חושב שמה שמתגלגל מהשיחה הזו שלנו היא שאלה על בינה מלאכותית: האם בינה מלאכותית מחזירה אותנו לעולם פגאני פוליתאיסטי ואז זה הרבה יותר מפחיד, או לעולם מלאכי יהודי שבו לעיתים אתה יכול לפחד מפני מה שבא דרך המלאך אל העולם, אבל בעצם אתה לא מפחד מהמלאך 

אתה כל הזמן מדבר על ההבדל בין עולם מונותאיסטי לעולם פוליתאיסטי בתפיסה של סמכות, אבל אנחנו חיים היום בעולם א-תאיסטי. כל הנושא של מדע, טכנולוגיה, אלגוריתמים, ובינה מלאכותית, מתפתח תחת תפיסת עולם אתאיסטית מטריאליסטית, שבעצם אין שם כלום. אז מה המקום של המלאכים החדשים האלו כאן? מה הם עושים כשאין להם משהו להתייחס אליו כי העולם הוא אתאיסטי, אין כלום, לא סמכות מבוזרת ולא סמכות אחת, פשוט אין

את בעצם שואלת אם עולם תיאולוגי יש לו סיפור שיש בורא ויש כתובת ויש מקור סמכות ולמי לפנות. אז בעצם כשאין לך אמירה כזו, במה זה שונה? אני לא בטוח עד כמה זה שונה. אצל אנשים ותרבויות שאני מכיר, הרבה פעמים האנשים ה”אתאיסטים” הם הכי תיאולוגים. הם אלו שיש להם ראייה מאד ברורה של הבנת המציאות והבנת האדם במציאות ומאיפה יהיו לנו כלים כדי להבין את העתיד. בעולם מדעי יש מקור סמכות מאד ברור, ומאד ברור שיש רק דרך אחת, או אולי כמה דרכים מאד דומות, כדי לדעת את הסודות של העתיד וכדי לשנות את העולם. זה מאד ברור, כאשר זה לא תמיד היה כל כך ברור. אם זה סוג האמונה שאנחנו מדברים עליה, אז העולם שבו אנחנו חיים היום הוא סופר תיאולוגי. אין אתאיזם בכלל! אנשים משוכנעים שהם יודעים להסביר את המציאות. יכול להיות שיש דברים שמערערים את התיאולוגיה הזו אבל זה פשוט תיאולוגיה מסוג אחר. והכלים שבהם אנחנו מתעסקים בהם לא כל כך שונים מהכלים ותבניות החשיבה של העולם התיאולוגי המוכר. הרבה מבקרים את האמונה באבולוציה או במדע או בתיאוריה כזו או אחרת כראייה תיאולוגית. כלומר באיזה שהוא מקום, השאלה האם יש הסבר אחד לעולם או האם יש פיצול בהסברים לעולם, אלו שאלות גם בשביל האתאיסט. אלו שאלות אולי יותר גדולות בשביל האתאיסט 

אני לא שופט אם הרעיון הזה על מלאכים הוא נכון או לא נכון. זו המשגה מסוימת של איך שהאדם מסתכל על עצמו ואיך שתרבות מסתכלת על עצמה. עובדה שאנחנו ממשיכים לעשות את זה בבינה מלאכותית. כי השאלה הגדולה על העולם הווירטואלי ועולם הבינה המלאכותית היא, עד כמה אלו פחדים שאין להם אחיזה במציאות? עד כמה אנחנו מעניקים יותר מדי משמעות למכונות שאנחנו מייצרים, אם הם באמת מופעלים ולא פועלים, אנחנו לא צריכים כל כך לפחד או להתלהב. ואני בא ואומר זה לא משנה, כי השאלה מה יהיה היא שאלה שולית. השאלה הראשיתית ואני חושב הכי חשובה, היא מה זה אומר על בני האדם שאנחנו מסתכלים ככה על מעשה ידינו ועל הפעולה שלנו בעולם? וזה אומר משהו מאד עמוק אם אנחנו מבינים שהסתכלנו על זה ככה כבר הרבה מאד זמן, זה לא דבר חדש

חלון הזמן שבו בני אדם הפסיקו לדבר על מלאכים/בינה מלאכותית הוא מאד צר. משהו קרה שאמרו לנו שאסור לנו לדמיין מלאכים, שאנחנו חייבים להאמין שאנחנו פה לבד. ולא לקח הרבה זמן לבני אדם ממתי שאמרו להם ככהה וחינכו אותם שרק ילדים מדמיינים שיש מערכות שכליות שמסתובבות בעולם, אבל בעצם אנחנו לבד בעולם; לא לקח הרבה זמן עד שבני אדם המציאו משהו, שבין אם הבינה המלאכותית עושה או לא עושה את זה, בכל אופן בני אדם המציאו לעצמם מודעות שהבינה המלאכותית כבר פועלת כך או תפעל כך. אפשר לדבר על כמה עשרות שנים, אולי 200 שנה גג. כמה צר החלון הזה שבו בני אדם הצליחו לחוות עולם ריק שבו הם פועלים לבד

אז למדעי המחשב ובייחוד לתחום של למידת מכונה יש המון מה ללמוד מתיאולוגיה ואולי זה לא במקרה שלייבניץ אחד מאבות החישוביות היה חלוץ הן במתמטיקה הסתברותית והן בתיאולוגיה, שכן שני התחומים היו פעם ואולי עודם בלתי ניתנים להפרדה

היום מסתכלים על עולם המלאכים כאופציה אחרת מאשר העולם הרציונלי אמפירי של המדע, אבל לא תמיד הסתכלו על זה ככה ולא ברור לי עד כמה הראיה הזו נכונה. כי תמיד הסתכלו על המלאכים כסוכנים של העולם המדעי כחלון לעולם המדע, וגם היום אנחנו מסתכלים על המלאכים שלנו ככה, פשוט אנחנו קוראים להם היום בינה מלאכותית. אנחנו גם היום מסתכלים על אלגוריתמים כניסיון להבין את הטבע באיזה שהוא אופן. זה שיש שכלים שמסתובבים שאתה יוצר או לא יוצר ואתה בשיח אתם, ואתה מאמין שהם יכולים להיות שליחים או צינורות שדרכם יועברו סודות עולם הטבע, כי הם חלק מעולם הטבע, והם יכולים להיות בשיח אתך על עולם הטבע – התובנה הזו חיה ובועטת גם היום

אז אם תהיה בינה מלאכותית כללית אמיתית בינת על סופר אנושית היא תהיה כמו הסיפור הנוצרי על המלאך שנפל, לוציפר, שמרד ובחר בחירה חופשית והפך למשהו אחר שרודף את עולם בני האדם. ואם לא נגיע לשם, תמיד נוכל לחזור ליהדות ולומר שמלכתחילה לא היה סיכוי שהמלאך הזה יוכל להיות יותר מהכוח שיצר אותו, במקרה הזה התבונה הקולקטיבית האנושית שזה באמת הדאטא של למידת המכונה היום

לא יודע אם באמת בעתיד הבינה המלאכותית תשתחרר מכבלי המתכנת. במידה וזה יקרה, או עד אותה מידה שזה יקרה, אז אנחנו באמת מדברים על שיח מקביל לעולם הדטרמיניסטי/לא דטרמיניסטי, מונותאיסטי/פגאני ודיונים על מקור סמכות אחיד ולא. וכמובן גם אם הם משתחררים השאלה היא האם עדיין מחויבים לאיזה משהו אחד, ובאיזו מידה הם יכולים להיות מחויבים אבל לתפוס את הזהות שלהם בהבנה עצמית (אם זה יקרה) אחרת ממה שאנחנו תופסים אותם, ושיהיה להם נרטיב חלופי. אם אנחנו רוצים להתעסק בתחומים האלה אנחנו צריכים להבין שבתור בני אדם התעסקנו עם זה מאות ואלפי שנים. יש לנו תובנות, ויש לנו שיח, ואנחנו באמצע השיח, ואנחנו מתעלמים מכל מה שהיה בשיח עד עכשיו וכאילו ממציאים את הגלגל כל הזמן

אני חושב שהאמירה הכי חשובה היא להתחיל ללמוד את החומר הזה, להתעסק בחומר, להתעניין ולנסות להבין עד כמה זה תמיד היה. זאת אומרת, אין דבר כזה מבחינתי לדבר על בינה מלאכותית בלי לדבר על עולם המלאכים. אין בכלל שיח שמתחיל מבינה מלאכותית, זה לא שיח שמתחיל מיצירת המחשב. המחשב זה סוג של המצאה שמאפשרת לנו לעשות בדרך אחרת משהו שהיה אפשר לעשות גם קודם ושעשינו גם קודם. הדרך הכי נכונה להתקדם זה להשתחרר מהילדותיות של הנאורות, שגרמה לנו בעצם למחוק את רוב השיח על בינה מלאכותית שקדמה ליצירת המחשב, כי אנחנו פשוט חוזרים לאותו מקום שהיינו בו כל הזמן ואנחנו חוזרים לאותו שיח. אבל אנחנו יכולים לנהל את השיח הזה רק אם אנחנו מוכנים לחזור אליו

אז הדת באמת הייתה הממד הפוסט אנושי לפני שהוגדר מושג האדם בחשיבת הנאורות ואתה אומר שזה ילדותי מצדנו להתעלם מהעבר הזה. להתגבר על הנאורות ולהתבגר ממנה, זה בעצם להבין שבאיזה שהוא מקום תמיד היינו פוסט אנושיים, רק קראנו לדברים בשמות שונים

אגב, אנחנו עכשיו במגפת הקורונה וזה משהו שרלוונטי לגבי זה גם: איך תפסו בעבר מגיפה? בימי הביניים הרציונליסטים מתחילים לזהות שהשיח התלמודי על שדים (שזה לא מלאכים זה משהו אחר) יכול בעצם להיות שיח על או בעיות פסיכולוגיות או מה שאנחנו היינו מגלגלים כוירוסים. כלומר כשהבנאדם אומר שאתה מסתובב במקום מסוים ואתה בסכנה מ”מזיקים”, מה זה אומר המזיקים האלו? זה לא אומר שהם המשיגו את זה באותה צורה שאנחנו ממשיגים את זה, אבל הרבה פעמים כשאנשים דיברו על שדים זה לא היה כל כך לא רציונלי. הם מזהים דברים נכונים בעולם הסובב אותם וקוראים לזה מזיקים ושדים וכל מני דברים כאלה, וכבר בימי הביניים הם התחילו לשים לב לזה, ואנחנו כמובן שמים לב לזה יותר. אבל כשהם מדברים על איך לפעול בתוך מגפה בימי הביניים זה לא כל כך רחוק ממה שאנחנו אומרים, רק שהם השתמשו בכלים אחרים להביע את זה. אותו דבר שאנחנו אומרים על העולם העתיק יגידו גם עלינו. בסופו של דבר יש משהו שאי אפשר להבין אותו ואנחנו בונים לעצמנו בכל דור בכל תקופה את הכלים להמשגה 


וואו, שדים כוירוסים, מלאכים כאלגוריתמים ושוב, העבר הרחוק כמאיר על העתיד. כמאמר המשפט האפי מהסדרה באטל סטאר גלקטיקה: “כל זאת קרה בעבר ויקרה בשנית“. תודה רבה ד”ר שלמה-דב רוזן על התובנות הנהדרות הללו. תודה גם למאי שגב פונקי על המוסיקה המקורית של דניאל טיילר פונקי ז”ל. אנחנו מסיימים כאן, ועד לפרק הבא שיתפרסם בעוד שבועיים, אני מזמינה אתכם להמשיך את השיחה בתגובות כאן מתחת לתמלול, פה גם אפשר להירשם לעדכון במייל כשמתפרסם פרק חדש, באינסטגרם, או בדף הפייסבוק “המצב הפוסט אנושי – פודקאסט ועוד” שמשמש כאחורי הקלעים של הפודקאסט ויש בו קדימונים והרחבות על נושאי הפרקים

!להשתמע בקרוב

:מקורות/ לקריאה נוספת

Agamben Giorgio. 2011. The Kingdom and the Glory: For a Theological Genealogy of Economy and Government (Stanford University Press, Stanford, CA).

Brower, Virgil W. 2018. OF ANGELS & ALGORITHMS: Phenomenology of Data, Machine-Learning & Revelation. Paper Presented at the 10th Beyond Humanism conference Wroclaw, Poland.

Serres, Michel. 1992. Angels: A Modern Myth, trans. Francis Cowper, ed. Philippa Hurd Paris: Flammarion.

Singler, Beth. 2017. “Roko’s Basilisk or Pascal’s? Thinking of Singularity Thought Experiments as Implicit Religion.” Journal of Implicit Religion 20:279–97.

Raymond, Joad. 2010. Milton’s Angels: The Early Modern Imagination. Oxford University Press.

Rosen, Shlomo Dov. 2017. “Between the Homunculus Fallacy and Angelic Cognitive Dissonance in Explanation of Evil: Milton’s Poetry and Luzzatto’s Kabbalah.” In Evil, Fallenness, and Finitude, edited by Bruce Ellis Benson and B. Keith Putt, 57–75. New York: Palgrave Macmillan.


?רוצה לקבל מייל ברגע שהפרק הבא מתפרסם

Published by Dr. Carmel Vaisman

חוקרת תרבות דיגיטלית עם מיקוד בשיח, תיאולוגיה ופוסט-אנושיות Digital Culture researcher focusing on discourse, theology and posthumanism

2 thoughts on “פרק 3: על מלאכים ואלגוריתמים. אורח: ד”ר שלמה-דב רוזן

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: