על בינה מלאכותית, תודעה אנושית ומה שביניהן: סקירת הספר 'הומו דאוס' של יובל נוח הררי
מאת ארנון לוי
בשנים האחרונות ניתן לראות כי פרופסור יובל נח הררי, אינו רק מחבר הספרים שכיכבו בראש רבי המכר בארץ מספר שנים, אלא אף זוכה להצלחה בינלאומית נרחבת ומעורר סקרנות בקרב רבים. על ספריו המליצו והגיבו ביל גייטס, דיפאק צ'ופרה, צוקרברג וכן מדינאים בכירים כברק אובמה, אנג׳לה מרקל, מקרון, וזו רק רשימה חלקית.
חלק גדול מהקסם של הררי, אשר עשוי להסביר את ההתפעלות לה הוא זוכה, היא יכולתו לנסח תהליכים מורכבים ורעיונות לא שגרתיים במילים פשוטות ובשפה בהירה. זאת ועוד, נראה כי הוא לא מהסס ללכת עד הסוף עם רעיונותיו. ברצוני לסקור את ספרו הקודם, 'הומו דאוס', אשר עורר בי מחשבות רבות, ולהציג את המקומות בהם לטעמי הררי מרחיק לכת עם טענותיו ומפספס עקרונות מהותיים במסקנותיו.
'הומו דאוס' זכה להצלחה רבה בעולם ותורגם ללמעלה מ 30 שפות. ספר זה עוסק בשלושה תחומים המצויים היום במרכז המחקר המדעי: תחום הבינה המלאכותית, חקר המוות ומחקרי האושר. הררי מספר כי בעוד שההומו-ספיינס בתחילת דרכו היה חיה רגילה ואף חלשה למדי, אשר מקומה היה באמצע שרשרת המזון של הטורפים, בהדרגה הוא הלך והשתלט על הפלנטה עד לכדי שליטה מוחלטת היום. לא זו אף זו, נראה כי בעתיד הנראה לעין האדם עומד גם לשנות את חוקי הביולוגיה, להשיג שליטה במוות, להיות בעל חוכמה כמעט אינסופית שמקורה באינטיליגנציה מלאכותית, לפענח את סוד האושר ולשלוט בו. במילים אחרות - להיות אלוהים. הררי מציג עתיד שבו יהיו סופר-אנשים, סייבורגים עם מעבדי סיליקון שיעצימו את יכולותיהם הפיזיות והמנטליות, שיחיו לנצח או לפחות משך שנים רבות מאד, ושיגלו את המפתח לחיי אושר. בשלב שני, על הפלנטה ישתלטו מכונות סופר אינטליגנטיות הבנויות ממתכות, שאינן כפופות כלל לחוקי הביולוגיה. הררי מציג אנשים/מכונות אלה כאלים. אלים לא במטפורה אלא כמציאות. אלה יהיו אנשים/אלים שלא יהיו כפופים לחוקי הברירה הטבעית, שיהיו מסוגלים ליצור אנשים בדמותם ויהיו בעלי יכולות אומניפוטנטיות.
הררי ממשיך וקובע כי למרבה הצער רק שכבה דקה של האוכלוסיה תוכל להרשות לעצמה לרכוש את הטכנולוגיות המעצימות. לעומת אלים אלה, יהיו אנשים רבים שהררי מכנה "חסרי תועלת כלכלית" - בלתי ניתנים להעסקה - כיון שיהיו חסרים את הכישורים הנחוצים לחברה. הררי מתאר מצב שבו לראשונה בהיסטוריה האנושית ייווצרו מעמדות שאינם חברתיים או כלכליים כפי שהיה בעבר, אלא מעמדות של אלים לעומת אותם אנשים חסרי תועלת כלכלית.
רעיונות אלה אינם חדשים: התחרות בין בני-האדם לאל מופיעה כבר בתנ"ך - "והייתם כאלוהים"– מפתה הנחש בעודו מפתה לאכילה מפרי עץ הדעת. כך גם בסיפור על מגדל בבל וכן במיתוסים רבים אחרים בהם מופיעים בני אלים וטיטנים שניחנו בתכונות על-אנושיות. אלא שהררי אומר כי האדם העתידי לא יהיה כאל או כבן אלים, אלא יהיה בעל תכונות המיוחסות לאלוהים בתרבויות שונות. למעשה, האדם העתידי יהיה אלוהים; הומו ספיינס עומד לסיים את תפקידו ההיסטורי והומו דאוס מתדפק על דלתות העתיד. בתרבות האמריקאית בה הדת עדיין דומיננטית, חלק גדול מהאוכלוסיה מאמין בבריאתנות ולא באבולוציה, ויש מספר לא קטן של אנשים אשר ממש מתכוננים - פיזית ורוחנית - ליום הדין האפוקליפטי. למרות שישנם לא מעט אנשים אשר ירימו גבה לנוכח אמונות אלה, הררי מזעזע בקביעותיו שאם לא נעשה דבר - יום הדין אכן בפתח. הוא נחוש בדעתו כי לא מדובר בעוד סרט מדע בדיוני אלא באפשרות מציאותית אשר עשויה אכן להתרחש אם האדם לא יפעל בכדי למנוע אותה.
ברצוני להתייחס ל-3 הטענות המרכזיות בספרו של הררי:
1. הררי טוען כי עליונותו של האדם על פני שאר בעלי החיים נעוצה בשתי תכונות מרכזיות: יכולתו לשתף פעולה בקבוצות גדולות ובצורה גמישה וכושר הדמיון שמאפשר לו להאמין בישויות מדומינות כמו מדינה, אלוהים, כסף, וכו'. יישויות אלה למעשה הופכות אותו לחלק מתוך קבוצה גדולה של אנשים שהקשר ביניהם הוא אקראי. יש אומנם בעלי-חיים שפועלים בקבוצות גדולות כמו נמלים או דבורים, אך הם פועלים במערכת אינסטינקטואלית סטיריאוטיפית ושאינה גמישה. בעלי-חיים אחרים כמו שימפנזים מסוגלים לפעול בשיתוף פעולה גמיש אך בקבוצות של עד 50 פרטים אשר יש ביניהם היכרות.
לדידי מדובר בטיעון אשר מפשט שלא לצורך את התהליכים המורכבים המייחדים את ההומו ספיינס. אין ויכוח על כך שהספיינס פועל בקבוצות גדולות באופן גמיש והוא אמנם יוצר ישויות מדומינות כפי שהררי מכנה אותן, אך בתוך הקבוצות הגדולות חלות מהפכות, מלחמות, מניפולציות פוליטיות ועוד רבות מן הרעות החולות של האנושות. לאור כך, האם דווקא אלה הם שמבססים את עליונותו של האדם על החיה? האם יכולות אלה הובילו להתפתחות ולקידום ההומו ספיינס לאורך ההיסטוריה? פריצת הדרך האדירה בהיסטוריה האנושית היתה היווצרותן של תרבויות אנושיות שהן הרבה יותר מפעולה בקבוצות גדולות באופן גמיש לשירות יישויות מדומיינות.
למעשה בעוד שהאדם חי בעולם של סמלים המכיל את השפה, החשיבה המילולית והמתימטית וכן סמלים מוסכמים כמו כסף, מדינה, צבא וכו', הוא למעשה מתקיים כאורגניזם שכפוף לחוקי הברירה הטבעית ועוצב על ידה בכדי להמשיך ולהתאים לתיפקוד בטבע. זה הבסיס לחלק גדול מהדרמה האנושית. היישות הסמלית של האדם – העצמי, חיה בכלא האורגני –האורגניזם, אך אינה חיה עמו בשלום, ומכאן השאיפה לחיי נצח, אומניפוטנטיות, תבונה ללא גבולות, ואושר מעבר לעונג הגופני.
2. האם הומוספיינס יהפוך להומו דאוס? ניתן לומר כי הספיינס יוצר שינויים טקטוניים בעולם וכי הוא משנה את עקרון הברירה הטבעית. האדם משבט בעלי-חיים, יוצר זנים חדשים של אורגניזמים ובכך משנה את מהלך הברירה הטבעית. עם זאת מעשיו הם העצמה ושינוי של תהליכים שנגרמו על-ידי הברירה הטבעית ולא יצירת יש מאין. אומנם האינטיליגנציה המלאכותית עליה מדבר הררי ללא הרף עשויה ליצור יתרון אדיר של המכונה לעומת האדם, אך יתרון זה מתקיים בזכות הביג-דאטה, כלומר בזכות המידע ולא הידע. המכונה תהיה אינטיליגנטית לאין שיעור יותר מהאדם, אך חסרת תודעה. מכאן, קשה שלא לתהות - האם מכונה חסרת תודעה יכולה אמנם להיות אלוהים ?
האדם המאמין סוגד לאלוהים על האומניפוטנטיות, הנצחיות והחוכמה הבלתי נדלית אותן הוא מייחס לו, אולם מעל לכל אלה נראה כי הוא סוגד לו בזכות אותה קדושה נומינוזית, חוויה של נוכחות אלוהית, של יראה ושל היקסמות. מכאן, סביר כי במקרה הטוב המכונה תוכל להתחרות באלים הקדומים של העידן הפוליתיאיסטי ולא באלים המונותיאיסטיים שהווייתם האלוהית נובעת מאותה נוכחות נומינוזית, מאותה קדושה המלווה בחיל וברעדה של המאמין כלפי האל.
3. ומכאן אנו מגיעים לנקודה השלישית והמורכבת יותר: הררי מכיר בכך שחידת הפער בין פעולת המוח לבין קיום התודעה טרם נפתרה, אך בבסיס חשיבתו נראה שהמעבר להומו-דאוס מבוסס על כך שהשינויים הטכנולוגיים יהפכו את האדם ה'משודרג' ובהמשך את המכונה הכל-יכולה לעליונים על הספיינס. אין ויכוח כי סוג האינטליגנציה של ישויות משודרגות אלה, אשר מתבטאת בפתרון בעיות, תהיה עליונה בהרבה על זו של הספיינס. במילותיו של הררי – האלגוריתמים החיצוניים העשויים סיליקון, יהיו עליונים בביצועיהם על האלגוריתמים הביוכימיים הפנימיים של הספיינס.
עם זאת, עליונותו של האדם בהקשר זה לא צריכה להימדד דווקא בסוג אינטליגנציה זה של פתרון בעיות, שכן אין זה המאפיין העיקרי בו הוא מתבלט מעל בעלי החיים. בעלי-חיים רבים פותרים בעיות בצורה אינטליגנטית, וכפי שטוען הררי בעצמו, אם יהיה האדם על אי בודד עם שימפנזה, קיים סיכוי רב יותר כי השימפנזה היא זאת שתפתור בעיות הקשורות בהישרדות בצורה טובה יותר.
אם כך, עליונותו של האדם מתבטאת ביכולות אחרות לגמרי. מלבד היותו בעל החיים בעל המוח המפותח ביותר בטבע, עליונותו של האדם באה לידי ביטוי בפונקציות הגבוהות של התודעה כמו בחירה חופשית, יצירה של מערכת ערכים, הגשמה עצמית, קבלת החלטות, תיכנון העתיד, השאיפה ליצירת חיים אותנטיים ובעלי משמעות, וכן השאיפה להטביע חותם בעולם מעבר לקיום הפיזי של העצמי.
הפונקציות הגבוהות של התודעה קשורות להפנמה של החוויה האנושית ופעילותה ההדדית עם המוח. המוח האנושי לא יוכל להתפתח ללא אינטראקציה עם התרבות והחברה בתוכן גדל האדם. לא ידוע כיצד ניתן יהיה לפתח אלגוריתמים שיפעילו מערכת ערכים, חיים אותנטיים ומשמעותיים, הגשמה עצמית וכיו"ב.
נקודה זו ארצה להרחיב: המוח וכמוהו גם התודעה פועלים כמערכות מורכבות מסתגלות ולא באופן ליניארי של סיבה ותוצאה, ועל כן קשה מאוד לנבא את פעילותם. מדויק יותר יהיה לאפיין את פעילותם בחוק הכאוס; אנו יכולים להניע אותם בכיוון מסוים בכדי להגיע לתוצאה רצויה אך שאינה תמיד צפויה באופן מדויק. כל פסיכולוג או פסיכותרפיסט מכיר את הקושי לניבוי התנהגותי אצל הפציינט. אחד מעקרונות הפעולה במערכות מורכבות היא ה-emergence – יצירה של תוצאה חדשה שלא היתה קיימת לפני כן, תוצאה לפיה השלם גדול מסכום חלקיו.
הפיזיקאי חתן פרס נובל מארי גלמן תיאר בספרו "הקוורק והיגואר" את הפרוייקט המדעי כמורכב מהייררכיה של דיסציפלינות הבנויות כמערכות בעלות מורכבות הולכת וגדלה, כל מערכת מבוססת על זאת שתחתיה ותורמת לזאת שמעליה. כך למשל ניתן לתאר את היגואר כמערכת ביולוגית שתיפקודה וקיומה תלויים במערכות הכימיות (המולקולות) הבונות את התאים בגופו, כאשר אלה תלויים בפעולה של האטומים וחלקיקיהם. למרות שמדובר במערכת מדורגת, רדוקציה של המערכות אינה אפשרית. כל מערכת (שתלויה בקיומה במערכות היסודיות יותר) מכילה מידע נוסף שאינו מצוי במערכות שתחתיה ונתקלת בבעיות שלא ניתן להסבירן על סמך המערכות הנמוכות יותר. לא ניתן לתאר את זינוק היגואר (שהוא מערכת ביולוגית מרשימה) על טרפו באמצעות תיאור פעולתם של האטומים בגופו. באותה מידה קשה להסביר את הפונקציות הגבוהות של התודעה באמצעות פעולתם של הנירוטרנסמיטורים במוח בלבד. הפונקציות הגבוהות של התודעה הן, בין היתר, תוצאה של החוויה האנושית אותה ניתן לראות כפרי יצירתם של מאות אלפי מוחות גם יחד לאורך ההיסטוריה.
תפיסה זו מובילה אותי להציע כי המכונות האינטיליגנטיות, אינטליגנטיות ככל שיהיו, לא יוכלו להעצים ולפתח את הפונקציות הגבוהות של התודעה המאפיינות את הספיינס. ולכן, גם אם ניתן לדמיין כי נוכחותן של מכונות אלה תהיה בולטת, יהיה זה קשה לקבוע כי היא תייתר את קיומו הייחודי כפי שטוען הררי.
מקורות
הררי, י.נ. (2015). ההיסטוריה של המחר. הוצאת דביר.
לוי, א. (2018) נורמן והמסע המופלא למחוזות המוח והתודעה. ספרי ניב.
Levy, A. (2018) The Brain-consciousness knot revisited. Implications for Psychopathology, Psychotherapy and Coaching Psychology. Dynamic Psychiatry 1-2 Vol. 51 P. 105-115
Edelman, G. M. and Tononi, G. (2000). A Universe of Consciousness. New York: Basic Books
Gell-Mann, M. (1995). The Quark & the Jaguar. Jerusalem. Maariv Books (in Hebrew)
