Rationality: from AI to Zombies / Eliezer Yudkowsky
קריאה מודרכת | 2/10/2019 | הרשמו כמנויים | שלחו טקסט לבלוג
Rationality: from AI to Zombies, מאת אליעזר יודקובסקי. הוצאתMachine Intelligence Research Institute , 2015. 2393 עמ'.
ממליץ על הספר: שחר תבור, פסיכולוג בהתמחות קלינית.
אליעזר יודקובסקי הוא הוא חוקר בינה מלאכותית, סופר והוגה דעות יהודי אמריקאי. הוא מייסד ועמית מחקר במכון לחקר הבינה המלאכותית (MIRI), מכון מחקר פרטי ללא מטרות רווח השוכן בברקלי, קליפורניה. ב-2009 ייסד קהילה בשם "LessWrong" העוסקת בזיקוק האומנות והמדע של חשיבה רציונלית, אשר חרטה על דגלה את האמירה לפיה לא ניתן להיות צודק, אבל אפשר להיות פחות טועה. הספר מבוסס למעשה על הפוסטים שפורסמו בבלוג הקהילה ואוגדו לספר, כך שהוא מכיל מעין הרצאות קצרות, בכל פעם על נושא מוגדר אחר, ומאגד בתוכו רעיונות של פילוסופים גדולים יחד עם מחקר עדכני, בעיקר בפסיכולוגיה קוגניטיבית ובסטטיסטיקה. הוא עסוק בין השאר בהטיות קוגניטיביות, בחשיבה רציונלית וביכולת להגיע למסקנות נכונות ככל האפשר על סמך מידע חלקי.
את הספר הכרתי אחרי שסיימתי תואר ראשון בפסיכולוגיה. כבר עשיתי מתא"ם וידעתי שאני הולך לקראת תואר שני, אבל עוד לא הכרתי את עולם הטיפול מבפנים. בפרט, לא הכרתי מהם כתבים "נחשבים" ומה פחות, מה אין ומה אאוט. זה היה ככל הנראה מה שאפשר לי את הקריאה בספר, שמתאר תהליכי חשיבה ותכנים נפשיים באופן שזר כל כך לז'אנר הקליני. בדיעבד אני מאמין שהיה לי מזל. הקריאה בספר חיזקה אצלי מאוד את החשיבה הביקורתית כלפי הרבה מהדברים שבהמשך למדתי במהלך התואר. אני חושב שהרבה מהמדריכים שלי כעסו אז (והיום) על אמירות מסוג "אני יודע שפרויד אמר את זה, אבל האם זה נכון?"
כפסיכולוג, אחת האמירות שחוזרות בספר ושעזרו לי, היא לשם לב כשאתה מבולבל. אני משתדל לשים לב לתחושת הבלבול, לכך שאני חש שאני לא יודע. הנטייה האנושית והמקצועית שלנו היא לקפוץ למסקנות, לטוות נרטיב כמעט מבלי לשים לב שזה מה שאנחנו עושים. התכנים בספר חיזקו עבורי את "השומר הפנימי" הזה – היכולת להגיד רגע, אני יודע שאני לא יודע, אני שם לב שאני קופץ לרעיון כזה או אחר. זה משפיע עלי גם בדיאגנוסטיקה וגם בטיפול; זה גורם לי להיות זהיר ומדויק יותר, ולהיות יותר מודע לתהליכי המחשבה של עצמי. מנגד, זה גם מתסכל – כי אני מבין שאני באמת לא יודע הרבה.
אני חושב שכדאי למטפלים וללא-מטפלים לקרוא את הספר. אני מאמין שהוא קודם כל השפיע עלי כאדם, ורק אז כמטפל. הוא מומלץ לכל מי ששואל את עצמו, "האם אני עושה את הדבר הנכון?". הוא מומלץ לאנשים שיש להם את הסבלנות והיושרה הפנימית לומר – זה לא מושלם, אבל אני רוצה להשתפר. זה בהחלט ספר שיפור עצמי, אם כי לא במובן הקלאסי.
אני מצרף טעימה מהספר, פרק שהתקשר עבורי לתיאוריות עליהן מבוססת הפרקטיקה הקלינית שלנו, ושאינו דורש היכרות עם עולם המושגים הנרכש בעת הקריאה בספר.
Explain/Worship/Ignore?
❦
As our tribe wanders through the grasslands, searching for fruit trees and prey, it happens every now and then that water pours down from the sky.
“Why does water sometimes fall from the sky?” I ask the bearded wise man of our tribe.
He thinks for a moment, this question having never occurred to him before, and then says, “From time to time, the sky spirits battle, and when they do, their blood drips from the sky.”
“Where do the sky spirits come from?” I ask.
His voice drops to a whisper. “From the before time. From the long long ago.”
When it rains, and you don’t know why, you have several options. First, you could simply not ask why—not follow up on the question, or never think of the question in the first place. This is the Ignore command, which the bearded wise man originally selected. Second, you could try to devise some sort of explanation, the Explain command, as the bearded man did in response to your first question. Third, you could enjoy the sensation of mysteriousness—the Worship command.
Now, as you are bound to notice from this story, each time you select Explain, the best-case scenario is that you get an explanation, such as “sky spirits.” But then this explanation itself is subject to the same dilemma—Explain, Worship, or Ignore? Each time you hit Explain, science grinds for a while, returns an explanation, and then another dialog box pops up. As good rationalists, we feel duty-bound to keep hitting Explain, but it seems like a road that has no end.
You hit Explain for life, and get chemistry; you hit Explain for chemistry, and get atoms; you hit Explain for atoms, and get electrons and nuclei; you hit Explain for nuclei, and get quantum chromodynamics and quarks; you hit Explain for how the quarks got there, and get back the Big Bang…
We can hit Explain for the Big Bang, and wait while science grinds through its process, and maybe someday it will return a perfectly good explanation. But then that will just bring up another dialog box. So, if we continue long enough, we must come to a special dialog box, a new option, an Explanation That Needs No Explanation, a place where the chain ends—and this, maybe, is the only explanation worth knowing.
There—I just hit Worship.
Never forget that there are many more ways to worship something than lighting candles around an altar.
If I’d said, “Huh, that does seem paradoxical. I wonder how the apparent paradox is resolved?” then I would have hit Explain, which does sometimes take a while to produce an answer.
And if the whole issue seems to you unimportant, or irrelevant, or if you’d rather put off thinking about it until tomorrow, than you have hit Ignore.
Select your option wisely.
