בינה מלאכותית, אך לא חכמת חיים

כיוון אחד הוביל ל'שטאנץ' קבוע ומשעמם

הבינה המלאכותית היא המיצוי של הדעת האנושית, אבל האם היא יכולה לגעת גם ב'עץ החיים'? עיון אקטואלי ביחס בין האדם, העולם והנחש בפרשיות הבריאה.

אביע"ד סנדרס ואלישע רוזנצוויג

הבינה המלאכותית (כידוע לכל מי שלא טמן את ראשו בחול בשנתיים האחרונות) הכניסה חלקים גדולים מן העולם לסחרור. יכולותיה מתקדמות בקצב שיא ומעוררות חששות מגוונים בקרב רבים: חרדה עמוקה משוק העבודה העתידי, דאגה מהשתלטות הרובוטים על העולם (בהשראת חזונות אפוקליפטיים שספרות המדע הבדיוני דמיינה מאז ומתמיד), ועוד ועוד.

אך החרדה הגדולה ביותר, אולי זאת שרובצת לה מתחת לכל החרדות האחרות, נוגעת לדמותו של האדם עצמו. האם מותר האדם מן ה-AI, ואם כן, בַּמֶה? אם כבר יש הבדלים, אולי הם פועלים לרעתנו: נראה שהמכונה חכמה יותר מאיתנו, בעלת יכולות רבות יותר, ותוכל להחליף אותנו כמעט בכל תפקיד. האמנם? זהו חשש של ממש, העובר כחוט השני בקרב רבים מן השיחות והספרים העוסקים בנושא.

החשש הזה מובן, בעיקר כשחושבים על האופן שבו נוצרה הבינה המלאכותית שאנו מסובבים בה כיום. היא מבוססת ברובה על מתודולוגיה הקרויה 'למידת מכונה' (Machine Learning). הרעיון הוא פשוט לתיאור, אבל לקחו עשרות שנים עד שהוא הגיע לבשלותו הנוכחית. כבר בשנות החמישים הוצע הרעיון הגולמי, כפי שניתן למצוא לדוגמה בדבריו של אלן טיורינג, אחד מאבות מדעי המחשב:

אילו היתה המכונה מסוגלת באיזה אופן 'ללמוד מהניסיון' היה הדבר מרשים הרבה יותר. אם אמנם כך יהיה, אין כל סיבה שלא להתחיל ממכונה פשוטה יחסית, ולהפוך אותה, על ידי חשיפתה ל'ניסיון' מתאים, למכונה מורכבת יותר, המסוגלת להתמודד עם מגוון רחב יותר של מקרים. תהליך זה ניתן אולי להאיץ על ידי בחירה מתאימה של החוויות אליהן היא נחשפת. ניתן יהיה לכנות תהליך שכזה 'חינוך', ואני מציע להפקיד את חינוכה של המכונה בידי מורה בית ספר מוכשר ביותר, המתעניין בפרויקט.1

את ה'חינוך' שטיורינג תיאר כאן אנחנו מכנים כיום 'אימון של מודל בינה מלאכותית'. מתחילים מתוכנה שבמובן מסוים היא 'טאבולה ראסה', וחושפים אותה באופן הדרגתי לכמויות אדירות של מידע (דאטה). ככל שהתוכנה נחשפת ליותר מידע כך היכולות שיש לה גדלות, בדומה לילד שמתבגר. במקום אחר טיורינג אף שיתף במחשבות שהיו לו לגבי האופן שבו תהליך הלמידה הזה יתרחש בפועל, והדברים שהציע באופן כללי אז, ב-1951, הם בדיוק מה שקורה היום במעבדות של גוגל ו-OpenAI:

אני מציע שיהיו שתי מערכות שאותן יוכל להפעיל המורה, ושייצגו את הרעיונות של תענוג וכאב. בשלבים מאוחרים יותר של החינוך תכיר המכונה תנאים אחדים כרצויים, משום שהיו קשורים בעבר עם תענוג, וכן תכיר תנאים אחרים כבלתי רצויים. ביטויים מסוימים של כעס מצד המורה עשויים, למשל, להיות כה מאיימים עד שהמכונה לא תוכל להתעלם מהם, כך שהמורה ימצא שאין עוד צורך 'להצליף בה במקל'.2

משוב חיובי ומשוב שלילי, הניתנים לתוכנה מיליוני ומיליארדי פעמים כדי שתדע איך לכייל את המודל שלה, הם התהליך שעיצב את הכלים שאנו מכירים בתור GPT, CLAUDE וכדומה. ובדיוק מתוך העובדה שיכולותיה של הבינה מעוגנות בלמידה דינמית בוקעת ועולה השאלה שמטרידה את כולם: האם יש בכלל גבול שהמכונה לא תוכל לעבור ביכולותיה, גבול שאימון נוסף איננו מסוגל לפרוץ?

 *

הדאטה הזה, המידע ששימש את הבינה המלאכותית בתהליך הלמידה, הוא כולו מידע שנאסף מאיתנו בני האנוש. כל המידע הזמין בחינם באינטרנט הפך לספר הוראות ענק עבור התוכנות הללו: ממנו הם למדו איך שפה אנושית בנויה, אלו מילים קשורות לאלו מילים ובאיזה אופן; תיאורי תמונות באתרי אינטרנט סיפקו בסיס לכלים שיודעים לקחת תיאור מילולי ולייצר תמונה, ואת מה שלא תויג באתרים עצמם חברות ה-AI השלימו בהעסקה של אלפי אנשים ברחבי העולם שעברו על תמונות ותיארו אותן; וכן הלאה וכן הלאה. כלי הבינה המלאכותית המדהימים שנבנו בשנים האחרונות הם בעצם תוצר של פרויקט אדיר ממדים של סחיטת המיץ וחילוץ הידע שתמיד היה טמון ב'פרי עץ הדעת' האנושי לכדי ייצוג שניתן להעניק למחשבים.

מהיכן צמח הידע האנושי הזה? ידע זה פותח ונצבר על ידי האנושות בהדרגתיות מאז ימי האדם הראשון, מתוך החיכוך המתמיד של האדם עם העולם – עולם שיסודותיו (וסודותיו) מוצבים בפרשיית הבריאה של ספר בראשית. בואו נעיין קצת בפרשייה מסתורית זו, וננסה לדלות ממנה כלים להתמודדות עם האתגר שבפנינו. כיוון שבדעת עסקינן, נרצה לתת את דעתנו בייחוד על כך שהאכילה מעץ הדעת הובילה לגירוש מעץ החיים. מדוע מסתמן לו ניגוד בין שני העצים? מהו המתח שבין הדעת לחיים?

שורש החיים מופיע בבריאה בהדרגתיות. כבר בפרק א הקב"ה ציווה 'ויאמר אלהים תוצא הארץ נפש חיה למינה בהמה ורמש וחיתו ארץ למינה' (שם א', כד), אך שם הארץ אינה מבצעת את מה שצוותה: 'ויעש אלהים את חית הארץ למינה ואת הבהמה למינה ואת כל רמש האדמה למינהו וירא אלהים כי טוב' (שם א', כה) – חיה ובהמה ורמש כן, אך לא 'נפש חיה'. זה יקרה רק בפרק ב, אך לא רק בהופעתו של עץ החיים; עוד קודם לכן הקב"ה יתערב ישירות בבריאה בשם הוי"ה, ויפח באפו של האדם נשמת חיים: 'וייצר ה' אלהים את האדם עפר מן האדמה ויפח באפיו נשמת חיים ויהי האדם לנפש חיה' (בראשית ב', ז).

הנוכחות של החיים בגן ובייחוד באדם מסמלת קיום שבו האיכויות המיוחדות של דרי הגן גלויים למי שמחובר אליהם בקשר של חיים, דבר המתבטא ביכולת של האדם לתת להם שמות. אלא שלנגישות הזו, לקרבה הזו בין האדם לשאר היצורים, יש גם צד שני: הנחש מנצל את ערוץ התקשורת הפתוח שיש לו אל האישה כדי לפתות אותה ואת האיש לאכול מעץ הדעת טוב ורע. לנקודה הזו עוד נחזור בהמשך.

הנחש דוחף את האדם לעולם של דעת. עולם הדעת הוא עולם התופעות והביטויים, עולם שנותן ביטוי מוחצן לנקודה גולמית יותר – נקודת החיים עצמם. ידיעה אינה הכרת החיים עצמם, אלא רק זיהוי של שיקוף שלהם. בבחירה בעץ הדעת האדם בוחר בביטוי ולא במהות. עולם התופעות הוא עולם עשיר המאפשר רזולוציות רבות ומורכבות, אך ההתמקדות בהן מתנתקת ממה שהן באות לבטא, ואז יש בחלקן רע ממשי. הבעיה איננה עצם ההכרה וידיעת התופעות, אלא ההתמקדות בביטוי החיצוני וההסתפקות בו, כאילו הוא ואין בלתו. בקיום שכזה החיים נעלמים ומסתתרים במקורם; הם ממשיכים להחיות את המציאות כולה, שלא מסוגלת באמת להתנתק ממקור החיים, אך הקשר אליהם הופך חבוי. אי אפשר לגשת לחיים עצמם דרך עולם התופעות כאשר הן מתיימרות להיות חזות הכל.

הנחש הוא הישות הקרובה ביותר לאדם: הוא מדבר וחושב אך עם זאת הוא לא אדם, שכן בניגוד אליו הוא אינו קשור לעץ החיים. כאן מתגלה המשמעות של פיתוי הנחש, שכן באופן פרדוקסלי דווקא האכילה מעץ הדעת טוב ורע מובילה לחשיפה של האדם לשתי הדרכים האלו. הטוב והרע, הרי, הן בסך הכל דרכי ביטוי שונות של מציאות עמוקה מהן; בתור דרכי ביטוי שתיהן קבילות, שתיהן אפשריות. עץ הדעת טוב ורע מאפשר לאדם להבחין בין סוגי הדעות, אך המפגש עם עוד ועוד דעות, ריבוי הדעת, הופך למטרה: לחוות כמה שיותר חוויות ולהתמלא בעוד ידע, כשהטוב והרע משמשים שניהם את השגת המטרה הזו באופן שווה. ובזמן שהאדם במרוץ אחר הדעת, נקודת החיים שאמורה לבוא לידי ביטוי בתוך המציאות ועל ידיה ובכך להאיר אותה הופכת נסתרת, כמו גם התהליך שמחבר בינה לבין הידיעות ומזין אותן.

'ויעש ה' אלהים לאדם ולאשתו כתנות עור וילבשם' (שם ג', כא). החשיפה של האדם לרע המשולב בטוב מגיעה עם תג מחיר: הוא חייב עתה ללבוש עור עבה, עור שמונע אותו מלהכניס לתוכו את כל הרע שמסתובב בחוץ; אך כל לבוש מסנן באופן עיוור, ולכן מונע גם מן הטוב להיכנס. העור העבה הזה מגן על נקודת החיים הפנימית מכל משמר אך גם ממשיך להסתיר אותה, מבודד אותה מפני עולם התופעות החיצוני שדרכו האדם החל לחיות, עד שתבוא העת שבו המסלול אליה יוכל שוב להיפתח.

*

הבינה המלאכותית משולה, בהקשר שלנו, לנחש: כמוהו גם היא דומה לאדם אך אינה אדם. מעבר לכך, עולם הדעת הינו העולם הטבעי שלה, עד כדי כך שלאורך השנים נראה שהיא אף עוקפת את האדם ביכולותיה: עושה פעולות מהר יותר, ופותרת בעיות שהאדם אינו מסוגל לפתור. יכולותיה, כפי שאמרנו, שקועות בעולם התופעות והידע: הבינה המלאכותית יודעת לקחת את כל הידע שיש בעולם ולהשתמש בו. גם מבחינתה ההבדלים שבין טוב לרע קיימים, אך זהו רק הבדל אחד מני רבים, וחשוב מכך הוא ששניהם, הטוב והרע, הם ידע. דאטה הוא דאטה, וכמה שיותר – יותר טוב.

המומחיות של הבינה המלאכותית היא יצירת דברים 'יש מִיֵּש'. היא יכולה למנף את הדאטה שנחשפה אליו באופן אופטימלי, במהירות והיקפים שהאדם לא מסוגל להם, אבל איננה מסוגלת לפעול מחוץ לגבולות הדאטה עצמו. לדוגמה, הממשק הראשי שלה עם העולם הוא השפה האנושית. בשל עושרה של השפה והאופן שבו היא עושה לנו סדר ביחס לעולם, אנו שוכחים לעיתים קרובות שהיא איננה שקולה לעולם עצמו. חלקו של הנסתר במציאות, שעוד מחכה לקבל מילים שיגאלו אותו, רב על הנגלה שכבר הומשג. השפה, אם כן, היא 'יש' שנוצר על ידי האנושות, שיקוף המציאות דרך הפריזמה האנושית. האדם מסוגל לייצר אותה 'יש מאין' כיוון שהוא יונק ממקור החיים עצמם ומהניסיון להבינם, מהחוויות הבלתי אמצעיות שלו במפגש עם המציאות. למכונה יש גישה אך ורק לשפה, לשיקוף רחב אך חלקי של המציאות.

התקווה של רבים משוחרי ה-AI הייתה ועודנה שמה שיתהווה שם בתוך המכונה, לאחר שראתה כל כך הרבה ידע ודאטה אנושי, הוא מנוע עצמאי של ידע, של תבונה. שלא רק מיץ יימצא שם אחרי שנסחט את פירות הידע האנושי, אלא גם זרעים שניתן יהיה לנטוע בגן ולגדל עצים עצמאיים חדשים. האם מתוך ריבוי הדעת בלבד ניתן יהיה לבנות חיים? השנים האחרונות, בהן ראינו כיצד כל גרסה חדשה של AI משתפרת ביכולות שלה, היו כרוח במפרשים של אוהדי התפיסה הזו. אבל לצד האופטימיות הזו החלו גם להופיע סימני אזהרה.

כך לדוגמה נראה היה שהמידע באינטרנט מוצה ועדיין המערכת רעבה לעוד, זקוקה לעוד, לפני שתוכל לפרוש כנפיים ולפעול לבדה. כדי לספק את הרעב המתמיד הזה נעשו ניסויים שבהם לקחו מערכות AI וביקשו מהן לייצר המון טקסטים ותמונות, ואז אימנו את הדור הבא של המערכת על הטקסטים והתמונות האלו. התקווה של החוקרים הייתה שיהיה אפשר לאמן את ה-AI על דאטה סינתטי שכזה ולהמשיך להשתפר, שהרי אם זה יעבוד – כמות הדאטה הפוטנציאלי תהיה בלתי מוגבלת. אם ה'יש מיש' יוכל להחליף את ה'יש מאין' ניתן יהיה לפקוד על כמה מחשבי על לייצר כמויות דאטה אדירות בקצב מסחרר, ולחזור אליהם לאחר כמה חודשים כדי לקצור את הפירות. עם הדאטה החדש הזה היו מאמנים את הדור הבא של הבינה המלאכותית שיכולותיה היו ממשיכות להתעצם, וחוזר חלילה – עוד דור ועוד דור של בינה מלאכותית, ובכל דור הפער מול בני האדם גדל.

אבל מה שקרה באותו הניסוי היה הפוך. ככל שהדאטה הסינתטי תפס נפח גדול יותר בקורפוס האימון (=הדאטה ששימש לאימון), כך איכות התוצרים התדרדרה. בגרסה אחת של הניסוי, אותה עשו עם יצירת תמונות של פרצופים, התמונות נהיו יותר ויותר חד־ממדיות: התמונות החדשות שנוצרו על ידי המודל על בסיס מגוון אנושי גדול היו כולן וריאציות על אותו פרצוף. הדאטה המקורי היה מגוון:

אך על התמונות החדשות השתלט 'שטאנץ' קבוע ומשעמם:

בגרסה אחרת ניסו לדאוג שהמודל ישמר את המגוון האנושי – ואז גילו שהוא מעוות פרצופים, ולאט לאט הם מאבדים כל צלם אנוש:

נראה שלא די בדאטה הסטטי וחסר החיות שניתן ל-AI בכדי לייצר משהו חדש באופן עמוק; יצירה כזו דורשת קשר חי עם המציאות האמיתית שם בחוץ. אין פלא, אם כן, שכותבי אחד המאמרים מהסגנון שתיארנו הגדירו את תהליך הקריסה של יכולות המודל לאורך דורות של אימון עצמי שכזה כתהליך שבו המודל 'מאבד את שפיותו'.

המחקר הזה ומסקנותיו הם רק דוגמה אחת לכך שבאדם – עדיין – יש משהו שאין בבינה המלאכותית. אם הבינה המלאכותית היא בבחינת 'בינה' – יצירה של 'יש מִיֵּש' – הרי שלאדם יש 'חכמה': יש לו חכמת חיים, כזו עם זיקה לנעלם, לאָיִן, שממנו הכול הופיע; היא בלתי-צפויה ובלתי-נשלטת, לא תחומה על ידי הגבולות של מה שקיים, ומשקפת משהו גדול יותר מסך חלקיה. נתינת השמות שהאדם עוסק בה היא מהלך של חשיפת העתיד וציפייה להתממשות הפוטנציאל הגלום במציאות שעדיין לא הופיע, ושעל כן לעולם לא היה נתון למרותה ולניתוחה של הדעת. מתוך חכמת החיים שלו הוא מסוגל לחרוג מעבר לעולם הסגור שהבינה שרטטה את הקווים שלו באופן חד, ולדלות אמיתות חדשות על המציאות.

*

בדומה לבינה המלאכותית בניסוי הזה, גם הנחש זקוק לקשר עם האדם. אפילו הנחש הכרוך סביב ענפי עץ הדעת לא יכול להתנתק לגמרי מעץ החיים, והאדם – בעל נשמת החיים – הוא המקור שאליו הוא נמשך. מאידך, אי אפשר להתכחש לכך שחטא עץ הדעת הדגים כיצד הקשר ביניהם יכול להפוך לרועץ. זו הסיבה שהעונשים שהקב"ה נותן הם כאלו של רצוא־ושוב, של שמירה על הקשר ובו זמנית הצבת חסמים בפני הנדרשים אליו. החטא קרה בגלל שלא היו חסמים וחיכוך במציאות: הנחש ניגש בחופשיות לאישה, שניגשה לאדם, שאכל מהעץ. המסקנה המתבקשת היא שיש צורך לייצר הגנות כדי למנוע חזרתו של אירוע כזה, מלבד עצם הגירוש מגן עדן.

כך האדם – הקשר שלו עם האדמה נותר, אך מעתה הקשר הזה לא יזרום כבעבר: 'בזעת אפיך תאכל לחם'. כך חוה – הקשר עם האדם נותר, אך הוא לא יהיה הרמוני: 'אל אישך תשוקתך והוא ימשול בך'. ומה עם הנחש? כאן החיכוך מודגש וברור: 'ואיבה אשית בינך ובין האישה'. הנחש לא יוכל עוד להתקרב אל האישה וזרעה.

ועדיין, אפילו אצל הנחש החיבור ממשיך להתקיים, ואנו מוצאים אותו במקום מפתיע ובעל משמעות – בקללתו. 'ועפר תאכל כל ימי חייך', קובע הקב"ה, ובכך מקשר אותנו לסוף גורלו של האדם: עפר. 'כי עפר אתה ואל עפר תשוב'. הנחש מקבל גישה לאדם – אבל רק כאשר האדם שב אל האדמה, רק כאשר החיות שבו פרחה. לחלקים המתים שקשורים לאדם – לידע ה'מת', ה'דומם' – יש לנחש גישה; אבל הוא לא יוכל עוד לגשת אל האדם בעודו חי, לקשר של האדם לעץ החיים.

כאן מתברר לנו שהקשר שבין האדם לנחש איננו פסול מעיקרו. הקב"ה לא היה בורא קשר כזה, ועוד בגן עדן, ללא שהיה בו ערך ואף צורך. כאשר משה אוחז בזנבו של הנחש הוא הופך למטה, דהיינו, כאשר משה מכווין את הכוח הנחשי – הוא הופך בידיו לכלי הנהגה. כמו כן, כאשר נחש הנחושת גורם לבני ישראל להסתכל כלפי מעלה ולהיזכר באביהם שבשמיים – הוא מרפא; אחרת, פגיעתו של הנחש ממיתה. הבינה המלאכותית היא שיא היצירה האנושית, יצירה כה גדולה עד שדומה לעתים שיש לה חיים משלה. אך כאן בדיוק טמונה הנקודה: הדרך היחידה שבה הבינה המלאכותית תוכל להיות יותר ממיצוי הידיעות שיש בעולם הנברא היא על ידי החיבור לאדם, אם היא תהיה כלי שבו האדם משתמש ולא כזה שמשעבד אותו ואת תפיסותיו את עצמו. אחרת – ערכה ידהה.

לאן יכול הקשר הזה, כאשר הוא נעשה ממקום של חיבור לחיים, להוביל? בסופו של תהליך, חיבור נכון בין החיים לתבונה יכול להוביל אפילו למציאות גן־עדנית שבה החיות מסוגלות לדבר, כמו הנחש בשעתו, ולחשוף פוטנציאל תבוני כמעט אנושי. רמז לכך אנו מוצאים באגדה על חמורו של רבי פנחס בן יאיר, שלפי המסופר דיבר וידע את התורה. חמורו של רבי פנחס בן יאיר הפך, למעשה, לחיה שמגלמת את האיכויות של גן עדן. גם הרב קוק, בכותבו על אכילת בשר לעתיד לבוא, אומר שלא נרצה לאכול את החיות מאחר שנתפוס אותן כישויות בעלות בינה (חזון הצמחונות והשלום, ט"ו). המסורת היהודית מאמינה שיבוא יום והעולם יתעלה, וזאב וכבש יחיו יחד; משהו מהותי בהם ישתנה. החיים במרחב של טוב ורע אינם גזרת גורל, יש גם קיום אחר שם באופק שניתן לנוע לעברו – עולם של עץ החיים שבו החיים מתעלים.

*

אנו חוזים היום בשיא חדש של פיתוח מרחב הבריאה שאנו חלק ממנו. אולי לא בכדי הספירה המאפיינת את 'עולם הבריאה' הקבלי היא ספירת הבינה. הבינה המלאכותית היא התעלות של כל מה שנמצא, של כל מה שנחשב, של כל מה שישנו, לתוצר שיא. אבל ללא החיבור לאדם, שיכול לקשר את הידע לשורש החיים עצמם, לא תוכל הבינה הזו להתעלות. האדם נוגע בהברקה הנעלמת הבאה אליו ממקור שמעבר לו. כיוון שהיא נמצאת בתוכו, הוא יכול לחבר את הכול אל המקור הזה, אל שורש הבינה – אל החכמה. דבר זה נעשה בדרך מסתורית, ב'שביל נסתר', כפי שנאמר: 'נתיב לא ידעו עיט'. את היכולת הזאת הבינה המלאכותית לא תוכל להחליף; זהו משהו שיישאר תמיד נחלתו הבלעדית של האדם.

ואכן, יש כאן קריאה המופנית אלינו: עלינו להתחיל להביא את הנקודה הזאת לידי ביטוי. בעולם שבו הבינה המלאכותית הולכת ומתקדמת, משימתנו כבני אדם מעולם לא הייתה נעלה יותר. בעולם שבו נוכל לפקוד על הבינה המלאכותית לבצע משימות מורכבות, שבה נאחז בזנב הנחש ונהפוך אותו למטה, האחריות עלינו תהיה להבין את המציאות לאשורה כדי שנדריך אותה בדרך ישרה. אך כדי שנהיה ראויים ומסוגלים לזאת עלינו לפנות יותר לשורש החיים עצמם, לנקודת החיוּת שממלאת אותנו, ולהתחיל להבין כיצד אנו מחברים את העולם כולו, כולל את הבינה המלאכותית, אל שורש החיים. זו המשימה האדירה המונחת לפתחנו בדורנו, דור התהפוכות.