Home » מקרא » על חרטומים, שדים ו- ChatGPT

על חרטומים, שדים ו- ChatGPT

האדם הדתי המודרני חי בדיסוננס מובנה בכמה תחומים, ואחד מהם הוא סיפורי הניסים שבמקרא – שאחד השיאים שלהם הוא מכות מצרים בפרשות השבוע הנוכחיות (שמות-בשלח). למען האמת, התמיהה הבסיסית – האם זה ייתכן? – עלתה כבר בימי קדם, ואם תרצו תוכלו למצוא אותה בדברי השליש הספקן שהטיח באלישע (מל”ב ז, ב) “הִנֵּה ה’ עֹשֶׂה אֲרֻבּוֹת בַּשָּׁמַיִם הֲיִהְיֶה הַדָּבָר הַזֶּה?!” (כמובן שהדתי הספקן יתהה האם גם הסיפור ההוא קרה באמת, ואין לדבר סוף…)
כך או כך, אפשר לחלק את התשובות היהודיות לשאלת היתכנות הניסים לשלושה כיוונים עיקריים – בהכללה גסה:

א) דעת הרמב”ם: אין נס בעולם כלל – ישנן תופעות חריגות שהוטבעו מראש ע”י ה’ במערכת חוקי הטבע (“עשרה דברים נבראו בערב שבת בין השמשות…”) ורק הוא “יודע” להשתמש בהם כשצריך.
ב) דעת החסידות (שמקורה באיסלאם): אין טבע בעולם כלל – הכל מתנהג לפי רצון ה’ בלבד, וממילא אין שום חידוש בנס, אלא רק בעיני המתבונן הרגיל ל”חוקי” הטבע.
ג) דעת היהודי המצוי\הסביר: יש טבע ויש נס – ככלל, העולם מתנהג לפי חוקי הטבע שה’ קבע, אלא שהוא יכול לסטות מהם או לשנות אותם כרצונו – ולזה אנחנו קוראים “נס”.

שאלת החרטומים

הבעיה הגדולה עם כל הגישות האלה היא כמובן שאלת החרטומים. הרי הצד השווה בשלוש הגישות הוא שניסים נעשים רק ע”י ה’ (בין אם זה מוטבע על ידו בטבע ובין אם זו התערבות מצידו), אבל החרטומים, כזכור, הצליחו להפוך מטה לתנין ומים לדם – איך לכל השדים והרוחות הם הצליחו בכך? 

חרטום ותנין (Image: Getty)

ובכן, לפי חז”ל התשובה בגוף השאלה:

אמר רבי חייא בר אבא:
בְּלָטֵיהֶם’ – אלו מעשה שדים.
‘בְּלַהֲטֵיהֶם’ – אלו מעשה כשפים.
(סנהדרין עז:)

המעיין בסוגיה בסנהדרין שם יראה שהאמוראים נחלקו ביניהם האם באמת יכולים החרטומים \ מכשפים לעשות “ניסים” מכוחם הם – ונראה שהדעה המרכזית היא שאכן כן, וכדרשתו הידועה של רבי יוחנן שם: “למה נקרא שמן כשפים? שמכחישין פמליא של מעלה”. והגדיל לעשות רש”י שפירש: “שעל מי שנגזר לחיות – ממיתין“, כלומר, לא די לנו בכך שהמכשפים (בעזרת השדים) עושים ניסים, אלא שניסים אלה מנוגדים לרצון ה’! 

כמובן שראשונים ואחרונים טרחו לתרץ את הדיסוננס הקוגניטיבי הזה, אבל כנראה שכמו דברים אחרים, גם הבעיה התיאולוגית הזו לא הטרידה את חז”ל עד כדי כך – השאלה היא רק למה ומדוע? כלומר, מה סברו האמוראים שלא הוטרדו מקיומו של כוח מורד ועצמאי שכזה? הרי אפילו השטן המפורסם מספר איוב לא ההין לעשות דבר וחצי דבר בלי אישור אלוהי! ואפשר אפילו לתהות מה סברו מחברי הסיפור המקראי ש”איפשרו” לחרטומים לבצע את קסמיהם, ובד בבד הניחו במובלע שהם כאין וכאפס לעומת הנס האלוהי?

כדי לנסות ולתת תשובה לשאלה החרטומית הזו, אעבור ברשותכם ל”חרטום” מודרני, הלא הוא ChatGPT.

ChatGPT – החרטום המודרני?

הפצעתו של ChatGPT בחודשים האחרונים היכתה את העולם בתדהמה. נראה שהצ’אט “יודע” כמעט הכל – לחבר סיפורים ושירים, לכתוב פסקאות מדעיות, לבצע חישובים, לכתוב קוד ועוד ועוד – והכל בשפה טבעית וזורמת. רבים נזכרו ב”מבחן טיורינג” המפורסם שהוצע לפני כ- 70 שנה על ידי המדען המבריק אלן טיורינג, סוג של דיאלוג קלט-פלט טקסטואלי שיאפשר לקבוע האם מכונת חישוב מסוגלת לחשוב. ובכן, המבחן הזה נראה כדחליל חבוט למול היכולות המפליאות של הצ’אט, שהדרך היחידה לנחש שהוא לא אנושי היא היכולות המוגזמות שלו, שמביסות כל אדם ממוצע. 

האמת מאחורי ChatGPT

דא עקא, רוב הפרסומים באינטרנט לגבי הצ’אט (כולל הערך עליו בוויקיפדיה), שמציגים בקול תרועה רמה את הידע וההבנה המופלאים שלו, מתעלמים או מדחיקים לגמרי עובדה בסיסית אחת – ChatGPT לא יודע דבר ולא מבין חצי דבר. אם נרצה להגדיר את גרעין היכולת שלו (לפני כל ה’מעטפת’ של האימון וההכוונות שמפתחי OpenAI הלבישו עליו), זו תהיה ההגדרה הקולעת ביותר:

ChatGPT הוא מנגנון ניחוש סטטיסטי של מחרוזות טקסט לפי הקשר (אברם העברי)

ובעברית – מה שהצ’אט עושה (בהכללה גסה מאוד) הוא להפיק את מחרוזת הטקסט הבאה בהתאם למחרוזת טקסט קודמת, באופן שיתאים לציפיות ‘אנושיות’ בהסתברות גבוהה יותר. במילים אחרות, זה כמו מנגנון ההשלמה האוטומטית הידוע של גוגל, רק על סטרואידים. כדי לבצע השלמות איטרטיביות שכאלה הוא לא צריך (וכמובן שלא יכול – ראו בהמשך) “להבין” שום דבר; כל מה שהוא צריך זה (שוב, בהכללה גסה) טבלאות ענקיות שבהן הרבה מאוד מחרוזות טקסט אנושיות והקשרים ביניהן – תוכן הטקסט כלל אינו רלוונטי! 

כדי לקרב את הדבר אל השכל, תחשבו למשל על משחק ה- Hangman. אתם מקבלים כמה קווים שמייצגים אותיות ועליכם לנחש מה המילה – מה אתם עושים? מנסים קודם כל את האותיות עם ההסתברות הסטטיסטית הגבוהה ביותר להופיע – י’, ה’ וכן הלאה.
נניח שהגעתם למשל ל: _ _ _ _ _ _
י  ה – עכשיו, אתם יודעים שידידכם למשחק הוא מדען מצוי (=זה ה”הקשר” בהגדרה לעיל) – אם ככה, אתם יכולים לנחש שהאותיות שלפני כן הן “לוג”:
_ _ _
ל  ו  ג  י  ה, נכון?
ואז עוד הימור קטן ואתם מגיעים ל:
ב י  ו  ל ו ג י  ה – אאוריקה!
האם לרגע אחד “הבנתם” את השאלה? האם אתם יודעים ביולוגיה? כמובן שלא! (אגב, אם ידידכם למשחק הוא משפטן מצוי, הייתם מן הסתם מהמרים על ד מ ו  ק ר ט י  ה:)

מה ChatGPT מבין? (רמז: כלום!)

עכשיו נתקדם שלב אחד ברשותכם, וננסה להבין מה בדיוק “מבין” הצ’אט בשאלות שהוא נשאל ובתשובות שהוא עונה (כזכור – מדובר בסופו של דבר בטקסט שנכנס וטקסט שיוצא, זה הכל!). כדי להמחיש את העניין, בוא נחשוב שוב על דוגמה לשאלה פשוטה – כמה זה 2+2?
טוב, אנחנו יודעים את התשובה בעל פה, אבל נניח שילד קטן צריך לענות על השאלה הזו – הוא יבצע חישוב (בראש, או עם האצבעות) ויגיע לתשובה. הצ’אט, לעומת זאת, מזהה את הקלט (2+2) ואת ההקשר (שאלה כמותית) ופולט את מחרוזת הטקסט המתאימה ביותר לפי הטבלאות – במקרה הזה, את המחרוזת “4”. אגב, אם נשנה קצת את הניסוח ונשאל “כמה זה שתיים ועוד שתיים”, הוא יפלוט את מחרוזת הטקסט “ארבע” ולא סתם “4” – בגלל ההקשר.

2+2 = 5-1!

האם הצ’אט “יודע” חשבון? האם הוא “הבין” את השאלה? כמובן שמהתוצאה נראה שכן וכן – אבל אני מקווה שעכשיו ברור לכם שלא ולא. מעין ראיה לדבר תוכלו לראות בצילומסך משמאל, בו ביקשתי מהצ’אט שיוכיח מתימטית כי 2+2=4. זו שאלה לא טריוויאלית (ראו תשובות לדוגמה כאן וכאן) אבל הצ’אט התבלבל משום מה ופלט שטות מנוסחת-היטב שבסופה הוכיח לי ש 4=5-1… כידוע, ChatGPT פולט לעיתים שטויות בביטחון רב, ואפילו מצטט מאמרים שאינם קיימים – אבל כשמבינים שהוא לא באמת ‘מבין’ אלא בסה”כ פולט מחרוזות טקסט שאמורות להיראות קבילות בעיניים אנושיות, אפשר לסלוח לו על מעידות כאלה, סה”כ זה אנושי לטעות:)

משחק החיקוי של ChatGPT

בסופו של דבר,מה שהצ’אט עושה הוא “משחק חיקוי” (Imitation Game = המונח המקורי שטיורינג השתמש בו במאמרו המקורי מ- 1950) בו הפלט הסופי נראה כמו פלט אנושי, אבל התהליך שהוביל אליו שונה לגמרי. טיורינג עצמו, אגב, פתח את מאמרו הנודע בשאלה הפרובוקטיבית “?Can machines think” ומייד ניסח את השאלה מחדש – אך לקראת סוף המאמר הוא שוב השתעשע ברעיון שבעוד 50 שנה (=שנת 2000!) כבר יהיה אפשר לדבר על מכונות חושבות, למרות שלדבריו, בימיו השאלה היתה  “too meaningless to deserve discussion”…

הפיסקה הראשונה במאמרו של טיורינג מ- 1950

כך או כך, בשורה התחתונה ייתכן ש- ChatGPT עובר בקלות כל מבחן טיורינג שהוא – אך אחרי שמבינים את המנגנון שמאחוריו, קשה מאוד להגדיר אותו “מכונה חושבת”, אלא יותר “מכונה המסוגלת לחקות תוצאות של תהליך חשיבה אנושי”.
כמובן שניתן לטעון – ובמידה רבה של צדק – שבסופו של דבר כשנבין איך החשיבה האנושית עובדת, נגלה שהיא “בסך הכל” מנגנון כזה או אחר שניתן לפרק למרכיבים ולהבין אותו. טיורינג עצמו כבר הצביע על כך שגם תינוק שנולד בעצם מתחיל ללמוד לחקות אחרים, ולמעשה “רק” מגיב לידע שמועבר אליו מבחוץ, והוא אפילו הציע להתייחס למחשב כאל תינוק וללמד אותו כך שיבין לאט לאט דברים “בעצמו” (“Instead of trying to produce a programme to simulate the adult mind, why not rather try to produce one which simulates the child’s?“).

אם אכן כך, יכול מאוד להיות שעוד כמה שנים אכן מותר האדם מהמכונה יהיה אָין – פשוט כרגע, ChatGPT3 עדיין רחוק מאוד מזה, זה הכל.

ובחזרה לחרטומי פרעה

אוקיי, אלו היו 60 שניות על מנועי שפה ו- ChatGPT. אבל איך זה קשור אלינו?!
ובכן, אנחנו כזכור מנסים להבין מה חשבו מחברי הסיפור המקראי אודות החרטומים, ולאחריהם חכמינו ז”ל, כשטענו במשתמע שיש הבדל מהותי בין ניסים שנעשים מכוחו של ה’, לבין “ניסים” שנעשים מכוחם של חרטומים, שלמעשה משתמשים ב”שדים” כדי לבצע אותם.

וכאן נראה לי שהתובנות מ- ChatGPT יכולות לשמש כהקבלה די מוצלחת: כמו שמדעני מחשב מכירים את המנגנונים הסטטיסטיים המתוחכמים שמאפשרים למנועי השפה ליצור משפטים (ואפילו קוראים להם בשמות מפחידים כמו self-attention transformers;), כך הקדמונים הכירו את ה”שדים” שבהם השתמשו החרטומים לעשות את הכשפים שלהם. וכמונו, אחרי שאנחנו מודעים למנגנונים האלה וברור לנו (אני מקווה!) שהצ’אט לא “באמת” חושב, כך גם היה ברור לקדמונינו שהחרטומים לא “באמת” עושים ניסים: התוצאה בשני המקרים אמנם זהה (הצ’אט פולט סיפור הגיוני לגמרי; החרטום הופך מטה לתנין אמיתי לגמרי) – אבל התהליך שונה לחלוטין מהתהליך ה”אמיתי” (סופר אנושי כותב סיפור; ה’ הופך את המטה לתנין). 

חרטום עם לפטופ – תמונה שיצר עבורי האח הבכור של ChatGPT, הלא הוא DALL-E!

והייתי אפילו מוסיף, שכמו שאנחנו מחפשים את מבחן טיורינג האולטימטיבי שיבדיל בין האדם למכונה,כך גם מחברי הסיפור המקראי התחילו במבחן פשוט בו הוכח קודם כל היתרון האנושי: “וַיִּבְלַע מַטֵּה אַהֲרֹן אֶת מַטֹּתָם”,  עד שהגיעו למבחן האולטימטיבי של מכת הכינים: “וַיַּעֲשׂוּ כֵן הַחַרְטֻמִּים בְּלָטֵיהֶם לְהוֹצִיא אֶת הַכִּנִּים וְלֹא יָכֹלוּ“…


נ”ב – משהו על ChatGPT

מסופר על יהודי פשוט שהגיע לרבי ישראל מסלנט (נניח) ואמר לו שיש לו רק 10 דקות פנויות ביום, והוא מתלבט מה ללמוד – פרק מוסר או דף יומי? ענה לו הרבי: תלמד מוסר, ואז תגלה שיש לך הרבה יותר מעשר דקות פנויות ביום…
אז ברוח דבריו של הרבי:

>> אם יש לכם 10 דקות פנויות – תראו את הסרטון הזה, שמסביר את המנגנונים מאחורי מנועי שפה כמו GPT. 

>> אחרי שתבינו שבעצם יש לכם יותר מ-10 דקות, אני ממליץ מאוד לצפות בסרטון הזה (בדילוגים קלים, כי הוא באורך של שעתיים), שבו מתכנת ידידותי לסביבה מקים צעד אחרי צעד יישום GPT משלו, ש’כותב’ יצירות של שייקספיר – ככה תוכלו להתרשם מה באמת קורה מתחת למכסה המעבד של GPT, וכידוע, כשקוסם מסביר איך בעצם הקסם עובד – הקסם מפסיק לעבוד, וזו המטרה שלי כאן;)

>> מקור מעניין נוסף בו נעזרתי, הוא מאמר קצר של ד”ר Valliappa Lakshmanan (לשעבר מנהל תחום Data & AI בגוגל ועוד), שהשורה התחתונה שלו היא:

ChatGPT has no reasoning capability. It can not do math. It can not solve logic puzzles. It can not invent new knowledge. It’s definitely not sentient.

>> למען הסר ספק, ChatGPT הוא מוצר מדהים, שהתאפשר בזכות עבודה חלוצית, גאונית ומבריקה של עשרות ואחר כך מאות ואלפי מדענים ומהנדסים ממגוון תחומים. כל מה שבאתי לומר הוא מה שכבר אמר מדען מחשב דגול בעל השם הבלתי אפשרי אֶדְסְחֶר דֶיְיקְסְטְרָה:

השאלה האם מחשב יודע לחשוב דומה לשאלה האם צוללת יודעת לשחות…

9 תגובות על “על חרטומים, שדים ו- ChatGPT

  1. אהבתי. שילוב של תנ”ך וטכנולוגיה.
    עכשיו רק חסר כלכלה-פוליטיקית וזה יהיה מושלם בשבילי (הרמז על הדמוקרטיה לא נחשב:)

    • אכן, משום מה עוד לא קרה לי עד היום! לגבי פוליטיקה – חָלִילָה לִּי מֵעֲשׂוֹת זֹאת! חֲסַר מְשֻׁגָּעִים אָנִי?!

    • טוב, זה כבר לא שדים אלא כוח הטומאה ממש! :)
      האמת שלא הבנתי עדיין עד הסוף מה קורה שם, אז אני נמנע מלחוות דעה – אבל אם זה גם מבוסס על אותו “מנוע”, שוב חזרנו לנקודת ההתחלה – “ניחוש” טקסטים.

  2. ועכשיו שאלה הפוכה, אולי בעצם גם אנחנו מכונה משוכללת להוציא מחרוזות על סמך מחרוזות קודמות?

    • הוא אשר כתבתי, ד”ה “כמובן שניתן לטעון – ובמידה רבה של צדק – שבסופו של דבר כשנבין איך החשיבה האנושית עובדת, נגלה שהיא “בסך הכל” מנגנון כזה או אחר…”

      • וכמובן שאתה צודק, ואני אמרתי בחפזי.

  3. זה מעניין מאוד, אבל מודה שלא הבנתי את הנקודה הסופית – מה באמת החרטומים עשו? מה חז”ל הבינו?

    • (שוב סליחה על האיחור – שוב קפצה לי ההתראה רק עכשיו…)
      להבנתי -החרטומים לא עשו כלום וכל הסיפור הוא… סיפור. חז”ל כמובן האמינו שהחרטומים עשו משהו, אלא שלשיטתם זו לא חוכמה – כי זה נעשה ע”י שדים. זה נשמע לנו הזוי – הרי בסופו של דבר הם עשו קסם!
      ולכן, כדי לקרב הדבר אל השכל, הבאתי את משל ה-GPT שממחיש גם לנו בדור הדעה הזה איך יכול להיות שאותה תוצאה מובילה לשתי הערכות שונות: אם אדם אמיתי כתב את זה – אנחנו מעריכים, אבל אם GPT – אנחנו מבינים שזה “סתם”.

ענני נא!