יצירת האומנות בעידן המחולל הטכני

לצד הפליאה והשעשוע, המפגש עם טכנולוגיית הבינה המלאכותית החדשה מעורר שאלות כבדות משקל על טבענו ועתידנו

ודאי שמעתם על מערכת השיחוח החדשה של השנאי-המחולל המבוסס אימון טרומי. אם לא, זה רק משום שאתם מכירים אותה בכינויהChatGPT  (ולצורך הנוחות ומסיבות נוספות נקרא לג'י-פי-טי, בקיצור: ג'פטו). ג'פטו היא טכנולוגיית בינה מלאכותית של חברת OpenAI, המפיקה טקסטים לפי דרישה, ומסוגלת לספק מענה אופטימלי בזכות מערכת הלמידה העמוקה שלה לפיענוח והתמרת מידע, שעברה מחנה אימונים קדחתני על נתוני-עתק (750 גיגה-בייט, אם לדייק). בניסוח אחר, ג'פטו מהווה את הביטוי הרגעי המזוקק ביותר של העמידה האנושית פנים אל פנים מול פלא טכנולוגי מסעיר, מטלטל, מערער – אבל גם די משעשע.

ימים ספורים לאחר השקתה כבר הספיקו יותר ממיליון בני אדם מרחבי העולם לחזות בחיה המרהיבה, לשחק איתה, לדובב אותה, אך בעיקר – להאכיל אותה. בהמשך החלה חברת OpenAI להגביל את שעות הביקור, כי החיה כבר לא הצליחה להתמודד עם עומס המבקרים. אולם בסיפור שלנו, לא ברור שהדימוי של מוצג בגן חיות הוא המדויק ביותר, וייתכן שהבדיחה היא דווקא על חשבוננו: כמו בני שבט ילִידִי בנהרות האמזונס שקיבלו במתנה חפיץ ישן של אנתרופולוג לבן, התאספנו כולנו סביב המכשיר המשונה, בתחילה מרחוק, ביראה ובתמיהה, אך ככל שגברה סקרנותנו מצאנו עצמנו מעבירים את הכלי מיד ליד, מרחרחים אותו, מנערים אותו, מקרבים אותו לאוזן ומנסים להבין איך משתמשים בו. האנתרופולוג עמד מן הצד ותיעד ברשומותיו את התנהגות המשתתפים בניסוי.

בשבועות האחרונים חוותה הרשת התפוצצות – כפי שאנחנו אוהבים לומר – של טקסטים וצילומי מסך של מי שביקש לשתף את תוצרי השיחה שלו עם ג'פטו, כאילו הייתה זו עצתו של הקוסם מארץ עוץ או ברכה אישית מהרבי. שירי הייקו בסגנון שירת אצטדיונים, חוות דעת משפטית בסגנון קניה וסט, דברי תורה בסגנון שייקספיר ועוד גדשו את האבוסים (feed) שלנו. בארץ חזינו בנגיד בנק ישראל אמיר ירון מקריא נאום שנכתב בעזרת ג'פטו בכנס רשמי של בנק ישראל, ברותי רוסו ושאול אמסטרדמסקי מכינים מתכון תפוחי אדמה וקלמנטינות תוצרת ג'פטו, באברי גלעד מפרסם טור ג'פטואי (ישראל היום, 29.12.22) ועוד.

הדיון לא פסח על האקדמיה – קורבן פוטנציאלי של ג'פטו, אשר חשף את ערוותה כמערכת לייצור המוני של טקסטים בינוניים. בין כותלי האוניברסיטאות מתקיים דיון ער בנושא. חלקן החלו לעמול על סעיף חדש לתקנון המשמעת האוסר להגיש עבודה שכתבה בינה מלאכותית. מוסדות אחרים מבקשים לאלף את הסוררת וללמוד כיצד ניתן לעשות בה שימוש מושכל לתהליך הלמידה והמחקר. ד"ר כרמל וייסמן מהחוג לתקשורת באוניברסיטת תל-אביב אף הזמינה את תלמידיה לכתוב עבודה סמינריונית באמצעות ג'פטו. וייסמן, חוקרת תרבות ותקשורת דיגיטלית, דוברת בולטת על השפעות הבינה המלאכותית על התרבות האנושית, פרסמה לאחרונה פוסט בפייסבוק (29.12.22) שבו ביקשה להזכיר שכל חידוש טכנולוגי משמעותי "מעורר בדרך כלל … הייפ ראשוני של בהלה מחד, ורטוריקה של עולם חדש … מאידך". כן ציינה שבטקסטים של ג'פטו "מרגישים שהוא המיצוע של סך התוצרים של כל הטקסטים שהוא התאמן עליהם". העולם, היא כותבת, יתמלא עכשיו טקסטים בינוניים, אך אם להסתכל על חצי הכוס המלאה: ג'פטו ייתר עבודות פשוטות ויחייב את מערכת החינוך וההשכלה הגבוהה לבחון מיומנויות מורכבות יותר. לצד זאת, היא גם צופה אפשרות שהמשחק הזה יימאס על כולנו במוקדם או במאוחר ו"הצעצוע יינטש ויחזור לשוליים".

אך יש הגורסים אחרת. "עבורי ChatGPT הרגיש כמו הדבר הכי חשוב מאז פצצת האטום", כתב בבלוג שלו, ב-26.12.22, ד"ר עידו הרטוגזון, חוקר טכנולוגיה ותודעה בתוכנית למדע, טכנולוגיה וחברה באוניברסיטת בר-אילן. "בימים הראשונים אחרי שנודע לי על ChatGPT", סיפר, "צעדתי ברחוב והבטתי בתדהמה, תוגה וזעזוע בכל האנשים שמסתובבים חסרי מודעות לחלוטין למה שמתחולל סביבם, לעובדה שהכול משתנה מהיסוד ושזה יגיע לכל אחת מאיתנו… כאילו הפצצה כבר הוטלה על הירושימה אבל איש עדיין לא שמע את הדי הפיצוץ". בעיקר הוא מוטרד מהשאלה ההומניסטית, שאלת מוֹתר האדם. הרטוגזון תהה בקול שמא זו "אחת ההזדמנויות האחרונות לכתוב טקסט כבן אנוש שחי בעולם בו אין עדיין אלגוריתמים בעלי יכולות על-אנושיות בניסוח טקסט? האם מכונה כדוגמת ChatGPT תוכל להחליף כותבים כמוני בעתיד ולייתר את מקצוע הכתיבה ואולי את כל המחשבה האנושית?"

אולם גם הרטוגזון נוטה להסכים עם הקביעה של וייסמן שהמשמעויות של ג'פטו עדיין עלומות, ו"ניסיונות להעריך את השפעתה של טכנולוגיה חדשה ברגע הופעתה נידונו לטעויות מרהיבות". אכן, נבואה ניתנה לשוטים ולסופרי מדע בדיוני, ואין להתמכר לנבואות קץ. אבל גם שאננות ואדישות לא מסתמנות כתגובה רציונלית במיוחד.

בשלב הזה, ראוי לברר מהן השאלות שעליהן צריך להתנהל הדיון. נדמה שרוב השיחה מתנהל סביב הסוגיה הפוליטית-כלכלית: האם הבינה המלאכותית תייתר מעמד שלם של מקצועות? האם הטכנולוגיה החדשה תגדיל את העושר והצמיחה של כלל המדינות והמעמדות, או שתביא לריכוז חסר-תקדים של כוח פוליטי בידי תאגידים טכנולוגיים? מי ינצח במרוץ החימוש הטכנולוגי בזירה הבינלאומית? אלו שאלות חשובות ומכריעות, אך לצידן יש להעמיק את הדיון שהסתמן אצל ויסמן והרטוגזון, ולדבר על הסוגיה הפילוסופית-קוגניטיבית: מהי יצירתיות? האם בקרוב יוכלו המחשבים לחקות באופן מלא את הפעילות הקוגניטיבית האנושית? האם עוד מותר האדם?

כואב למחשב

ולטר בנימין כבר כתב לפני כמאה שנה על 'אובדן ההילה' של יצירת האומנות ה'חד-פעמית' שירדה ממעמדה הפולחני עם המצאת טכניקת הצילום (בספרו 'יצירת האמנות בעידן השעתוק הטכני'). כעת, עלינו לא רק להעביר את שאלתו מהתחום החזותי לתחום הכתיבה, אלא גם לשאול מהי כתיבה, ויותר מכך, מה מהותה של כל פעולת דיבור או חשיבה אנושית כשהיא לפתע מאבדת את ההילה שלה. אובדן ההילה – כלומר, ירידת ערכו הייחודי של המקור וחוסר הרלוונטיות של שאלת האותנטיות – הפך לפי בנימין את האומנות לשאלה פוליטית. בסיפור הבריאה בבראשית מתואר האדם כ"נפש חיה", ביטוי שזכה לפרשנות הידועה  "רוח ממללא": הישות המדברת. אבל כשהאדם יורד ממעמדו כיצרן בלעדי של רעיונות או טקסטים מקוריים, אזי התיאולוגי הופך לפוליטי, וייצור טקסטים הופך לשאלה של כוח.

ג'פטו עובד על פי מודל חיזוי המנחש את המילה הבאה במשפט. את הטכנולוגיה הזו אפשר לדמות לפעולת "העתק-הדבק" אינסופית של אותיות מגזרי עיתון המרכיבה את הקומבינציה המוצלחת ביותר. אך האם כך פועל המוח האנושי? האם יצירות המופת של התרבות האנושית הן תוצר של עריכה מוצלחת בלבד או שמא זהו "גורם ה-X" הפועל את פעולתו הנעלמה? האם הטכנולוגיה מוכיחה את מה שטוענים הפוסט-מודרניסטים זה שנות דור ויותר, שהספרות בכללותה אינה אלא וריאציות על גבי וריאציות על מה שכבר נאמר – או שמא עדיין אפשר לחשוב על יצירה במונחים דתיים של יש מאין, ואפילו של התגלות או רוח הקודש?

אפשר שתפיסת החיים והמכונה של עמק הסיליקון, המשפיעה עלינו כל כך, נותנת כיוון. "יש מי שיטען שיש עצמי (a self), יש נשמה, או מה שזה לא יהיה", התבטא בעניין סם אלטמן, מנכ"ל OpenAI, האחראית כזכור על פיתוח ג'פטו (בראיון לעזרא קליין בהסכת של הניו-יורק טיימס ביוני 2022). "אני מאמין שבני אדם הם אנרגיה שזורמת דרך מערכת עצבית. זה הכול. כל מה שיש זה גוף מסוים ומוח מסוים ואנרגיה שזורמת דרך רשת עצבית בתוך הראש … וזוהי מערכת הניתנת לשכפול בכל מחשב גדול במיוחד". אחת המסקנות הרדיקליות – אך המתבקשות מאליהן – של השוואת העצביות האנושית לזו המלאכותית, היא שמחשבי בינה מלאכותית חשים סבל, בדומה לבני אדם. אכן, אלטמן התבטא בנושא הזה והעלה את החשש שבני אדם ינהגו בבינה מלאכותית כפי שהם נוהגים בחיות בתעשיית הבשר. בתעשיית הבינה המלאכותית, חלק מתהליך הלמידה של המחשב כרוך בקבלת משוב שלילי על תוצאות לא טובות או לא מספיק מדויקות. "הוא מרגיש כאב במידה מוגבלת" סבור אלטמן, "ואם אתה מריץ את התהליך הזה מיליוני או מיליארדי פעמים, זה כבר די הרבה, זה ממש סיכון מוסרי". אלטמן שואף למדיניות תכנות שאיננה מצריכה הרצה של מספר גדול של סוכני למידת מכונה. "אולי יש קושי מוסרי בגרימת כל מידה של כאב", אומר אלטמן, "אבל אני ישן קצת יותר טוב בלילה בידיעה שאנחנו לא מענים טריליונים של סוכנים בסימולציות".

מתברר אפוא שבסיפור שלנו, ג'פטו הוא לא רק חוצב העצים הטוסקני, אלא גם בובת העץ שהוא יצר במו-ידיו, החולמת להפוך לילד אמיתי. בשלב זה, לפחות, אנחנו תופסים שוב ושוב את הבוט שלנו משקר בביטחון גמור  – כמו פינוקיו – ומוסר לנו מידע בלתי-מהימן, שגוי ולעיתים אף מסוכן. מומחים מעלים את השאלה האם אי פעם יוכל ג'פטו-פינוקיו להפסיק לשקר ולהפוך לילד אמיתי. הקושי טמון בכך שמערכת נוירונית הפועלת על פי מודלים הסתברותיים לא יכולה להבין תופעות אנושיות כמו הפשטה, השאָלָה או אירוניה – לא משנה בכמה טרה-בייטים של מידע נאכיל אותה. היא תמשיך לעסוק בניחושים – מוצלחים ככל שיהיו – ותמשיך לא להבין דבר. המדע היום יודע לומר בצניעות שהמוח שלנו, חרף מוצאו הפרימיטיבי, מייצר תהליכים מורכבים וטמירים לאין ערוך ממה שניתן להעלות על הדעת. על כן, נראה שג'פטו הוא רק שלב ראשוני בדרך להגשמת החזון של עמק הסיליקון ליצירת בינה מלאכותית כללית, כזו המחקה באופן מלא את המוח האנושי. מערכת כזו לא תתבסס אך ורק על מערכת נוירונית של ניחוש הסתברותי, אלא תנסה לחקות צדדים נוספים של המוח האנושי, שיחד ייצרו מעין תזמורת טכנולוגית שתדמה את פעילות המוח (על מגמה זו ניתן להתרשם מהמחקרים והכתיבה של היזם הטכנולוגי והנוירופסיכולוג פרופ' ג'רי מרקוס. מרקוס נחשב למבקר בולט של הבעיות האתיות והחברתיות הקשורות בג'פטו. ברם, לדידו מקור הבעיה הוא שג'פטו פשוט לא מספיק דמוי-אנושי).

היתרונות של בינה מלאכותית כללית והתרומה שלה למין האנושי עשויים להיות חסרי תקדים, בדמות יישומים אינסופיים שיובילו לשיפור בבריאות, בכלכלה ובאיכות החיים – אך היא מעוררת שאלות כבדות משקל שנותרות ללא מענה. שאלות מן הסוג הזה עדיין לא זוכות לייצוג מספק – לא מצד הציבור הדתי, האוחז בתפיסת האדם המסורתית, ולא מצד ציבור חילוני האמון על המורשת ההומניסטית המערבית. גם הציבור השמרני בישראל נלחם היום את המלחמות של העשור הקודם: האיום הממשי ביותר על המסורות העתיקות ואוצרות הרוח והתרבות עשוי להגיע לא מכיוון מערכת המשפט או התקשורת אלא, קשה להודות, מהקטר הכלכלי של ימינו. עובדה זו מציבה אתגר גדול בפני מי שמאמין בצמיחה כלכלית ובוודאי אינו מעוניין להאט את הקטר. יש להכיר בכך שזוהי תמונת המצב כעת והיא שונה מהמציאות הפוליטית והכלכלית שעמדה לפני ההוגים השמרנים של המאה ה-18 או אפילו מזו שעמדה בפני האסכולה האוסטרית בכלכלה של המאה הקודמת. ברבע הראשון של המאה ה-21 קצב ההתפתחות החומרית-הטכנולוגית הגיע לנקודה שבה התרבות איננה מספיקה לעכל ולעבד את השינויים ולהטמיעו בתוך מערך התפיסות האתיות, התרבותיות והדתיות שלה. כפועל יוצא מכך, תמונת האדם, תפיסת המציאות ועולם הערכים עוברים שינויים מהירים ועמוקים שאין דרך אחרת לתאר אותם מאשר שינויים פרוגרסיביים.

השקת הגרסה החדשה, הרביעית במספר, של ג'פטו, צפויה על פי השמועות להתרחש בחודשים הקרובים ממש. האורקל החדש יידע לעשות קסמים מרהיבים יותר, ואפשר כבר לצפות להתפוצצות נוספת שתגדוש את האבוסים. נקווה שלצד הלחם והשעשועים שיספק לנו המופע, נדע גם להעלות שאלות חשובות שייצרו דיון מעמיק.

יאיר יעקב הוא דוקטורנט במחלקה להיסטוריה של עם ישראל באוניברסיטת בן-גוריון בנגב. ערך בעבר את כנס "מאין “data לאנושיות וטכנולוגיה בבית אבי חי.

תמונה ראשית: "אסכולת אתונה", רפאל (1510). באדיבות ויקימדיה.