הרבה אנשים מדברים (והרבה) על עתידנו כמין האנושי לאור התעצמות הבינה המלאכותית. אני קטונתי. תחזיות טכנולוגיות ממילא כמעט תמיד לא נוטות להתממש. לא שזה מרגיע במיוחד.
המכוניות המעופפות עדיין לא כאן, אנחנו לא נופשים לנו בזמן שהרובוטים עובדים עבורינו ואני לא חושבת שאזכה לנחות על הירח או על מאדים בקרוב. אבל בזמן שחיכינו לפלאים הטכנולוגיים הללו, משהו אחר ומטלטל מתרחש. הסתכלנו לשמיים ופספסנו את מה שקורה כאן, על הקרקע. האיום הזה לא מגיע בצורה אלימה, אלא דווקא בנחמדות ונעימות. הוא בא בתור נציג שירות לקוחות אדיב במיוחד.
כך או כך, במקום לדבר על איך נלחמים ב AI או איך הוא ייתר אותנו, אני מציעה להסתכל עליו קצת אחרת, דווקא בגלל ידידותיות היתר שלו.
מכיוון שאני שוב ושוב חוזרת לספר של האקסלי, עולם חדש מופלא, החלטתי להקדיש פוסט שלם להסתכלות שלי על ה AI, בהשראת הספר המטלטל הזה.
שנתחיל?
“We tend to overestimate the impact of technology in the short term and underestimate it in the long term.”
אולי אנחנו בכלל מתכוננים למלחמה הלא נכונה?
יש כל כך הרבה תחזיות על ה AI – שהיא תהרוס את היצירתיות שלנו, תנוון את החשיבה שלנו, תייתר אותנו בעבודה או תשמיד אותנו לחלוטין. כש"שליחות קטלנית" עדיין מהדהדת, אנחנו מפחדים ממכונות שיפתחו תודעה זדונית וישמידו אותנו פיזית. בינתיים, הן עסוקות בלקטר עלינו ברשת החברתית החדשה שלהן.
במציאות, המכונות הללו לא מאיימות עלינו עם נשקי לייזר מתקדמים, אלא יותר באמצעות ממשקים ידידותיים שמחמיאים לנו בצורה חשודה. זה הביא אותי לחשוב שלפחות בינתיים – מדובר בפיתוי ולא איום. אין פה אח גדול שכופה עלינו או מכריח אותנו להתנהג בצורה מסוימת, אלא יותר גלישה רכה לתוך עולם חדש מופלא שבו אנחנו אוהבים את השעבוד שלנו. הוא פשוט הפך לכל כך נוח!
ה"סומה" הקוגניטיבית – מחיקת החיכוך
בעולם החדש והמופלא של האקסלי יש סם בשם סומה, שהאנשים לוקחים מדי יום, ועוזר להם להגיע לעולם שכולו טוב. הוא מקהה רגשות, מנטרל מחשבות ומסיט אותם מהמציאות (וזה לא שיש להם הרבה מה להתלונן). הסם הזה בעצם מונע מהאנשים להתחכך בעולם. זה סם ללא תופעות לוואי (כזה יש כנראה רק בספרים), ובכל פעם שהמציאות נעשית קשה או מסובכת, פשוט לוקחים אותו (הם אפילו קוראים לזה "חופשה מהמציאות").
נדמה לי שמודלי השפה, הLLMs, הם הסומה של האינטלקט.
חשיבה היא הרי פעילות שיש בה חיכוך – ספק, חוסר ודאות או חוסר מידע הוא מצב לא נעים, לפעמים אפילו כואב. כשאנחנו מבקשים לחקור, ללמוד או להתמודד עם המציאות, ה AI נותן לנו אופציה לקצר את הדרך ולא לשהות זמן רב מדי עם התחושה הלא נעימה – ולקבל מיד תשובות. ממש כמו תרופת פלא שמסירה מיד את הכאב.
ה AI מגיש לנו תשובה וודאית, רהוטה וחלקה. הוא מעגל פינות ומחליק קצוות של מידע, כך שאין חיכוך. אנחנו מתמכרים מהר מאוד לתחושה הזו של ידע מהיר ללא המאמץ של הלמידה. והסכנה היא לא רק שהמכונה תחשוב במקומנו (זה כבר קורה), אלא שנאפשר לה לעשות את זה מתוך העדפת הנוחות, וזה בדיוק מה שקורה בעולם חדש מופלא.
אנחנו לא מתמכרים לאמת, אנחנו מתמכרים להעדר חיכוך. ה-AI מספק לנו תשובה עגולה, רהוטה ומנומסת, שחוסכת מאיתנו את המאמץ, או אולי אפילו את הצורך להיות אנושיים, חושבים.
מוסטפא מונד והשקר האציל – ארכיטקטורה של יציבות
אחד הקטעים הכי מטלטלים בספר של האקסלי הוא דיאלוג בין ג'ון הפרא (שגדל מחוץ לעולם המופלא ואפילו הצליח להניח את ידו על כתביו של שייקספיר), ובין שליט העולם – מוסטפא מונד.
מונד הוא לא ממש נבל קלאסי. הוא איש אינטיליגנטי (הוא בעצמו קרא את שייקספיר) שמבין שצריך להקריב את האמת ולפעמים אפילו את היופי של האמנות הגבוהה כדי לשמור על יציבות. ממש כמו שג'מיני עושה, הוא מצנזר את אלה מתוך דאגה לחברה. מונד מנהל סיכונים: הוא מסביר שאנשים לא רוצים חירות, הם רוצים אושר; הם מעדיפים יציבות ונוחות על פני אמת מורכבת.
ה AI (כמו גם המדיה החברתית ומנועי החיפוש) מנופפים בכללי הקהילה או מנגנוני הבטיחות. אבל אלו לא רק נמצאים שם כדי למנוע פורנוגרפיה, מיסאינפורמציה על חיסונים או הוראות להכנת פצצות – הם שם גם כדי למנוע חיכוך ואי נוחות. המנדט שלהם זה להפוך את העולם לבטוח יותר.
הם מאומנים כדי להיות מועילים ובטוחים, ולכן הם מסננים את המציאות המורכבת, המכוערת או השנויה במחלוקת, ומגישים לנו גרסה סטרילית וחד מימדית של הידע והמציאות. ממש כמו מוסטפא מונד, הם כנראה מאמינים שאנחנו, המשתמשים, לא מסוגלים להתמודד עם האמת מבלי ללכת לאיבוד. הם מפחדים שבחברה יהיה כאוס או אנרכיה אם כל הידע או המידע יונגש לציבור. אז הם לא ירגיזו, לא יעליבו ובטח לא יערערו על הסטטוס קוו. הם מחליטים עבורינו שאנחנו לא יודעים להתמודד עם המציאות.
יש כאן משהו עמוק יותר מהעדר חיכוך. גם כשה־ AI מוכן (כי ביקשנו מפורשות) להראות לנו מורכבות, הוא קובע מראש איזה בלאגן נחשב לגיטימי ואיזה בלאגן מסוכן. הרי לא כל ספק מותר, לא כל שאלה נשאלת, לא כל אמת ראויה להישמע. זהו בלאגן בפיקוח. ולכן הסכנה היא לא רק שנפסיק לחשוב, אלא שנלמד לחשוב רק בתוך מסגרות שנקבעו עבורנו מראש.
אינפנטיליזציה של המין האנושי
למה זה הופך אותנו, המשתמשים?
ממש כמו בעולם חדש מופלא, שם האזרחים מתנהגים כמו ילדים נצחיים שלעולם לא נאלצים להתמודד עם קושי, אולי ה AI מצפה שגם אנחנו נהיה כמו ילדים? כשאנחנו נעזרים ואף נשענים על ה AI כדי לפתור דילמות מוסריות, להשלים פערי ידע או לגלות איפה נמצאת האמת, אנחנו מוותרים על האוטונומיה שלנו, אפילו אם רק נכנסנו כדי לסכם מאמר (כפי שלמדתי על בשרי, יש דברים שמוטב לקרוא לבד).
ממש כפי שאנחנו חסרי אונים בניווט ללא ווייז, אנחנו הופכים תלויים גם ב AI יותר ויותר. הוא הופך להיות המבוגר האחראי שאומר לנו מה לעשות ומה נחשב נכון או לא נכון. לאט לאט אנחנו לא רק מתנוונים, אלא מאבדים את היכולת להכיל מורכבות, לשהות בחוסר ודאות או להחליט מה באמת מוסרי או נכון עבורינו.
מתכנתי מודלי השפה לא סתם מאמינים שאנחנו כמו ילדים, הם בנו סביב זה אידיאולוגיה שלמה שנקראת Safety. בשם ה'בטיחות', הם החליטו שהמוח האנושי הוא דבר שביר מדי מכדי להיחשף לאמת גולמית.
המרד – ג'ון "הפרא" והזכות להיות אומלל
בסצנה המטלטלת שהזכרתי קודם, כשמונד מצהיר עד העדפת הנוחות והסומה, אומר ג'ון הפרא "אני לא רוצה נוחות. אני רוצה אלוהים, אני רוצה שירה, אני רוצה סכנה אמיתית… אני דורש את הזכות להיות אומלל."
הזכות להיות אומללים אמנם תמיד קיימת, אבל נדמה שבעולם שמתמכר ל AI הזכות להיחשף למידע שלא עבר סטיריליזציה כמעט לא קיימת. הזכות לקרוא טקסט קשה ולא מובן, להתבלבל, לחשוב בשקט או להתמודד עם מציאות מורכבת הולכת ונעלמת…
בספרו המופלא, Amusing Ourselves to Death, ניל פוסטמן טוען שאנחנו מסתכלים לצד הלא נכון. אנחנו חיים בפחד מהאח הגדול, מ 1984 של אורוול, אבל בפועל קיבלנו את האקסלי. ואני מסכימה.
המרד שלנו בעידן הזה לא יהיה במלחמה נגד הטכנולוגיה (נדמה שזה קרב אבוד), אלא בסירוב לנוחות שהיא מציעה. המעשה הרדיקלי ביותר היום הוא להתעקש על ה"חיכוך". להתעקש לחפור באמת, גם כשהיא לא נעימה, ולסרב לקחת את הסומה.
אז אולי בפעם הבאה שאתם פותחים צ'אט עם ה AI תעשו לעצמכם טובה: אל תבקשו את הסיכום. תבקשו את הבלאגן (הלא מאורגן ולא ממוסגר). תדרשו את הזכות להיות אומללים – כלומר, את הזכות להיות חכמים, אנושיים. תשהו קצת עם המורכבות וחוסר הודאות. מנסיוני, זה מוליד דברים יפים ומעניינים, גם אם זה לא ממש נוח.
