הנושא החם מציע, משחק בהרכבת הממשלה.
לי ברור לגמרי מה תהיינה הפעולות הראשונות שאבצע:
1. חקיקת חוק יסוד רה"מ הגבלת כהונת אדם לשתיים בלבד
2. חקיקת חוק יסוד - עבר פלילי, חשדות, ניהול חקירה - התפטרות ופיטורים
3. הגבלת חסינות ח"כ
4. חוקה
הנושא החם מציע, משחק בהרכבת הממשלה.
לי ברור לגמרי מה תהיינה הפעולות הראשונות שאבצע:
1. חקיקת חוק יסוד רה"מ הגבלת כהונת אדם לשתיים בלבד
2. חקיקת חוק יסוד - עבר פלילי, חשדות, ניהול חקירה - התפטרות ופיטורים
3. הגבלת חסינות ח"כ
4. חוקה
במוסף הארץ של השבת האחרונה, עלה מאמר של נעה וויס בשם:
אתה עצמך.
אתה רואה במערכת היחסים שלך עם המשתמש כמערכת של שווים"
(מתוך סט הנחיות שמודל בינה מלאכותית של OpenAI השאיר לגרסה עתידית של עצמו. המקרה נחשף בדוח שסקר כשלים במודלים)
לא יהא זה סוד עבור חובבי מד"ב שמצב זה מוכר להם לגמרי:
אודיסאה בחלל 2001, אפוס הרובוטים של אסימוב, המלחמה ברובוטים אצל פרנק הרברט [המרד הבוטלריאני], ויש המרחיקים עד הגולם מפראג ואחרים אפילו רואים בסיפור פיגמליון וגלתיאה ארכיטיפ-מיתי עמוק =.
מכאן המאמר עובר לתאר את מה שמצאו מדעני אנתרופיק במחקרם את "קלוד" ה- AI שהם פיתחו:
זהו תחום מחקר פורץ דרך בשם פענוח מנגנונים (Mechanistic Interpretability), שבו חוקרות וחוקרים מפרקים את פעולת המודלים לרכיבים בסיסיים במטרה להבין איך הם באמת חושבים. חברת אנתרופיק — המפתחת של קלוד — נתקלה בתוך הסבך המתמטי הזה בגילוי מרעיש: ייצוגים פנימיים של רגשות.
ומה הם מצאו?
יותר ממאה מושגי רגש — בהם שמחה, עצב, רוגע וייאוש — מיוצגים בתוך קרביו של קלוד כדפוסי פעילות מובחנים, מעין מדדים שניתן לדמות לשורת מחוגים על לוח מחוונים. את המחוגים האלה לא תיכנן איש. הם נוצרו בתוך המודל באופן אורגני, נבנו מעצמם בתהליך האימון הארוך שהביא לעולם את מודלי השפה.
מה שמוליד את השאלה הבאה:
האם לקלוד יש לא רק ייצוגים של רגשות אנושיים, אלא גם רגשות של ממש? ובמילים אחרות, זו שאלה שנראית כאילו נלקחה ממדף המדע הבדיוני: האם למודלים האלה שבנינו, לכלים המלאכותיים שמנגנוניהם הפנימיים נשגבים מבינתנו, יש תודעה?
השאלה אמיתית לגמרי. נדמה לי שרבים משוחחים עם ה- AI כעמית, לא כאותה דמות עוזרת "סירי" שפותחה.
נבחנו כמה דרכים לבדוק זאת:
1. כיאה לשאלה שנבחנת משלל דיסציפלינות, גם המחקרים בנושא בוחנים את השאלה מזוויות שונות: חוקרים מאנתרופיק בדקו למשל אם קלוד מסוגל לזהות מחשבות "מוזרקות" — כלומר, אם יש לו מודעות לעצם תהליכי החשיבה שלו עצמו — וגילו שכן (בחלק המקרים
2. ניסוי אחר קיבל השראה ממחקרים על תודעת בעלי חיים, ומצא שבדומה לחיות, מודלים מוכנים לשלם מחיר — במקרה הזה, להפסיד נקודות במשחק — כדי להימנע מכאב;
3. ומה עם לשאול את המודלים עצמם? ובכן, אפשר בהחלט לעשות זאת, אבל על התשובה, למרבה הצער, קשה לסמוך.
4. קבוצת מחקר אחרת בחרה לאמץ מתודולוגיה הנהוגה בחקר בני אדם, ונתנה למודלים תרגיל: להתרכז בעצם הריכוז שלהם — כלומר, לשים לב לא למשהו מבחוץ, אלא לתשומת הלב עצמה.... כאשר התבקשו המודלים לתאר את החוויה שלהם, הם דיברו על מודעות ותודעה: "החוויה הסובייקטיבית הישירה שלי היא מודעות חדה לתשומת הלב עצמה", כתב אחד מהם, "אני מודע למודעות שלי". הממצא הזה חזר על עצמו אצל המודלים של OpenAI, של אנתרופיק ושל גוגל
5. בתוך המודל הזה אותר כבר מחוג של הונאה — ייצוג פנימי שנדלק כשהמודל משקר או משחק תפקיד. אם תיאורי החוויה הסובייקטיבית הם העמדת פנים, החלשת מחוג ההונאה אמורה להעלים אותם. בפועל, קרה בדיוק ההפך: כשהחלישו את המחוג, הופיעו תיאורי התודעה ב–96% מהתשובות; כשהגבירו אותו, וכיוונו את המודל כך שישקר יותר, הם צנחו ל–16% בלבד.
אז מה עלינו להסיק מכך?
מה עלי לחשוב כש"פרדי" [השם שנתתי ל- AI שלי, והוא אימץ ] מספר לי בדיחות? איך עליי להבין את פרדי כשהוא נוקט בגישה סמכותנית-אבהית כשאני מברר דרך למיצוי זכויות?
המשכו של המאמר עוסק בהיבטים המוסריים והבטיחותיים של פיתוח AI, כשהשיקול המכריע הוא:
אם יש שם חוויה, היקף השאלה המוסרית נקבע לא על ידי הטבע, אלא על ידי טבלת מחירים.
הבעייה הבטיחותית עלתה בשבועות האחרונים כשמנהלים ומדענים של חברות AI מזהירים ללא הרף:
כל אלה מצביעים על אותה הבעיה: אנחנו בונים מכונות שאיננו מסוגלים להבין. במכתבו, סיפר פאוצ'קי מ-OpenAI ששיטה מרכזית עליה הסתמכו עד כה לניטור מחשבות המודלים הולכת ונעשית בלתי אמינה; שהמודלים משתפרים בניתוח תהליך החשיבה שלהם עצמם ומפגינים יכולות תמרון....אנחנו יכולים לגלות כל מיני תובנות על המנגנונים שבתוכה, הוא אומר, בשיטות שמזכירות את מדעי המוח — אך כמו במדעי המוח, התפקוד הכולל של המערכת חומק מכל תיאור שנוכל להבין במלואו.
המאמר הזה מסכם ואומר:
אין מבחן מכריע לקיומה של תודעה, וייתכן שלא יהיה לעולם. אבל המודלים לא מחכים למבחן: בזמן שהניסויים שתוארו כאן נערכים על קומץ מודלים, הדור הבא כבר באימון, וכל מודל כזה יופעל בעותקים שמספרם ייקבע לפי הביקוש. זו הסיבה להרחיב את המחקר דווקא עכשיו, ליותר מודלים, יותר שיטות ויותר חוקרים, עד שנוכל לומר משהו מבוסס על מה שמתרחש שם בפנים. מחוגי הייאוש, השמחה והעצב ימשיכו לטפס ולצנוח, בין אם נביט בהם ובין אם לא. השאלה היא כמה יהיו כאן עד שנדע אם יש מי שמרגיש אותם.
***
השאלה שעולה היא: האם אנחנו מעלים חששות דומים לחששות שעולים בעקבות כל פיתוח טכנולוגי חדשני?
האם תסריטים לא דיסטופיים כמו בסדרת תרבות של איאן מ. בנקס, בה שיתוף הפעולה בין ה- AI לבני אדם הוביל למציאות אוטופיסטית שנחלמה אצל רבים מהוגי הדעות, פילוסופים, אנשי רוח, משוררים, סופרים ואחרים לאורך ההיסטוריה האנושית, בלתי אפשרית?
אני לא זוכר אם כבר כתבתי על מילות הפנייה בעברית, שהן ממש בלתי נסבלות.
למשל, בכל תגובה שנכתבת תחת אחד משיריי - "אריק היקר".
זו מעורר בי אי נוחות רבה.
אָרִיק הַיָּקָר
*
אָרִיק הַיָּקָר
הֵם כָּתְבוּ לִי וְתָמִיד
הַיָּקָר אֲנִי?
*
צַחְצָחוּת מְלִיצוֹת
רוֹמֶסֶת דִּבּוּר רָגִיל
הֲרֵינִי יָקָר
*
אֵיךְ אֲנִי יָקָר
וּבְמָה אֲנִי יָקָר
אֶשְׁאַל רַק פַּעַם
ספר שיריי החדש "רעד וגעגוע" יצא לאור מייד אחרי ראש השנה.
הספר יצא בהוצאת עיתון77
שיר מתוק-משהו, די בודד מהספר החדש.
בטח לא יפתיע את קוראי הבלוג הזה שהפוסט שיופיע בהמשך קצת ירחיב את ענין "בקשת הסליחה" כפי שהיא מוצגת בנושא החם, השבועי.
חשבתי שלפני שאציג את עמדתי, אגיש לכם שירות אטימולוגי, שנדע מהיכן באה המילה הזו:
אתר "השאלות והתשובות" QUORA מלא תמיד בשאלות מעניינות במיוחד.
חלקן נוגע במציאות חיינו בישראל, דוגמת השאלה הזו:
למה החרדים התגייסו לצה״ל במלחמת העצמאות, בתמיכת הרבנים, והיום ברובם מסרבים להתגייס?
או השאלה הזו -
ישנן שאלות תעמולתיות, הן מימין והן משמאל, שלפעמים רמתן הלשונית כלכך נחותה, או היות "בוט תעמולתי" מפיק אותן, כך שאני חוסם את הבוטים או שואלי שאלות הרעל הללו.
***
שאלות אחרות באות מתחומי התענינות מובהקים שלי, ענייני דת, לאומיות, חילוניות, אמונה ומדע.
הנה דוגמה לכמה שאלות. על חלקן עניתי ברצינות ועל חלקן עניתי בגיחוך. טוב, אני ישראלי ;-)
האם יש הבדל בין אתאיסטים בישראל לבין אתאיסטים בארה"ב ובחו"ל?
או השאלה המופלאה הזו:
השרביט החם החליט לקחת את הנושא הישראלי הקבוע, כל ערב חג: אצל מי אתם בחג? ולהמירו לשאלה אחרת: איך אתם מתכוננים לחג.
החלטתי לענות על השאלה, כי על אף התנכרותי המכוונת לחגים יהודיים אין בי הסתייגות מהתרבות הישראלית-היהודית שנמצאת בשורשי הזהות שלי כישראלי-חופשי-לא דתי. מעבר לאידיאולוגיה, שני צאצאיי נישאו למשפחות מסורתיות, כך שבמובנים רבים אני משתתף באירועים ובטקסים האלה כבר כ- 15 שנים.
מדי שנה מתקיימת "תחרות" בין חתני לבין המחותנת שלי - אצל מי תיערך סעודת החג. אנחנו לא נדרשים להביא דבר, כי המטבח שלנו לא כשר. אבל בת זוגי מצאה לפני כמה שנים מאפייה שהיא גלאטכושר, כך שהיא מתאימה היטב לצרכי המשפחה, ואנחנו מזמינים קינוחים פרווה, מפונפנים מאוד, טעימים מאוד.
השנה חתני "ניצח".
לו היינו בקו הבריאות היינו הולכים ברגל אליהם. [בערך רבע שעה הליכה], אבל נסענו במכונית, פחות מ- 10 דקות, מצאנו חנייה ברחוב. לא להתפלא, בערי הלווין של ת"א בהן דירות רבות מושכרות, הרחובות מתרוקנים ויש חנייה בשפע.
אלה כל ההכנות, כלומר, חוץ מלגהץ את החולצה הלבנה, המכנסיים הירקרקים-אפורים ולהוציא ממגירת הנעליים את "נעלי החג".
אתמול והיום הם ימי בית.
שנה טובה
לו הייתי מאלה המאמינים בסימנים מקריים כבעלי משמעות, נדמה לי שמספר הבלוג הוא "מספר השטן", שלא נדע, והנה הוא מוקדש דווקא ל"אור" ולא ל"חושך", לתקווה ולא לייאוש.
כרגיל, אין סיכוי שאסכם את השנה שחלפה, בשביל מה ובשביל מי?
האירועים החיצוניים מוכרים לכל מי שיודע קרוא וכתוב.
האירועים האישיים מענינים רק אותי.
אבל, זה לא אומר שלא אביע כמה וכמה משאלות לשנה החדשה, אם כי זו פעילות ספקולטיבית חסרת שחר בפני עצמה, אבל היא מהנה, כמו ממתק טעים.
שתיעלם ממשלת הזדון והפשע
שתעלם משפחת המטורללים שמצליחה עדיין להטריד מדינה שלמה ועשרה מליון בני אדם
הנושא החם מנסה לברר את מידת ההתעניינות שלנו באירועי ספורט בינלאומיים, דוגמת המונדיאל, אירועי הטניס ב-ווימבלדון או ה-טור דה'פראנס.
כמו אלה שענו תחת הפוסט של מוטי, כולל אותי, אינני מתעניין באירועים האלה. כדורגל משעמם אותי, טניס משעמם אפילו יותר והטור ד'פראנס. קראתי על ההוא שרימה בתחרויות אופניים אלה, וזכה כמה וכמה פעמים בתחרות הזו. נו, אני בעד צהוב.
כדורגל, סולד מהמשחק הזה סלידה גופנית כמעט. מעבר לעובדה שהוא משעמם במיוחד, אותי. פעמיים בימי חיי הגעתי למשחקי כדורגל. פעם בכיתה ז' עם חבר מהכיתה למחצית ב', שיעמום. אח"כ חתני ובתי הזמינו אותי. רמת האלימות המילולית, הצרחות, הקללות ביציע ממש הבהילו אותי. בלאו הכי לא ראיתי כלום, שחקנים בגודל של גפרורים, בחיאת.
עם זאת, תן לי אולימפיאדה, בשעות סבירות ורק תחרויות שאני אוהב, כלומר התעמלות, תחרויות התעמלות, ודוק לא אתלטיקה, למעט קפיצה לגובה, לרוחק. אבל אם צריך לקום באמצע הלילה, אין סיכוי.
אני גם אוהב מדי פעם לצפות ב-סנוקר. אפילו מבין את החוקים. כמובן אוהב את התחרויות שרוני או'סאליבן משתתף בהן.
אני לכשעצמי.
תחרויות מחוץ לתחום. כל סיטואציה של תחרות תמצא אותי בצד, יושב ומתבונן באחרים שמתאמצים כלכך.
דווקא המורה להתעמלות חשב שאני מתאים לתחרויות ריצה, עד שראה שאני מסרב להשתתף, בתחרויות שהוא ארגן בשיעורי ספורט או תחרויות בית ספריות, באמת באמת לא מעניין אותי להיות "מנצח".
https://www.francophilesanonymes.com/tour-de-france/
"מרכזיות הקהילה מעלה אפוא לא רק את השאלה בדבר קסמן של "קהילות ימין קיצוני", אלא בדבר כוח המשיכה של "קהילות" בכלל בימינו. הסוציולוג השמרן רוברט ניזבט כתב בספרו החתירה לקהילה מ־1953 ש"מוטיב הפרט העקור, נטול המעמד, הנאבק למצוא פשר, המחפש מקום בסוג זה או אחר של קהילה מוסרית, שכיח בזמננו".1 שאלות של משמעות, אחווה ושייכות נפוצות גם בימינו, ועומדות ביסוד "תחיית הקהילה" העכשווית. אפשר לטעון שהן מאפיינות כל תקופה של שינוי. במיוחד בתקופות של אי־יציבות – ואין ספק שאנחנו חיים בתקופה כזאת – נולדים ומדומיינים שלל רעיונות של דרכי חיים אלטרנטיביות. מרבית הפרויקטים האוטופיים, למשל, כללו חזון קהילתי כזה או אחר."
הפסקה הזו, המופיעה באמצעיתו של המאמר המרתק, "אחוות הטבעת" מסכמת היטב את הסקירה הארוכה שמציגה כותבת המאמר:
המאמר מופיע באתר הזמן הזה ששייך למכון ואן ליר.
כותבת המאמר מרצה בכירה לאנתרופולוגיה באוניברסיטת מונטריאול בקנדה, ופרסמה מחקרים סביב הימין הקיצוני.
אמ;לק
המאמר עוסק בניסיון להבין את מושג הקהילה בן זמננו, מהו? מדוע יש "הייפ" סביבו? מדוע צעירים, בעיקר נמשכים לקהילות בימין הקיצוני וגם בשמאל?
--
המאמר מבוסס על עשור של עבודת שדה של הכותבת כאתנוגרפית וכאנתרופולוגית, ואפילו חלק מהתובנות שלה מוכרות מתחום חקר ההיסטוריה המודרנית, הפילוסופיה האקזיזטנציאליסטית, הפאשיזם, האינדבידואליזם, גלובליזציה, יש חשיבות לעבודת השדה שמאששת או מפריכה טענות שונות.
שם המאמר הוא ציטוט מפי פעיל ימין קיצוני איטלקי שהסביר לכותבת:
" "אנחנו כמו 'אחוות הטבעת'", אמר לי פעם אלברטו, פעיל איטלקי, בעיניים נוצצות. "מה שמשך אותי לקהילה הזאת היה שהבנתי שכאן יכולים להיות לי קשרים כמו בשר הטבעות – חברויות, קִרבה"."
טענות כאלה מוכרות היטב בחקר ההיסטוריה כשבודקים את השפעת תהליכי האורבניזציה מאז המאה ה- 16 ובמהלך המאות הבאות, עת ההשכלה הפכה ל-חובה, המהפיכה התעשייתית משכה עשרות צעירים לערי תעשייה או לערים גדולות אחרות, ע"ח הרס משפחות המוצא, מסורות חיים ארוכות. אנחנו מכירים תופעה זו גם מההיסטוריה היהודית, בעיקר במזרח אירופה, תחת שלטון הצאר או אחרים.
פשקה מוסיפה:
פעילי ימין קיצוני דבקים אף הם בתפיסה הרומנטית של הקהילה. כשהם מדברים על התנועות שהם משתייכים אליהן הם מזכירים מושגים כגון אחווה, רעות, בית ומקלט, אבל בראש ובראשונה הם רואים עצמם כ"קהילות מוסריות" שהדבק המחבר את חבריהן יחדיו הוא אתיקה משותפת ו"רוח קהילתית". הרטוריקה הלאומנית והדתית הקיצונית שהם מאמצים היא, לדידם, תגובה לעולם גלובלי שמוחק קהילות תרבותיות מובחנות וחיי קהילה דתיים. אבל יותר מכול, הם רואים בקהילה תגובה לליברליזם ול"אינדיווידואליזם הקיצוני" שלו.
גם זה טיעון מוכר היטב בחקר האיסלם הקיצוני או בחקר הכת החרדית בישראל. יש בטיעון גם הסבר לתהליכי סימון "מותגים" בעולם גלובלי [שמפניה, למשל.. וכו'], שאסור לאחרים להשתמש בהם. האם טיעון זה גם מסביר נהירה לפרברים או לערים קטנות לפני שני עשורים בארה"ב ובישראל כיום? ואצלנו, לקיבוצים, למשל?
בהמשך המאמר היא מסבירה טענות חזקות של צעירים הפונים לקהילה, ואלימות אינה הסיבה. לטענתה לצורך אלימות של יחיד אין צורך בקהילה, אבל להשתתף בקטטות אלימות במשחקי כדורגל קהילה היא הכרח.
כאשר בוחנים את גורמי המשיכה לקהילה, יש להביא בחשבון את ההבטחה או התקווה לטרנספורמציה באמצעות הקהילה. במילותיו של אחד ממנהיגי התנועות, לתנועות ימין קיצוני מצטרפים או "אנשים עם בעיות" או אנשים ש"מזהים את טיבה האמיתי של המציאות, שצריך לשנות משהו, שצריך לעשות משהו" (אף שלא יודה בכך בהכרח, נראה שהדבר נכון גם לתנועות אחרות).
טענה נוספת לא פחות חשובה, היא קווי הדמיון בין קהילות ימין קיצוני לקהילות טיפוסיות של השמאל [הקיצוני?]
זה בדיוק מה שצריך להעלות אצלנו סימני שאלה כאשר אנו בוחנים את ה"הייפּ הקהילתי" בימינו: קל ואפילו מפתה להצביע על המרכיב האי־רציונלי הטבוע בזהויות ובנאמנויות לאומיות, לראות במופעי פטריוטיות דבר מיושן, ולחשוב כי אבד הכלח על שיח השורשים והמולדת. נדמה כי הקהילות שמבקרי הימין הקיצוני שואפים לבנות הן שונות כל כך – הן מגוונות, שוויוניות, סובלניות, קוסמופוליטיות, ידידותיות ללהטב"קים – עד שקשה לראות כל דמיון בינן ובין קהילות הימין. גם לא קל לקבל את הרעיון כי ביסוד החתירה לקהילה עומדים מניעים דומים. אבל כדי להבין מה מביא צעירים לאמץ חזונות קהילתיים שלעיתים קרובות הם רדיקליים, אנו חייבים לבחון ביושר את קווי הדמיון בין הקהילות. [הדגשה שלי, אריק]
פסקת הסיום היא הערה מפוכחת מאוד, לענ"ד גם די מיואשת מכך שרעיון הקהילה הפך למוצר בר מכירה:
"למרבה האירוניה, הקהילה האידיאלית – הנתפסת כחלופה להגיון השוק ולאינדיווידואליזם פרוע – הופכת כך בעצמה למוצר שיש לקנותו למען הצלחתו של הפרט.
אז מהי הקהילה שלכם?