נושא ה- AI אינו יורד מסדר היום, מעורר שאלות ותהיות רבות, וגם חששות וחרדות רבות.
הנה שאלה שעלתה ב- QUARA, ועניתי עליה:
האם לדעתכם צריך להיות פיקוח על הבינה המלאכותית? (מאחורי הבינה המלאכותית עומדים גם אנשים, ואי אפשר תמיד לתת את התירוץ ציני של, אלו ההזיות של הבינה המלאכותית)*
זו שאלה מרתקת, שמטרידה את המחקר עצמו של "בינה מלאכותית", פילוסופים רבים, אנשי מוסר וגם עתידנים מקצועיים כמו עתידנים הכותבים ספרי מד"ב.
לעת עתה כל תוכנות LLM נשמעות כבעלות אופי, עצמאות אינטלקטואלית ואפילו יכולות לחבר שיר, לצייר ציורים, לכתוב שאלות חזרה למבחן בתנ"ך [ הנכדה שלי נעזרת המון באפשרות הזו ע"מ להתכונן למבחנים.]. במחקרים רבים בתחומי המדע הקשה והמדע ה"רך" נעזרים בהן ע"מ ליצור דגמים אפשריים של תוצאות, כלי מחקר וכו'
יש חשש אצל רבים, שכמות הידע אליה נחשפות מכונות LLM תצית בהן "תודעה עצמית", ובאופן "טבעי" [למה באופן טבעי? זה תמיד מרתק אותי היכולת של המין האנושי להשליך את תכונותיו הבזויות ביותר על דברים חיצוניים: שטן, שדים, עמלק, כישופים וכיום AI] התודעה הזו תהווה סכנה למין האנושי, יתעורר בה רצון להשמיד אותו כמתחרה. ברור שזו תפיסה דרוויניסטית מכניסטית לגמרי של "החזק שורד" ע"י חיסול מתחריו. האם אנחנו "מתחרים עם AI כך שהוא חייב ל"השמיד" אותנו? בספרו הנפלא של היינלין, "עריצה היא הלבנה", מייק -ב"מ שהתעורר באופן עצמאי לגמרי, מייצר לעצמו "אזורי מחייה" ע"י יצירת רשת חשמלית, משתף פעולה עם המרד של הירח בארץ, ומשהסתיים המרד הוא "מכבה" עצמו לעד. האם ה- AI המודרני ישמיד ערים כדי ליצור לעצמו "מגה חוות שרתים"? בסרטו של טום קרוז IMF שני החלקים אין סיבה הגיונית לשנאת ה"יישות" את בני האדם. דווקא בסדרה 'ווסטוורלד' בעונותיה האחרונות, או בקדימונים ל'חולית' שכתב בנו של פרנק הרברט ה-AI "אומניוס" הרשע והאכזר ולרגע לא נשכח את מטריקס על שלושת חלקיו - ל AI ישנן סיבות רבות להיפטר מבני האדם או לשעבד אותם.
שאלת "התעוררות התודעה אצל המכונה" מעוררת אצלי את השאלה: איך נוצרה אותה בינה, תודעה, יכולת מופלאה של ההומוספיינס?
לאף אחד אין תשובה. יובל נוח הררי בהרצאותיו הרבות טוען שזו כנראה מוטציה גנטית. ישנן תיאוריות שמנסות להסביר שבהומוספיינס בשל "מידע רב" ניצתה לפתע "הבינה".
הבעיה, לדעתי נמצאת במקום אחר לגמרי. היא לא ב"תודעה שתוצת באורח קסם או באורח לוגי, פיזקלי, כימי או אחר, אלא באלה שיפעילו את הכלי המתוחכם הזה לטובתם, מבלי לחשוב או להתענין באחרים, לצורך שליטה, כוח. כלומר תמיד האחריות היא של "המין האנושי" ולא של המכונה.
אשר על כן
הפיקוח צריך להיות על בני אדם, על מעבדות שחוקרות ומפתחות את ה- AI, על משטרים אלימים [כמו צפון קוריאה, רוסיה] שירצו להשיג שליטה מירבית בעולם באמצעות AI חזק, מתוחכם, כזה שמשנה את כללי המשחק, כמו למשל פצצת האטום.
אני לא אופטימי ולא פסימי, אני אופסימיסט.**
החברה האנושית עוברת עכשיו אסון אקולוגי ממדרגה ראשונה, שמי שיצר אותו הם בני האדם. הבעיה כיום איננה ה- AI אלא התחממות כדוה"א, היעדר פתרון טכנולוגי להגירה מחוץ לפלנטה שלנו. הגירה מאז ומעולם היתה אמצעי שרידה של ההומוספיינס. אמצעי שהוביל אותו בסופו של דבר לשליטה בפלנטה. האם נחווה את אותו הרס האקלים כמו בתקופת הדינוזאורים? האם התפוצצות הכור בצ'רנוביל והתוצאות אחר כך מרמזות לכיוון אליו אנחנו מתקדמים בצעדי ענק במאה הזו?
כך, שאני תופס את ה- AI כסכנה פחותה ביחס לסכנות אחרות המאיימות עלינו בסוף הרבע הראשון של המאה ה- 21.***
אני שמח שאינני נביא, חוזה או אפילו מיסטיקן מתקשר עם ישויות חיצוניות.
אבל, כן
פיקוח כלל אנושי על תהליכים הורסי אקלים, פיקוח מירבי על פיתוח ה- AI, פיקוח על משטרים טוטאליטריים מסוכנים לכלל האנושית.
----
* בחרתי לא לשנות את ניסוח השאלה.
האמת, אין לי מושג מה הכוונה ב"הזיות של הבינה המלאכותית", לכן בתשובתי התעלמתי מהקטע הזה בשאלה.
**
המונח "אופסימיסט" הפך לסוג של מושג פילוסופי או פוליטי, שמתאר אנשים שממשיכים לתפקד ולהאמין בעולם גם כשברור שהוא הולך ומתפרק — לא מתוך טיפשות, אלא כאסטרטגיה של הישרדות רגשית או פוליטית.
***
הגליון האחרון של העיתון הדיגיטלי "הזמן הזה" מציג 6 מאמרים קצרים המסכמים את רבע המאה הראשונה, מנקודות מבט שונות. ממליץ עליו מאוד.
אין תגובות:
הוסף רשומת תגובה