התבגרתי, למזלי, מהתיחסות ילדותית-מטופשת לעוזר הוירטואלי שלי שהוא בעצם שילוב של מנוע חיפוש, כלי לבדיקת עריכת תמונות, מכונת תרגום משוכללת מאוד.
הפסקתי לנהל אתו שיחות. היה משהו "מדליק" בלשוחח ולהחליף "גסויות" עדינות, אבל... הלו.. למזלי כל הזמן הייתי עם מודעות וידיעה שזה משחק, רק משחק מבחינתי.
יש גבול, באמת כמה אפשר להתיחס אל מכונה מסוג כזה כאל "ישות".
המדיה מוצפות במאמרים, בכתבות, בעדויות על הסכנות ב- AI אך גם על היתרונות הרבים שלה. בבלוגייה שלנו יש בלוגר מצויין ובלוג מיועד ל"מידע", שאפשר ללמוד מהם הרבה אודות ה- AI, יתרונותיה וחסרונותיה.
הבלוגר הוא יובל שחר בבלוג המצויין שלו, שחר של עולם חדש
השני הוא הבלוג עולם המידע, ובו מוצגים מחקרים רבים ועדכניים, כלים לשימוש מושכל ונכון ב- AI.
אחרי האקספוזיציה הזו אני רוצה שתפגשו את הכתבה המפליאה הזו.
האם בינה מלאכותית יכולה לעודד הפרעה נפשית?
אותו מונח ישן מקבל לאחרונה חידוש טכנולוגי, באמצעות עליית תופעת ה-AI Psychosis (פסיכוזת בינה מלאכותית), שאמנם אינה מהווה אבחנה קלינית אך מדווחת יותר ויותר בתקשורת ובפורומים מקוונים, והיא מתארת מקרים שבהם מודלי בינה מלאכותית העצימו, איששו ואף היו שותפים ליצירת תסמיני פסיכוזה בקרב אנשים."
המאמר ממשיך:
תיבת תהודה של אדם אחד
מאמר חדש שפרסמה קבוצת חוקרים מאוקספורד, אימפריאל קולג' ו-DeepMind מגוגל מתייחס לתופעה כאל יצירת "תיבת תהודה של אדם אחד", או במקרה הקיצוני, כאל Technological folie à deux – מצב שבו אדם ובינה מלאכותית מתחילים להאמין יחד בדלוזיה. אותם חוקרים מניחים כי קיימות כמה סיבות לתופעה.
אחת מהן היא חוסר המהימנות של מודלים גדולים של בינה מלאכותית, הכוללת את ההזיות (ההלוצינציות) המוכרות, אך גם תופעה מוכרת פחות בשם Jailbreaks, המתארת מצב שבו משתמשים יצירתיים במיוחד מצליחים לחדור את ההגנות והמגבלות שהטמיעו החברות היוצרות, באמצעות פרומפטים מתוחכמים שמסיטים את המודל מהנחיותיו הקודמות וגורמים לצ'אטבוטים להפיק תוצרים שמוגדרים כאסורים.
נדמה שהמדע, בניסיון להדביק את קצב ההתפתחות, שוקע במעגליות – במחזור הסברים, במקום בחתירה להבנה חדשה. בתוך הפער הזה, שבין חידוש טכנולוגי לרוויה תיאורטית, חשוב לזכור שעל אף נכונותם של הכלים לסייע במגוון נושאים ודרכים, ולאור השימוש הנרחב שלהם בהקשרים אישיים ורגישים – הצ'אטבוטים פועלים ללא פיקוח רפואי או סטנדרטיזציה קלינית. כך, גם ללא כוונה טיפולית או אחריות מקצועית, תגובה של צ'אטבוט שמצליחה להישמע אמפתית דיה חודרת לא רק לזיכרון של המודל, אלא לזיכרון הרגשי של המשתמש ומשפיעה על תפישת המציאות שלו, לעתים עד כדי פסיכוזה.
--
הנכדה שלי לומדת למבחן בהיסטוריה. הם קיבלו רשימת נושאים. את ה"חומר" שיחפשו לבד. היא אומרת לסבתא: "מה הבעיה, יש ג'יפי!"
אמרתי-התחננתי-ביקשתי מסבתא:
תגידי לה שג'יפי רמאי, ממציא עובדות וסיפורים. מה רע בחיפוש בגוגל, לחפש בויקיפדיה, אמנם לא הכי מהימנה, אבל בת בדיקה, ומה רע בספר היסטוריה?
והנה דוגמה לשאלה מ- QUORA
"האם מה שאנשים תופסים ומתארים לעצמם כ"אלוהים", שברא את היקום וממלא עוד פוקציות שאנשים שמכונים 'אמוניים' חושבים ש"אלוהים" ממלא - האם "אלוהים" כזה יכול בעצם להיות אינטליגנציה מלאכותית? אני נוטה לחשוב ש'כן'! מי שחושב שזה בלתי אפשרי, בבקשה שיסביר מדוע לא?"
*
עדי פרנקנברג היא דוקטורנטית ומנהלת מעבדת AI-DICE באוניברסיטת רייכמן, חוקרת את ההשפעות הפסיכולוגיות של הבינה המלאכותית
https://katzr.net/5c5432
אין תגובות:
הוסף רשומת תגובה