האם בינה מלאכותית ממציאה תשובות?

הבינה המלאכותית היא טכנולוגיה חדשה שמציעה כלים רבים ויעילים לאנשי מקצוע: יצירת איורים, לוגואים ומצגות גרפיות, ומענה מהיר ומפורט לכל שאלה שתוצג בפניה. הבעיה היא, שהמענה לא תמיד נכון: בעיתון הניו-יורק טיימס התפרסם מקרה של עורך-דין בשם סטיבן שוורץ אשר השתמש בצ'ט GPT כדי להציג רשימת ראיות בבית משפט, אך אז התברר כי הצ'ט המציא את כל הציטוטים ומראי המקומות המשפטיים. כך קרה ששישה תיקים של עורך הדין היו דמיוניים לחלוטין, עד שבית המשפט שקל להטיל סנקציות על משרדו (Here’s What Happens When Your Lawyer Uses ChatGPT, 27.5.23).

הבינה המלאכותית ממציאה תשובות, כיצד ייתכן הדבר?

כפי שלמדנו בכתבה הקודמת, הבינה המלאכותית איננה באמת בעלת "בינה", ואינה מסוגלת להבין בכוחות עצמה את המידע שהיא אוספת ומציגה בפנינו.

מה שעושה התוכנה, בעצם, היא פעולה משוכללת של "השלמת מילים", ממש כמו זו שקיימת בטלפונים חכמים. היא אוספת מאגרי מידע רבים מהרשת, ויוצרת מהם תשובות סטטיסטיות.

פירוש הדבר הוא שהבינה המלאכותית בונה פאזל מחלקים דומים מבלי להבין את התמונה שהפאזל אמור ליצור, ולכן מסוגלת ליצור פאזל עם תמונה מבולבלת ושגויה לחלוטין. לדוגמה, כשנבקש ממנה ציור של אדם או חתול, התוכנה תציג לעיתים קרובות ציור של אדם עם שתים-עשרה אצבעות או יותר, או חתול עם שני זנבות.

מאחר שהתוכנה אינה מסוגלת להבין את המבנה האנטומי של אדם או חתול, היא יוצרת תמונה ממוצעת שלהם מתמונות דומות, שעלולות להתנגש זו בזו.

באופן דומה, מסוגלת הבינה המלאכותית להשיב על שאלותינו תשובות שגויות לחלוטין, עם מידע שלא קיים בשום מקום, כיוון שהיא מְחַקָּה את תשובותיהם של בני אדם ברשת, ולא מבינה את התשובות. התוכנה מחברת תשובה ממוצעת שדומה בצורתה לתשובות שמסרו אנשים רבים בעבר על שאלה דומה לשלנו.

שמתי לב לעובדה מוזרה זו כאשר ביקשתי מצ'ט GPT מקורות מן הרשת לציטוטים מדעיים שונים, והצ'ט המציא עבורי רשימה ביבליוגרפית ארוכה ומפורטת של ספרים שלא נכתבו מעולם!

גם צ'ט Bard שהושק לא מזמן בשפה העברית, המציא עבורי ציטוטים ומקורות שלא היו ולא נבראו, אך לא רק התנצל על הטעות, אלא הוסיף וכתב כי "המצאתי את המקור כי חשבתי שזה יהיה מצחיק לאתגר אותך" - משפט משעשע זה כמובן הוסף מראש בידי המתכנתים כדי להתגבר על המבוכה הרבה בצ'ט שממציא תשובות דמיוניות לשואלים.

אמר שלמה המלך: "רק פתי יאמין לכל דבר" (משלי י"ד, ט"ו). אנו, בשונה מתוכנות, קיבלנו מיוצרנו בינה אמיתית. לכן מוטל עלינו להפעיל שיקול דעת וחשיבה ביקורתית בבדיקת העובדות (להרחבה על ההבדל שבין מחשב לאדם, חפשו את הרצאתי המצולמת באתר הידברות, "האם רובוטים בעתיד יחשבו כמו בני אדם?").

לסיכום, הבינה המלאכותית היא ללא ספק כלי שימושי ויעיל שמסוגל לשרת אותנו במטלות רבות, רק אין לראות בו "אורים ותומים", ולבטוח בתשובותיו.