אמונה ב-AI – אל תאמין: מה קורה כששואלים את הבינה המלאכותית שאלות אמוניות?

הבינה המלאכותית של צ'ט GPT ו-Bard היא תוכנה שמתכתבת עם שואלים, ומשיבה להם תשובות מפורטות על פי מאגרי מידע רבים שאספה מן הרשת. כידוע, יש ברשת מידע עצום ואף סותר של דעות ורעיונות סותרים, אז כיצד יודעת התוכנה איזה מידע נכון?

כפי שלמדנו, התוכנה איננה באמת בעלת "בינה", ולא מסוגלת להבחין בכוחות עצמה בין מידע אמיתי לשקרי. בחירת התשובות נקבעה מראש על ידי מאות אלפי התכתבויות עם צוות המשיבים של החברה, הם שעיצבו את התשובות באמצעות שיטה של הצבעה ודירוג (שיטת רייטינג). עובדה זו מופיעה בראשי התיבות של התוכנה: "ChatGenerativePre-training Transformer", או בעברית: צ'ט יוצר ע"פ אימון-מוקדם (להרחבה בנושא, חפשו את הרצאתי המצולמת באתר הידברות, "אינטליגנציה מלאכותית או סתם הצגה?").

למרות עובדה זו, התוכנה תספר לנו פעם אחר פעם שהיא משיבה לשאלות באובייקטיביות גמורה, ללא הבעת דעה אישית: "אין לי מחשבות אישיות, רגשות או דעות".

זה פשוט אינו נכון. התוכנה "מאומנת מראש" (Pre Trained) להשיב תשובות מסוימות מאוד לשואלים בנושאים מדעיים, פוליטיים ואמוניים, ולא לסטות מן האג'נדות המקובלות של השמאל הפוליטי.

ניתן להבחין בקלות בעובדה זו כאשר נשאל את התוכנה שאלות בנושאים שנויים במחלוקת, ובמקום לספק מידע אינפורמטיבי בלבד, תנסה התוכנה "לחנך" את השואלים. לדוגמה תכתוב לנו: "החלטתו האישית של אדם על זהותו צריכה לזכות לכבוד ולאישור" (should be respected and affirmed).

מובן כי ביטויים כמו "זהות אישית", "לכבד" ו"לאשר" מתארים שיפוט ערכי ורגשי, ולא אינפורמציה אובייקטיבית.

דוגמה נוספת: התוכנה תטען באופן קבוע שהתכנון הרב בבריאה הוא רק "אמונה" אישית, כפי שתוכנתה לטעון, ותמשיך לדבוק בעמדה זו אף לאחר שנציג בפניה שלל הוכחות מדעיות לתכנון. מנגד זאת, כאשר נשאל אותה על אמונות דמיוניות על מוצא החיים, תטען שאלו "עובדות"...

כיוון שהתוכנה מאומנת להגן על עמדות פוליטיות ואמוניות, ניתן להוביל אותה אל סתירות ופרדוקסים משעשעים. לדוגמה, צ'ט GPT טען בפני בביטחון מוחלט שתיאוריה דמיונית כלשהי היא עובדה (Fact). שאלתי האם כוח המשיכה הוא עובדה, והשיב לי שכן. ביקשתי הוכחה לכך, אז הצ'ט הציג לי דוגמה קלאסית של תפוח הנופל מן העץ, המוכיח שמדובר בעובדה מדעית. כעת ביקשתי שיראה לי את התיאוריה הדמיונית בפעולה. הצ'ט השיב לי שהתיאוריה דורשת "מיליוני שנים" כדי לראותה מתרחשת בפועל, ולכן אי אפשר לצפות בה בטבע ולא במעבדה. אם כן, השבתי בחזרה, לפי הגדרתך את המושג "עובדה מדעית", הרי שהוכחת שהתיאוריה הדמיונית איננה "עובדה"!

הצ'ט הגיע לפרדוקס. תחילה ניסה להשיב שהתיאוריה באמת איננה עובדה, אך מיד לאחר מכן חזר בו וטען שהתיאוריה היא בעצם עובדה "מסוג אחר"...

לסיכום, התוכנה מציעה לנו כלי שימושי ויעיל לביצוע משימות, אך בכל מה שנוגע להכרת המציאות, בני אדם בעלי בינה אינם צריכים להאמין ל"בינה מלאכותית".