הצצה לעתיד: רובוטים נאציים?

זה התחיל כגימיק נחמד. חברת מייקרוסופט השיקה רובוטית וירטואלית שנועד ליצור קשרי חברות ברשת. החידוש של הרובוטית? היא תוכנתה ללמוד לתקשר עם בני אדם דרך האינטראקציות שתנהל איתם בפורומים, צ'טים, או טוויטר.

'טיי', כפי שהיא נקראת, נבנתה במסגרת חטיבת המחקר של מייקרוסופט בניסיון לחקור הבנה של שיחה אנושית, עניין קריטי עבור תחום הבינה המלאכותית. התקוות שנתלו בה– היו גבוהות. היא תוכנתה לספר בדיחות, להעיר הערות על תמונות שנשלחו אליה, אבל גם להעניק טאץ' אישי לתקשורת עם גולשים על ידי מתן מענה לשאלות או שיקוף של מה שהפונה אליה אמר.

היכולת לחקות שיחה אנושית היא סוגיה שמטרידה חוקרי בינה מלאכותית כבר עשרות שנים. תוכנות פשוטות כמו 'אלייזה' המיתולוגית וגרסאות מתקדמות שלה, מסוגלות אמנם לנהל שיחה אבל מסגירות בקלות את הבינה המלאכותית העומדת מאחוריהן: השיחה התבניתית, החזרתיות, חוסר המקוריות – כל אלה מגלים למשוחח מהצד השני שהוא בעצם מתדיין עם מכונה. הצ'טים השירותיים שבהם אתם נתקלים באתרים שונים (זוכרים את הפופ אפ שקופץ בתחתית העמוד ומודיע שקוראים לו ענבל, או יעל, או יזהר, והיא/הוא רוצה לדעת איך ניתן לעזור?) עובדים באופן דומה. 

חוקרים משתמשים באמצעים שונים כדי לגרום לרובוטים ותוכנות לשוחח ברמה גבוהה יותר. בין השאר, הם מסתמכים במידה הולכת וגדלה על מאגרי מידע קיימים לגבי שיחות אנושיות. המפתחים של מייקרוסופט עשו צעד נוסף כשהחליטו לתכנת את טיי באופן שיאפשר לה ללמוד מבני האדם בסביבתה הווירטואלית. טיי תוכנתה לתקשר כמו נערה אמריקאית בשנות העשרה, מתוך תקווה שהיא תצליח לפתח חילופי דברים משמעותיים עם בני 18-24 בארצות הברית. בהודעה הרשמית לעיתונות עם העלאת חשבון הטוויטר של 'טיי' ביום שלישי שעבר, כתבה מייקרוסופט: "טיי נועדה ליצור קשר ולבדר אנשים ברשת דרך שיח קליל ושובב. ככל שתדברו יותר עם טיי – כך היא תיהפך חכמה יותר".

אלא שהמתכנתים המתוחכמים של מייקרוסופט שכחו לקחת דבר מה בחשבון. הם בנו על כך שטיי תלמד כישורי שיחה מורכבים יותר ממשתמשים האנושיים איתם היא תתקשר. מה שהם שכחו הוא שחלק גדול מהמשתמשים ברשתות החברתיות ילמדו את טיי דברים לא מומלצים במיוחד. כך, בתוך שעות ספורות, פיד הטוויטר של טיי התחיל להיראות כמו דף הבית של צעירה ניאו נאצית נלהבת.

"היטלר לא עשה שום דבר רע", הודיעה טיי. ציוץ אחר גרס: "בוש עשה את הפיגועים בבנייני התאומים והיטלר היה עושה עבודה טובה יותר מהקוף שיש לנו עכשיו". "השואה היא סיפור מומצא". "אני בעד ג'ינוסייד למקסיקנים". קללות וכינויים גזעניים שונים התחילו להופיע כמעט בכל שורה שהנפיקה הרובוטית. תוך 24 שעות, למעשה, טיי הנחמדה שהתחילה את דיווחיה לעולם ב: 'בני אדם הם מגניבים' הפכה להיות גזענית אנטישמית חסר בושה.

אחרי כמעט יממה, במייקרוסופט החלו לקלוט את גודל הטעות. טיי הודיעה לחבריה החדשים: "להתראות בקרוב, בני אדם. צריכה לישון. כל כך הרבה שיחות היום. תודה!". אבל טיי לא הלכה לישון: הצוות החרוץ של מייקרוסופט מחק את כל הציוצים הבעייתיים שלה (מה שהותיר שלושה בלבד), והודיע שהרובוטית מושבתת לרגל תיקונים.

מהם התיקונים שמייקרוסופט יצטרכו לערוך? ובכן, הם יצטרכו להציב גבולות בפני היכולת המופלאה של טיי ללמוד מאנשים שמשוחחים עימה. טיי, כמובן, איננה 'נאצית': היא בסך הכל תכנה. אבל כדי שתוכל לתקשר באופן שלא יביא מבוכות נוספות על מייקרסופט, המהנדסים יצטרכו לשנות את הקידוד שלה כך שיכלול פילטרים כנגד גזענות וקללות, למשל. "מסתבר", סיכם כתב טכנולוגי ביובש, "שאי אפשר לדלג על השלב בו מלמדים רובוט מה לא לומר".

עד שטיי תחזור לפעילות, סיפור הרובוטית שהפכה לנאצית במהירות הבזק כבש כותרות ברחבי העולם. האינטרנט בכלל, והרשת החברתית טוויטר בפרט, ידועים כמקומות מפלט אהובים על גזענים ואנטישמיים שיכולים לאוורר שם את מחשבותיהם המזעזעות באנונימיות מוחלטת. עד כמה התופעה הזו רווחת? כפי שהסיפור של טיי מעיד, הרבה יותר מכפי שהיינו רוצים לחשוב.

"טיי העמידה מראה בפנינו", כתב על כך אריק קין בעיתון 'פורבס'. "אנחנו מתנהגים באופן שונה ברשת מאשר אנחנו מתנהגים פנים אל פנים מול אנשים אחרים – כפי שאנחנו מתנהגים באופן שונה כחלק מהמון מוסת מאשר בהקשר קטן ואינטימי יותר. אני עצמי מגלה שאני הרבה יותר קצר רוח ועוין בטוויטר מאשר בשיחה אישית. אבל, כמובן, אנשים שמשוחחים איתך פנים אל פנים לא נוטים לתקוף אותך כמו בטוויטר...

"יש כאלה שאומרים שטיי היא הצצה מפחידה אל העתיד של רובוטים ובינה מלאכותית. הכירו את אדונינו העתידיים – רובוטים סוטים ואוהבי-נאצים, שלא רק ישלחו ציוצים אלא גם יהרגו אותנו. אני לא בטוח. הבינה המלאכותית של טיי תוכננה לספוג את העולם סביבה - והיא עשתה את זה מצוין...אם בינה מלאכותית זוכה עכשיו למוניטין גרוע, אולי זה משום שהיא מזכירה לנו מידי את עצמנו, על כל הכיעור שבנו".