צ'אטבוטים כ'מנועי חיפוש תשובות': בינה מלאכותית, גיאופוליטיקה והאמינות של המידע

בעודה צ'אטבוטים בבינה מלאכותית הופכים לכלי יומיומי לחיפוש מידע, חוקרים מפנים את תשומת הלב לסיכונים הקשורים בשימוש בהם להסבר של שאלות גיאופוליטיות מורכבות. במרכז המחקר החדש עומדת המצב סביב קוסובו — אזור עם היסטוריה ארוכה ומתחלוקת של הכרה בינלאומית. מחברי העבודה בחנו כיצד צ'אטבוטים שונים מנסחים תשובות לשאלות על מעמד קוסובו, היסטוריתה וקשריה עם סרביה. התברר כי מערכות בינה מלאכותית לעתים קרובות משמטות מציאות פוליטית מורכבת, משמיטות הקשר היסטורי חשוב או משכפלות ניסוח שעשוי להיתפס כתמיכה בצד אחד של הסכסוך. חוקרים מדגישים כי עיוותים כאלה לא נובעים מכוונת רעה של מפתחים, אלא מתכונות של הכשרת מודלים על גופי טקסט גדולים, שבהם כבר קיימות דעות שונות ולעתים סותרות. מאחר שצ'אטבוטים מנסחים תשובות בטון בטוח וסמכותי, משתמשים נוטים לתפוס את דבריהם כאמת אובייקטיבית ללא אימות מקורות. בעיה זו הופכת למשמעותית במיוחד ככל שיותר ויותר אנשים פונים למערכות בינה מלאכותית במקום למנועי חיפוש מסורתיים או לעיתונים. בעבר משתמש היה רואה מספר קישורים והיה יכול להשוות בין נקודות מבט שונות, כעת הוא מקבל תשובה יחידה, כבר מסונתזת, מה שמגביר את הסיכון לתפיסה חד-צדדית של מידע. מומחים קוראים למפתחי מערכות בינה מלאכותית ליישם מנגנונים המאפשרים להצביע על הטבע המחלוקתי או רב-ממדי של נושאים מסוימים, במיוחד הקשורים לגיאופוליטיקה, סכסוכים טריטוריאליים וסכסוכים היסטוריים. כמו כן מודגשת החשיבות של אוריינות תקשורתית בקרב משתמשים, שצריכים לגשת בעדינות לתשובות של צ'אטבוט, במיוחד בנושאים פוליטיים רגישים.