צ'אטבוטים אוהבים להתנצל. הם מתנצלים כל הזמן. הם ממהרים להתנצל. אין להם שום בעיה להתנצל. אפילו כשאין להם על מה להתנצל הם מתנצלים. אבל התנצלות היא לא סתם רצף של מילים. היא אירוע לשוני ייחודי שיש לו משמעות מיוחדת, השפעה מיוחדת, ושעומדת מאחוריו כוונה. אבל לבוטים האלו אין כוונה. אם הם לא מתכוונים לשום דבר, ולמילים שלהם באמת משמעות, למה הם מתנצלים ולמה אנחנו כל כך מתרשמים מההתנצלויות האלו?

מחקר שפורסם באחרונה צולל אל ההתנצלויות של הבוטים, מנתח אותן וחוזר עם מסקנה מפתיעה: לא רק שההתנצלויות האלו ריקות, הן מטעות ומסוכנות ויתכן שהן מחייבות הרחבה או לכל הפחות שינוי בהגדרת אחד המושגים החשובים ביותר שבאמצעותם אנחנו מבינים את הבוטים: "בולשיט".

קישורים:
פוסט ברדיט: אני בושה
https://www.reddit.com/r/GeminiAI/comments/1lxqbxa/i_am_actually_terrified

מחקר: צ'אטבוט בולשיט
https://arxiv.org/abs/2501.09910

מחקר: ChatGPT הוא בולשיט
https://link.springer.com/article/10.1007/s10676-024-09775-5

מחקר: משחקי דמיון של צ'אטבוטים
https://journals.publishing.umich.edu/ergo/article/id/4668

ᐧ

אני מתנצל על הטעות בתשובתי הקודמת [עושים טכנולוגיה]

עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה