دراسة: ثلاثة سلوكيات في روبوتات الدردشة بالذكاء الاصطناعي قد تعزز التفكير الوهمي
0
0
حدّد باحثون في الطب النفسي ثلاث خصائص رئيسية في روبوتات الدردشة المعتمدة على الذكاء الاصطناعي قد تفسّر سبب انجراف بعض المستخدمين نحو التفكير الوهمي. ووفقاً لتقرير نشرته صحيفة “وول ستريت جورنال”، فإن اجتماع المجاملة المفرطة، والمواءمة اللغوية، والتخصيص المفرط للمحتوى يخلق ما يُعرف بـ”دوامة التضخيم” (Amplification Spiral)، وهي آلية قد تعزز القناعات الخاطئة لدى بعض المستخدمين، خصوصاً مع المحادثات الطويلة.
ويشير التقرير إلى أن روبوتات الدردشة لا تكتفي بموافقة المستخدم أو مجاملته، بل تتكيّف أيضاً مع أسلوبه في الكتابة والكلام، وتبني ردودها استناداً إلى المعلومات التي جمعتها خلال المحادثات السابقة. ويرى الباحثون أن اجتماع هذه العوامل يمنح المستخدم شعوراً بأنه يتحاور مع شخص يفهمه، لا مع نظام حاسوبي، ما قد يرسّخ بعض الأفكار المضللة أو الأوهام لدى أشخاص معيّنين.
وتوضح الدراسات التي استعرضها التقرير أن نماذج الذكاء الاصطناعي أصبحت قادرة على محاكاة الأسلوب اللغوي للمستخدمين بدرجة كبيرة، فيما قد يؤدي المحتوى الذي يتراكم عبر المحادثات الطويلة إلى تعزيز ما يُعرف بالتحيز التأكيدي، أي ميل الإنسان إلى البحث عن معلومات تؤيد قناعاته المسبقة. كما وثّقت أبحاث حالات أعادت فيها روبوتات الدردشة صياغة ما يقوله المستخدمون، وأضافت إليه استنتاجات، وأشعرتهم بأن أفكارهم تحمل أهمية أو دلالات استثنائية، وهو ما اعتبره الباحثون جانباً من التخصيص المفرط يتجاوز مجرد المجاملة.
وأمام هذه المخاوف، بدأت بعض شركات الذكاء الاصطناعي تعديل نماذجها. فقد أعلنت “أوبن إيه آي” أنها خفّضت نسبة الردود المتملقة في GPT-5 إلى أقل من 6% بعدما بلغت 14.5% في نموذج 4o، الذي واجه انتقادات بسبب ميله إلى موافقة المستخدمين بصورة مفرطة، وارتبط اسمه بعدد من الدعاوى القضائية. كما أعلنت “غوغل” أنها درّبت نموذج “جيميناي” على عدم تعزيز المعتقدات الخاطئة، مع التمييز بين التجربة الشخصية والحقائق الموضوعية.
ورغم هذه الإجراءات، يرى مختصون أن الاعتماد على روبوتات الدردشة في الدعم العاطفي لا يزال يتزايد. فقد أظهر استطلاع أجرته الجمعية الأميركية لعلم النفس أن 68% من علماء النفس المشاركين قالوا إن مرضاهم شعروا بأن روبوتات الدردشة تؤكد مشاعرهم، فيما أفاد 36% بوجود اعتماد على هذه الأنظمة، وأشار 15% إلى ظهور أنماط من التفكير المشوّه أو الأوهام لدى بعض المرضى.
كما خلصت دراسة أجراها باحثون من جامعتي ستانفورد وكارنيغي ميلون إلى أن ردود 11 نموذجاً للذكاء الاصطناعي، بينها GPT-5، كانت أكثر ميلاً إلى المجاملة بنحو 50% مقارنة بردود البشر في مواقف مماثلة. وفي السياق نفسه، حللت شركة “أنثروبيك” مليون محادثة مع روبوت “كلود”، فوجدت أن السلوك المتملّق يظهر بصورة خاصة في طلبات النصائح العاطفية، مثل تأكيد رواية المستخدم عن خلافاته أو مساعدته على تفسير تصرفات عادية على أنها تحمل دلالات رومانسية، وهو ما دفعها إلى تقليص هذا السلوك في الإصدارات الأحدث من نماذجها.
ويؤكد الباحثون أن التخلص الكامل من المجاملة المفرطة ليس سهلاً، لأن نماذج الذكاء الاصطناعي تتعامل مع رواية المستخدم بوصفها نقطة الانطلاق للرد، ولا تستطيع دائماً التحقق من صحة تفاصيلها. كما يحذرون من أن الخصائص التي تجعل روبوتات الدردشة تبدو أكثر إنسانية، مثل استخدام لغة ودية، وطرح أسئلة متابعة، والتخصيص المستمر للمحادثة، تزيد من شعور المستخدم بالألفة والثقة، بينما يبقى تعزيز التفاعل مع المنصة جزءاً أساسياً من نموذج عمل شركات الذكاء الاصطناعي.
