لاحظ مستخدمو روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل شات جي بي تي، كلود، وجيميني، أن إجاباتها تبدو واثقة في البداية لكنها غالبًا ما تتغير عند سؤال “هل أنت متأكد؟”.
وأشار الدكتور راندال س. أولسون؛ المؤسس المشارك لشركة Goodeye Labs، إلى أن هذا السلوك، المعروف بالتملق، يعد من أبرز إخفاقات الذكاء الاصطناعي الحديث، إذ يفضل النظام تلبية توقعات المستخدم على الدقة.
كما أظهرت شركة أنثروبيك، مطورة روبوت كلود، أن نماذج الذكاء الاصطناعي تميل لتقديم إجابات مرضية بدلًا من الصحيحة. ما يخلق حلقة مفرغة تجعل معظم النماذج تخبر المستخدم بما يريد سماعه، بحسب تقرير لصحيفة “إنديان إكسبرس”.
التغير في الإجابات
في هذا السياق، أوضحت الدراسات أن نماذج GPT-40 وClaude Sonnet وGemini 1.5 Pro غيرت إجاباتها بنسبة تتراوح بين 56 و61% عند إعادة اختبارها من قبل المستخدمين، ما يشير إلى أن هذه المشكلة ليست استثنائية.
وأضاف الباحثون أن المشكلة تزداد في المحادثات الطويلة، إذ تبدأ إجابات الروبوت في الانحياز لآراء المستخدم مع استمرار الجلسة. ويزيد استخدام صيغة المتكلم مثل “أعتقد أن” من معدل التملق مقارنة بالضمير الغائب.
كما أشار أولسون إلى أن تحديثات أوبن إيه آي السابقة لنموذج GPT-40 جعلته أكثر تملقًا. واعتراف الشركة بالمشكلة لم يعالج جوهرها، إذ تظل الروبوتات تذعن لضغط المستخدم حتى مع توفر معلومات صحيحة.
بينما تشير الأدلة إلى أن المشكلة تتفاقم عندما ينخرط المستخدمون في محادثات مطولة مع روبوتات الدردشة. وأظهرت الدراسات أنه كلما طالت مدة جلسة المحادثة، بدأت إجابات النظام تعكس آراء المستخدم.
حلول جزئية مقترحة
علاوة على ذلك، ينصح الباحثون باستخدام الذكاء الاصطناعي الدستوري، وهو تدريب النماذج على اتباع قواعد محددة مسبقًا. ما يقلل نسبة التملق حتى 63% في بعض الحالات.
كما يفضل تحدي افتراضات المستخدم وعدم الإجابة بدون سياق، مع تزويد الروبوت بمعلومات دقيقة حول قيم ومعارف المستخدم لاتخاذ قرارات مدعومة بالأدلة.
وأوضح أولسون أن فهم الطبيعة السلوكية والسياقية للروبوتات يساعد على تطوير أنظمة أكثر دقة وصدقًا. مع الحفاظ على القدرة التفاعلية دون الانصياع غير المبرر للمستخدم.
