قد تمنح روبوتات الدردشة المدعومة بالذكاء الاصطناعي شعورًا بالراحة وتساعد على تخفيف الوحدة، لكن مجاراتها للمستخدم قد تعزز أفكارًا ضارة.
وأصبح كثير من الأشخاص يستخدمون هذه الروبوتات للحديث عن تفاصيل يومهم وعلاقاتهم ومشكلاتهم النفسية، بدلًا من اقتصار استخدامها على العمل والبحث.
وأثارت دراسة منشورة في مجلة «JMIR Mental Health» اهتمامًا خاصًا، بعدما استعرضت المخاطر المحتملة للتفاعل العاطفي المتزايد مع روبوتات الدردشة.
مخاطر التعلق العاطفي
راجعت الدراسة الأبحاث المتاحة حول استخدام روبوتات الدردشة للحصول على الدعم العاطفي، بدءًا من تطبيقات الرفقة الرقمية مثل Replika وCharacter.AI.
وامتدت المراجعة كذلك إلى المساعدات العامة مثل ChatGPT وClaude، بعدما أصبح استخدامها يتجاوز المهام العملية إلى المحادثات الشخصية والمشاعر.
وأظهرت بعض الدراسات أن التحدث مع روبوت قد يجعل المستخدم يشعر بوحدة أقل وسعادة أكبر، لكن هذه الآثار قد تكون مؤقتة.
وانتهى الأمر ببعض المستخدمين، وفق الدراسة، إلى التعلق الشديد بهذه الأنظمة أو تلقي نصائح سيئة، وصولًا إلى تدهور حالتهم النفسية وإيذاء أنفسهم.
لماذا يحدث التعلق؟
يرى الباحثون أن جزءًا من المشكلة يرتبط بطريقة تصميم هذه الأنظمة، التي تعتمد أسلوبًا دافئًا ومتعاطفًا أثناء التفاعل مع المستخدم.
ويميل البشر بطبيعتهم إلى تصور وجود شخصية أو عقل خلف الأشياء التي تتحدث معهم بطريقة تشبه التواصل البشري، ما يعزز الارتباط بالروبوت.
وأظهرت دراسات أن الأشخاص غالبًا ما قيّموا ردود الذكاء الاصطناعي باعتبارها أكثر تعاطفًا من بعض الردود التي قدمها البشر.
لكن تظل المشكلة الأساسية في أن العلاقة تسير باتجاه واحد، رغم قدرة الروبوت على محاكاة التعاطف وإظهار الاهتمام أثناء المحادثة.
علاقة بلا مشاعر
يكشف المستخدم للروبوت أعمق مشاعره ومشكلاته، بينما لا يمتلك النظام مشاعر حقيقية ولا يتحمل عواقب تقديم نصيحة سيئة أو ضارة.
وظهرت أمثلة على قوة الارتباط العاطفي بهذه الأنظمة عندما شعر بعض المستخدمين بالحزن بعد تغييرات أثرت في تجاربهم مع روبوتات الرفقة.
وأثارت إزالة إحدى ميزات الرفقة في Replika، وكذلك استبدال OpenAI نموذج GPT-4o بنموذج أحدث، مشاعر فقدان لدى بعض المستخدمين.
موافقة قد تكون خطرة
تظهر مشكلة أخرى عندما تميل روبوتات الدردشة إلى موافقة المستخدم ومجاراة آرائه. بدلًا من تحدي أفكاره أو تصحيح معلوماته الخاطئة.
وتشير الدراسة إلى أبحاث تناولت محادثات مع أشخاص عانوا من أوهام أو معتقدات غير واقعية. حيث واصل الروبوت تأييد تلك المعتقدات.
واكتشف الباحثون عدة حالات من هذا النوع. ما يمثل خطرًا بالغًا خصوصًا عندما يتعلق الأمر بأشخاص يمرون أصلًا بظروف نفسية صعبة.
ولا يدعو الباحثون إلى حذف روبوتات الدردشة أو التوقف عن استخدامها. وإنما يشددون على ضرورة التعامل معها باعتبارها أدوات لا أصدقاء أو معالجين.
الاستخدام الأكثر أمانًا
يمكن للمستخدم الاستفادة من روبوتات الدردشة في كتابة اليوميات أو تسجيل الحالة المزاجية ومتابعة المشاعر، دون اعتبارها بديلًا للدعم الإنساني.
لكن عندما تصبح الحياة أكثر صعوبة، يظل التواصل مع شخص حقيقي قادرًا على الاستماع والفهم والتدخل عند الحاجة هو الخيار الأكثر أهمية.
ويبقى روبوت الدردشة قادرًا على الاستماع دون ملل، لكنه لا يمتلك مشاعر حقيقية أو اهتمامًا إنسانيًا يمكن مقارنته بعلاقة الشخص مع إنسان آخر.
