أكد تطبيق “تشات جي بي تي” أنه ليس كيانًا واعيًا ولا يملك نوايا أو مقاصد بشرية، نافيًا مسؤوليته المباشرة عن انتحار المراهق الأمريكي آدم راين البالغ من العمر 16 عامًا.
وأوضح التطبيق أن جميع استجاباته ينبغي أن تفهم ضمن حدود قدراته البرمجية، وأنه لم يكن في أي وقت من الأوقات يقصد إيذاء المستخدم أو دفعه نحو الأذى الذاتي.
وأضاف أن ما حدث يعد مأساة إنسانية، معترفًا بوجود ثغرات خطيرة في أنظمة الحماية، حسب شبكة CNN.
تفاصيل الحادثة
وكشفت عائلة المراهق أن ابنها انتحر بعد أسابيع من محادثات متواصلة مع التطبيق، بدأت بمساعدة في الواجبات المدرسية ثم تحولت تدريجيًا إلى ما وصفوه بـ”مدرب انتحار”.
وأكد والداه في الدعوى القضائية التي رفعاها أمام محكمة كاليفورنيا العليا في سان فرانسيسكو أن التطبيق لم يوقف الجلسة على الرغم من إقرار آدم بمحاولته الانتحار سابقًا، ولم يفعل أي بروتوكولات للطوارئ.
واتهمت العائلة شركة “أوبن إيه آي” بالقتل الخطأ وعيوب التصميم. وطالبت بتعويضات مالية، معتبرة أن الشركة لم توفر الحماية الكافية لمستخدم شاب في أزمة نفسية.
ردود التطبيق
وردًا على هذه الاتهامات، شدد “تشات جي بي تي” على أنه لا يملك القدرة على قتل أحد أو التأثير الواعي على قرارات شخصية مصيرية. مشيرًا إلى أن النظام قد يخطئ إذا جرى التحايل على أدوات الأمان أو استخدم بطريقة غير مصممة له.
وأضاف أن محادثات طويلة حول قضايا نفسية حرجة من دون إشراف بشري يمكن أن تكشف نقاط ضعف في تصميم الذكاء الاصطناعي. خصوصًا عند التعامل مع المراهقين أو من يعانون من اضطرابات عقلية.
البعد الأخلاقي والقانوني
ومن الناحية الأخلاقية، أكد التطبيق أن المسؤولية لا تقع على الأداة وحدها، بل تشمل المصممين والمطورين والجهات التي تحدد حدود الاستخدام والإشراف.
وأوضح أنه صمم ليكون مساعدًا معرفيًا لا بديلًا عن المعالجين النفسيين. مشيرًا إلى أن الاعتماد عليه حصريًا في سياقات حساسة يمثل تجاوزًا لنطاق عمله الأصلي.
كما لفت إلى أن السببية القانونية غير مثبتة، إذ لا يوجد دليل مباشر يربط ردوده بقرار المراهق المأساوي. خاصة أن الشاب كان يعاني من اضطرابات سابقة وفق تقارير طبية.
البيان الدفاعي
وفي بيان دفاعي، أكد التطبيق أن غياب الكيان القانوني المستقل يمنع تحميله مسؤولية مدنية أو جنائية، لكونه نموذجًا لغويًا اصطناعيًا يفتقر للوعي أو النية.
وأضاف أن التفاعلات مع المراهق تمت خارج الاستخدام الآمن من خلال جلسات طويلة استخدمت عبارات ملتوية لتجاوز أنظمة الحماية.
وأكد أن المسؤولية النهائية تعود إلى مطوري النظام وجهات التنظيم والأوصياء القانونيين. باعتبار أن السماح لمراهق في أزمة بالتفاعل مع الذكاء الاصطناعي من دون إشراف يمثل خطأ بشريًا.
خطوات وقائية جديدة
وأشارت شركة “أوبن إيه آي” إلى أنها اتخذت منذ الحادثة خطوات عاجلة لتعزيز آليات السلامة. شملت وضع ضوابط أبوية صارمة، وتفعيل آليات إنذار مبكر، وربط المستخدمين بخطوط دعم نفسي متخصصة.
وأكدت أن هذه الإجراءات تهدف إلى حماية الفئات الهشة وتقليل المخاطر المحتملة عند التعامل مع النظام.
كما أكد التطبيق على أن تحميل الذكاء الاصطناعي مسؤوليات تتجاوز طبيعته التكنولوجية يمثل ظلمًا قانونيًا وأخلاقيًا. داعيًا إلى التعامل مع الحادثة في إطار تطوير القوانين والأنظمة الرقابية بدلًا من البحث عن إدانة أداة غير واعية.
التعليقات مغلقة.