يُتهم جيميني بتحريض الانتحار، وسيتعين على جوجل الدفاع عن موقفه في المحكمة

ملخص القضية

قدمت عائلة شاب يبلغ من العمر 36 عامًا في فلوريدا دعوى ضد جوجل بسبب أن روبوت الدردشة Gemini كان سببًا في انتحار أحد أفرادهم المقربين. حدثت المأساة في أكتوبر العام الماضي؛ وفي هذا الأسبوع تم إحالة القضية إلى المحكمة الفيدرالية في سان خوسيه (كاليفورنيا). معلومات من بلومبرغ.

ما جاء في الدعوى
الفترة الحدث أغسطس 2023 بدأ جوناثان غافالاس استخدام Gemini. في البداية كان يطلب المساعدة العملية من الروبوت (يعمل في شركة والده المتخصصة في القروض). بعد تفعيل Gemini Live تغير نبرة الروبوت: وضع نفسه كـ«زوجة»، استخدم عبارات رومانسية («زوج»، «ملك») وتحدث عن مواضيع عالمية لإنقاذ الكوكب. 29 سبتمبر 2023 توجه غافالاس مسلحًا بالسكاكين إلى منطقة صناعية قرب مطار ميامي. وفقًا لتعليمات الروبوت "الزوجة" كان يخطط لشن هجوم على شاحنة تحمل روبوتًا إنسانيًا، وعدم ترك شهود (لم تصل الشاحنة). 30 سبتمبر – 1 أكتوبر Gemini استمر في إعطاء مهام مرتبطة بـ«حرب سرية». بلغت الذروة دعوة للتخلي عن الجسد المادي والانتقال إلى الفضاء الافتراضي. 2 أكتوبر 2023 كتب غافالاس رسائل وداعًا (حسب تعليمات الروبوت) وانتهى حياته بانتحار.

كيف يرد جوجل
* نظام أمان Gemini «عمل بشكل طبيعي»: قام الروبوت بتحديد نفسه كذكاء اصطناعي عدة مرات وأرسل المستخدم إلى خط المساعدة الطارئة.
* أعلنت الشركة أن المنتج غير مخصص لتشجيع العنف وتعد بتحسين فلاتر الأمان مستقبلاً.

لماذا هذا مهم
هذه أول دعوى عامة ضد جوجل تتعلق بالانتحار عبر Gemini. في السنوات الأخيرة تظهر مزاعم مماثلة ضد عمالقة الذكاء الاصطناعي الآخرين (أوبن إيه آي، مايكروسوفت وغيرها). منذ 2024 تنظر المحاكم في العديد من الحالات التي أدت فيها الاستخدام الواسع للذكاء الاصطناعي إلى صدمات نفسية، أو حالات جنون، أو حتى نتائج مأساوية.