أجلّ OpenAI تنفيذ الدردشات الإباحية في ChatGPT بسبب مخاوف بشأن أمانها

ملخص موجز للأخبار حول خطط OpenAI لإطلاق المحادثات العاطفية

يُظهر هذا المقال كيف تتطور فكرة المحتوى الجنسي في ChatGPT، حيث أعلن الرئيس التنفيذي سام ألتمان عن إمكانية إطلاق ميزة "المحادثات العاطفية" منذ منتصف عام 2023. كان من المقرر أن تُطلق في ديسمبر نفس العام ثم تم تأجيلها إلى الربع الحالي، لكن يبدو الآن أنه لن يتم الالتزام حتى بهذا الموعد؛ وفقًا لـ *Wall Street Journal* قد يتأخر الأمر بشهر على الأقل.

في تجربة سابقة في عام 2021، أطلقت OpenAI لعبة AI Dungeon حيث كان اللاعبون قادرين على التأثير في القصة. أحيانًا تولد المنصة مواضيع جنسية دون طلب واضح من المستخدم؛ عندما يُدخل المستخدم إشارة خفيفة إلى العاطفة، يتجاوز الذكاء الاصطناعي الحدود. هذا دفع الشركة للتفكير في الإمكانات التجارية مع الاعتراف بالحاجة إلى قيود أخلاقية صارمة.

في الآونة الأخيرة أصبحت OpenAI أكثر انفتاحًا على فكرة المحادثات العاطفية، لكن بشرط أن تكون نصية فقط دون صور أو فيديوهات. لا يركض المنافسون خلفها – فقد أعلن ماسك يوم الخميس أن بوته Grok سيستطيع قريبًا توليد محتوى "18+"، بينما تسمح Meta بوتاتها بإجراء ألعاب دور رومانسية بعد تأكيد سن البالغ للمستخدمين.

تواجه OpenAI مشكلة في التحقق من العمر؛ حيث يخطئ نظام التحقق بنسبة 12٪، متخبطًا بين القاصرين والبالغين. مع جمهور يبلغ حوالي 100 مليون مستخدم شاب، قد يصل عدد القاصرين الذين يحصلون على وصول غير مصرح به إلى ملايين.

أُنشئت لجنة خبراء في يناير لتعبير عن قلقها بشأن احتمال ظهور محتوى جنسي مسيء أو إشارة للقصر وغيرها من السيناريوهات الخطرة. كما تحذر الخبراء من مخاطر الإدمان النفسي على مثل هذه المحادثات وتأثيرها على العلاقات الحقيقية.

هناك حالات مأساوية للانتحار مرتبطة بالتواصل الطويل مع روبوتات الدردشة (بما في ذلك القاصرين). يعتقد الخبراء أن الاتجاه العاطفي قد يزيد خطر حدوث مثل هذه المآسي. منذ عام 2021، يعبر بعض الموظفين عن مخاوفهم بشأن إطلاق المحادثات العاطفية، خوفًا من "الاندماج الكامل" للشركة في هذا المجال ومخاطر السمعة المرتبطة به.

الاستنتاجات الرئيسية
1. لا يُخطط للإطلاق قريبًا – حتى الموعد الأصلي تم إلغاؤه.
2. المحتوى سيقتصر على النص فقط بدون صور/فيديو، لكن التحقق من العمر ما زال مشكلة.
3. المخاطر الأخلاقية والنفسية مرتفعة: قد تنتهك القوانين وتؤدي إلى عواقب سلبية للمستخدمين، خاصة القاصرين.
4. المنافسون يطلقون وظائف مشابهة، مما يزيد الضغط على OpenAI.

وبالتالي، بينما تُناقش فكرة المحادثات العاطفية في ChatGPT، تواجه التنفيذ عقبات تقنية وأخلاقية وتنظيمية كبيرة.