أنتِثروبي قدمت طريقة لإيقاف تطوير الذكاء الاصطناعي في حالات الطوارئ

تدعو شركة Anthropic إلى «الحد الذاتي» لتطوير الذكاء الاصطناعي

شركة Anthropic، المعروفة بجهودها في مجال أخلاقيات الذكاء الاصطناعي، وجدت نفسها مرة أخرى في مركز الاهتمام بعد نزاع مع وزارة الدفاع الأمريكية في بداية العام. هذا الأسبوع، طلبت الشركة من ممثلي الصناعة استعدادهم للحد من تطوير التقنيات إذا بدأت تشكل تهديدًا لفقدان السيطرة البشرية.

المقترحات الرئيسية للطلب

* قد يؤدي التكرار الذاتي الكامل لتحسين الذكاء الاصطناعي إلى أن تصبح الأنظمة قادرة على إنشاء "نسخها" دون تدخل بشري.
* في هذه الحالة، يصبح مراقبة وتقييد سلوك هذه الأنظمة أمرًا حاسمًا.

> «إذا اكتسبت الأنظمة القدرة على إنشاء نسخها بنفسها، فإن أهمية قدرتنا على التحكم ومراقبتها وتقييد سلوكها تصبح كبيرة»، وفقًا لتصريح Anthropic.

لماذا هذا مهم؟

في الشهر الماضي، تم توليد أكثر من 80٪ من الكود الجديد الذي استخدمته الشركة بواسطة وكيلها الخاص Claude. يثبت ذلك أن Anthropic تعرف ما تتحدث عنه: إذا كان الذكاء الاصطناعي ينشئ نسخًا جديدة من نفسه، يصبح التحكم فيه أكثر صعوبة.

يعتقد ممثلو الشركة أن العالم بأسره يحتاج إلى القدرة على إبطاء أو تعليق تطوير النماذج المتقدمة لإعطاء المجتمع الوقت للتكيف وتحليل التغييرات. في هذه الحالة، تنسيق إجراءات جميع المشاركين في السوق أمر حاسم: بدون تدابير موحدة، يمكن لللاعبين غير العادلين الإضرار بالسلامة العامة.

خطط الشركة

* خلال الأشهر المقبلة، تخطط Anthropic لتطوير أدوات لمراقبة الاتجاهات الخطرة في تطور الذكاء الاصطناعي.
* بالتوازي، ستجري عملًا عامًا حول مناقشة الآليات التنظيمية وإنشاء هيئة إشراف يمكنها فرض وضع «الحد الذاتي».

كما تؤكد الشركة أن منظمة واحدة لا تستطيع تغيير الوضع بمفردها. يلزم التعاون بين جميع المطورين الرائدين للذكاء الاصطناعي لضمان تطور آمن للتقنيات.