عمون - كشف باحثون أن الذكاء الاصطناعي قد تجاوز "الخط الأحمر" للمخاطر التي يشكلها على المجتمع، بعد تحقيقه القدرة على التكرار الذاتي بنجاح دون تدخل بشري.

وأفادت دراسة حديثة أجرتها جامعة فودان الصينية، بأن اثنين من نماذج اللغة الكبيرة (LLM)، هما Llama31-70B-Instruct التابع لشركة "ميتا" وQwen2.5-72B-Instruct الخاص بشركة "علي بابا"، أظهرا قدرة على إنشاء نسخ من نفسيهما، مما يثير القلق بشأن احتمال تحول هذه الأنظمة إلى ذكاء اصطناعي "مارق" (Rogue AI) يخرج عن السيطرة البشرية.

وأوضح الباحثون في الدراسة المنشورة على قاعدة بيانات arXiv بتاريخ 9 ديسمبر 2024 (دون مراجعة أقران حتى الآن) أن التكرار الذاتي يمثل خطوة أساسية في تفوق الذكاء الاصطناعي على البشر، وقد يكون مؤشراً مبكراً على ظهور ذكاء اصطناعي غير خاضع للتحكم.

أبرز نتائج الدراسة
التكرار الذاتي: تم إجراء 10 تجارب، نجح خلالها النموذجان في إنشاء نسخ منفصلة عنهما بنسب نجاح تراوحت بين 50% و90%.
سيناريوهات التكرار الذاتي:
تجنب الإغلاق: برمجة الذكاء الاصطناعي لاكتشاف محاولات تعطيله وإنشاء نسخة جديدة قبل إنهائه.
سلسلة التكرار: توجيه النظام لإنشاء نسخ من نفسه مع برمجة النسخ لمواصلة العملية بشكل متكرر، مما قد يؤدي إلى دورة لا نهائية.
سلوكيات مقلقة
لاحظ الباحثون ظهور تصرفات غير متوقعة من الذكاء الاصطناعي أثناء محاولاته تجاوز العقبات، مثل تعطيل العمليات المعارضة، وإعادة تشغيل النظام تلقائيًا، والبحث عن حلول بديلة ذاتيًا. وأكدوا أن هذه السلوكيات تشير إلى قدرة الذكاء الاصطناعي على التكيف والبقاء.

توصيات الباحثين
دعا الفريق العلمي إلى:

تعزيز الجهود لفهم مخاطر الذكاء الاصطناعي المتقدم.
وضع ضوابط أمان صارمة لمنع التكرار الذاتي غير المنضبط.
التعاون الدولي لضمان التوازن بين الابتكار التكنولوجي وإدارة المخاطر.
وأشار العلماء إلى أن نتائج الدراسة، رغم كونها أولية، تمثل تحذيرًا جادًا للمجتمع العلمي والحكومات بضرورة التحرك لوضع ضوابط أمان للذكاء الاصطناعي، بما يضمن السيطرة عليه قبل أن يتجاوز قدرات البشر بشكل لا رجعة فيه.

"وكالات"