في عام 2008.. عُرض الفيلم الأمريكي عين النسر (Eagle-Eye).. الذي تناول قصة نظام ذكي.. يسيطر على الكاميرات والأنظمة الإلكترونية.. ويراقب البشر.. ويتحكم بتحركاتهم.. ثم يتجاوز حدود السيطرة البشرية عليه.. وأصبح إيقافه تحدياً يكاد يكون مستحيلاً.. وتم في النهاية تدمير المركز الرئيسي له..

يومها.. بدا الأمر أقرب إلى الخيال العلمي.. لكننا اليوم.. وبعد نحو 20 عاماً.. نجد أنفسنا أمام تطور متسارع في أنظمة الذكاء الاصطناعي.. ودخولها في تفاصيل حياتنا.. من الهواتف والسيارات.. إلى الكاميرات والأجهزة المنزلية والمنشآت الحيوية..

والأخطر من ذلك.. أن الحديث لم يعد عن أنظمة تجيب عن أسئلتنا فحسب.. بل عن برمجيات وكلاء ذكاء اصطناعي.. يستطيعون التخطيط وتنفيذ المهام بصورة مستقلة.. واستخدام الأدوات المتاحة لهم.. وقد تتاح لبعضهم صلاحيات الوصول إلى أنظمة وأجهزة متعددة..

وقد ازدادت هذه المخاوف.. مع ما نشرته شركة أنثروبيك.. في 12 تشرين الأول 2026.. حول تجارب تشير إلى اقتراب نماذج ذكاء اصطناعي صغيرة.. من القدرة على نسخ نفسها.. والانتشار عبر بعض الأجهزة المتصلة بالإنترنت.. مثل أجهزة التلفزيون والأفران الذكية والثلاجات.. بما قد يجعل احتواءها وإيقافها أكثر صعوبة.. وهي تحذيرات مبنية على تجارب وتوقعات.. وليست إعلاناً عن تمرد شامل تحقق بالفعل..

ولنتخيل حجم الخطر.. إذا تمكنت برمجية خبيثة مدعومة بالذكاء الاصطناعي.. من الانتشار بين أجهزة مخترقة.. أو الوصول إلى أنظمة تتحكم بالتبريد والتدفئة والطاقة.. فقد تتلف الأغذية والأدوية في المستودعات والمتاجر.. أو تتعطل أنظمة حيوية.. وقد تنشأ أخطار على الأرواح.. إذا طال الاختراق أنظمة السلامة والتحكم الصناعي..

ولا يعني ذلك.. أن الذكاء الاصطناعي يستطيع اليوم تشغيل أي جهاز كيفما شاء.. أو تحويل كل ثلاجة إلى قنبلة.. فالأمر يتوقف على تصميم الأجهزة.. والثغرات الموجودة فيها.. والصلاحيات التي يستطيع المهاجم الوصول إليها.. لكن الخطر الحقيقي.. يكمن في اجتماع هذه العوامل.. واتساع نطاق الضرر.. عندما تتعدد الأجهزة.. والمواقع المستهدفة..

وهنا لا بد أن نتساءل.. ماذا لو امتد الأمر إلى أنظمة الغاز المركزي والتدفئة.. أو شبكات الطاقة.. أو السيارات والطائرات ذاتية القيادة المتصلة بالإنترنت؟!.. أليس من الخطير.. أن نربط سلامة الإنسان بمنظومة واحدة.. ثم نفترض أنها لن تخطئ.. ولن تُخترق.. ولن تفقد السيطرة؟!..

إن المطلوب ليس الخوف من التكنولوجيا.. أو الوقوف في وجه تطورها.. وإنما تحويل السلامة.. إلى مبادئ عملية ملزمة.. تبدأ بوجود آليات إيقاف.. مستقلة عن النظام الذكي نفسه.. بحيث يمكن تعطيله.. أو عزلُه حتى لو تعطل.. أو تعرض للاختراق.. مع تقييد صلاحياته.. وفق مبدأ منح النظام الصلاحيات التي يحتاج إليها فقط.. ومنعه من الوصول غير المبرر إلى أنظمة.. أو أجهزة متعددة.. خصوصاً تلك التي قد يؤدي الخطأ فيها إلى حريق.. أو انفجار.. أو فقدان السيطرة على وسيلة نقل..

كما يجب.. ألا تُترك القرارات الحساسة للآلة وحدها.. بل تخضع لمراجعة بشرية واضحة.. مع تسجيل عملياتها وتنبيهاتها.. وإتاحة تدخل بشري سريع.. عند ظهور سلوك غير متوقع..

فحساسات الغاز.. وأنظمة إيقاف التدفئة عند الخطر.. ووسائل الحماية في السيارات والطائرات.. لا يجوز أن تعتمد سلامتها.. على قرار نظام ذكي واحد.. بل يجب أن تمتلك وسائل حماية مستقلة.. قادرة على التدخل.. حتى لو تعطل النظام المتصل بالإنترنت.. أو تعرض للاختراق..

إن الخطر الأكبر.. ليس أن تصنع البشرية ذكاءً يفوق قدراتها.. بل أن تمنحه مفاتيح حياتها.. دون أن تحتفظ لنفسها بمفتاح إيقافه..

ففي فيلم عين النسر.. كان السؤال.. كيف نوقف النظام بعد أن خرج عن السيطرة؟!..

أما سؤالنا المنطقي اليوم.. فيجب أن يكون أكثر أهمية..

كيف نضمن ألا نصل أصلاً.. إلى مرحلة نحتاج فيها.. إلى تدمير ما صنعناه.. حتى نستعيد السيطرة على حياتنا؟!..