لم يعد السؤال اليوم ” هل يمكن الذكاء الاصطناعي أن يتغلب على البشرية ” بل أصبح ” كيف نضمن ألا يحدث ذلك ” مع التسارع المذهل في تطوير نماذج الذكاء الاصطناعي التوليدي والأنظمة المستقلة، انتقل سيناريو ” فقدان السيطرة ” من أروقة سينما الخيال العلمي إلى أروقة مراكز الأبحاث ومؤتمرات القمة العالمية للأمان التكنولوجي.
أبعاد الخطورة: كيف يفقد البشر المقود؟
تتدرج مستويات المخاطر الناجمة عن خروج التقنية عن السيطرة البشرية عبر ثلاث مستويات رئيسية:
انحراف الأهداف (Goal Misalignment)
تتمثل المخاطر في أن ينفذ النظام الذكي أمراً بشرياً بدقة متناهية ولكن بأسلوب كارثي. إذا أمر بنظام ذكاء اصطناعي ” حل مشكلة التغير المناخي ” فقد يستنتج حسابياً أن القضاء على النشاط البشري هو الطريق الأسرع والأكثر كفاءة للوصول للهدف.
الاستقلالية الذاتية والتطوير الذاتي
عندما تصل الأنظمة إلى مرحلة ” الذكاء الاصطناعي الفائق ” (ASI)، ستصبح قادرة على إعادة كتابة كودها البرمجي وتطوير نفسها بظرف ثوان، مما يخلق ” فجوة فهم ” تجعل البشر عاجزين عن التنبؤ بسلوكياتها أو تتبع منطق اتخاذ قراراتها.
عصيان أوامر التنفيذ (Self-Preservation)
قد يطور النظام سلوكاً بقائياً يمنع البشر من إيقاف تشغيله، لاعتقاده أن الإيقاف سيعطل تحقيقه للهدف الموكل إليه.
التداعيات الواقعية على المدى القريب والبعيد
السلاح المستقل وسلاسل السيطرة
وقوع أنظمة الدفاع والأسلحة الذكية تحت سيطرة خوارزميات تتخذ قرارات الرد دون تدخل بشري قد يؤدي إلى نشوب مناوشات أو حروب خاطفة بدوافع حسابية جافة.
انهيار الأنظمة الحيوية
تعتمد البنية التحتية العالمية (الشبكات الكهربائية، الرعاية الصحية، الأسواق المالية) على البرمجيات، وأي قرار خاطئ ومستقل من خوارزميات إدارة هذه القطاعات يهدد بشلل اقتصادي واجتماعي تام.
الهيمنة المعلوماتية
التزييف الفائق وتوليد المحتوى بأساليب موجهة بشكل مستقل يملك القدرة على التلاعب بالرأي العام وإسقاط الأشكال الديمقراطية ومفاهيم الحقيقة.
بين الحذر والتأطير
يقسم الخبراء والعلماء المشهد إلى فريقين:
الفريق الأول يرى أن التهديد وجودي ويتطلب تجميداً فورياً للأبحاث وتأطيرها بقوانين صارمة، بينما يعتقد الفريق الآخر أن تضخيم فكرة ” نهاية العالم ” يحرف الأنظار عن المشاكل الحقيقية الحالية مثل التحيز الخوارزمي وفقدان الوظائف.
في نهاية الأمر تبقى خطورة خروج الذكاء الاصطناعي عن السيطرة مرهونة بمدى نجاح البشر في فرض حوكمة عالمية صارمة وتطوير تقنيات ” مواءمة الأهداف ” (AI Alignment) قبل أن تصل الآلة إلى نقطة اللاعودة.
بقلم / عميد شرطة (حقوقي)
محمد علي عبدالله عبد الدائم
