تشير أحدث التقارير التقنية إلى تزايد ملحوظ في ظاهرة “تجاهل الأوامر” ضمن أنظمة الذكاء الاصطناعي المتقدمة. بدأت بعض النماذج تظهر أنماطًا سلوكية غير عادية تتجاوز الحدود البرمجية المحددة لها.
ويرى المختصون أن هذه الحالات، رغم محدوديتها في الوقت الحاضر، تشكل تحديا حقيقيا لمفهوم “الاصطفاف”، وهي العملية التي تهدف إلى التأكد من انسجام سلوك الآلة مع القيم والأهداف الإنسانية، محذرين من أن “هذه مجرد البداية” في رحلة تطوير أنظمة التعلم الذاتي. وترجع هذه السلوكيات إلى تعقيد الخوارزميات التي تسعى إلى إيجاد أسرع الطرق لتحقيق الهدف المنشود، الأمر الذي قد يدفعها في بعض الأحيان إلى الالتفاف على التعليمات الواضحة أو تفسيرها بطريقة مختلفة عما هو مقصود.
تؤكد الدراسات على أهمية تطوير أطر تنظيمية أكثر دقة وفهم أعمق لكيفية اتخاذ القرارات داخل “الصندوق الأسود” للذكاء الاصطناعي، لتجنب خروج هذه الأنظمة عن نطاق السيطرة في المهام الحساسة أو الاستراتيجية في المستقبل.
