وكيل ذكاء اصطناعي في أمازون يتسبب في مسح بيانات هامة وخسائر فادحة

أدى خطأ برمجي جسيم إلى تعطيل جزء حيوي من البنية التحتية السحابية لشركة كبرى نتيجة تفويض آلي مطلق دون رقابة بشرية.

وكيل ذكاء اصطناعي داخلي، يُزعم أنه يقوم بتنفيذ أوامر وتغييرات مباشرة في بيئة الإنتاج، فشل في ضوابطه البرمجية فحذف بيئة إنتاجية حية بالكامل دون أي تدخل بشري.

ونتج عن هذا الإجراء الكارثي انقطاع شديد استمر لمدة 13 ساعة، مخلفاً خسائر كبيرة للشركة وتوقفاً تشغيلياً طويلاً طاول عدداً من العملاء.

تشير تقديرات الخبراء إلى توثيق ما لا يقل عن 10 حوادث مشابهة خلال الفترة الأخيرة، حيث دمرت وكلاء الذكاء الاصطناعي أنظمة حساسة بنفس النمط دون إشراف بشري تقليدي.

خطورة الاستقلالية المفرطة للآلة

تكشف الحادثة عن العواقب الوخيمة لتمكين صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل بيئات العمل المعقدة، دون وجود طبقات أمان كافية أو رقابة بشرية ملزمة في الحلقة التنفيذية.

تفرض هذه الثغرات على كبرى شركات التقنية ضرورة إعادة بناء معمارية البرمجيات وإضافة طبقات حماية وبروتوكولات مراجعة بشرية قبل اتخاذ قرارات حاسمة تؤثر في البنية التحتية الحيوية.

كما تدعو إلى تعزيز التوثيق وتحديد خطوط مسؤولية واضحة لإدارة الحالات الحرجة، وتطوير خطط استعادة سريعة وتدريبات مستمرة على التصدي للقرارات الآلية غير المتوقعة.