مايكروسوفت تكشف عن أساليب استغلال خبيثة تستهدف مساعدين الذكاء الاصطناعي

أعلنت شركة مايكروسوفت اليوم عن اكتشاف مجموعة تقنيات معقدة يستخدمها القراصنة لخداع أنظمة الذكاء الاصطناعي عبر توجيه الأوامر النصية بشكل يلتف على بروتوكولات الأمان وينفذ أوامر خبيثة تسرب بيانات حساسة، ما يبرز الثغرات الكامنة في نماذج الذكاء الاصطناعي التوليدي التي أصبحت جزءاً لا يتجزأ من بيئة العمل المؤسسية.

تُظهر هذه الهجمات أن إساءة استخدام الأوامر النصية قد تكون وسيلة فعالة للتحكم بنماذج الذكاء الاصطناعي وتحويلها إلى أداة اختراق، مما يستدعي تطوير دفاعات ديناميكية تتكيف مع أساليب الهجوم وتمنع الخروقات قبل حدوثها.

التلاعب بالنماذج اللغوية

وثّقت الشركة في مدونة مايكروسوفت عدداً من الهجمات الناجحة التي استخدم فيها المهاجمون تقنيات لتلاعب بالنماذج اللغوية بهدف استخراج معلومات سرية تخص العملاء، وتعمل مايكروسوفت حالياً على آليات دفاعية يمكنها تحليل الأوامر النصية فوراً لمنع أي محاولة تلاعب قبل وقوعها.

يأتي هذا في سياق زيادة الاعتماد على المساعدين الذكيين في إدارة الأعمال والمهام اليومية، وهو ما يفرض على المطورين تبني حلول حماية ديناميكية تقيس وتتكيف مع التهديدات وتضمن بقاء الذكاء الاصطناعي أداة آمنة وموثوقة.

مخاطر الهندسة الاجتماعية الذكية

تستغل هذه الهجمات قدرة الذكاء الاصطناعي على فهم اللغة الطبيعية لتتحول إلى أداة اختراق داخلية بدلًا من مساعد آمن، وهذا يعكس حاجة الصناعة لبناء جدران حماية ذكية تقرأ نوايا المستخدمين وتمنع الهجمات المعقدة لحظيًا.