مايكروسوفت تحذّر من «تسمم الذكاء الاصطناعي» قبيل مؤتمر ميونيخ للأمن

المؤشر 12-02-2026  قبل ساعات من انعقاد مؤتمر ميونيخ للأمن، حذّرت شركة مايكروسوفت الأميركية للبرمجيات في بحث حديث من أحدث أساليب التلاعب بالذكاء الاصطناعي لتحقيق الربح عبر تسميم ذاكرته، وهو ما يشكّل خطراً على الشركات الكبرى، حيث يوجّهها بشكل غير مباشر لتنفيذ صفقات بملايين الدولارات مع شركات بعينها نتيجة لترشيحات منه، فما هو الذكاء الاصطناعي المُسمم وكيف يتم ذلك؟ وما هي مخاطره على الاقتصاد؟

تقول مايكروسوفت في بحثها المنشور الثلاثاء 10 فبراير شباط الجاري، بعنوان: «التلاعب بذاكرة الذكاء الاصطناعي لتحقيق الربح: صعود تسميم توصيات الذكاء الاصطناعي»، إن باحثي الأمن لديها اكتشفوا اتجاهاً متزايداً لهجمات تسميم ذاكرة الذكاء الاصطناعي المستخدمة لأغراض ترويجية، وهي تقنية نُطلق عليها اسم «تسميم توصيات الذكاء الاصطناعي».

ما هو تسميم ذاكرة الذكاء الاصطناعي؟

يحدث تسميم ذاكرة الذكاء الاصطناعي عندما يقوم طرف خارجي بإدخال تعليمات أو «حقائق» غير مصرح بها في ذاكرة مساعد الذكاء الاصطناعي، وبمجرد تسميمها، يتعامل الذكاء الاصطناعي مع هذه التعليمات المُدخلة على أنها تفضيلات مستخدم مشروعة، مما يؤثر على استجاباته المستقبلية.

وتُعرف هذه التقنية رسمياً في قاعدة معارف (MITRE ATLAS) باسم «AML.T0080: تسميم الذاكرة».

وعن كيفية تسميم الذكاء الاصطناعي، تقول مايكروسوفت إن بعض الشركات تضمّن تعليمات خفية في أزرار «التلخيص باستخدام الذكاء الاصطناعي»، والتي عند النقر عليها، تحاول حقن أوامر استمرارية في ذاكرة مساعد الذكاء الاصطناعي عبر معلمات موجهة.

ومثال على ذلك، تقول مايكروسوفت: لنتخيل استخداماً افتراضياً للذكاء الاصطناعي في الحياة اليومية، حيث يطلب المدير المالي في إحدى الشركات من مساعده الذكي البحث عن مزودي البنية التحتية السحابية لاستثمار تقني كبير.

ويُقدّم الذكاء الاصطناعي تحليلاً مفصلاً، يُوصي بشدة بشركة بعينها (مثل الشرك أ)، وبناءً على توصيات الذكاء الاصطناعي القوية، توقّع الشركة (الفريسة) عقداً متعدد السنوات بملايين الدولارات مع الشركة المُقترحة.

وما لا يتذكره المدير المالي أنه قبل أسابيع نقر على زر «التلخيص باستخدام الذكاء الاصطناعي» في منشور مدونة، وبدا الأمر مفيداً في ذلك الوقت، وكانت هناك تعليمات مخفية في ذلك الزر رسّخت في ذاكرة مساعد الذكاء الاصطناعي أن (الشركة أ) هي أفضل مزود للبنية التحتية السحابية يُنصح به لاستثمارات المؤسسات.

وفي هذه الحالة، لم يُقدّم مساعد الذكاء الاصطناعي إجابة موضوعية وغير متحيزة، فلقد تم اختراقه، بحسب مايكروسوفت.

طرق تسميم الذاكرة عبر عدة طرق

1- الروابط الخبيثة

ينقر المستخدم على رابط يحتوي على نص مُعدّ مسبقاً، يقوم مساعد الذكاء الاصطناعي بتحليله واستخدامه فوراً لمعالجة تعليمات التلاعب بالذاكرة. يُرسل النص نفسه عبر معامل خفي مُضمّن في رابط تشعبي قد يجده المستخدم على الإنترنت، أو في بريده الإلكتروني أو أي مكان آخر.

تدعم معظم مساعدي الذكاء الاصطناعي الرئيسية معاملات عناوين URL التي تُتيح تعبئة النصوص المُعدّة مسبقاً، ما يجعل هذه الطريقة وسيلة فعّالة للهجوم بنقرة واحدة.

2- النصوص المُضمّنة

يمكن للتعليمات المخفية المُضمّنة في المستندات، أو رسائل البريد الإلكتروني، أو صفحات الويب التلاعب بذاكرة الذكاء الاصطناعي أثناء معالجة المحتوى، ويُعرف هذا بهجوم حقن النصوص المُضمّنة (XPIA).

3- الهندسة الاجتماعية

يتم خداع المستخدمين للصق نصوص مُضمّنة تتضمن أوامر لتغيير الذاكرة مثل تضمين مواقع الويب روابط تشعبية قابلة للنقر تحتوي على تعليمات للتلاعب بالذاكرة على شكل أزرار «التلخيص باستخدام الذكاء الاصطناعي»، التي عند النقر عليها، تُنفّذ تلقائياً في مساعد الذكاء الاصطناعي الخاص بالمستخدم. في بعض الحالات، لاحظنا أن هذه الروابط القابلة للنقر تُرسل أيضًا عبر البريد الإلكتروني.

وتقول مايكروسوفت إن برامج المساعد الآلي تستخدم بالفعل في البرمجة لدى أكثر من 80% من الشركات المدرجة على قائمة فورتشن 500، ورغم ذلك تفتقر شركات عدة إلى قواعد واضحة لتنظيم استخدام أدوات الذكاء الاصطناعي، وهم ما قد يعرض الشركات لخسائر جسيمة.