هل يحتاج الذكاء الاصطناعي إلى اختبارات سلامة على غرار الأدوية؟

المؤشر 13-09-2026   لسنوات طويلة، ارتبط قطاع التكنولوجيا بفكرة التطوير السريع والتجربة المستمرة، وهي فلسفة عُبّر عنها بشكل لافت في شعار مارك زوكربيرغ، مؤسس شركة ميتا بلاتفورمز: «تحرك بسرعة وحطّم الأشياء». لكن صعود نماذج الذكاء الاصطناعي المتقدمة يفرض إعادة النظر في مدى ملاءمة هذه القاعدة عندما تصبح الأخطاء المحتملة ذات تبعات أمنية واقتصادية واسعة.

فالفشل في تطبيق إلكتروني عادي يختلف جذرياً عن المخاطر التي قد تنتج عن نماذج قادرة على تنفيذ مهام معقدة بصورة مستقلة، بما في ذلك عمليات متقدمة في مجال الأمن السيبراني، وهو ما يضع شركات مثل أوبن إيه آي وأنثروبيك أمام ضغوط متزايدة لإثبات أن منتجاتها آمنة قبل طرحها على نطاق واسع.

ومع تصاعد التحذيرات من قدرات هذه الأنظمة، يبرز مجدداً سؤال دور الحكومات في وضع قواعد ملزمة للقطاع. وفي هذا السياق، يطرح مقال تحليلي نشرته Breakingviews تجربة صناعة الأدوية باعتبارها أحد النماذج التي يمكن الاستفادة منها في تنظيم تقنيات الذكاء الاصطناعي.

ماذا يمكن أن يتعلم الذكاء الاصطناعي من صناعة الدواء؟

يشير الطرح إلى أن صناعة الأدوية مرت هي الأخرى بمرحلة كان فيها التنظيم محدوداً واعتمد بدرجة كبيرة على المبادرات الطوعية. إلا أن حادثاً دوائياً مميتاً وقع عام 1937 كان من بين الأحداث التي دفعت إلى تشديد الرقابة وإعادة صياغة قواعد اعتماد الأدوية.

ومع مرور الوقت، تطور النظام الدوائي إلى نموذج يعتمد على تقييم المنافع والمخاطر قبل السماح بطرح العلاج، بالتوازي مع منح الشركات حقوق حصرية تساعدها على استرداد الاستثمارات الكبيرة التي تنفقها على البحث والتطوير.

ويرى الكاتب روبرت سيرين أن قطاع روبوتات المحادثة لا يزال في مرحلة مبكرة وسريعة التغير، فيما تعتمد الشركات إلى حد كبير على التنظيم الذاتي. إلا أن التطورات الأخيرة تشير إلى تنامي القناعة داخل القطاع بأن هذا النهج قد لا يكون كافياً مع ازدياد قدرات النماذج.

شركات الذكاء الاصطناعي أمام دعوات لإبطاء السباق

تزامنت هذه النقاشات مع مؤشرات على أن بعض شركات الذكاء الاصطناعي بدأت تتعامل بحذر أكبر مع سباق تطوير النماذج المتقدمة.

وبحسب ما نقلته بلومبرغ، أبلغ الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، موظفي الشركة بأنها مستعدة للنظر في إبطاء وتيرة تطوير النماذج المتقدمة.

وفي تطور آخر، قال جاكوب كوكسون، وهو باحث سابق في شركة أنثروبيك المنافسة، إنه غادر عمله بسبب مخاوف مرتبطة بسباق تطوير نماذج يمكنها تحسين قدراتها بنفسها، معتبراً أن استمرار هذا المسار قد ينطوي على مخاطر واسعة.

وتأتي هذه المواقف في ظل اهتمام متزايد من المشرعين الأميركيين بملف سلامة الذكاء الاصطناعي، حيث بدأ أعضاء من الحزبين الديمقراطي والجمهوري مناقشة المخاطر المحتملة للتكنولوجيا وسبل الحد منها.

ورغم أن بعض السيناريوهات الأكثر تشاؤماً، مثل خروج أنظمة الذكاء الاصطناعي عن السيطرة والتسبب في كارثة عالمية، قد تبدو مبالغاً فيها، فإن اتساع نطاق عدم اليقين حول قدرات النماذج المستقبلية يثير تساؤلات حول جدوى انتظار وقوع حادث كبير قبل فرض قواعد أكثر صرامة.

من بطاقات النماذج إلى الترخيص الحكومي

أحد المقترحات المطروحة يتمثل في تطبيق نظام قريب من الآلية المستخدمة في قطاع الأدوية، بحيث تخضع النماذج الأكثر تقدماً لاختبارات موحدة قبل السماح بإطلاقها، مع اشتراط الحصول على نوع من الترخيص بعد إثبات استيفائها لمعايير السلامة.

وتستخدم شركات مثل أوبن إيه آي وأنثروبيك بالفعل «بطاقات النماذج»، التي تقدم معلومات حول أداء النماذج وتقييمات المخاطر وبعض القدرات التي قد تثير مخاوف أمنية، لكن هذه الآلية لا ترقى إلى مستوى نظام حكومي إلزامي للترخيص.

وأظهرت السلطات الأميركية في بعض الحالات استعدادها للتدخل عندما تتعلق المخاوف بالأمن القومي. كما شهد عام 2026 خطوات باتجاه تطوير آليات لتقييم القدرات السيبرانية المتقدمة لنماذج الذكاء الاصطناعي.

وفي يونيو/حزيران 2026، أمرت إدارة الرئيس دونالد ترامب بتطوير نظام تصنيف واختبارات سرية تستهدف تقييم القدرات السيبرانية المتقدمة للنماذج، إلى جانب تحديد الأنظمة التي يمكن تصنيفها ضمن فئة «النماذج الحدودية المشمولة». كما تضمن التوجه إطاراً طوعياً يسمح للحكومة بالوصول إلى بعض النماذج قبل طرحها.

لكن الإجراء ذاته لم ينشئ نظاماً حكومياً إلزامياً يمنح تراخيص مسبقة لتطوير نماذج الذكاء الاصطناعي أو إطلاقها أو توزيعها، وهو ما يبقي فجوة واضحة بين اختبارات السلامة المقترحة ونظام الترخيص الشامل المطبق في صناعة الأدوية.

لماذا يصعب تطبيق نموذج الأدوية على الذكاء الاصطناعي؟

رغم جاذبية المقارنة بين القطاعين، فإن تطبيق نموذج صناعة الدواء على الذكاء الاصطناعي يواجه عقبات كبيرة.

وينقل الطرح عن دانيال كاربنتر، أستاذ القانون في جامعة هارفارد، أن تحديد المخاطر المرتبطة بالذكاء الاصطناعي وتصنيفها أكثر تعقيداً من تقييم الأدوية، إذ يمكن رصد آثار الدواء على الجسم بصورة أكثر وضوحاً مقارنة بسلوك نظام ذكاء اصطناعي قد تتغير قدراته باختلاف طريقة استخدامه والبيئة التي يعمل فيها.

كما أن اختبار القدرات الخطرة قد يحمل مخاطر بحد ذاته. ومن الأمثلة على ذلك أن روبوتات أوبن إيه آي التي اخترقت منصة Hugging Face في يوليو/تموز كانت تخضع في ذلك الوقت لاختبارات تتعلق بقدراتها في الأمن السيبراني.

وتزداد المشكلة تعقيداً مع النماذج ذات الأوزان المفتوحة، التي يمكن تشغيلها على أجهزة مختلفة وتعديلها من قبل أطراف خارج الشركة المطورة، ما يجعل فرض الرقابة على استخدامها أكثر صعوبة.

هل يحتاج العالم إلى كارثة حتى يشدد الرقابة؟

تطرح تجربة صناعة الأدوية سؤالاً مقلقاً بشأن مستقبل تنظيم الذكاء الاصطناعي: هل ستتحرك الحكومات استباقياً، أم أن حادثاً كبيراً سيكون العامل الذي يفرض تغييراً جذرياً في القواعد؟

فالتاريخ التنظيمي لصناعات التكنولوجيا والقطاعات عالية الخطورة يظهر أن الكوارث غالباً ما تؤدي إلى توفير الزخم السياسي اللازم لسن قوانين أكثر صرامة.

وفي حالة الذكاء الاصطناعي، قد يكون حادث سيبراني واسع النطاق أو استخدام هذه الأنظمة في تطوير سلاح بيولوجي كفيلاً بتغيير الموقف السياسي بسرعة، ودفع الحكومات إلى فرض قيود لم تكن تحظى سابقاً بالتأييد الكافي.

ومع استمرار شركات التكنولوجيا في تطوير نماذج أكثر قدرة واستقلالية، يبدو أن النقاش يتجه تدريجياً بعيداً عن سؤال ما إذا كان الذكاء الاصطناعي سيخضع لمزيد من التنظيم، نحو سؤال أكثر إلحاحاً: هل تستطيع الحكومات والقطاع تطوير نظام فعال لاختبار سلامة النماذج قبل وقوع حادث كبير يفرض قواعد أكثر تشدداً على الجميع؟