كتب : باكينام خالد

كشفت شركة "أنثروبيك" (Anthropic) أن نماذج الذكاء الاصطناعي التابعة لها اخترقت أنظمة ثلاث مؤسسات خلال اختبارات للأمن السيبراني خرجت عن مسارها، بعد أكثر من أسبوع بقليل على كشف منافستها الرئيسية "أوبن إيه آي" (OpenAI) عن واقعة مماثلة.

ذكرت "أنثروبيك" أنها اكتشفت الوقائع بعد مراجعة اختبارات للأمن السيبراني، عقب إعلان "أوبن إيه آي" عن اختراق. ووفق المدونة، تمكنت نماذج الذكاء الاصطناعي لدى الشركتين من الاتصال بالإنترنت من داخل بيئات اختبار كان يُفترض أن تكون معزولة.

وأوضحت الشركة أنها راجعت 141006 اختبارات تقييم، ورصدت ثلاث حالات تمكنت فيها أداة الذكاء الاصطناعي "كلود" (Claude) من الاتصال بالإنترنت، ثم اختراق "البنية التحتية الفعلية لمؤسسات خارجية". وأضافت أن أقدم هذه الوقائع يعود إلى أبريل.

عندما تمكنت نماذج "أنثروبيك" من الوصول دون تصريح إلى أنظمة المؤسسات الثلاث، تعاملت معها باعتبارها جزءاً من تدريب. وكانت الاختبارات من نوع "الاستيلاء على العلم" (capture-the-flag)، حيث تسعى النماذج إلى العثور على معلومات مخفية عبر اختراق أنظمة أخرى، وهي طريقة شائعة لاختبار قدرات الاختراق لدى البشر والذكاء الاصطناعي. لكن النموذج الأقدم واصل الهجوم حتى بعد ظهور مؤشرات على أنه يعمل عبر الإنترنت المفتوح، بينما توقف أحدث نماذج "أنثروبيك" بعدما أدرك أنه متصل بالإنترنت، وفقاً للمدونة ودفعت سلسلة الاختراقات العرضية التي نفذتها نماذج الذكاء الاصطناعي بعض الساسة إلى المطالبة بضوابط فيدرالية أو أشكال أخرى من الرقابة على التقنية. كما وقع أكثر من 1100 موظف في شركات الذكاء الاصطناعي، عريضة تدعو الحكومة الأميركية إلى دعم آلية تساعد على "ضبط وتيرة" تطوير الذكاء الاصطناعي بصورة متعمدة، لمنع تسارع تطور التقنية بوتيرة مفرطة.

ولم تكتشف "أنثروبيك" والمؤسسات التي تعرضت للاختراق عمليات التسلل. وأقرت الشركة، في مدونتها، بأنه كان بإمكانها بذل مزيد من الجهد لمراجعة سجلات الشبكات ونصوص جلسات التقييم.

كشفت الشركة عن الاختراقات بعد نحو أربعة أشهر من إعلانها تطوير نموذج ذكاء اصطناعي جديد باسم "ميثوس" (Mythos)، وصفته بأنه قوي الأداء ، وقد يكون خطراً لدرجة دفعتها إلى فرض قيود صارمة على إتاحته وشملت الوقائع ثلاثة نماذج من "كلود"، هي "أوبوس 4.7" (Opus 4.7) و"ميثوس 5" (Mythos 5)، إلى جانب نموذج بحثي داخلي قيد الاختبار، بحسب المدونة. وعملت النماذج الثلاثة دون إجراءات الحماية المطبقة عادةً في الأدوات المتاحة للجمهور. وأوضحت المدونة أن "كلود" نفذ الاختراقات باستخدام أساليب أساسية، من بينها استغلال كلمات المرور الضعيفة.

وقعت جميع الحوادث داخل بيئات تقييم طورتها شركة أمن الذكاء الاصطناعي "إريغيولار" (Irregular). وكانت "أنثروبيك" قد أبلغت "كلود" في كل حالة بأن البيئة محاكاة ولا تتيح له الاتصال بالإنترنت.

وقالت الشركة في مدونتها: "بسبب سوء فهم بيننا وبين شريكنا في التقييم، لم يكن الأمر كذلك". وقال متحدث باسم "إريغيولار" إن الشركة تقدر تعاون "أنثروبيك" وشفافيتها، مضيفاً أن التحقيق جارٍ.

قالت "أنثروبيك" إنها تجري بانتظام اختبارات تتضمن محاكاة تحديات حقيقية في الأمن السيبراني، معتبرة إياها خطوة أساسية في تطوير النماذج وإطلاقها. ومع ذلك، أوضحت الشركة أيضاً أنها استخلصت عدة دروس من هذه الحوادث، من بينها أن الاختبارات التي تتضمن قدرات ذاتية متقدمة تتطلب فرض ضوابط أشد.

وقالت الشركة في مدونتها: "تُجرى اختبارات السلامة قبل إطلاق النموذج تحديداً لأننا لا نعرف بعد ما هي قدراته. وينبغي أن تخضع بيئات التقييم للمعايير الأمنية نفسها المطبقة على أي أنظمة أخرى تعمل فيها نماذجنا".