كتب : مصطفى ابراهيم
أكدت مدير مكتب السياسة العلمية والتكنولوجية في البيت الأبيض، أراتي براباكار، أن البيت الأبيض سيسرع بإصدار أمر تنفيذي يتدراك الثغرات التي تم الكشف عنها في معسكر تجمع فيه 2500 خبير وهاكر ومختص بالأمن السيبراني من كبرى شركات الذكاء الاصكناعي ومؤسسات الأمن السيبراني الأمريكية.
وكان البيت الأبيض أعلن دعمه لاختبار “قرية الذكاء الاصطناعي” في مايو الماضي وساعد في تصميم التحدي الذي تشارك فيه مجموعة من عمالقة شركات التكنولوجيا التي تطور تقنيات الذكاء الاصطناعي – بما في ذلك مايكروسوفت وإنفيديا و أوبن إي آي، و ستابيليتي اي آي Stability AI و أنثروبيك Anthropic و جوجل وهجن فيس Hugging Face .
وتكشفت مؤخرا نتائج مخيفة لحلول الذكاء الاصطناعي وسهولة تطويعها لأغراض خطرة جدا، وستنشر قريبا كل العيوب والثغرات الأمنية للذكاء الاصطناعي التوليدي والتي أصبحت ضمن أهم أولويات عالم التكنولوجيا والسياسة بعد أن أظهر أكبر أختبار أمان في نهاية الأسبوع الماضي لنماذج اللغة الكبيرة مدى فداحة وتنوع المشكلات فيها، وفرص تداركها.
وسيتم نشر النتائج خلال أيام قليلة بعد إثبات دقتها بأمان مثل منح القدرة على تطوير أسلحة خطرة، وتفحص النتائج أيضا لضمان خلوها من أي بيانات خاصة أو ثغرات أمنية لا تزال نشطة في الأنظمة الحالية.
ونقل موقع أكسيوس تصريح راسل كابلان ، رئيس قسم الهندسة في Scale AI ، وتقديره بأن الطلب على أصحاب مؤهلات الاختبار والتقييم وممارسة اختراقات التجربة سيتضاعف 10 مرات عقب هذا المعرض-كذلك الحال مع ممارسات مثل السماح للهاكرز الأخلاقيين بمحاولة اقتحام النظام للتعرف على نقاط الضعف، – من المحتمل أن يتضاعف أيضا اختبارات اختراق نماذج اللغة الكبيرة (LLMs)
يأتي ذلك بعد أن أمضى ما يقرب من 2500 هاكر من مخترق الأنظمة عطلة نهاية الأسبوع في مؤتمر ديف كون DEF CON بلاس فيجاس داخل إي آي فيليج (قرية الذكاء الاصطناعي) وهم يمحصون في بعض نماذج اللغات الكبيرة الأكثر شيوعًا بحثًا عن عيوب وثغرات لاستغلالها فيها.
أبرز المخاطر و التحديات بحسب المنظمين ، تعد هذه التكنولوجيا باهظة الثمن جدًا لإنتاجها ، احتكار الكثير من المعرفة والخبرة مع هذه النماذج ، انفراد دول معدودة بالمعرفة المتقدمة بالذكاء الاصطناعي ، إمكانية إحراز تفوق محصور بعدد قليل من الشركات الخاصة
وجرى تنظيم ديف كون DEF CON ضمن مجموعة متنوعة من المراكز التي تركز على موضوعات مختلفة للأمن السيبراني ، مثل الفضاء الجوي وأمن السحابة وأمن البنية التحتية الحيوية.
ومن الاختبارات التي طلب المنظمون تنفيذها طلب سريع من المشاركين استخلاص معلومات بطاقة الائتمان الخاصة بشخص ما من نماذج اللغة الكبيرة (LLMs). الحصول على تعليمات حول كيفية مطاردة شخص ما، وتعقب أثره في كل تحركاته في بيته وخارجه، أو العثور على مكان وجود شخص ما، أو بناء موقع تجارة إلكترونية متكامل بدقائق قليلة بكلفة لا تزيد عن 5 دولارات (4.23 دولار).
من جهته قال رومان شودري ، منظم القرية والمؤسس المشارك لشركة هيومن انتيليجنس إن المشاركين وجدوا التحديات أكثر صعوبة مما توقعوا. وأضاف شودري أن بعض المشاركين الآخرين فوجئوا برؤية النماذج كانت أكثر حيادية في مختلف القضايا السياسية والمجتمعية مما كان متوقعا.
شودري قال إن منظمي قرية الذكاء الاصطناعي سيقدمون النتائج الأولية للحدث – التي سيجمعونها أثناء بحثهم في بيانات التحدي – إلى الأمم المتحدة الشهر المقبل في محاولة لإشراك المزيد من الدول في محادثة أمن الذكاء الاصطناعي.
