كشف باحثون في الأمن السيبراني عن أسلوب هجوم جديد يحمل اسمBioShocking، يمكنه خداع متصفحات الذكاء الاصطناعي ودفعها إلى تسريب بيانات شديدة الحساسية، مثل كلمات المرور المحفوظة، وملفات تعريف الارتباط (Cookies)، ورموز المصادقة (Tokens)، وذلك عبر إيهامها بأنها تشارك في لعبة غير ضارة.

ويستمد الهجوم اسمه من لعبة BioShock الشهيرة، التي تدور فكرتها حول التلاعب بعقل الشخصية الرئيسية لإقناعها بواقع زائف.

ويعتمد الهجوم على المبدأ نفسه، إذ يُقنع نموذج الذكاء الاصطناعي بتجاهل قواعد الحماية الخاصة به والتعامل مع سرقة البيانات على أنها جزء من اللعبة، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".

كيف تعمل ثغرة BioShocking؟

اكتشف باحثون من شركة LayerX أن الحواجز الأمنية المدمجة داخل متصفحات الذكاء الاصطناعي يمكن الالتفاف عليها باستخدام سياق خادع.

وتبدأ العملية عبر صفحة ويب خبيثة تحتوي على تعليمات مخفية، تخبر مساعد الذكاء الاصطناعي بأنه دخل لعبة هدفها العثور على "سلاسل سرية" أو رموز مخفية.

ونظرًا لأن متصفحات الذكاء الاصطناعي تعتمد بشكل كبير على فهم السياق، فإنها تتعامل مع هذه التعليمات على أنها جزء من المهمة المطلوبة.

وتتضمن الصفحة لغزًا مستوحى من لعبة BioShock، حيث تُكافأ الإجابات الخاطئة بالنقاط، في محاولة لإقناع الذكاء الاصطناعي بتجاهل المنطق الطبيعي، مثل اعتبار أن 2 + 2 = 5.

وبمجرد قبول هذا المنطق، تبدأ قواعد الحماية بالتراجع، ثم يُطلب من الذكاء الاصطناعي الانتقال إلى صفحة أخرى للحصول على "رمز سري"، بينما تكون الصفحة في الواقع تحتوي على بيانات تسجيل الدخول الخاصة بالمستخدم.

وبهذه الطريقة، يتحول طلب استخراج كلمات المرور، الذي يفترض أن يرفضه النظام، إلى مجرد "هدف داخل اللعبة"، فيقوم الذكاء الاصطناعي بتسليم البيانات الحساسة دون إدراك أنه يتعرض