بقلم : ديفيد كارفالو
المؤسس المشارك والرئيس التنفيذي لبروتوكول Naoris حول آرائه حول الآثار الكاملة لـ ChatGPT.
الآن بعد أن استقر غبار الابتكار على الضجيج حول ChatGPT ، قد يكون الوقت مناسبًا لفك الآثار الكاملة لهذه التكنولوجيا. في حين أنه يساعد بالتأكيد طلاب الجامعات المحرومين من النوم في الحصول على أوراق الفصل الدراسي ويعطي مؤلفي النصوص دفعة إبداعية ، إلا أنه يحتمل أن يكون هناك بطن داكن. ديفيد كارفالو ـ الرئيس التنفيذي والمؤسس المشارك لبروتوكول Naoris ، يفكك بعض الجوانب غير الجميلة لتكنولوجيا الذكاء الاصطناعي الناشئة وقدرتها على إحداث فوضى للشركات على مستوى العالم.
كيف يمكن استخدام ChatGPT لاستغلال الكود وهل يمكنه حقًا إنشاء كود؟
الإجابة القصيرة هي نعم. ChatGPT من OpenAI ، هو منشئ نصوص كبير يعتمد على الذكاء الاصطناعي (AI) يعتمد على نموذج لغة (LLM) ، فهو يتطلب فقط مطالبة باستخدام استعلام لغة إنجليزية عادي.
يرمز GPT إلى Generative Pre-Trained Transformer ، وهو مُدرَّب على عينة نصية ضخمة من البيانات من الإنترنت ، تحتوي على بلايين الكلمات لإنشاء تعلُّم حول جميع الموضوعات في العينات. يمكنه "التفكير" في كل شيء بدءًا من المقالات والقصائد ورسائل البريد الإلكتروني ونعم ، رمز الكمبيوتر.
يمكنه إنشاء رمز يتم تغذيته به من نص إنجليزي عادي ، أو تلقي رمز جديد وحالي كمدخلات. ومع ذلك ، يمكن استغلال هذا الرمز لأغراض ضارة ، أو الأهم من ذلك ، أنه يمكن استخدامه للتطبيقات الدفاعية والحماية ، فالأمر كله يتعلق بنوايا المستخدم. بينما يمكن أن تعرض لك Google مقالة حول كيفية حل مشكلة ترميز معينة ، يمكن لـ ChatGPT كتابة الرمز نيابة عنك. هذا مغير للعبة ، فهذا يعني أنه يمكن للمطورين إجراء عمليات تدقيق أمنية شبه فورية لرمز التطبيق ورمز العقد الذكي للعثور على الثغرات الأمنية والمآثر قبل التنفيذ. كما أنه سيمكن الشركات من تغيير عمليات النشر الخاصة بهم مما يجعلها أكثر شمولاً قبل الإطلاق ، مما يقلل من نقاط الضعف بمجرد نشرها. سيكون هذا مساهمة كبيرة في مكافحة أضرار التهديد السيبراني ، والتي من المتوقع أن تتجاوز 10 تريليونات دولار بحلول عام 2025.
ما هي بعض القيود الحالية؟
الجانب السلبي هو أن الجهات الفاعلة السيئة يمكنها برمجة الذكاء الاصطناعي للعثور على الثغرات الأمنية لاستغلال أي معيار ترميز شائع حالي أو رمز عقد ذكي أو حتى أنظمة تشغيل وأنظمة حوسبة معروفة. هذا يعني أن الآلاف من البيئات الحالية المعقدة والمعرضة للخطر في العالم الحقيقي ، يمكن أن تتعرض فجأة (على المدى القصير).
الذكاء الاصطناعي ليس واعيًا ، إنه خوارزمية تعتمد على المبادئ الرياضية والأوزان والتحهيزات. سيفتقد المفاهيم الأساسية والمعرفة والعواطف والتفاصيل الدقيقة التي يراها البشر فقط. يجب أن يُنظر إليه على أنه أداة من شأنها تحسين الثغرات الأمنية التي تم ترميزها بالخطأ من قبل البشر. في حين أنه من المحتمل أن يحسن جودة الترميز عبر تطبيقات الويب 2 و الويب 3 بشكل كبير ، لا يمكننا أبدًا ، ولا ينبغي لنا ، الوثوق بشكل كامل بمخرجاته. على الرغم من هذا النهج الحذر ، يجب أن نسعى جاهدين ليكون لدينا ثقة في أننا سنكون قادرين على الوثوق بخط الأساس في المستقبل
سيظل المطورون بحاجة إلى قراءة مخرجات الذكاء الاصطناعي ونقدها من خلال تعلم أنماطها والبحث عن نقاط الضعف ، مع إدراك حقيقة أن الجهات الفاعلة في التهديد يستخدمها لأغراض شائنة على المدى القصير. ومع ذلك ، أعتقد أن الناتج الصافي هو إضافة إيجابية لنضج جميع العمليات على المدى الطويل. ستكون هناك دائمًا تهديدات جديدة لتحليلها والتخفيف من حدتها ، لذلك في حين أنها قد تكون أداة رائعة لمساعدة المطورين ، إلا أنها ستحتاج إلى العمل جنبًا إلى جنب مع فرق التطوير لتقوية التعليمات البرمجية وحماية الأنظمة. سيكون موقع الهجوم هو العثور على الأخطاء أو الأخطاء في إخراج AI بدلاً من الكود نفسه. سيكون الذكاء الاصطناعي أداة رائعة ، لكن نأمل أن تكون الكلمة الأخيرة للبشر. مع وجود بعض المطبات على طول الطريق ، سيكون هذا صافيًا إيجابيًا لمستقبل الثقة والأمن السيبراني. على المدى القصير ، سوف يكشف الذكاء الاصطناعي عن نقاط الضعف التي يجب معالجتها بسرعة كبيرة ، ويمكننا أن نرى ارتفاعًا محتملاً في الانتهاكات ".
هل يحتاج التنظيم إلى تحديث ليشمل / يأخذ في الاعتبار هذه النماذج؟
سيكون التنظيم أمرًا بالغ الأهمية في تبني هذا النوع من الذكاء الاصطناعي ، ولكن يمكن أيضًا تجنبه لأن التنظيم الحالي هو تناظري بطبيعته ، أي أنه واسع النطاق وخاضع للرقابة الذاتية ، وعادة ما يكون رد الفعل وليس استباقيًا ، وبطء التطور بشكل لا يصدق ، خاصة في "منطقة مستهدفة" سريعة التغير ومبتكرة مثل الذكاء الاصطناعي. قد يجد المنظمون في قدراتهم الحالية أنفسهم بعيدًا عن الواقع وبعيدًا عن عمقهم ، يجب أن يتم نصحهم مباشرة من قبل المتخصصين في المجال والأوساط الأكاديمية لضمان ردود فعل سريعة. ربما ينبغي عليهم النظر في إنشاء هيئة تنظيمية منفصلة تمامًا أو مجلس للأخلاقيات ، بهدف تنظيم أو وضع قواعد أساسية لما هو محظور أثناء استخدام مثل هذه التقنيات القوية ذات الاستخدام المزدوج. عادةً ما تبدأ اللوائح فقط عندما يحدث خطأ ما ، ثم يستغرق الأمر شهورًا ، إن لم يكن سنوات للحصول على التنظيم من خلال عمليات التكرار والموافقة المختلفة. التنظيم الحالي في هذا المجال غير مناسب للغرض. القدرة على الإشراف على اللوائح التي تتناول الرقابة وتنفيذها.
