تجنب بيانات التمييز وانحياز الآراء الشخصية للمطورين  أهم تحذيرات "الذكاء الاصطناعي "

المخاطر السيبرانية والاستخدام السيئ لتطبيقاته وما تتضمنها من سرية وسلامة البيانات أهم الأثار السلبية

كتبت : نهلة مقلد – نيللي علي

في ظل الاهتمام المتزايد بخوارزميات التعلم العميق للآلات وتنامي خطط الاعتماد على تقنيات الذكاء الاصطناعي في المملكة العربية السعودية، تبرز تحذيرات يطلقها متخصصون سعوديون؛ ومنها تنبيه باحث الدكتوراه السعودي إبراهيم المسلَّم ـ أستاذ بحث مساعد في المركز الوطني لتقنية الذكاء الاصطناعي والبيانات الضخمة في مدينة الملك عبد العزيز للعلوم والتقنية. ومستشارًا في الشركة السعودية لتقنية المعلومات ، من انحياز الذكاء الاصطناعي.

وأصدر المسلَّم أول دراسة سعودية لحوكمة الذكاءالاصطناعي والحد من مخاطره وأثاره السلبية؛ وقال المسلَّم في تغريدة نشرها في حسابه على تويتر «الحمد لله، بعد جهد دام أكثر من عام، بالتعاون مع فريق متميز من المركز السعودي للذكاء الاصطناعي والبيانات الضخمة في مدينة الملك عبد العزيز للعلوم والتقنية، صدرت لي أول دراسة سعودية عن حوكمة الذكاء الاصطناعي للتوعية بمخاطره وتوصيات للحد من أثاره السلبية».

التعلُّم الذاتي

وترى الدراسة أن مبدأ الذكاء الاصطناعي يقوم على محاكاة العقل البشري وأنماط عمله؛ مثل القدرة على التعلُّم والاستنتاج ورد الفعل على أوضاع لم تُبرمَج داخل الآلة، أي برمجتها على التعلم. ولعل أهم ميزة في الذكاء الاصطناعي قدرته على التفوق  في تخصصات معينة على ذكاء الإنسان، لأنه يتعلم من تلقاء ذاته، أو ما يُطلق عليه التعلُّم الذاتي.

وقسَّمت الدراسة الذكاء الاصطناعي إلى مستويات؛ بعضها حقيقي وبعضها خيالي، تبدأ بالضعيف على غرار السيارة ذاتية القيادة، والعام غير المحصور في مجال معين مثل المُناظِر الآلية في مجالات الأبحاث، والقوي القادر على محاكاة وظائف المخ البشري، والخارق المتفوق على الذكاء البشري في شتى المجالات على غرار روبوتات أفلام الخيال العلمي.

مخاطر

ولخصت الدراسة مخاطر الذكاء الاصطناعي التي قد تنجم عن مراحل ثلاثة في دورة حياة التقنية؛ هي التطوير والأخطاء أثناء بناء الأنظمة وقياس أدائها وأمنها، ومرحلة التطبيق وأخطار سوء الاستخدام، ومرحلة المخاطر الناجمة عن التبني واسع النطاق.

وسلطت الدراسة الضوء على انحياز الذكاء الاصطناعي، مُصنِّفةً الانحياز بأنه صفة بشرية، ولأن الذكاء الاصطناعي يحاكي الذكاء البشري عن طريق التعلم من البيانات المُدخلة له، فإنه سيرث منه عيوبه، وفي حال تضمن البيانات على عنصرية أو طبقية أو تمييز جنسي، فإن أنظمة الذكاء الاصطناعي ستعزز هذه الأفكار.

وأوصت الدراسة بضرورة اتخاذ إجراءات مهمة؛ تجنب البيانات المحمية قانونيًا مثل تجنب استخدام بيانات العرق أو الديانة أو الجنس، وفرض دراسة الانحياز لدى طلب الدعم المادي في المقترحات البحثية أو المشروعات الحكومية، ومنح شهادات اعتماد من مؤسسات حكومية أو جمعيات تؤكد وتثبت اتباع الشركات أو المنتجات لأفضل الممارسات والمعايير، وسن قوانين إلزامية لتكوين إطار تنظيمي ملائم لاستخدام أنظمة الذكاء الاصطناعي يُحتَكم إليه في حال وجود أي ممارسات إقصائية أو منحازة، وتعليم المُطوِّرين وتثقيفهم بأخلاقيات الذكاء الاصطناعي ليصبحوا قادرين على تمييز انحيازهم وآرائهم الشخصية ومنع وجودها في الأنظمة، مع مراعاة التمثيل العادل والمتساوي في فِرق المُطوِّرين للحد من الانحيازات الفردية.

ثغرات

وللتصدي لمخاطر الأنظمة الذاتية ومخاطرها غير المتوقعة، ترى الدراسة بضرورة فرض تأمين إجباري على الشركات المُصنِّعة لمنتجات تتضمن أنظمة ذاتية، وفرض دراسة المخاطر عند طلب الدعم المادي في المقترحات البحثية أو المشروعات الحكومية، وتبني التقنيات تدريجيًا لإتاحة الفرصة لاختبارها على نطاق مصغر، والاستفادة من خبرات المُصنِّعين والمُتخصِّصين بأمن الطيران، والاستفادة من المجالات العلمية الحساسة مثل الأمن السيبراني، والاختبارات المُكثَّفة للنظم الذاتية ودراسة عواقب كل قرار ناتج عنها.

وتشير الدراسة إلى وجود ثغرات تشوب تطبيقات الذكاء الاصطناعي؛ منها تسميم البيانات مما يحرف مسار تعلم النظام، خلال مرحلة التطبيق.

مخاطر سيبرانية

والمخاطر السيبرانية؛ هي الناجمة عن الاستخدام السيئ لتطبيقات الذكاء الاصطناعي وتهدد أمن الإنترنت وما يتصل به من أنظمة وبيانات من ناحية سريتها وسلامتها وتوافرها، إذ يتوقع باحثون أن تستخدم تقنيات الذكاء الاصطناعي في الهجمات الإلكترونية لما تتمتع بع من ميزات تشجع الهاكرز على استخدامها، ولمواجهة تلك الهجمات ترى الدراسة ضرورة تعزيز وعي المُستخدِم، وتعاون الباحثين مع صناع القرار، وتشجيع الكشف عن ثغرات الأنظمة والتطبيقات بتفعيل المكافآت المادية، واللجوء للاختبارات الأمنية، وتفعيل معيار المركزية، وتفعيل خوارزميات ذكاء اصطناعي دفاعية.

ويُخشى كذلك، من استغلال أنظمة الذكاء الاصطناعي التجارية لأغراض إرهابية، وتحسين أداء المشتركين في تلك الهجمات، وزيادة نطاق تأثيرها وتوسيعها واحتشادها، وتحرر الجاني من قيود الزمان والمكان، وانتشارها على نطاق عالمي، واتساع مدى ذاتية الأنظمة. وأوصت الدراسة بضرورة اتخاذ موقف من الأسلحة الذاتية، وفرض حد أدنى من المعايير على الشركات لتصنيع أنظمة مقاومة للهجمات السيبرانية والتلاعب، وفرض قيود على عمليات الشراء، وفرض قيود على مستخدمي الأنظمة الذكية، ومراقبة أطر العمل مفتوحة المصدر في الأنظمة الذاتية، وتطوير نظم دفاع مادية فعالة، وتوفير آلية مرنة للتدخل البشري عند الضرورة.

وسلطت الدراسة أيضًا، الضوء على جملة من الآثار السلبية لاستخدام الذكاء الاصطناعي في جوانب سياسية واقتصادية واجتماعية نفسية، تجعل لزامًا على المؤسسات وأصحاب القرار التصدي لها بحكمة تراعي استخدام أحدث التقنيات، للاستفادة من القفزات الهائلة للذكاء الاصطناعي على نحو أمثل، وتجنب مخاطره وسلبياته.

جهود سعودية

وقال المسلَّم «اتخذت السعودية، إجراءات عدة لمجاراة تطور الذكاء الاصطناعي؛ منها إنشاء جهات محايدة مثل الهيئة الوطنية للأمن السيبراني، للتصدي للتهديدات الأمنية من الخارج وأسندت لهيئة الاتصالات وتقنية المعلومات مهمة مراقبة الجرائم المعلوماتية، للحفاظ على خصوصية وأمن المواطنين في الداخل وذلك وفقا لما ذكره لموقع " مرصد المستقبل ".

أضاف حققت المملكة العربية السعوية تقدمًا ملحوظًا، وحصلت تطورات كثيرة في العامَين الأخيرَين؛ منها إنشاء هيئة البيانات والذكاء الاصطناعي، فضلًا عن تحويل كثير من التوصيات إلى أمر واقع. بالإضافة إلى الجهود المبذولة لوضع تنظيم جديد لحوكمة البيانات، والفصل في حقوق امتلاك البيانات وتحليلها وضبط استخدام نتائج تلك التحاليل تجاريًا، ولم يقتصر الدور على التنظيم والمراقبة فقط، بل امتد إلى البحث والتطوير، وتجسد ذلك في إنشاء مدينة الملك عبدالعزيز للعلوم والتقنية لمركز وطني لتقنية الذكاء الاصطناعي والبيانات الضخمة، تلبية لأهداف البرنامج الوطني لتطوير الصناعة والخدمات اللوجستية؛ أحد البرامج الأساسية في تحقيق رؤية المملكة 2030».

مؤلِّف الدراسة

إبراهيم المسلَّم، مؤلف الدراسة؛ الأولى من نوعها في السعودية، حاصل على شهادة الدكتوراه من جامعة أوكسفورد في المملكة المتحدة في مجال الذكاء الاصطناعي والتعلم العميق للآلات. عمل سابقًا كباحث زائر في معمل الذكاء الاصطناعي في جامعة ستانفورد في الولايات المتحدة.

ويعمل المسلَّم حاليًا، أستاذ بحث مساعد في المركز الوطني لتقنية الذكاء الاصطناعي والبيانات الضخمة في مدينة الملك عبد العزيز للعلوم والتقنية، ومستشارًا في الشركة السعودية لتقنية المعلومات. وتمتد خبرته في مجالات البحث المتعلقة بالذكاء الاصطناعي إلى أكثر من 10 أعوام؛ في مجالات معالجة اللغات الطبيعية وتحليل شبكات التواصل الاجتماعية ومعالجة الكلام وحوكمة الذكاء الاصطناعي. ويبحث حاليًا في الحوسبة الكمية والتعلم الآلي الكمي.