بقلم : خالد حسن

في الوقت الذي يتسابق فيه العالم نحو تبني تكنولوجيات المستقبل، تواجه كبرى الشركات التكنولوجية اليوم التحدي الأكبر في تاريخها الرقمي؛ وهو كيفية تسويق أدوات الذكاء الاصطناعي وجني الأرباح منها، لاسيما بعد قيمها بضخ مئات المليارات من الدولارات كأستثمارات فى تطور تقنيات ال AI" ، وذلك بدون إثارة ذعر المستخدمين بشأن الخصوصية، أو فقدان الوظائف، أو حتى السيطرة البشرية.

فلم يعد الأمر يقتصر على تقديم برمجيات ذكية فحسب، بل أصبح يتعلق بصناعة "الثقة". فالشركات اليوم تقف على حبل مشدود: من جهة، تروج بحماس مفرط للفوائد الثورية للذكاء الاصطناعي لجذب المستثمرين والمستهلكين، ومن جهة أخرى، تحاول تهدئة المخاوف العميقة التي تجتاح الرأي العام. فكيف تنجح في تحقيق هذا التوازن الحرج؟

وفى هذا الاطار اود ان اشارك القارىء مقال نشره ساتيا ناديلا ، الرئيس التنفيذي لشركة مايكروسوفت ، والذىي يدعو إلى إعادة تعريف الثقة في الذكاء الاصطناعي عبر 7 مبادئ للرقابة والحوكمة موضحا أن التوسع في استخدام نماذج الذكاء الاصطناعي المتقدمة داخل المؤسسات يستدعي إعادة النظر في آليات الثقة والرقابة، لا سيما مع تزايد الاعتماد عليها في التعامل مع البيانات الحساسة وتنفيذ المهام المؤثرة في العمليات التجارية.

ويدعو ناديلا فى مقال بعنوان «Models as Insider Risks in the Super Intelligence Era»، إلى التعامل مع النماذج المتقدمة، سواء المغلقة أو مفتوحة الأوزان، باعتبارها مصدرًا محتملًا للمخاطر الداخلية، على غرار الحسابات والأفراد الذين يمتلكون صلاحيات واسعة داخل المؤسسات. ولا ينطلق هذا التصور من افتراض أن النماذج تتصرف بسوء نية، بل من احتمال ارتكابها أخطاء أو تعرضها للاختراق، في ظل امتلاكها صلاحيات الوصول إلى أنظمة وموارد حساسة.

يشير ناديلا إلى وجود اختلاف جوهري بين البرمجيات التقليدية ونماذج الذكاء الاصطناعي المتقدمة. ففي حين يمكن تتبع كثير من سلوكيات البرامج التقليدية إلى تعليمات محددة في الشيفرة البرمجية، يصعب تفسير مخرجات النماذج المتقدمة بالدرجة نفسها، أو ربطها بصورة مباشرة ببيانات التدريب أو الأوزان التي أنتجتها.

وفي المقابل، تتجه المؤسسات إلى دمج هذه النماذج في عملياتها الأساسية، ومنحها القدرة على الوصول إلى معلومات حساسة وتنفيذ إجراءات قد تؤثر في أعمالها. ويؤدي هذا التوسع إلى فجوة بين القدرات المتنامية للذكاء الاصطناعي والقدرة على تفسير سلوكه والتحقق من سلامة قراراته.

ومن هذا المنطلق، لا يكفي الاعتماد على دقة الإجابات أو تأكيدات النموذج بشأن صحة أدائه، بل ينبغي بناء أنظمة تتيح مراقبة نشاطه والتحقق من نتائجه بصورة مستقلة.

يشدد المقال على أن المؤسسات تظل مسؤولة عن كيفية استخدام أنظمة الذكاء الاصطناعي، ولا يمكنها نقل هذه المسؤولية إلى الشركات المطورة للنماذج. فالتأكيدات المتعلقة بالأمان والموثوقية لا تضمن أن كل إجراء ينفذه النظام سيكون صحيحًا أو متوافقًا مع سياسات المؤسسة.

ويطرح ناديلا مبدأً أساسيًا يقوم على الفصل بين الذكاء والصلاحيات؛ إذ يمكن للنموذج تحليل البيانات وتقديم التوصيات واقتراح الإجراءات، لكن تحديد ما يُسمح له بالوصول إليه وتنفيذه يجب أن يخضع لضوابط مستقلة تسيطر عليها المؤسسة ويعني ذلك الانتقال من الاكتفاء بمراجعة النتائج بعد صدورها إلى تصميم بيئة تشغيل تحدد صلاحيات النموذج مسبقًا، وتراقب أنشطته، وتختبر قدرته على الالتزام بالحدود المفروضة عليه، مع توفير إمكانية إيقافه عند الضرورة.

يقترح ناديلا تطبيق مبادئ راسخة في أمن المعلومات وإدارة المخاطر الداخلية على أنظمة الذكاء الاصطناعي، بما يشمل التحقق من الهوية، وتقليص الصلاحيات إلى الحد الضروري، وتسجيل الأنشطة، ومنع انتقال آثار الأخطاء أو الاختراقات إلى أنظمة أخرى.

ووفق هذا النهج، فإن منح النموذج صلاحية الوصول إلى مورد حساس لا يعني السماح له باستخدامه دون قيود. كما أن امتلاكه صلاحيات مشروعة لا يلغي احتمال إساءة استخدامها نتيجة خطأ أو سلوك غير متوقع.

لذلك، ينبغي أن تستند حماية هذه الأنظمة إلى ضوابط هندسية مستقلة، تحدد نطاق الوصول والتنفيذ، وتضمن بقاء القرارات المتعلقة بالصلاحيات تحت سيطرة المؤسسة، سواء كان النموذج مغلقًا أو مفتوح الأوزان.

يتناول المقال أهمية الشفافية في آليات الاستدلال، المعروفة باسم «سلسلة التفكير» (Chain of Thought – CoT)، مع التأكيد على أن إظهار خطوات التفكير لا يوفر وحده ضمانًا كاملًا لصحة النتائج فالتفسيرات التي يقدمها النموذج عن طريقة وصوله إلى إجابة معينة لا تعكس بالضرورة جميع العمليات الداخلية التي أدت إليها، ولا يمكن اعتبارها دليلًا نهائيًا على سلامة الإجراء أو التزامه بالتعليمات.

كما أن الاستعانة بنماذج متعددة لمراجعة بعضها بعضًا لا تحل المشكلة تلقائيًا؛ إذ قد يؤدي ذلك إلى إنشاء طبقات متداخلة من الأنظمة التي يصعب تفسير أحكامها والتحقق منها بصورة مستقلة.

ولهذا، يدعو ناديلا إلى وضع آليات التحكم والحماية خارج النموذج نفسه، بحيث لا يعتمد أمان النظام على التزام النموذج بالتعليمات وحده، ولا يتمكن من تجاوز الضوابط التي تحدد صلاحياته أو تعديلها.

ويرتكز أحد الحلول التي يناقشها المقال على الفصل بين نموذج الذكاء الاصطناعي وطبقة البرمجيات التي تنظم تشغيله، والمعروفة باسم «Harness»، وبين الأدوات والإجراءات المتاحة له ويتيح هذا الفصل للمؤسسات تحديد الموارد التي يمكن للنموذج الوصول إليها، والمهام التي يستطيع تنفيذها، والإجراءات التي تتطلب موافقة بشرية، والعمليات التي يجب أن تظل محظورة وبذلك، لا تصبح قدرة النموذج على اقتراح إجراء أو إصدار تعليمات كافية لمنحه صلاحية تنفيذها. كما يمكن تطبيق ضوابط مستقلة تمنع الأخطاء في مخرجاته من التحول إلى تغييرات غير مصرح بها في الأنظمة أو الصلاحيات.

يقترح ناديلا مجموعة من المبادئ الهندسية التي تساعد المؤسسات على تعزيز الرقابة والتحقق من سلامة أنظمة الذكاء الاصطناعي، وتقليل الاعتماد على الثقة المجردة في قدراتها.

1. تنويع النماذج حيث يدعو المقال إلى تجنب الاعتماد على نموذج واحد بوصفه المصدر الوحيد للقرارات المهمة أو المراجع الوحيد لعمله. ويمكن أن يسهم استخدام نماذج متنوعة في عمليات التحقق والمراجعة في تقليل مخاطر الاعتماد على حكم منفرد، خصوصًا في المهام الحساسة.

2. تسجيل الأنشطة وإتاحة الأدلة اذ ينبغي تسجيل الإجراءات المهمة التي ينفذها النموذج ضمن سجلات واضحة وقابلة للمراجعة، مع حمايتها من العبث. ولا يقتصر الهدف على توثيق وقوع الإجراء، بل يشمل توفير أدلة تساعد على إعادة بناء ما حدث والتحقق من النتائج دون الاعتماد على رواية النموذج نفسه.

3. التحقق المستمر من النظام وهو يتطلب ضمان سلامة النظام اختباره بصورة متواصلة، بما يتجاوز المهام المعتادة ليشمل حالات الفشل، ومحاولات الهجوم، والظروف غير المتوقعة، والتغييرات التي تطرأ على مكوناته وإعداداته. ويساعد ذلك على اكتشاف الثغرات في العلاقة بين النموذج والأدوات والضوابط المحيطة به.

4. استقلالية ضوابط الوصول ويجب أن تحتفظ المؤسسة بالسيطرة المستقلة على البيانات والأنظمة التي يستطيع النموذج الوصول إليها، وعلى الإجراءات التي يُسمح له بتنفيذها. وينبغي أن تستند هذه الصلاحيات إلى سياسات أمنية واضحة تراعي حساسية البيانات وطبيعة المهمة ومستوى المخاطر.

5. استقلالية التدقيق اذ يشدد المقال على ضرورة فصل عمليات التدقيق والتحقق عن النظام الخاضع للتقييم. فلا ينبغي أن يتحكم النموذج في تنفيذ المهمة وفي الأدلة المستخدمة للحكم على سلامة أدائه في الوقت نفسه. ويتيح هذا الفصل للمراجعين تقييم النتائج استنادًا إلى سجلات وآليات تحقق مستقلة.

6. احتواء المخاطر وإمكانية الإيقاف وينبغي تصميم الأنظمة على أساس احتمال تعرضها للاختراق أو إنتاجها سلوكًا غير متوقع، مع توفير وسائل عملية لإيقاف المهام أو تعليق صلاحيات الوصول عند الضرورة. ويشمل ذلك وضع حدود واضحة للصلاحيات، ومنع امتداد آثار الإجراءات غير المرغوبة، وتطوير آليات احتواء تتناسب مع تزايد قدرات النماذج.

7. الإفصاح عن الحوادث ويدعو المقال إلى الإبلاغ في الوقت المناسب عن الحوادث والإخفاقات التي تؤثر في سلامة الأنظمة، ومشاركة الدروس المستفادة مع الجهات المعنية. ويساعد توثيق ما حدث، وتحديد الضوابط التي أخفقت، وتبادل المعلومات ذات الصلة، على تحسين وسائل الحماية والحد من تكرار الحوادث.

يؤكد طرح ناديلا أن حوكمة الذكاء الاصطناعي لا ينبغي أن تقتصر على التعامل مع المشكلات بعد وقوعها، بل يجب أن تكون جزءًا أساسيًا من تصميم الأنظمة منذ البداية. فكلما زادت قدرة الوكلاء على تنفيذ المهام بصورة مستقلة واتسع نطاق صلاحياتهم، ازدادت الحاجة إلى ضوابط واضحة تتيح مراقبة سلوكهم والتحقق من أعمالهم واحتواء المخاطر.

ولا يقدم المقال هذه المبادئ باعتبارها حلًا نهائيًا لجميع تحديات مواءمة الذكاء الاصطناعي مع أهداف البشر، بل بوصفها نهجًا هندسيًا يمكن تطبيقه بالتوازي مع استمرار الأبحاث في مجالات الشفافية والمواءمة والأمان.

وتعكس هذه الرؤية تحولًا في طريقة تقييم أنظمة الذكاء الاصطناعي داخل المؤسسات؛ إذ لم تعد دقة الإجابات وسرعة إنجاز المهام معيارين كافيين وحدهما، بل أصبحت قابلية المراقبة والتحقق، واستقلالية ضوابط الوصول، والقدرة على احتواء المخاطر، عناصر أساسية لبناء أنظمة يمكن الاعتماد عليها في البيئات المؤسسية الحساسة.

فى النهاية نؤكد أن كسب ثقة المستخدمين في عصر الذكاء الاصطناعي لا ينبع من قوة الخوارزميات بقدر ما ينبع من إنسانية التواصل. والشركات التي ستكسب الرهان وتستحوذ على السوق، ليست تلك التي تمتلك التكنولوجيا الأكثر ذكاءً، بل تلك التي تنجح في جعل تكنولوجيتها أكثر أماناً، وشفافية، وقرباً من النفس البشرية.