-        يتجاوز الموظفون قرارات الذكاء الاصطناعي عندما لا يفهمون آلية عمله، مما يشكّل تحدياً أمام المؤسسات الساعية إلى تحقيق عائد من استثماراتها في الذكاء الاصطناعي.

-        السبب الأول الذي يدفع الموظفين إلى تجاوز قرارات الذكاء الاصطناعي في بيئة العمل؟ عدم قدرة الذكاء الاصطناعي على تفسير القرارات التي يتخذها.

-        لا تزال معظم المؤسسات تفتقر إلى البنية الأساسية للبيانات اللازمة لتعزيز موثوقية الذكاء الاصطناعي وتحقيق عوائد مجدية منه.

-        سجّلت دولة الإمارات واحدة من أسرع معدلات التحسن في موثوقية الذكاء الاصطناعي ضمن الدراسة، مع ارتفاع مؤشر الموثوقية بمقدار 30.2 نقطة في عام 2026.

كتب : محمد عصام

كشف تقرير لشركة SAS الذي يتضمن رؤى بحثية من IDC عن العوامل التي تمكّن المؤسسات من الفوز في سباق تحقيق الربح من استثماراتها في الذكاء الاصطناعي. وتبيّن أن المؤسسات التي تطبق ممارسات الذكاء الاصطناعي الموثوق كانت أكثر احتمالاً بمقدار 15 مرة للإبلاغ عن عائد استثمار قوي من مشاريعها في الذكاء الاصطناعي.

كما ورد في التقرير السنوي الثاني تأثير البيانات والذكاء الاصطناعي: اقتصاديات الثقة الجديدة أن المؤسسات التي تتمتع بأقوى ممارسات الحوكمة وجودة البيانات وقابلية التدقيق تتفوق باستمرار على نظيراتها، محققة عائد استثمار لا يقل عن ضعف عائد الاستثمار من تطبيقات الذكاء الاصطناعي.

يقول براين هاريس، كبير مسؤولي التكنولوجيا في SAS: "عندما ينجح الذكاء الاصطناعي، يكون تأثيره هائلاً. ومع ذلك، من المعروف أن أحدث الأنظمة الذكية قد تتجاوز نسبة أخطائها 25% في المهام المعقدة وهو أمر غير مقبول في عمليات اتخاذ القرارات المصيرية. ولتحقيق الدقة والقابلية للتكرار، يجب على المؤسسات دمج الخبرة المتخصصة في سير العمل الخاص بوكلاء الذكاء الاصطناعي، مع إبقاء العنصر البشري في صميم الحوكمة والرقابة. والمؤسسات التي تنجح في ذلك ستسد فجوة الثقة وتكتسب ميزة تنافسية في السوق بفضل الذكاء الاصطناعي."

من جهته، يقول كريس مارشال، نائب الرئيس في IDC: "مع تزايد استقلالية الذكاء الاصطناعي، تواجه المؤسسات تحدياً جديداً يتمثل في الحفاظ على الثقة في أنظمة لا يفهمها الناس بشكل كامل. كما تُظهر نتائجنا أن تعزيز الرقابة، وإمكانية الشرح، والمساءلة، وأسس البيانات، أصبحت من المتطلبات الأساسية لتوسيع نطاق الذكاء الاصطناعي بنجاح."

تشير النتائج المحلية إلى تقدم سريع في حوكمة الذكاء الاصطناعي، إذ ارتفع مؤشر الموثوقية في دولة الإمارات بواقع 30.2 نقطة ليصل إلى 65.7 نقطة في عام 2026، متجاوزاً المعدل العالمي.

وقال ميشال غريّب، المدير العام لشركة SAS في الإمارات: "يعكس هذا التقدم السرعة التي انتقلت بها المؤسسات في دولة الإمارات من طموح تبني الذكاء الاصطناعي إلى تطبيقه الفعلي؛ فقد دفعت استراتيجية الإمارات للذكاء الاصطناعي وخارطة طريق دبي للذكاء الاصطناعي انتشار الحوكمة في القطاعين الحكومي والخاص بوتيرة غير مسبوقة. وتأتي هذه القدرة استجابةً لتوجيه واضح من القيادة العليا بتطبيق هذه الممارسات، ما يفسّر وصول هذا القدر الكبير منها دفعة واحدة."

تتضمن نتائج التقرير ثلاثة محاور رئيسية:

الذكاء الاصطناعي الذي لا يستطيع تفسير نفسه يشكّل عبئاً كبيراً على الأعمال

وجد الباحثون أن الموظفين أصبحوا أكثر تردداً في الاعتماد على أنظمة قد تعجز عن تقديم نتائج صحيحة أو تفسير كيفية التوصل إلى القرارات. ومع تزايد استقلالية الذكاء الاصطناعي، تتعاظم أهمية إمكانية الشرح.

كما تناول التقرير عقبة رئيسية أمام نجاح تبني الذكاء الاصطناعي: عندما يؤدي افتقار الموظفين للثقة في قرارات الذكاء الاصطناعي إلى تجاوزها وإجراء تصحيحات يدوية. وهذا يؤدي إلى تفاقم مشكلة انعدام الثقة في الذكاء الاصطناعي، وقد يكلّف المؤسسات الوقت والإنتاجية والربحية. وبما أن جودة قرارات الذكاء الاصطناعي تعتمد كليًا على جودة البيانات التي تستند إليها، فإن بناء أساس قوي للبيانات يصبح أمراً محورياً للمؤسسات الساعية إلى خفض معدلات التجاوز.

النتائج الرئيسية:

   97.2% من المستخدمين يتجاوزون توصيات الذكاء الاصطناعي في بعض الحالات على الأقل.

السبب الرئيسي الذي دفع الموظفين إلى تجاوز قرارات الذكاء الاصطناعي، بصرف النظر عمّا إذا كانت نتائجه صحيحة أم لا، هو عجز الذكاء الاصطناعي عن تقديم تفسير لقراره.

تنخفض نسبة الثقة من 76% في الذكاء الاصطناعي التوليدي إلى 66% في الذكاء الاصطناعي الوكيل، وهو ما يعكس تنامي المخاوف مع اكتساب أنظمة الذكاء الاصطناعي مزيداً من الاستقلالية.

يتجلى هذا التحدي بوضوح في دولة الإمارات، حيث يمثل غياب التفسير الكافي السبب الرئيسي لتجاوز توصيات الذكاء الاصطناعي، بحسب 41.1% من المشاركين في الاستطلاع.

ممارسات الذكاء الاصطناعي الموثوق تقود نجاح الأعمال

يكشف التقرير عن فجوة متنامية في العائد على الاستثمار، ما يشير إلى أن المؤسسات التي تحقق أكبر قيمة من الذكاء الاصطناعي لا تعتمد بالضرورة على تقنيات مختلفة، بل تدير الذكاء الاصطناعي بطريقة مختلفة.

النتائج الرئيسية:

المؤسسات التي تستثمر في تدابير الذكاء الاصطناعي الموثوق أكثر احتمالاً بمقدار 15 مرة للإبلاغ عن عائد استثمار قوي أو مرتفع لمشاريعها في الذكاء الاصطناعي (62% مقابل 4%).

المؤسسات التي تملك أقوى ممارسات الذكاء الاصطناعي الموثوق تحقق مكاسب أكبر بمقدار 1.85 ضعف عبر 13 نتيجة عمل مختلفة، منها نمو الإيرادات وتوفير التكاليف وتجربة العملاء.

     85% من قادة الذكاء الاصطناعي الذين يتبعون ممارسات موثوقة يزيدون استثماراتهم في هذا المجال بأكثر من 10% هذا العام، ما يوسّع فجوة الأداء بشكل فعلي.

تخسر العديد من المؤسسات الوقت والمال بسبب ضعف البنية التحتية للبيانات.

تعتمد معظم المؤسسات على الذكاء الاصطناعي في بيانات وبنية تحتية قديمة أو غير مهيأة. وبدون قاعدة بيانات متينة تدعم الشفافية وقابلية التفسير، تواجه المؤسسات صعوبة في إدارة الذكاء الاصطناعي بفعالية وتحقيق القيمة المرجوة منه.

النتائج الرئيسية:

 17.5% فقط من المؤسسات تمتلك بنية تحتية للبيانات محسّنة بالكامل وناضجة بما يكفي لتلبية متطلبات الذكاء الاصطناعي الوكيل، ما يؤثر سلباً على الأداء.

  المؤسسات التي تمتلك بنية بيانات مُحسّنة أكثر احتمالاً بأربع مرات لتوقّع تحقيق عائد قوي على الاستثمار من مشاريع الذكاء الاصطناعي، وأكثر احتمالاً بست مرات لفرض ضوابط جودة البيانات وقابلية التفسير اللازمة لبناء الثقة.

برزت جودة البيانات وحوكمتها كأولوية رئيسية للموثوقية لدى المؤسسات في الإمارات، إذ ارتفعت نسبتها إلى 62.2% في عام 2026. إلا أن 13.5% فقط من المؤسسات تفرض إجراءات لضمان جودة البيانات على كل مشروع من مشاريع الذكاء الاصطناعي، ما يعكس فجوة بين الوعي بأهمية هذه الإجراءات وتطبيقها الفعلي.

تستند النتائج إلى دراسة عالمية شملت 2,699 من صناع القرار الذين يملكون معرفة بمبادرات شركاتهم في مجال البيانات والذكاء الاصطناعي أو تأثيراً عليها. وأُجريت الدراسة في 28 دولة وأربعة قطاعات رئيسية: البنوك، والتأمين، وعلوم الحياة، والقطاع العام. ويسلّط التقرير الضوء على حالات استخدام قطاعية ونتائج توضح كيف يتعامل القادة في كل من هذه القطاعات حول العالم مع الذكاء الاصطناعي.

يتجاوز قادة القطاع المصرفي مجرد الامتثال، إذ ينظرون إلى الحوكمة القوية للذكاء الاصطناعي باعتبارها ميزة تنافسية وضرورة تشغيلية، فقد وضعت 85% من البنوك الرائدة في الذكاء الاصطناعي أطر حوكمة، مقابل 29% فقط من البنوك المتأخرة.

يزيد 41% من قادة القطاع العام استثماراتهم في الذكاء الاصطناعي الموثوق بأكثر من 20% خلال العام المقبل، بوتيرة تضاهي أكثر المؤسسات طموحاً في أي قطاع.

وسّعت 23% من مؤسسات علوم الحياة استخدام الذكاء الاصطناعي على مستوى الشركة بأكملها، وهي أعلى نسبة بين جميع القطاعات.

ما الذي يجعل الذكاء الاصطناعي موثوقاً؟

الذكاء الاصطناعي الموثوق هو ذكاء اصطناعي مصمم ليكون موثوقاً وعادلاً وآمناً ومتوافقاً مع المعايير التنظيمية، وقادراً على توضيح الطريقة التي توصل بها إلى القرار بوضوح. ويجب أن يكون المستخدمون وصناع القرار على جميع المستويات داخل المؤسسة قادرين على محاسبة نظام الذكاء الاصطناعي وفقًا لسلسلة محددة مسبقًا من المساءلة عن أي مخرجات غير صحيحة أو مفقودة. كما يجب أن يخضع أي نظام ذكاء اصطناعي للحوكمة وأن يُثبت التزامه بقواعد واضحة.

ما الذي يجعل المؤسسة رائدة في الذكاء الاصطناعي الموثوق؟

في إطار الدراسة، جرى تقييم المؤسسات من أصل 100 نقطة عبر خمسة أبعاد للذكاء الاصطناعي الموثوق. وكانت المؤسسات الرائدة بحسب التقرير هي تلك التي حصلت على متوسط إجمالي قدره 80 نقطة أو أعلى.

وقُيّمت كل مؤسسة وفق معايير الذكاء الاصطناعي الموثوق الخمسة التالية.

1.    جودة البيانات والحوكمة.

2.    حوكمة النماذج والإشراف عليها.

3.    إمكانية الشرح والعدالة.

4.    سياسة الذكاء الاصطناعي المسؤول.

5.    التدقيق والمساءلة.