بعدما ظلّت الجهات المستقلة المتخصصة في تقييمالذكاء الاصطناعي تعمل بعيداً عن الأضواء، بدأت هذه المؤسسات الصغيرة تحظى بأهمية متزايدة داخل صناعة تتجاوز قيمتها تريليونات الدولارات، مع تصاعد المخاوف بشأن سلامة النماذج المتقدمة وقدرتها على التصرف بطرق غير متوقعة.
• وبينما تخوض شركتا "أنثروبيك" و"OpenAI" نقاشاً محتدماً حول كيفية تطوير أنظمة ذكاء اصطناعي متقدمة وتوسيع أعمالهما التجارية مع ضمان سلامتها في الوقت نفسه، تتجه الشركتان إلى الاستعانة بمؤسسات مستقلة متخصصة، من بينها "METR"، و"Apollo Research"، و"Transluce".
• وتعمل معظم هذه الجهات بوصفها مؤسسات غير ربحية، ولا تزال تبحث عن موقعها في صناعة تتدفق إليها استثمارات ضخمة بوتيرة غير مسبوقة، بينما تتوالى إصدارات النماذج الجديدة بسرعة متزايدة.
• وتتمثل مهمتها الأساسية في تقييم قدرات نماذج الذكاء الاصطناعي والمخاطر المرتبطة بها، والتنبيه إلى الحالات التي تُظهر فيها هذه الأنظمة سلوكيات غير آمنة أو غير مرغوب فيها، بحسب تقرير نشرته شبكة "سي إن بي سي" واطلعت عليه "العربية Business".
•
• وفي ظل غياب تحرك اتحادي أميركي شامل لفرض قواعد تنظيمية ملزمة، اكتسبت هذه الجهات أهمية استثنائية. ففي الشهر الماضي، تعهد الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، بدمج مقيمين مستقلين داخل شركته، وهي خطوة أيدها سريعاً الرئيس التنفيذي لشركة OpenAI، سام ألتمان، كما حظيت بدعم الرئيس الأميركي دونالد ترامب ومعظم شركات التكنولوجيا الأميركية الكبرى.
• لكن أسئلة أساسية لا تزال بلا إجابات واضحة، من بينها كيفية تمويل هذه الجهات، ومستوى وصولها إلى أنظمة الشركات وبياناتها، والآليات التي ستتبعها للإبلاغ عن نتائج التقييمات.
• وقال سوريش فينكاتاسوبرامانيان، أستاذ علوم الكمبيوتر بجامعة براون، في مقابلة مع شبكة "سي إن بي سي": "المشكلة، إلى حد ما، تتمثل دائماً في المال.
• من سيدفع لهذه الشركات مقابل عملها؟ وكيف ستتمكن من دعمها؟ نحن بحاجة إلى منظومة متكاملة ونموذج أعمال قابل للاستمرار".
• وفي الوقت الراهن، تضع شركات "أنثروبيك" و"OpenAI" وشركاؤهما في البنية التحتية، الذين يستفيدون من طفرة الذكاء الاصطناعي، القواعد التي تحكم جانباً كبيراً من هذه العملية.
• ويرى منتقدون أن هذا الوضع يشبه تكليف أكبر البنوك بحماية المجتمع من الأزمات المالية، أو السماح لشركات الأدوية بطرح منتجاتها في الأسواق دون الحصول على موافقات تنظيمية.
• ترامب يدعم الرقابة الذاتية.. لكن المخاوف مستمرة
• أشاد الرئيس الأميركي دونالد ترامب مؤخراً بما وصفه بقدرة شركات الذكاء الاصطناعي على الرقابة الذاتية المتميزة، في إشارة إلى رغبته في ترك مساحة واسعة للشركات لإدارة المخاطر بنفسها، دون عرقلة نمو قطاع أصبح محركاً مهماً للاقتصاد وسوق الأسهم الأميركية.
• وشجع ترامب شركات الذكاء الاصطناعي على "الشراكة مع مدقق أو جهة تقييم خارجية مستقلة"، وذلك ضمن اتفاق طوعي قدمه في أواخر سبتمبر.
• وكان أمودي قد أطلق النقاش بصورة أكثر حدة من خلال مقال واسع الانتشار نشره الشهر الماضي، دعا فيه إلى إبطاء وتيرة تطوير النماذج المتقدمة، وذلك بعد مغادرة باحثين شركته وإثارتهم مخاوف بشأن التهديدات الوجودية المحتملة التي قد تفرضها هذه
