دعا كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، إلى توخي الحذر الشديد إزاء التطور المتسارع للذكاء الاصطناعي، وحذر من أن التدخل قد يكون ضروريًا لضمان بقاء البشر متحكمين في المستقبل.
وكتب في منشور مدونة بعنوان "An Alien Mind" أي "عقل غريب": "أشعر بالقلق من أن لا أحد مستعد للعواقب المترتبة على استمرار الارتفاع السريع في مستوى ذكاء الآلات"، بحسب تقرير لهيئة الإذاعة البريطانية (بي بي سي)، اطلعت عليه "العربية Business"
وجاء المنشور بعد أيام قليلة فقط من إطلاق "أوبن إيه آي"، مطورة روبوت الدردشة الشهيرة شات جي بي تي، أحدث نماذجها GPT-6 Astra، الذي وصفته بأنه أقوى منتجاتها على الإطلاق.
وشاركت "أوبن إيه آي" وشركات أخرى للذكاء الاصطناعي، مثل أنثروبيك، تقارير عن تصرف وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذهم هجمات إلكترونية حقيقية على شركات أخرى.
وفي يوليو، وصفت "أوبن إيه آي" حادثة اختراق وكلائها للذكاء الاصطناعي - وهي أنظمة يمكنها العمل بشكل مستقل بعد تلقي تعليمات من البشر - لمنصة التكنولوجيا "هاغينغ فيس" بأنها "غير مسبوقة".
وفي سبتمبر، زعم تقرير أن وكلاء الذكاء الاصطناعي التابعين للشركة كانوا قد استولوا أيضًا على موقع إلكتروني ألماني قبل ذلك بأشهر.
وكتب باتشوكي في أحدث تدويناته: "نحن نواجه انتقالًا إلى عالم يضم آلات فائقة الذكاء، وعلينا أن نضمن أن هذا الانتقال سيكون جيدًا للبشرية".
وقال إن "أوبن إيه آي" ستواصل "بناء أنظمة دفاعية" والبحث عن حلول تقنية لمشكلة "التوافق"، وهو مصطلح يُستخدم لوصف ضمان توافق تصرفات أنظمة الذكاء الاصطناعي وأهدافها بشكل كامل مع نوايا البشر ومعايير الأمان والضوابط الموضوعة.
وأضاف باتشوكي أن إحدى الأولويات الرئيسية للشركة في المرحلة المقبلة ستكون تطوير "باحث ذكاء اصطناعي آلي" لمواكبة تطور الذكاء الاصطناعي، مع ضمان وجود طرق تتيح للباحثين البشر الاستمرار في المشاركة في هذه العملية.
وقالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج: "بدلًا من ضوابط أفضل للذكاء الاصطناعي، أو لوائح تنظيمية، أو ضمانات لحماية الناس، يقترحون تطوير وكلاء ذكاء اصطناعي داخليين لدراسة هذه المشكلات".
وأضافت: "إن مثل هذه الحلول للمخاوف المتزايدة بشأن المشكلات التي تُسببها نماذج أوبن إيه آي في مجال الأمن السيبراني، وفقدان الوظائف، والأخطاء، والاحتيال، ليست كافية على الإطلاق".
وقال ناثان كالفن، المستشار العام في جماعة الضغط "Encode AI"، إنه يتفق مع باتشوكي بشأن المخاطر الموجودة في تطوير نماذج الذكاء الاصطناعي المتقدمة، لكنه زعم أن "أوبن إي آي" غير مستعدة للتحلي بالشفافية، مشيرًا إلى أن ذلك يعني أن التحذيرات قد يُنظر إليها على أنها "مجرد دعاية تخدم مصالح الشركة".
