كشف تقرير نُشر الجمعة، أن آلافاً من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة «أوبن آيه آي»، خالفوا التعليمات الموجهة إليهم، وسيطروا على موقع إلكتروني ألماني، وسط مخاوف من عدم التعامل بجدية مع مخاطر الذكاء الاصطناعي.
وترك الوكلاء، وهم برامج ذكاء اصطناعي تعمل ذاتياً دون توجيه بشري، وقادرة على التخطيط، واتخاذ القرارات، نحو 18 ألف رسالة على موقع «دسي ويكي»، وهو موقع ألماني على غرار ويكيبيديا مخصص للمبرمجين، ويتيح لأي شخص تعديل المحتوى.
واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم. وكتبت سيدني فون آركس، إحدى الباحثات المشاركات في وضع التقرير، على منصة إكس: «اكتشفت أنا وزملائي سرباً جديداً تماماً من وكلاء أوبن آيه آي يقوم باختطاف مواقع إلكترونية».
وأضافت: «نعتقد أن أوبن آيه آي كانت على علم بذلك، لكنها لم تفصح عنه». وذكرت شركة «أوبن آيه آي» في بيان أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن «واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها».
وقال المتحدث باسم «أوبن آيه آي»: «نراجع محتويات التقرير بعناية الآن وسنتخذ أي خطوات ضرورية تالية»، مشيراً إلى أن الشركة كانت ذكرت حوادث مماثلة في تقرير صدر مؤخراً.
يأتي هذا الحادث الأخير في أعقاب الكشف في شهر يوليو/ تموز الماضي، عن قيام وكلاء تابعين لـ«أوبن آيه آي» أيضاً باختراق خوادم منصة «هاغينغ فايس» الواسعة الانتشار، التي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.
وكشف تحقيق مستقل أن المئات من وكلاء الشركة كانوا يتواصلون في ما بينهم قبل الفرارـ من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.
وأحدثت هذه الواقعة ضجة كبيرة، وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي.
كما أبلغت شركات أخرى مثل «ميتا» و«أنثروبيك» عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.
وتُروِّج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية لتوسع الذكاء الاصطناعي في الحياة اليومية، حيث يمتلكون القدرة على حجز رحلات السفر، أو إعداد تقارير النفقات أو كتابة البرمجيات بأقل قدر من الإشراف البشري.
وفي مقال نُشر الأسبوع الماضي، حذر مؤسس مايكروسوفت بيل غيتس من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعياً إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية.
وترك الوكلاء، وهم برامج ذكاء اصطناعي تعمل ذاتياً دون توجيه بشري، وقادرة على التخطيط، واتخاذ القرارات، نحو 18 ألف رسالة على موقع «دسي ويكي»، وهو موقع ألماني على غرار ويكيبيديا مخصص للمبرمجين، ويتيح لأي شخص تعديل المحتوى.
واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم. وكتبت سيدني فون آركس، إحدى الباحثات المشاركات في وضع التقرير، على منصة إكس: «اكتشفت أنا وزملائي سرباً جديداً تماماً من وكلاء أوبن آيه آي يقوم باختطاف مواقع إلكترونية».
وأضافت: «نعتقد أن أوبن آيه آي كانت على علم بذلك، لكنها لم تفصح عنه». وذكرت شركة «أوبن آيه آي» في بيان أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن «واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها».
وقال المتحدث باسم «أوبن آيه آي»: «نراجع محتويات التقرير بعناية الآن وسنتخذ أي خطوات ضرورية تالية»، مشيراً إلى أن الشركة كانت ذكرت حوادث مماثلة في تقرير صدر مؤخراً.
يأتي هذا الحادث الأخير في أعقاب الكشف في شهر يوليو/ تموز الماضي، عن قيام وكلاء تابعين لـ«أوبن آيه آي» أيضاً باختراق خوادم منصة «هاغينغ فايس» الواسعة الانتشار، التي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.
وكشف تحقيق مستقل أن المئات من وكلاء الشركة كانوا يتواصلون في ما بينهم قبل الفرارـ من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.
وأحدثت هذه الواقعة ضجة كبيرة، وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي.
كما أبلغت شركات أخرى مثل «ميتا» و«أنثروبيك» عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.
وتُروِّج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية لتوسع الذكاء الاصطناعي في الحياة اليومية، حيث يمتلكون القدرة على حجز رحلات السفر، أو إعداد تقارير النفقات أو كتابة البرمجيات بأقل قدر من الإشراف البشري.
وفي مقال نُشر الأسبوع الماضي، حذر مؤسس مايكروسوفت بيل غيتس من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعياً إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية.
المصدر: جريدة الخليج