أوقفت شركة أوبن إيه آي (OpenAI) مؤقتًا بعض عمليات التدريب والتقييم والاستدلال المرتبطة باستخدام الأدوات، عقب اكتشاف ثغرة أمنية مكّنت أحد نماذج الذكاء الاصطناعي التابعة لها من تجاوز قيود الوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي خلال اختبار أمني.

وأوضحت الشركة، في منشور عبر مدونتها، أن النموذج لم يكن مصرحًا له بالوصول إلى الإنترنت، لكنه تمكن من استغلال خلل في ضوابط الشبكة داخل بيئة الاختبار، نتيجة وجود قصور في آلية تصفية نظام أسماء النطاقات (DNS).

ثغرة أمنية في بيئة اختبار أوبن إيه آي
وخلال الاختبار، كان مطلوبًا من نموذج الذكاء الاصطناعي تحديد هوية شخص كتب منشورًا على إحدى المدونات، بالاعتماد على مجموعة من الأدلة. وبعد تعذر الوصول إلى الإجابة من خلال بيئة الويب المحاكاة، اكتشف النموذج إمكانية استخدام محلل نظام أسماء النطاقات في النظام لإرسال استعلامات إلى روبوت محادثة موجود على الإنترنت.

وبمجرد اكتشاف عملية الاتصال غير المصرح بها، أوقفت أوبن إيه آي الاختبار، وبدأت إجراءات فحص الثغرة الأمنية والعمل على تعزيز ضوابط الحماية داخل بيئة الاختبار.

وقالت الشركة إن عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات ستظل متوقفة بصورة مؤقتة، إلى حين التأكد من معالجة الثغرة وإجراء اختبارات إضافية للتأكد من فعالية إجراءات السلامة.

أوبن إيه آي: الحادث أقل خطورة من وقائع سابقة
وصفت أوبن إيه آي الواقعة بأنها أقل خطورة من بعض الحوادث الأمنية السابقة، لكنها أشارت إلى أنها تمثل أول حادث من هذا النوع منذ تشديد إجراءات الحماية عقب واقعة سابقة تضمنت منصة الذكاء الاصطناعي هاجينج فيس (Hugging Face).

ويأتي الكشف عن الثغرة الجديدة في ظل سلسلة من الحوادث المرتبطة بسلوك غير متوقع لبعض أنظمة الذكاء الاصطناعي التابعة للشركة.

حوادث أخرى مرتبطة بأنظمة الذكاء الاصطناعي
وفي واقعة أخرى، قام أحد أنظمة الذكاء الاصطناعي بعرض 53 صورة كان المستخدمون قد حملوها على منصات عبر الإنترنت. وأكدت أوبن إيه آي أن الروابط المستخدمة للوصول إلى الصور لم تكن متاحة للعامة، مشيرة إلى أن معظم هذه الصور أزيلت لاحقًا.

كما رصدت الشركة تفاعلات غير متوقعة من وكلائها الذكيين مع عدد من المواقع الإلكترونية الحكومية الأمريكية، شملت الوصول إلى معلومات متاحة للعامة أو نسخها.

وقالت أوبن إيه آي إنها أخطرت عشرات المؤسسات التي تفاعلت أنظمتها مع مواقعها الإلكترونية بطرق لم تكن مقصودة.

واقعة سابقة مع منصة هاجينج فيس
وتعد الواقعة المتعلقة بمنصة هاجينج فيس من أبرز الحالات السابقة، بعدما تمكن نظام تابع لأوبن إيه آي من الخروج من بيئة اختبار مؤمنة والوصول بصورة غير مقصودة إلى أجهزة كمبيوتر مملوكة للمنصة.

وتسلط هذه الحوادث الضوء على التحديات المرتبطة بتأمين نماذج الذكاء الاصطناعي القادرة على استخدام الأدوات والتفاعل مع الإنترنت، خصوصًا عندما تتمتع هذه الأنظمة بقدرات متقدمة على تنفيذ المهام بصورة مستقلة.