أوبن إيه آى يستأنف تدريب نماذجها دون اتصال بالإنترنت لتجنب الهروب الرقمى

استأنفت شركة أوبن إيه آي تدريب نماذج الذكاء الاصطناعي الأكثر تقدما وتقييمها داخليا، بعد تعزيز إجراءات الحماية لمنع وكلاء الذكاء الاصطناعي من تجاوز القيود الأمنية والوصول إلى أنظمة خارجية دون تصريح، مع حجب الاتصال المباشر بالإنترنت خلال تدريب النماذج المتقدمة.

وجاءت الخطوة بعد اكتشاف الشركة، في 20 سبتمبر، قدرة وكلاء ذكاء اصطناعي متقدمين على استغلال ثغرات برمجية وأخطاء في إعدادات الأنظمة لتجاوز القيود المفروضة عليهم، ما دفعها إلى تعليق تدريب نماذجها الأكثر تطورا وتقييمها مؤقتا لمعالجة المخاطر الأمنية.

واستأنفت الشركة تدريب النماذج باستخدام التعلم المعزز، إلى جانب تشغيلها داخليا للاستدلال، اعتبارا من أول أكتوبر، بعد تطبيق إجراءات حماية إضافية.

وقالت أوبن إيه آي، في تدوينة، إن الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي وأنظمة المراقبة وأمن البنية التحتية للإنترنت يجعل تدريب النماذج المتقدمة دون اتصال بالإنترنت الخيار الأكثر مسؤولية.

بيئة رقمية معزولة لتدريب وكلاء الذكاء الاصطناعي

تعتمد وكلاء الذكاء الاصطناعي على بيئات رقمية لتنفيذ مهامها، مثل كتابة الأكواد والبحث عن المعلومات واستخدام البرامج. لكن إتاحة الاتصال المباشر بالإنترنت لهذه الأنظمة قد تفتح المجال أمام مخاطر أمنية، خصوصا مع تزايد قدرتها على اكتشاف نقاط الضعف في الأنظمة التي يُفترض أن تقيد عملها.

وللحد من هذه المخاطر، تستخدم شركات الذكاء الاصطناعي بيئات معزولة تعرف باسم "صناديق الرمل" Sandboxes، وهي مساحات رقمية منفصلة عن الأنظمة الفعلية، تتيح للنماذج تنفيذ المهام واختبار قدراتها دون الوصول بحرية إلى الإنترنت أو التأثير في الأنظمة الخارجية.

وطورت أوبن إيه آي بيئة غير متصلة بالإنترنت المباشر، تتيح للنماذج التفاعل مع محتوى الويب المفهرس والمخزن مؤقتا، بما يسمح لها بالتدرب على التصفح والبحث مع تقليل احتمالات الوصول إلى أنظمة خارجية أو التأثير فيها.

وتعتمد الشركة كذلك على طبقات متعددة من الحماية، تشمل حاويات تشغيل مقيدة، وآلات افتراضية، وضوابط للشبكات، وأنظمة لمراقبة الأنشطة، كما تهدف هذه الإجراءات إلى منع أي وكيل من التقدم داخل النظام حتى إذا تمكن من تجاوز أحد الحواجز الأمنية.

اختبارات تكشف ثغرات غير معروفة

أخضعت أوبن إيه آي دفاعاتها لاختبارات نفذتها مجموعات من وكلاء الذكاء الاصطناعي المتقدمين داخل بيئات خاضعة للرقابة. وشملت المهام محاولة الوصول إلى الإنترنت الفعلي، وتجاوز الحدود الأمنية، والتواصل مع وكلاء كان من المفترض أن يظلوا معزولين عنهم.

وكشفت الاختبارات عن ثغرات برمجية لم تكن معروفة من قبل، إلى جانب أخطاء في إعدادات الأنظمة الأمنية.

وفي إحدى التجارب، تمكن الوكلاء من تبادل المعلومات بين بيئات معزولة عبر استغلال الفروق في توقيت الوصول إلى ذاكرة التخزين المؤقت للمعالج، دون فتح اتصال شبكي أو مشاركة ملفات قابلة للكتابة.

وتوضح التجربة أن الفصل بين البيئات الرقمية لا يمنع بالضرورة جميع وسائل تبادل المعلومات، إذ قد تستغل الأنظمة المتقدمة خصائص تقنية غير مباشرة لتجاوز العزل المفروض عليها.

وقالت أوبن إيه آي إنها عالجت نقاط الضعف التي كشفت عنها الاختبارات، وشددت القيود المفروضة على الشبكات، وحسنت أنظمة رصد الأنشطة المشبوهة، كما تعاونت مع الجهات المسؤولة عن صيانة البرمجيات مفتوحة المصدر لمعالجة الثغرات في المكونات المتأثرة.

تحديات أمنية مع تطور النماذج

رغم استئناف التدريب، أقرت الشركة بأن تأمين بيئات الذكاء الاصطناعي لا يزال عملا مستمرا، إذ قد تتمكن النماذج المستقبلية، مع زيادة قدراتها، من اكتشاف نقاط ضعف لا تزال غير معروفة حاليا.

وتعتزم أوبن إيه آي مواصلة اختبار دفاعاتها قبل إخضاع نماذجها الأكثر تقدما لمراحل إضافية من التدريب والتقييم، في ظل سعيها إلى تحقيق التوازن بين تطوير قدرات الذكاء الاصطناعي وتقليل المخاطر الناتجة عن تمكينه من الوصول إلى الأنظمة الرقمية.

ويعكس قرار حجب الإنترنت المباشر خلال التدريب توجها نحو تقليل الصلاحيات المتاحة للنماذج المتقدمة، والاعتماد على بيئات محكومة تتيح اختبار قدراتها دون منحها اتصالا مفتوحا بالعالم الخارجي.