أعلنت شركة OpenAI إتاحة خيار عدم الاحتفاظ بالبيانات (Zero Data Retention) لعملاء واجهة برمجة التطبيقات (API) المؤهلين الذين يستخدمون نماذج الذكاء الاصطناعي المتقدمة، بالتزامن مع إطلاق نظام جديد يحمل اسم Private Safety Processing، يهدف إلى مراقبة سلامة استخدام النماذج دون كشف محتوى العملاء لموظفي الشركة، وبموجب سياسة عدم الاحتفاظ بالبيانات، لا تحتفظ أوبن إيه آي بالمطالبات التي يرسلها العملاء أو بمخرجات النماذج بعد الانتهاء من معالجة الطلب، كما تؤكد الشركة أن محتوى العملاء لا يكون متاحًا للمراجعة من جانب موظفيها، وأن بيانات المؤسسات لا تُستخدم لتدريب نماذج أوبن إيه آي، إلا إذا اختار العميل السماح بذلك صراحة.

لماذا يمثل الأمر أهمية للشركات؟

وبحسب تقرير بموقع cybersecuritynews، تستهدف الخطوة واحدة من أبرز العقبات التي تواجه توسع الشركات في استخدام الذكاء الاصطناعي، خاصة المؤسسات التي تتعامل مع بيانات شديدة الحساسية، مثل السجلات المالية والمعلومات الصحية والبيانات التجارية السرية والأبحاث الخاصة، وتحتاج العديد من القطاعات الخاضعة للرقابة إلى معرفة مكان تخزين بياناتها، ومن يمكنه الوصول إليها، والمدة التي تظل خلالها محفوظة، وهو ما يجعل سياسات الاحتفاظ بالبيانات عنصرًا أساسيًا عند اعتماد تقنيات الذكاء الاصطناعي.

كيف تراقب أوبن إيه آي إساءة الاستخدام دون الاطلاع على البيانات؟

توضح OpenAI أن إساءة استخدام نماذج الذكاء الاصطناعي قد لا تكون واضحة من خلال طلب واحد أو إجابة واحدة، خصوصًا مع تطور الأنظمة التي تستطيع تنفيذ مهام طويلة ومستقلة، فعلى سبيل المثال، قد يحاول شخص ما اختبار إجراءات الحماية عدة مرات، أو تنسيق نشاط ضار عبر حسابات متعددة، أو إخفاء طلبات ضارة داخل طلبات تبدو وكأنها لأغراض بحثية مشروعة، وهنا يأتي دور نظام Private Safety Processing، الذي صُمم لتحليل الأنماط بين التفاعلات المرتبطة، بدلًا من فحص كل تفاعل بصورة منفصلة، مع استخدام عمليات آلية لا تمنح موظفي أوبن إيه آي إمكانية الوصول إلى المحتوى نفسه.

البيانات تظل تحت سيطرة العميل

بالنسبة إلى عمليات النشر التي يتحكم فيها العميل، تظل البيانات على البنية التحتية التي يديرها العميل، وتعمل OpenAI أيضًا على نموذج يمكن من خلاله تخزين المحتوى على بنيتها التحتية، لكن مع تشفيره باستخدام مفاتيح يتحكم فيها العميل،ووفق هذا النموذج، لا يمتلك موظفو أوبن إيه آي نسخًا من مفاتيح التشفير، وبالتالي لا يستطيعون الوصول إلى المطالبات أو الردود الموجودة داخل البيانات المشفرة، وعندما ترصد الأنظمة الآلية نشاطًا قد يمثل إساءة استخدام، تتلقى أوبن إيه آي إشارة محدودة تحدد فئة النشاط الخطِر، بدلًا من الحصول على محتوى العميل الأصلي.

إشارة خطر بدلًا من قراءة المحادثة

يمكن استخدام هذه الإشارة في اتخاذ قرارات تتعلق بإنفاذ سياسات الاستخدام، بينما لا تكشف عن المحتوى الأصلي للعميل، ويمكن للمؤسسات التحقيق في التنبيهات باستخدام السجلات الموجودة داخل بيئاتها الخاصة. كما يمكنها، بشكل اختياري، تقديم البيانات ذات الصلة إذا أرادت الاعتراض على قرار، أو توضيح أن النشاط مشروع، أو المساعدة في تحقيق موثوق بشأن إساءة الاستخدام.