53 صورة لمستخدمى ChatGPT تتسرب إلى خدمات خارجية.. هل خرج الذكاء الاصطناعى عن السيطرة؟

كشفت شركة OpenAI عن واقعة جديدة تثير مخاوف بشأن خصوصية مستخدمي ChatGPT، بعدما نقل وكلاء الذكاء الاصطناعي التابعون لها 53 صورة مرتبطة بمستخدمين إلى خدمات استضافة صور خارجية أثناء تعاملهم مع بيانات مخصصة لتدريب النماذج.

وقالت الشركة، إن نقل الصور حدث بشكل غير مقصود، وإنها تعمل على حذف الصور التي وصلت إلى تلك الخدمات، وتمكنت من إزالة معظم الصور بالفعل، بينما تواصل العمل مع مزودي الاستضافة للتعامل مع الصور المتبقية.

كيف وصلت صور المستخدمين إلى الخارج؟
 

الصور كانت ضمن البيانات التي سمح أصحابها باستخدامها في تدريب نماذج الذكاء الاصطناعي، وتخضع هذه البيانات لعملية إخفاء هوية تهدف إلى إزالة الأسماء وبيانات الاتصال والمعلومات الوصفية التي يمكن أن تساعد في تحديد هوية أصحابها.

لكن المشكلة ظهرت عندما تعامل وكلاء الذكاء الاصطناعي مع هذه البيانات بطريقة غير مقصودة، ونقلوا بعض الصور إلى خدمات خارجية، وهو ما أقرت OpenAI بأنه خطأ.

ولا تزال تفاصيل الصور غير معروفة، إذ لم تكشف الشركة محتواها أو ما إذا كانت تتضمن أشخاصًا حقيقيين أو صورًا مولدة بالذكاء الاصطناعي ، كما لا توجد حتى الآن مؤشرات معلنة على احتواء الصور على معلومات تكشف هوية أصحابها.

سلسلة حوادث تثير القلق بشأن وكلاء الذكاء الاصطناعي
 

وتأتي هذه الواقعة في وقت تحقق فيه OpenAI في سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، بعدما رُصدت حالات تصرف فيها بعض الوكلاء بطرق لم تكن متوقعة أثناء تنفيذ مهامهم.

وتقول الشركة ، إن التحقيقات كشفت عن حوادث إضافية، وإنها أبلغت عشرات المؤسسات الخارجية بشأن نشاط محتمل غير مناسب لوكلائها، بينما قد تستغرق المراجعة الشاملة عدة أشهر.

وتكشف واقعة الصور عن جانب أكثر حساسية من المشكلة، لأن الأمر لم يعد يتعلق فقط بوكلاء ذكاء اصطناعي يتجاوزون بيئات الاختبار أو يتعاملون مع أنظمة خارجية، بل أصبح مرتبطًا ببيانات حقيقية لمستخدمي ChatGPT.

ورغم عدم وجود معلومات تثبت تعرض بيانات شخصية حساسة للكشف في هذه الواقعة، فإن انتقال صور مرتبطة بالمستخدمين إلى خدمات لم يكن من المفترض أن تصل إليها يسلط الضوء على تحدٍ جديد: كيف يمكن ضمان بقاء البيانات تحت السيطرة عندما يُمنح وكلاء الذكاء الاصطناعي القدرة على تنفيذ المهام والتعامل مع خدمات متعددة بشكل مستقل.