تستخدم شركة OpenAI مئات العاملين المتعاقدين لقراءة ومراجعة محادثات حقيقية لمستخدمي ChatGPT، بهدف تحسين نماذج الذكاء الاصطناعي الخاصة بها، وفقًا لتحقيق نشره موقع 404 Media استنادًا إلى وثائق داخلية مسربة، وقنوات على تطبيق Slack، وأدلة إرشادية، إلى جانب مطالبات حقيقية قدمها المستخدمون.

وتأتي مراجعة محادثات ChatGPT، وفقًا للتقرير، ضمن جهود OpenAI لتحسين نماذج الذكاء الاصطناعي الخاصة بها، حيث تتم هذه المهمة تحت الاسم الرمزى Project Lily، ويُسمح للمراجعين في بعض الحالات بالاطلاع على محادثات كاملة بين المستخدمين والذكاء الاصطناعي، والتي قد تتضمن معلومات شخصية وحساسة.

كيف يراجع الموظفون محادثات ChatGPT؟

يختلف هذا النوع من المراجعة عن إجراءات فحص السلامة التي تعلن عنها الشركة، مثل المحادثات التي يتم الإبلاغ عنها بسبب وجود تهديدات بإيذاء النفس أو الآخرين، ويُطلب من المتعاقدين تقييم مدى جودة استجابة ChatGPT للمطالبات، وتلخيص ما يحاول المستخدم الوصول إليه، ثم تقييم عدة إجابات قدمها النموذج،وبحسب التحقيق، يستخدم المراجعون لوحة تحكم تعرض في البداية مطالبة حقيقية كتبها أحد مستخدمي ChatGPT، ثم يكتب المراجع ملخصًا قصيرًا لنية المستخدم، ويقيّم أربع إجابات مختلفة قدمها ChatGPT، مع تحديد الأجزاء التي تتوافق أو لا تتوافق مع التعليمات الخاصة بالنموذج الذي يتم تدريبه.

ويُطلب من المراجعين تحديد ثلاثة أجزاء على الأقل من الإجابة وشرح أسباب تقييمهم لها، ثم منح كل إجابة درجة من 1 إلى 7، تبدأ من إجابة «غير مقبولة وغير صالحة للاستخدام»، وصولًا إلى إجابة «يصعب تحسينها بشكل جوهري».

لماذا تقرأ OpenAI محادثات المستخدمين؟

توضح الوثائق التي راجعها موقع 404 Media أن المراجعين يساعدون في تدريب ChatGPT ليكون أقل ميلًا إلى تقليد أسلوب البشر أو الموافقة العمياء على المستخدمين، وهي الظاهرة المعروفة باسم المجاملة المفرطة للذكاء الاصطناعي أو Sycophancy،  ويفحص المراجعون ما إذا كانت إجابات النموذج واضحة وطبيعية ودافئة بالشكل المناسب، مع تجنب استخدام عدد مبالغ فيه من الرموز التعبيرية، أو المصطلحات التي تبدو وكأنها صادرة عن الذكاء الاصطناعي، أو محاولة تقليد أسلوب المستخدم بشكل مصطنع، أو الادعاء بامتلاك تجارب واقعية، كما يُفترض أن يتوافق النموذج مع نبرة المستخدم وأسلوبه في الحديث، دون أن يوحي بأنه إنسان أو يمتلك مشاعر حقيقية.

هل يعرف المستخدمون أن البشر قد يقرأون محادثاتهم؟

يشير التحقيق إلى أن أحد العاملين الذين تحدثوا مع الموقع لم يعتقد أن معظم المستخدمين يعرفون أن محادثاتهم قد يطلع عليها أشخاص حقيقيون، وفي بعض الحالات، تضمنت المطالبات التي شاهدها المراجعون طلبات مباشرة من المستخدمين إلى ChatGPT للحفاظ على محتوى المحادثات سريًا، ورغم أن أسماء المستخدمين لا تظهر للمراجعين، فإن المحادثات نفسها قد تحتوي على معلومات شخصية أو حساسة، وفي بعض الحالات، يمكن للمراجعين أيضًا رؤية ملخص لما يُعرف باسم «ذاكرة المستخدم»، والذي يعرض معلومات حول الموضوعات التي استخدم الشخص ChatGPT فيها سابقًا، وقد يتضمن أحيانًا تفاصيل مثل مكان إقامته.

وتقول OpenAI إن المحادثات تمر عبر مرشح للخصوصية Privacy Filter، صُمم لإزالة المعلومات الشخصية قبل وصولها إلى المراجعين، إلا أن الشركة تقر بأن هذا المرشح قد يفشل أحيانًا في اكتشاف بعض التفاصيل الحساسة.

كيف تمنع OpenAI من استخدام محادثاتك في تدريب النماذج؟

عندما سأل المحققون OpenAI عن المكان الذي تُبلغ فيه المستخدمين بأن بعض المحادثات قد يراجعها بشر بهدف تحسين نماذج الذكاء الاصطناعي، لم تقدم الشركة في البداية إجابة واضحة، لكنها أشارت لاحقًا إلى قسم على موقعها الإلكتروني يوضح أن بعض المحتوى قد يخضع للمراجعة البشرية، كما أوضحت الشركة أن المستخدمين يمكنهم منع استخدام محادثاتهم لتحسين نماذجها من خلال إيقاف إعداد «Improve the model for everyone»، ويكون هذا الإعداد مفعّلًا افتراضيًا لمستخدمي الخطط Free وPlus وPro، ويُطبق على المحادثات الجديدة فقط، بينما يكون مغلقًا افتراضيًا في حسابات Enterprise وBusiness وEdu، ووفقًا لما تحقق منه موقع India Today، ظهر خيار «Improve the model for everyone» مفعّلًا افتراضيًا على كل من تطبيق ChatGPT والموقع الإلكتروني، ولإيقافه، يمكن للمستخدم الدخول إلى Settings > Data Controls ثم تعطيل الخيار.

OpenAI ليست الشركة الوحيدة التي تراجع محادثات المستخدمين

ولا تعد OpenAI الشركة الوحيدة التي تستخدم مراجعين بشريين لفحص محادثات مستخدمي الذكاء الاصطناعي، وبحسب التقرير، أكدت شركة Anthropic أيضًا أنها تستخدم مراجعين بشريين لتحسين نموذج Claude، بينما تحذر خدمة Gemini التابعة لشركة Google المستخدمين من أن بعض المحادثات المحفوظة قد تخضع للمراجعة البشرية، ويعيد ذلك فتح النقاش حول خصوصية محادثات الذكاء الاصطناعي، خاصة مع توسع استخدام ChatGPT وغيره من أدوات الذكاء الاصطناعي في طرح أسئلة شخصية وحساسة، وهو ما يجعل معرفة المستخدم بكيفية التعامل مع بياناته أمرًا أكثر أهمية.