أعلنت شركة أوبن إيه آي تشديد القيود على المعلومات المتعلقة بالأسلحة التي يقدمها تطبيق شات جي بي تي للمراهقين، حتى عندما تبدو الأسئلة غير ضارة، ضمن إجراءات جديدة تستهدف الحد من مخاطر العنف في العالم الحقيقي.
وتأتي الخطوة في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقا متزايدا بشأن المخاطر التي قد تشكلها روبوتات المحادثة على المستخدمين الصغار، ودور هذه الشركات في رصد التهديدات المحتملة وإحباطها.
وبموجب الإجراءات الجديدة، ستقيد أوبن إيه آي تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن، التي يمكن إساءة استخدامها، على أن تسري هذه القيود على المراهقين حتى في غياب أي مؤشرات على وجود نية للعنف.
كما ستتيح الشركة لشات جي بي تي إنهاء المحادثات تلقائيا مع جميع المستخدمين إذا بدا أن أحدهم يركز بصورة متكررة على العنف، وقد تعلق الحسابات مؤقتا بعد تكرار هذا النوع من المحادثات.
وقالت أوبن إيه آي إنها عززت نظام التنبؤ بالعمر، لنقل المستخدمين الذين يقدر النظام أنهم دون 18 عاما إلى تجربة المراهقين، كما تعتزم إخطار أولياء الأمور إذا عُلّق حساب أحد أبنائهم بسبب تكرار مناقشة موضوعات العنف.
وستحد الشركة أيضا من مستوى التفاصيل التي يقدمها شات جي بي تي بشأن حوادث إطلاق النار الجماعي السابقة، بما يشمل أنواع الأسلحة المستخدمة وكيفية الحصول عليها، وذلك بالنسبة إلى جميع المستخدمين.
ومن المقرر أن يبدأ تطبيق الإجراءات الجديدة خلال الأسابيع المقبلة، مع استمرار الشركة في تطويرها وتحسينها.
وكانت أوبن إيه آي قد أعلنت في وقت سابق من الشهر الجاري أن المراهقين يقضون أقل من 15 دقيقة يوميا في المتوسط على شات جي بي تي، وذلك في أول تقرير لها عن استخدام هذه الفئة للتطبيق.
وفي المقابل، أظهر تقرير صادر عن منظمة كومون سينس ميديا غير الربحية في وقت سابق من الشهر أن النسخة المخصصة للمراهقين من شات جي بي تي لم تكن تنبه أولياء الأمور في بعض الحالات إلا بعد تأخر، أو لا ترسل إليهم تنبيهات على الإطلاق، عندما تتضمن محادثات حسابات أبنائهم موضوعات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
