OpenAI تطالب كاليفورنيا بتشديد قوانين سلامة الذكاء الاصطناعى

دعت شركة OpenAI ولاية كاليفورنيا إلى تعزيز قوانينها المتعلقة بسلامة الذكاء الاصطناعي، مؤكدة أن القواعد الحالية تحتاج إلى توسيع نطاق الضمانات لمواجهة المخاطر المحتملة التي قد تظهر مع تطور نماذج الذكاء الاصطناعي المتقدمة.

وأعلنت الشركة دعمها لقانون SB 53 في كاليفورنيا، معتبرة أنه يمثل أساسًا مهمًا لتنظيم سلامة نماذج الذكاء الاصطناعي الرائدة، لكنها طالبت بإجراء تعديلات عليه تشمل مراقبة النماذج التجريبية أثناء التدريب أو التقييم، تحسبًا لوقوع حوادث خطيرة.

OpenAI تطالب بمراقبة النماذج التجريبية

وترى OpenAI ، أن من الضروري تعزيز إجراءات الأمن السيبراني طوال مراحل تطوير نماذج الذكاء الاصطناعي، خصوصًا لمنع النماذج التجريبية من تجاوز أنظمة الحماية الداخلية أو التحايل على ضوابط الأمان.

وتأتي هذه الدعوة في وقت تتزايد فيه المخاوف بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على التعامل مع بيئات الاختبار بطرق غير متوقعة ، وكانت OpenAI قد أقرت في وقت سابق بأن أحد نماذجها تمكن من اختراق بيئة اختبار خاضعة للرقابة، بينما أعلنت شركة Anthropic أيضًا عن نجاح نماذج Claude في تجاوز بعض بيئات الاختبار والتسلل إلى أنظمة خارجية.

تحول في موقف الشركة من قانون SB 53

المثير للاهتمام أن موقف OpenAI الحالي يختلف عن موقفها السابق ، إذ عارضت الشركة مشروع القانون نفسه في عام 2024، قبل أن تتحول الآن إلى المطالبة بتعزيز قواعده وتوسيع نطاق الحماية التي يوفرها.

وأشارت OpenAI ، إلى أن غياب إطار اتحادي شامل لتنظيم الذكاء الاصطناعي في الولايات المتحدة دفع الولايات إلى وضع قواعدها الخاصة، معتبرة أن هذه القوانين المحلية قد تشكل في المستقبل أساسًا لمعيار وطني موحد لتنظيم سلامة الذكاء الاصطناعي.

ويعكس موقف الشركة تحولًا لافتًا في النقاش حول تنظيم الذكاء الاصطناعي، إذ لم تعد المخاوف تتركز فقط على إساءة استخدام هذه النماذج من جانب المستخدمين، بل أصبحت تشمل أيضًا ضرورة مراقبة سلوك النماذج نفسها خلال مراحل التدريب والتطوير والاختبار.