أنثروبيك تقترح حظر نماذج الذكاء الاصطناعى عالية الخطورة بأوامر قضائية

اقترحت شركة أنثروبيك، المتخصصة في تطوير تقنيات الذكاء الاصطناعي، منح السلطات في ولاية كاليفورنيا الأمريكية صلاحية اللجوء إلى القضاء لوقف إطلاق نماذج الذكاء الاصطناعي التي تثبت التقييمات المستقلة أنها تمثل خطرًا جسيمًا، في خطوة تستهدف تعزيز الرقابة على النماذج المتقدمة والحد من المخاطر المحتملة لاستخدامها، ووفقًا للتقرير الوارد عن الشركة، جاء المقترح ضمن خطاب أرسلته أنثروبيك إلى حاكم كاليفورنيا جافين نيوسوم في 15 أكتوبر، ردًا على أفكار طُرحت بشأن سلامة الذكاء الاصطناعي، حيث دعت الشركة إلى وضع آلية تتيح للمدعي العام في الولاية طلب أمر قضائي لتعليق نشر نموذج أو استخدامه داخليًا أو مواصلة تطويره، إذا أظهرت التقييمات وجود خطر وشيك قد يؤدي إلى أضرار كارثية.

أنثروبيك تدعو إلى رقابة مستقلة على نماذج الذكاء الاصطناعي

تتضمن المقترحات إنشاء آلية تسمح لجهات مستقلة متخصصة في التحقق من سلامة النماذج برفع تقارير المخاطر إلى المدعي العام في كاليفورنيا، بما يتيح اتخاذ إجراءات قانونية عند الضرورة، بدلًا من الاعتماد على قرارات الشركات المطورة وحدها في تقييم المخاطر التي قد تنتج عن تقنياتها، كما دعت الشركة مطوري نماذج الذكاء الاصطناعي المتقدمة إلى نشر تقارير عن المخاطر مرة كل 6 أشهر على الأقل، مع منح الجهات المستقلة صلاحيات وصول إلى المعلومات اللازمة للتقييم، بما يقارب ما يتاح لفرق السلامة داخل الشركات، مع مراعاة حماية بيانات العملاء والمعلومات الحساسة.

«مفتاح إيقاف» الذكاء الاصطناعي ليس الحل الوحيد

وتطرقت أنثروبيك إلى فكرة ما يُعرف باسم «مفتاح الإيقاف» (Kill Switch)، الذي يتيح تعطيل نموذج الذكاء الاصطناعي سريعًا عند ظهور مخاطر أمنية أو تشغيلية، مؤكدة أهمية امتلاك الشركات القدرة على إيقاف النماذج التي تقدمها للمستخدمين أو تستخدمها داخليًا.

لكن الشركة حذرت من الاعتماد على الإيقاف وحده باعتباره ضمانًا كافيًا للسلامة، مشيرة إلى أن تعطيل النموذج بالكامل قد لا يكون الإجراء الأنسب في جميع الحالات، وقد يمنح شعورًا زائفًا بالأمان إذا لم يصاحبه نظام متكامل لمراقبة المخاطر والاستجابة لها، وبدلًا من ذلك، طرحت الشركة نهجًا يعتمد على «قواطع الأمان» (Circuit Breakers)، وهي آليات لمراقبة سلوك أنظمة الذكاء الاصطناعي واكتشاف المشكلات والتدخل عند ظهورها، سواء على مستوى النموذج أو الوكيل الذكي أو المستخدم المستفيد من الخدمة، وأشارت الشركة إلى أن إيقاف النموذج لا يعالج بالضرورة جميع السيناريوهات الخطيرة، ومنها احتمال نسخ النموذج لأوزانه ونقلها إلى أجهزة كمبيوتر خارج نطاق سيطرة الجهة المطورة، وهو ما يعكس تعقيد التحديات المرتبطة بالتحكم في أنظمة الذكاء الاصطناعي المتقدمة.

كاليفورنيا تبحث تشديد قواعد سلامة الذكاء الاصطناعي

يأتي المقترح في وقت تتجه فيه كاليفورنيا إلى بحث قواعد أكثر صرامة لتنظيم سلامة الذكاء الاصطناعي، وسط نقاشات أمريكية أوسع حول كيفية التعامل مع النماذج عالية الخطورة، وتحديد مسؤولية الشركات المطورة عنها.

ووفقًا للمعلومات الواردة في التقرير، قدمت شركة OpenAI أيضًا مقترحات إلى حاكم كاليفورنيا في 20 أكتوبر، تضمنت دعم إجراءات للسيطرة على النماذج عالية الخطورة وآليات للرقابة والتدقيق، لكن مقترح أنثروبيك تميز بالدعوة إلى إتاحة اللجوء للقضاء لوقف نشر النماذج التي تشكل خطرًا بالغًا، وتسلط هذه المقترحات الضوء على تحول النقاش بشأن الذكاء الاصطناعي من التركيز على قدراته وتطبيقاته إلى وضع آليات واضحة للمساءلة والتقييم المستقل والتدخل القانوني، خاصة مع توسع استخدام الوكلاء الذكيين القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة.