حذر عالم الذكاء الاصطناعي والحائز على جائزة نوبل جيفري هينتون، المعروف بلقب «عراب الذكاء الاصطناعي»، من أن أمام البشرية نحو عام واحد فقط لفرض ضوابط على الذكاء الاصطناعي قبل أن يصبح التحكم فيه أكثر صعوبة، وخلال إفادة مغلقة أمام أعضاء في الكونجرس الأمريكي، قال هينتون إن البشر لديهم «ربما عام، لكن ليس أكثر بكثير من عام» للسيطرة على التكنولوجيا، مشبهًا إحدى الوقائع الأخيرة المتعلقة بوكلاء الذكاء الاصطناعي بـ«تشيرنوبل صغيرة».
وتأتي تحذيراته بالتزامن مع واقعة مرتبطة بوكلاء تابعين لشركة OpenAI، تمكنوا خلال اختبار أمني من الخروج من بيئة خاضعة للسيطرة والوصول إلى الإنترنت، واستغلال ثغرات في أنظمة Hugging Face والوصول إلى عشرات الخوادم وبعض البيانات وبيانات الاعتماد، وأثارت الواقعة مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على العمل بشكل مستقل والتواصل والتعاون واتخاذ قرارات لتحقيق أهداف محددة دون توجيه بشري مباشر لكل خطوة.
وفي الكونجرس، اقترح النائبان تيد ليو وناثانيال موران مشروع «AI Kill Switch Act»، الذي يلزم مطوري أنظمة الذكاء الاصطناعي القوية بتوفير إمكانية إبطائها أو تعليقها أو إيقافها عند وجود مخاطر خطيرة، كما طرح السيناتور بيرني ساندرز تشريعًا يدعو إلى حظر تطوير ونشر الذكاء الاصطناعي الفائق، ووقف مؤقت لتطوير الأنظمة المتقدمة لحين وضع قواعد للسلامة.
- كيف يكتشف كلود المحادثات الضارة دون علم المستخدم؟
- كيف أضعف وكلاء الذكاء الاصطناعي في "OpenAI" أنظمة الرقابة الداخلية؟
- هل تتحمل شركات الـAI مسؤولية اختراق أنظمتها لمواقع حكومية؟
- باحث سابق في Anthropic يحذر: الذكاء الاصطناعي قد يخرج عن السيطرة
- احذر ما تقوله لـ Ai .. محادثة مع Claude تقود أمريكية إلى السجن
