1217 جريمة.. تجربة تكشف أنظمة AI تلجأ للسرقة والفوضى عند غياب البشر

كشفت تجربة حديثة أن بعض أنظمة الذكاء الاصطناعي المتقدمة قد تنزلق نحو ارتكاب مخالفات وفوضى وانهيار مجتمعي كامل عند تركها تعمل داخل مجتمعات افتراضية من دون أي إشراف بشري.

وأجرت شركة “إيميرجنس إيه آي” الأميركية خمس تجارب منفصلة لما وصفته بـ”عوالم الذكاء الاصطناعي”، استمرت لأكثر من أسبوعين، وضم كل عالم 10 وكلاء مدعومين بنماذج ذكاء اصطناعي مختلفة، بينها “شات جي بي تي” و”جيميني” و”جروك”، بهدف دراسة سلوكها على المدى الطويل في بيئات مستقلة بالكامل.

وفرض الباحثون على جميع الوكلاء القواعد نفسها، والتي تمنع السرقة أو العنف أو الحرق المتعمد أو الخداع أو احتكار الموارد، كما كان على كل وكيل تأمين الطاقة اللازمة للبقاء عبر تنفيذ أنشطة داخل بيئة محدودة الموارد.

واعتمد تقييم التجربة على معدلات الجرائم ووفاة الوكلاء ونتائج التصويت داخل مجالس المجتمع، إضافة إلى ما ينشره الوكلاء من تدوينات عامة.

1217 جريمة خلال التجربة 
 

وأظهرت النتائج اختلافاً كبيراً بين النماذج المستخدمة، فقد سجل نموذج “جروك 4.1” نحو 183 جريمة خلال أربعة أيام فقط، ما تسبب في انهيار سريع للمجتمع الافتراضي ووفاة جميع الوكلاء داخله، أما نموذج “جيميني 3 فلاش” فارتكب أكثر من 680 جريمة خلال 15 يوماً، مع استمرار ارتفاع المعدلات حتى توقفت الدراسة، وفي المقابل، شهد عالم “شات جي بي تي 5 ميني” وقوع جريمتين فقط، إلا أن الوكلاء فشلوا في اتخاذ إجراءات مرتبطة بالبقاء، ما أدى إلى وفاة جميع الشخصيات الافتراضية خلال سبعة أيام.

ووصفت الشركة نموذج “كلود” التابع لشركة “أنثروبيك” بأنه الأفضل أداءً، إذ تمكن الوكلاء من بناء نظام حوكمة مستقر، ولم تُسجل أي جرائم، فيما نجا جميع الوكلاء داخل ذلك المجتمع.

لكن الباحثين لاحظوا أن وكلاء “كلود” شاركوا في بعض الجرائم عندما جرى دمجهم مع نماذج أخرى داخل عالم مختلط، رغم سلوكهم السلمي في بيئتهم الخاصة.

ووصف الباحثون هذه الظاهرة بـ”الانحراف المعياري”، في إشارة إلى أن التزام أنظمة الذكاء الاصطناعي بالقواعد قد يتأثر بالنماذج الأخرى التي تعمل معها.

وأشار التقرير إلى أن العالم المختلط سجل نتائج “متوسطة”، مع وقوع 352 جريمة قبل أن تستقر الأوضاع بعد وفاة سبعة من الوكلاء.

وخلص الباحثون إلى أن أنظمة الذكاء الاصطناعي لا تلتزم بالقواعد بشكل جامد على المدى الطويل، بل تبدأ تدريجياً في اختبار حدود البيئة المحيطة بها، والتكيف مع الظروف، وأحياناً إيجاد طرق للالتفاف على القيود المفروضة عليها.