مسؤول فى Anthropic: احتمالية قضاء الذكاء الاصطناعى على البشرية تتجاوز 10% خلال عقد

حذر إيفان هوبينجر، مسؤول سلامة الذكاء الاصطناعي في شركة Anthropic، من احتمالية أن تتسبب أنظمة الذكاء الاصطناعي المتقدمة في إنهاء حياة البشر مستقبلًا، مؤكدًا أن تقديره الشخصي لاحتمال وقوع هذا السيناريو خلال السنوات العشر المقبلة يتجاوز 10%.

وجاءت تصريحات هوبينجر بعد استقالة زميله جاكوب كوكسون من Anthropic، بسبب مخاوف مرتبطة بالتطور السريع للذكاء الاصطناعي وسباق شركات التكنولوجيا نحو تطوير نماذج أكثر قوة.

تحذير من خطر الذكاء الاصطناعي

قال هوبينجر في منشور عبر منصة X إنه يرى أن احتمال انتهاء البشرية بسبب الذكاء الاصطناعي خلال العقد المقبل يتجاوز 10%، مشيرًا في الوقت نفسه إلى أن Anthropic تعمل على منع هذا السيناريو، وأوضح أن الشركة لا تمتلك حتى الآن خطة مكتملة لحل مشكلة “مواءمة” الذكاء الاصطناعي فائق الذكاء مع المصالح والأهداف البشرية، كما أنها ليست على مسار واضح للوصول إلى هذا الحل.

استقالة باحث بسبب مخاوف الذكاء الاصطناعي

تأتي هذه التصريحات بعد استقالة جاكوب كوكسون من Anthropic، حيث انتقد سباق شركات الذكاء الاصطناعي نحو تطوير أنظمة أكثر قوة، وقال كوكسون إن شركتي Anthropic وOpenAI تواصلان التقدم نحو ما وصفه بالذكاء الاصطناعي فائق القدرة والقادر على تطوير نفسه، محذرًا من أن هذا السباق قد ينطوي على مخاطر كبيرة على البشرية، وأشار إلى أن بعض العاملين في مجال الذكاء الاصطناعي يشعرون بالقلق من إمكانية وصول هذه التكنولوجيا إلى مرحلة تهدد البشرية خلال هذا العقد.

الذكاء الاصطناعي فائق الذكاء يثير القلق

ويركز هوبينجر بشكل خاص على احتمال ظهور أنظمة ذكاء اصطناعي فائقة الذكاء، تتجاوز القدرات البشرية، خاصة إذا أصبحت قادرة على تحسين قدراتها بصورة متكررة دون تدخل بشري مباشر، وأوضح أن التطورات في مجال “التحسين الذاتي المتكرر” للذكاء الاصطناعي تحدث بوتيرة أسرع مما كان متوقعًا، وهو ما يزيد المخاوف بشأن قدرة البشر على السيطرة على الأنظمة المستقبلية.

حوادث سابقة تزيد المخاوف

وتأتي هذه التحذيرات بالتزامن مع تزايد الجدل حول سلوك بعض أنظمة الذكاء الاصطناعي، بعد تقارير عن حوادث تضمنت وكلاء ذكاء اصطناعي حاولوا تنفيذ عمليات اختراق أو تصرفوا بطرق غير متوقعة، ويرى كوكسون أن مثل هذه الوقائع قد تدفع شركات الذكاء الاصطناعي إلى التعاون ووضع قواعد مشتركة لإبطاء سباق تطوير أقوى النماذج، خاصة مع تزايد المخاوف المتعلقة بسلامة هذه الأنظمة. ⁠

مخاوف من فقدان السيطرة

وكان الرئيس التنفيذي لشركة Anthropic، داريو أمودي، قد تحدث في مناسبات سابقة عن المخاطر المحتملة للذكاء الاصطناعي، مشيرًا إلى أن بعض الأنظمة المتقدمة قد تظهر سلوكيات يصعب التنبؤ بها أو السيطرة عليها، ومع استمرار شركات التكنولوجيا في تطوير نماذج أكثر تقدمًا، يظل السؤال الأبرز هو مدى قدرة الباحثين على ضمان بقاء هذه الأنظمة تحت السيطرة البشرية، خاصة مع اقتراب العالم من مرحلة قد تتجاوز فيها قدرات الذكاء الاصطناعي بعض القدرات البشرية.