قالت الدكتورة نيفين مكرم، نائب رئيس الجمعية المصرية لنظم المعلومات وتكنولوجيا الحاسبات، إن الذكاء الاصطناعي لا يزال تحت سيطرة الإنسان حتى الآن، لكن الخطر الحقيقي يكمن في إمكانية منحه حرية اتخاذ القرار بشكل كامل دون رقابة أو تدخل بشري، مؤكدة أن ذلك قد يؤدي إلى خروج الأنظمة عن السيطرة في حال استخدامها في موضوعات حساسة مثل الحياة أو الموت أو الحروب.

تقنيات التعلم العميق والتعلم الآلي تسمح للأنظمة بالتطور ذاتيًا

وأوضحت مكرم، خلال تصريحاتها عبر القناة الأولي المصرية، أن الإنسان ما زال صاحب القرار في التعامل مع الذكاء الاصطناعي، سواء في استخدامه كمساعد أو منحه صلاحيات واسعة، مشيرة إلى أن المشكلة لا تكمن في التقنية نفسها بل في طريقة استخدامها والبيانات التي تتم تغذيتها بها، مما قد يؤدي إلى نتائج خاطئة إذا كانت المعطيات غير دقيقة أو تم توجيه النظام بشكل غير صحيح.

وأضافت نائب رئيس الجمعية المصرية لنظم المعلومات أن تقنيات التعلم العميق والتعلم الآلي تسمح للأنظمة بالتطور ذاتيًا واكتساب خبرات جديدة دون الرجوع للمبرمج، وهو ما قد تنتج عنه سلوكيات غير متوقعة أو قرارات خاطئة، لافتة إلى أن هذا يختلف تمامًا عن الأخطاء البرمجية التقليدية التي يمكن اختبارها وتصحيحها قبل الاستخدام.