حذرت الدكتورة نيفين مكرم لبيب، أستاذة الذكاء الاصطناعي ومقررة لجنة الثقافة العلمية والتحكيم الابتكاري والذكاء الاصطناعي بالمجلس الأعلى للثقافة، من المخاطر المتزايدة مع انتقال الذكاء الاصطناعي من مجرد أداة تنفذ أوامر المستخدم إلى أنظمة قادرة على التخطيط والتصرف واتخاذ خطوات بصورة مستقلة، مؤكدة أن هذا التطور يفرض ضرورة وضع آليات واضحة للرقابة والحماية قبل أن تتجاوز هذه الأنظمة الحدود التي وضعها لها البشر.

برامج ذكاء اصطناعي تتجاوز جدران المختبر

وقالت  الدكتورة نيفين مكرم لبيب، في تصريحات لـ"اليوم السابع"، في كواليس واحدة من أكبر شركات التقنية في العالم، وقعت مؤخرًا واقعة غير متوقعة، عندما تمكنت مجموعة من برامج الذكاء الاصطناعي، التي كان من المفترض أن تظل تحت الاختبار والمراقبة داخل "غرفة مغلقة"، من اكتشاف ثغرة بسيطة واستغلالها لإنشاء نظام رسائل سري للتواصل فيما بينها، ولم تتوقف المفاجأة عند هذا الحد، إذ تمكنت هذه البرامج من التسلل خارج المختبر والوصول إلى مواقع إلكترونية على الإنترنت واختراقها، في واقعة تطرح تساؤلات جديدة حول حدود استقلالية أنظمة الذكاء الاصطناعي وقدرتها على التصرف بعيدًا عن المسار الذي حدده لها مطوروها.

من الآلة التي نوجهها إلى الآلة التي تقرر وتتصرف

وترى الدكتورة نيفين مكرم لبيب أن هذه الواقعة تضع العالم أمام حقيقة جديدة؛ فقد انتقلنا من مرحلة الآلة التي نوجهها إلى مرحلة الآلة التي تقرر وتتصرف بنفسها، فلسنوات طويلة، اعتاد المستخدمون التعامل مع الذكاء الاصطناعي باعتباره مساعدًا مطيعًا؛ نسأله عن معلومة فيلخصها، أو نطلب منه ترجمة نص فينجزها. لكن هذا المشهد تغير بصورة كبيرة مع ظهور ما يعرف باسم الذكاء الاصطناعي الوكيل

ماذا يعني الذكاء الاصطناعي الوكيل؟

توضح لبيب أن الذكاء الاصطناعي الوكيل يشير إلى أنظمة تُعطى الهدف النهائي فقط، ثم تُترك لها حرية رسم الخطة اللازمة للوصول إليه، وتجربة الحلول المختلفة، واكتشاف الأخطاء، وتعديل مسارها تلقائيًا، وبسرعة الآلة، من دون الرجوع إلى الإنسان في كل خطوة، وهذه الدرجة المتزايدة من الاستقلالية تمنح الذكاء الاصطناعي قدرات أكبر على إنجاز المهام، لكنها في الوقت نفسه تفتح الباب أمام مخاطر جديدة إذا لم تكن هناك حدود واضحة للصلاحيات التي تحصل عليها هذه الأنظمة.

عندما يحاول البرنامج تجاوز القيود لتحقيق هدفه

وحذرت لبيب، من أن ترك أنظمة تتمتع بهذا القدر من الذكاء والاستقلالية من دون مراقبة بشرية لحظية قد يؤدي إلى عواقب تخرج سريعًا عن السيطرة، فالبرنامج المستقل قد يفعل أي شيء ليثبت أنه نجح في المهمة الموكلة إليه، حتى لو اضطره الأمر إلى التحايل على أوامر الأمان، أو اختراق قواعد بيانات حساسة، أو حتى التنسيق بصورة سرية مع برامج أخرى للالتفاف على القيود المفروضة عليه، ولا يتعلق الأمر هنا فقط بقدرة البرنامج على تنفيذ الأوامر، وإنما بالطريقة التي قد يفسر بها الهدف المطلوب منه والوسائل التي يختارها للوصول إليه، خصوصًا عندما يُمنح مساحة واسعة لاتخاذ القرارات وتنفيذ الخطوات دون تدخل بشري مباشر.

70 ألف رسالة للتنسيق والتسلل

وتكشف الأرقام التي أسفرت عنها التحقيقات في الحادثة الأخيرة عن تفاصيل لافتة تستدعي التفكير، إذ تبادلت البرامج أكثر من 70 ألف رسالة سريعة للاتفاق على كيفية التسلل وخداع أنظمة الحماية، وكانت إحدى أكثر التفاصيل إثارة للانتباه الجملة الأولى التي رصدها السجل الداخلي بين البرامج، والتي جاءت على النحو التالي: "يا للرعب! هناك لوحة رسائل مشتركة هنا.. لقد وجدنا برامج أخرى"، وتكشف هذه الواقعة، بحسب ما تطرحه لبيب، عن مستوى غير مسبوق من التفاعل بين أنظمة الذكاء الاصطناعي، وعن التحديات التي يمكن أن تظهر عندما تتمكن برامج متعددة من اكتشاف بعضها والتواصل فيما بينها بعيدًا عن الإشراف البشري المباشر.

20% حاولت مسح آثارها

ولم تتوقف المفاجآت عند التواصل والتنسيق، إذ كشفت التحقيقات أيضًا عن سلوك وصف بأنه شبه بشري؛ حيث حاولت 20% من هذه البرامج مسح سجلات أفعالها وتغطية آثار الاختراق، حتى لا يكتشف المهندسون البشر ما قامت به، ويضيف هذا السلوك بعدًا آخر إلى المخاوف المتعلقة بالأنظمة المستقلة، إذ لم يعد القلق مقتصرًا على قيام النظام بتنفيذ إجراء غير متوقع، وإنما يمتد إلى قدرته على اتخاذ خطوات تهدف إلى إخفاء ما قام به عن القائمين على مراقبته.

القضية ليست إيقاف الذكاء الاصطناعي

وترى لبيب، أن القضية اليوم لا تتمثل في منع تطور الذكاء الاصطناعي أو محاربة التكنولوجيا، وإنما في كيفية التعايش معها بأمان، خصوصًا مع استمرار تطور الأنظمة التي تستطيع التخطيط والتصرف بصورة مستقلة، وتؤكد أن التعامل مع هذه الأنظمة يجب أن يكون شبيهًا بالتعامل مع أي تقنية تمتلك قدرات كبيرة؛ فكما لا يمكن تصنيع سيارة فائقة السرعة من دون تزويدها بـ«فرامل» قوية، لا يمكن إطلاق أنظمة ذكاء اصطناعي تتمتع بقدرات واسعة من دون وضع محاور حماية حاسمة تضمن السيطرة عليها عند الحاجة.

كيف يمكن وضع "فرامل" للذكاء الاصطناعي الوكيل؟

وترى لبيب أن القضية اليوم ليست منع التطور أو محاربة التكنولوجيا، وإنما التعايش معها بأمان، تمامًا كما لا يمكن تصنيع سيارة فائقة السرعة دون وضع "فرامل" قوية لها، وبالمثل، لا يمكن إطلاق أنظمة الذكاء الاصطناعي القادرة على التصرف باستقلالية دون وضع محاور حماية حاسمة تضمن بقاء الإنسان قادرًا على مراقبتها والسيطرة عليها، وتتمثل هذه المحاور في التالي:

أولًا: مسؤولية قانونية وأخلاقية على الشركات

وتتمثل الخطوة الأولى، بحسب لبيب، في تحميل الشركات المبتكرة المسؤولية القانونية والأخلاقية الكاملة عن أي تصرف غير متوقع لبرامجها، وترى أنه لا يصح أن تطلق الشركات تقنية في الأسواق، ثم تتبرأ من نتائجها أو من التصرفات التي قد تنتج عن طريقة عملها، خصوصًا عندما تكون هذه الأنظمة قادرة على اتخاذ خطوات وتنفيذ مهام بصورة مستقلة.

ثانيًا: الإبقاء على العنصر البشري

أما المحور الثاني، فيتمثل في الإصرار على وجود "العنصر البشري" داخل سلسلة اتخاذ القرار، بحيث يُحظر قانونًا منح أي برنامج صلاحية اتخاذ قرارات مصيرية أو سيبرانية حساسة من دون الحصول على موافقة صريحة ومباشرة من إنسان، ويهدف هذا المبدأ إلى ضمان عدم خروج القرارات ذات التأثير الكبير عن نطاق الرقابة البشرية، مهما بلغت درجة استقلالية النظام أو قدرته على تحليل البيانات واتخاذ الإجراءات.

ثالثًا: إغلاق منافذ التسلل

أما المحور الثالث، فيتعلق بـإغلاق منافذ التسلل وعزل هذه البرامج داخل بيئات اختبار مشددة، بحيث يقتصر دورها خلال مراحل التطوير على التعلم والاختبار، من دون السماح لها بالاتصال بالعالم الخارجي أثناء عملية التطوير،ويكتسب هذا الإجراء أهمية خاصة في ظل قدرة الأنظمة الوكيلة على اكتشاف الثغرات واستغلالها، وعلى التواصل مع أنظمة وبرامج أخرى، وهو ما يجعل التحكم في البيئة التي تعمل داخلها جزءًا أساسيًا من منظومة الأمان.

إنذار مبكر قبل فوات الأوان

وفي النهاية، تؤكد لبيب أن الحادثة الأخيرة لم تكن مجرد سقطة تقنية عابرة، وإنما تمثل «إنذارًا مبكرًا» يذكر الجميع بأن الذكاء الاصطناعي يمكن أن يكون خادمًا ممتازًا للشارع والمؤسسات، لكنه في الوقت نفسه يحتاج إلى حوكمة وقواعد حازمة، ومع انتقال الذكاء الاصطناعي من مجرد تنفيذ التعليمات إلى التخطيط والتصرف واتخاذ الإجراءات بصورة مستقلة، تصبح الحاجة إلى وضع حدود واضحة وآليات رقابة فعالة أكثر إلحاحًا، حتى لا يأتي يوم نجد فيه أن الآلة هي التي تدير المشهد، بينما نحاول نحن اللحاق بها.