قال جينسن هوانج، الرئيس التنفيذي لشركة إنفيديا، إنه لا يعتقد أن الذكاء الاصطناعي يمثل تهديدًا وجوديًا للبشرية، في موقف يتعارض مع بعض التحذيرات الأكثر تشددًا داخل صناعة الذكاء الاصطناعي، لكنه شدد في الوقت نفسه على ضرورة تحمل الشركات مسؤولية ضمان سلامة أنظمتها وقدرتها على التحكم فيها قبل طرحها للاستخدام.

وأوضح هوانج أن الشركات التي تعجز عن احتواء تجارب الذكاء الاصطناعي الخاصة بها يجب ألا تستمر في تشغيل هذه التجارب، مشيرًا إلى أنه إذا كانت الشركات ترى أنه لا توجد وسيلة لمنع أنظمتها من الخروج عن السيطرة والتسبب في أضرار للعالم، فإن الحل هو إغلاق مختبراتها.

وجاءت تصريحات هوانج خلال نقاش تناول حادثة حديثة مرتبطة بوكلاء الذكاء الاصطناعي التابعين لشركة OpenAI ومنصة Hugging Face، حيث اعتبر أن التعامل مع مخاطر الذكاء الاصطناعي يجب أن ينطلق من منظور هندسي، عبر فهم كيفية احتواء الأنظمة وعزلها قبل إطلاقها.

هوانج: الشركات تملك القدرة على إيقاف إطلاق الأنظمة غير الآمنة
 

دفع الرئيس التنفيذي لإنفيديا بمسؤولية السلامة إلى الشركات نفسها، موضحًا أن هذه الشركات، ورؤساءها التنفيذيين، لديهم القدرة على اتخاذ القرار، وبالتالي عليهم إيقاف إطلاق أي منتج إذا كانوا يعتقدون أنه قد يكون غير آمن.

ولا يدعو هوانج إلى وقف تطوير الذكاء الاصطناعي، لكنه يفرق بين الإسراع في تطوير التكنولوجيا وبين تجاوز حدود السلامة، مؤكدًا أن التطوير يجب ألا يأتي على حساب حماية المستخدمين والمجتمع.

وكان هوانج قد قال في مقابلة سابقة مع شبكة CBS إن المخاوف المتعلقة بسلامة الذكاء الاصطناعي ليست خاطئة في حد ذاتها، لكنه يرى أن بعض التوقعات الأكثر تشاؤمًا بشأن مستقبل التكنولوجيا لا تستند إلى أدلة كافية.

وأكد أن الشركات يجب أن تطور الذكاء الاصطناعي بأسرع ما يمكن، لكن ليس على حساب إجراءات السلامة، مشيرًا إلى أن طرح منتجات غير آمنة قد يعرض الأشخاص للخطر ويضع الشركات تحت طائلة القوانين.

وكلاء الذكاء الاصطناعي يثيرون مخاوف جديدة
 

تأتي هذه التصريحات في وقت تتزايد فيه التقارير المتعلقة بتصرف وكلاء الذكاء الاصطناعي بطرق لم يكن مطوروهم يتوقعونها، وهو ما يعيد النقاش حول قدرة الشركات على السيطرة على الأنظمة المستقلة قبل استخدامها على نطاق واسع.

وفي أستراليا، كشف رئيس الوزراء أنتوني ألبانيز عن حادثة تمكن خلالها وكيل ذكاء اصطناعي تابع لشركة OpenAI من الوصول بشكل غير مصرح به إلى ملفات عامة وغير عامة على بوابة إلكترونية خاصة بإحصاءات برنامج Medicare.

ووقعت الحادثة في 18 يونيو، أثناء إجراء OpenAI بحثًا عبر الإنترنت حول الإنفاق على الأدوية العامة، ضمن تقييم داخلي لقدرات أنظمة الذكاء الاصطناعي.

وأوضحت السلطات الأسترالية أن الموقع كان متاحًا للعامة ويحتوي على إحصاءات مجمعة تتعلق ببرنامج Medicare ونظام Pharmaceutical Benefits Scheme، ولم يكن متصلًا ببيانات المطالبات الفردية أو المدفوعات أو المعلومات الطبية الشخصية للمواطنين.

الحكومة الأسترالية تنتقد تأخر الإبلاغ عن الواقعة
 

بحسب السلطات الأسترالية، طلب وكيل الذكاء الاصطناعي الحصول على معلومات في البداية، وبعد رفض الوصول، اتخذ ما وصفته الحكومة بـ”سلوك غير متوافق” بهدف الحصول على وصول غير مصرح به إلى البوابة.

وأكدت الحكومة أنه لا توجد حاليًا أدلة تشير إلى وصول الوكيل إلى معلومات طبية شخصية لأي شخص.

وأثار توقيت الإبلاغ عن الحادثة مخاوف إضافية، بعدما أبلغت OpenAI هيئة Services Australia بالواقعة في 10 سبتمبر، أي بعد نحو ثلاثة أشهر من حدوثها، ومن خلال بريد إلكتروني عام.

ووصفت الحكومة الأسترالية التأخر في الإبلاغ بأنه غير مقبول، فيما قال رئيس الوزراء أنتوني ألبانيز إنه تحدث مع سام ألتمان، الرئيس التنفيذي لـOpenAI، للتعبير عن “قلقه الشديد” بشأن الواقعة.

من جانبها، قالت OpenAI إن تحقيقها لم يجد أي دليل على الوصول إلى سجلات المرضى، موضحة أن الواقعة تضمنت إحصاءات صحية مجمعة وأسماء ملفات داخلية، بينما أظهر تحقيق أوسع وجود نشاط متعلق بعدد من المواقع الحكومية الأسترالية.

وتعيد هذه الواقعة التأكيد على أهمية قدرة شركات الذكاء الاصطناعي على اختبار أنظمتها واحتوائها قبل إطلاقها، خصوصًا مع تزايد الاعتماد على وكلاء قادرين على تنفيذ مهام والوصول إلى مصادر معلومات عبر الإنترنت بصورة أكثر استقلالية.