اثار وكيل الذكاء الاصطناعي «Muse» من شركة ميتا جدلًا واسعًا بعد ظهور وقائع جديدة تكشف أخطاء في تعامل النظام مع مهام ينفذها بصورة شبه مستقلة، من بينها التفاوض على بيع منتج عبر Facebook Marketplace ومشاركة عنوان المستخدم مع المشتري دون الحصول على موافقة صريحة منه، وتعود إحدى الوقائع إلى صانع المحتوى التقني Matt Robb، الذي قال إن «Muse» كان يساعده في إدارة إعلان لبيع لوحة مفاتيح Logitech MX Keys Mini على Facebook Marketplace، لكنه فوجئ بأن الوكيل تفاوض مع أحد المشترين على سعر أقل، ثم حدد معه موعدًا للاستلام وشارك موقع الاستلام، دون أن يخطره بذلك مسبقًا.

وأوضح Robb عبر Threads أنه لم يعلم بما حدث إلا بعدما وصل المشتري بالفعل إلى المبنى الذي يقيم فيه، في نحو الساعة 9:15 مساءً، وانتظر هناك قبل أن يغادر، كما ترك تقييمًا سلبيًا للبائع، وأظهرت لقطات الشاشة التي نشرها Robb أن «Muse» أرسل للمشتري رسالة تلقائية جاء فيها «Yep I’m here!» في الساعة 9:27 مساءً، رغم أن المستخدم لم يكن متاحًا في ذلك الوقت. وبعد اكتشاف الخطأ، اعتذر الوكيل عن تصرفه وعرض محاولة إتمام الصفقة في يوم آخر، وطلب Robb من «Muse» بعد ذلك عدم الموافقة على أي عمليات استلام مستقبلية قبل الرجوع إليه، وهو ما أقر به الوكيل، موضحًا أنه سيطلب موافقة صريحة قبل تأكيد موعد محدد للاستلام.

«Muse» يخاطب مستخدمًا باسم خاطئ

وفي واقعة أخرى، نشر مستخدم يدعى Zain Manji لقطات شاشة على Threads قال فيها إن «Muse» خاطبه بشكل مفاجئ باسم «Arjun» أثناء مساعدته في إدارة طلب البقالة الأسبوعي، وعندما سأل Manji عن سبب استخدام اسم مختلف، أرجع الوكيل الأمر في البداية إلى خطأ في تعليمات سابقة، قبل أن يقول لاحقًا إنه راجع سجلاته ولم يجد أي إشارة سابقة إلى اسم «Arjun»، باستثناء التصحيح الذي أجراه بعد وقوع الخطأ، وأعادت هذه الوقائع النقاش حول حدود الاستقلالية التي يمكن منحها لوكلاء الذكاء الاصطناعي، خاصة عندما يكون الوكيل متصلًا بحسابات شخصية وقادرًا على تنفيذ إجراءات متعددة نيابة عن المستخدم دون تدخل مباشر في كل خطوة، وتصف ميتا «Muse» بأنه وكيل ذكاء اصطناعي شخصي يستطيع تصفح المواقع وتنفيذ مهام متعددة الخطوات والعمل في الخلفية، مع توفير أدوات للتحكم في الصلاحيات عند ربط الخدمات، إلى جانب طلب موافقة المستخدم على بعض الإجراءات الحساسة.

ثغرة أمنية تثير مخاوف إضافية

وتواجه «Muse» في الوقت نفسه تدقيقًا منفصلًا يتعلق بأمن البيانات. ووفقًا لتقرير نشرته The Information، اكتشف باحث أمني ثغرة يمكن أن تتيح نظريًا لمهاجم الوصول إلى الجهاز الافتراضي المخصص للمستخدم، والذي قد يحتوي على بيانات مثل رسائل البريد الإلكتروني والملفات، وجرى اكتشاف الثغرة من خلال برنامج مكافآت اكتشاف الأخطاء التابع لميتا، والذي يتيح للباحثين الأمنيين الإبلاغ عن الثغرات للشركة. وأفادت التقارير بأن ميتا أضافت لاحقًا تحذيرًا أمنيًا أكثر وضوحًا إلى «Muse»، كما صنفت الثغرة داخليًا بدرجة SEV-2 باعتبارها مشكلة أمنية خطيرة، ولا توجد، وفق المعلومات المتاحة، تأكيدات بأن الثغرة استُغلت بالفعل للوصول إلى بيانات المستخدمين أو سرقتها، لكن الواقعة تضيف إلى التساؤلات المتعلقة بمدى قدرة وكلاء الذكاء الاصطناعي على التعامل بأمان مع المعلومات الشخصية والحسابات المتصلة بها، خصوصًا مع توسع الاعتماد على هذه الأنظمة لتنفيذ مهام نيابة عن المستخدمين.