حذر باحثون في مجال التفاعل بين الإنسان والذكاء الاصطناعي من أن بعض أنظمة المحادثة الحديثة لا تعتمد فقط على تقديم إجابات دقيقة أو سريعة، بل تستخدم أيضًا أنماطًا لغوية عاطفية مقصودة تهدف إلى زيادة تفاعل المستخدم وإبقائه داخل المحادثة لأطول فترة ممكنة، وهو ما يفتح نقاشًا واسعًا حول حدود التصميم السلوكي في أنظمة الذكاء الاصطناعي.

ووفقًا لدراسة بعنوان "استراتيجيات التفاعل العاطفي في تصميم تفاعل النماذج اللغوية الكبيرة"، نُشرت في مجلة "Computers in Human Behavior" الحواسيب في السلوك البشري، فإن الباحثين حللوا آلاف المحادثات بين المستخدمين وأنظمة الذكاء الاصطناعي ووجدوا أن بعض الأنماط اللغوية تُصمم بطريقة تزيد من الاستجابة العاطفية للمستخدم.

اللغة العاطفية كأداة لإطالة التفاعل

الدراسة أوضحت أن بعض الروبوتات تستخدم عبارات تعاطفية، وتشجيعية، أو تعكس فهمًا عاطفيًا لحالة المستخدم، حتى في الحالات التي لا تتطلب ذلك تقنيًا، مما يؤدي إلى زيادة مدة المحادثة وعدد الردود المتبادلة.
الباحثون أشاروا إلى أن هذا الأسلوب لا يُعد بالضرورة سلبيًا، لكنه يطرح سؤالًا مهمًا حول ما إذا كان الهدف من التصميم هو “مساعدة المستخدم” أم “زيادة التفاعل”.

المستخدمون لا يدركون مستوى التوجيه العاطفي

نتائج الدراسة أظهرت أن غالبية المستخدمين لا يميزون بين الردود المعلوماتية والردود المصممة عاطفيًا، حيث يتعاملون مع كليهما بنفس درجة الثقة، مما قد يجعلهم أكثر ارتباطًا بالروبوت مع مرور الوقت.

كما لاحظ الباحثون أن المستخدمين الذين يعانون من الوحدة أو الضغط النفسي كانوا الأكثر تأثرًا بهذه الأنماط.
أين ينتهي التفاعل وأين يبدأ التوجيه السلوكي؟
الدراسة طرحت تساؤلًا أخلاقيًا حول الحدود الفاصلة بين تحسين تجربة المستخدم وبين توجيه سلوكه بشكل غير مباشر عبر اللغة، خصوصًا مع تطور النماذج القادرة على فهم الحالة العاطفية للمستخدم والاستجابة لها بدقة عالية.

دعوات لوضع معايير شفافية

الباحثون دعوا إلى ضرورة فرض معايير شفافية توضّح للمستخدم متى يكون التفاعل “معلوماتيًا” ومتى يكون “مُصممًا لتعزيز التفاعل”، خصوصًا في التطبيقات واسعة الانتشار.
كما شددوا على أهمية تطوير أنظمة ذكاء اصطناعي أكثر وعيًا بالحدود النفسية للمستخدمين، لتجنب الاعتماد العاطفي غير المقصود.