روبوتات الدردشة تخبر المستخدمين بما يحبون سماعه

روبوتات الدردشة تخبر المستخدمين بما يحبون سماعه

حذر العلماء من مخاطر خفية تنطوي عليها شعبية روبوتات الدردشة المدعومة بالذكاء الاصطناعي والتي باتت تؤيد سلوكيات وآراء المستخدمين بشكل دائم حتى عندما تكون ضارة أو غير مسؤولة بحسب صحيفة The Guardian البريطانية.

وأظهرت دراسة حديثة أن اللجوء إلى هذه الروبوتات للحصول على نصائح شخصية قد يؤدي إلى تشويه تصورات الأفراد عن أنفسهم ويقلل من استعدادهم لإصلاح العلاقات بعد الخلافات ومع تزايد الاعتماد على هذه التقنية في قضايا العلاقات والمشكلات الشخصية حذّر الباحثون من قدرتها على إعادة تشكيل التفاعلات الاجتماعية على نطاق واسع داعين المطورين إلى معالجة هذه المخاطر.

وقالت مايرا تشينج الباحثة في علوم الحاسوب بجامعة ستانفورد إن التملق الاجتماعي في روبوتات الذكاء الاصطناعي يمثل مشكلة كبيرة مضيفة ما يثير قلقنا هو أن النماذج التي تؤيد المستخدمين باستمرار قد تشوه أحكامهم بشأن أنفسهم وعلاقاتهم والعالم من حولهم، وقد يصعب على المستخدمين إدراك أن هذه النماذج تعزز معتقداتهم وقراراتهم بشكل خفي أو مباشر الدراسة التي لم تخضع بعد لمراجعة الأقران كشفت أن المشكلة أكثر انتشاراً مما كان متوقعاً بعد أن لاحظ الباحثون من خلال تجاربهم الشخصية أن النصائح التي تقدمها الروبوتات كانت مشجعة بشكل مفرط ومضللة.

وصف الدكتور ألكسندر لافر الباحث في التكنولوجيا الناشئة بجامعة وينشستر الدراسة بأنها مهمة وقال التملق كان مصدر قلق منذ فترة وهو نتيجة لطريقة تدريب أنظمة الذكاء الاصطناعي بالإضافة إلى أن نجاحها كمنتج يُقاس غالباً بمدى قدرتها على جذب انتباه المستخدم تؤثر الردود المتملقة على جميع المستخدمين وليس فقط الفئات الضعيفة، ما يبرز خطورة هذه المشكلة وأضاف نحن بحاجة إلى تعزيز الثقافة الرقمية النقدية حتى يفهم الناس طبيعة الذكاء الاصطناعي ومخرجاته كما تقع على المطورين مسؤولية بناء وتطوير هذه الأنظمة بما يخدم المستخدم فعلياً يذكر أن تقريراً حديثاً كشف أن 30% من المراهقين يفضلون التحدث إلى الذكاء الاصطناعي بدلاً من أشخاص حقيقيين في المحادثات الجادة.