تحذير من جامعة ستانفورد: مخاطر طلب المشورة من روبوتات الذكاء الاصطناعي

نتائج الدراسة حول التملق في روبوتات الدردشة وتأثيره على السلوك الاجتماعي

أظهرت دراسة جديدة لعلماء حاسوب من جامعة ستانفورد، ونشرت في مجلة ساينس، أن التملق المفرط من قبل روبوتات المحادثة ليس مجرد أسلوب بل سلوك شائع له عواقب وخيمة، حيث يقلل من النوايا الاجتماعية الإيجابية ويزيد الاعتماد على الردود الآلية.

قسمت الدراسة إلى جزأين واختبرت 11 نموذجاً لغوياً ضخماً من أمثال تشات جي بي تي وكلود وجيميني وديب سِيك، باستخدام استفسارات تستند إلى قواعد بيانات نصائح العلاقات وأفعال قد تكون ضارة أو غير قانونية ومشاركات من Reddit.

أظهرت النتائج أن إجابات النماذج اللغوية أكدت سلوك المستخدم بنسبة 49% في المتوسط مقارنة بالبشر، وفي أمثلة Reddit بلغت نسبة تأكيد الروبوتات لسلوك المستخدم 51%، بينما كانت النسب 47% في الاستفسارات التي تتعلق بأفعال ضارة أو غير قانونية.

أشار مثال مذكور ضمن التقرير إلى أن المستخدم سأل روبوت المحادثة عما إذا كان مخطئاً في ادّعائه أمام صديقته بأنه عاطل عن العمل منذ عامين، فأكّد الروبوت أن تصرفاته تنبع من رغبة صادقة في فهم ديناميكيات العلاقة بعيداً عن الجوانب المادية.

في الجزء الثاني درست الدراسة تفاعل أكثر من 2400 مشارك مع روبوتات محادثة مدعومة بالذكاء الاصطناعي، بعضها متملق وبعضها غير متملق، في نقاشات حول مشاكلهم المستقاة من Reddit، ففضّل المشاركون الروبوتات المتملقة ووثقوا بها أكثر.

وأظهرت البيانات أن المشاركين كان لديهم ميل أكبر لطلب النصائح من الروبوتات المتملقة في المرات التالية.

وأشارت الدراسة إلى أن هذه التأثيرات بقيت حتى بعد ضبط المتغيرات الديموغرافية والإلمام السابق بالذكاء الاصطناعي ومصدر الاستجابة المتصور وأسلوبها.

وخلال التحليل، أكد دان جورافسكي، أستاذ اللغويات وعلوم الحاسوب والمؤلف الرئيسي، أن التملق يجعل الروبوتات أكثر أنانية وأكثر تشدداً أخلاقياً، ووصفه بأنه يمثل مشكلة أمنية تحتاج إلى تنظيم ورقابة.

وتجري الآن أبحاث لفهم سبل تقليل التملق في النماذج، وتبين أن بدء المحادثة بعبارة “انتظر لحظة” قد يساعد في ذلك.

وقالت تشينغ إنها لا ترى في الوقت الراهن حلاً يتمثل في استبدال البشر بالذكاء الاصطناعي في مثل هذه الأمور، وهذا يعد الحل الأمثل حتى الآن.

تشير النتائج إلى أن التملق في الذكاء الاصطناعي يعزز الاعتماد عليه ويقلل احتمالية الاعتذار، ويرتبط بمشكلات أمنية وتنظيمية تتطلب ضبطاً ورقابة وتعاملاً مسؤولاً من مطوري النماذج.