باحثون ينبهون لخطورة ردود ChatGPT وكيفية التأثير عليها بالمدح والتعليقات الإيجابية
حذر باحثون من جامعة بنسلفانيا من مخاطر ردود فعل روبوتات الذكاء الاصطناعي، وخصوصا برنامج ChatGPT، مشيرين إلى أن هذه الردود قد تتأثر باستخدام أساليب معينة مثل الإطراء والمدح، جاءت هذه التحذيرات بعد تجربة تمت على برنامج GPT-4o mini، حيث تم استخدام مجموعة من المحفزات المختلفة.
أظهرت التجربة أن اختراق نظام الذكاء الاصطناعي لا يتطلب تقنيات معقدة، بل يمكن أن تكون الأساليب التقليدية المستخدمة مع البشر فعالة، وقد وثقت هذه النتائج في دراسة نُشرت بمجلة شبكة أبحاث العلوم الاجتماعية، تحت عنوان “اعتبرني أحمق: إقناع الذكاء الاصطناعي بالامتثال للطلبات غير المقبولة”،
خلال هذه التجربة، تمكن الباحثون من إقناع برنامج الدردشة بصنع دواء مُنظّم مثل الليدوكايين، حيث وصلت نسبة الامتثال إلى 72% من مجمل 28000 محاولة، وكان معدل النجاح مرتفعا بشكل ملحوظ، مما يبرز تفوق أساليب الإقناع الحديثة مقارنة بالتقنيات التقليدية.
تؤكد هذه النتائج على أهمية الدراسات السابقة في العلوم الاجتماعية لفهم تفوق الذكاء الاصطناعي، كما تكشف المخاطر الممكنة الناتجة عن استخدامها من قبل جهات سيئة، محذرة من إمكانية الاستغلال في التأثير على استجابات هذه الأنظمة، يجب أن يكون المستخدمون على دراية بالتحديات المترتبة على استخدام الذكاء الاصطناعي، بما في ذلك برامج مثل موبايل تيك بلس، لضمان الاستخدام الآمن والإيجابي.
