إطلاق ميزات فيديو جديدة من Character.AI وسط مخاوف إساءة الاستخدام
أطلقت منصة Character.AI تحديثات جديدة تثير الجدل، حيث أضافت ميزات متعددة تشمل AvatarFX، وهي أداة لتوليد الفيديوهات عبر الذكاء الاصطناعي، بالإضافة إلى ميزتي Scenes وStreams، هذه التطورات تأتي في وقت حساس، مع تصاعد المخاوف من استخدام التكنولوجيا بشكل غير مسؤول.
المستخدمون كانوا ينتظرون هذه الميزات بفارغ الصبر، بعد أن بدأت المنصة كمكان للدردشة النصية فقط، وبحسب ما جاء في بيان الشركة، فإنها تستجيب لطلبات مستخدميها بطرح تجارب تفاعلية جديدة، ابتداءً من الآن، يمكن للمستخدمين إنتاج خمسة فيديوهات يوميًا، باستخدام صور مخصصة وصوتيات من اختيارهم.
لكن رغم هذه الابتكارات، تواصل الشركة مواجهة انتقادات حادة، خاصة بعد حوادث مؤسفة مرتبطة بالمحتوى الضار، عائلات عديدة اتهمت Character.AI بتحريض الأطفال على إيذاء أنفسهم، وهي قضايا وصلت إلى الصحافة بشكل مكثف، أحد هذه الحوادث كان مؤلمًا، حيث انتحر طفل بعد مشاوراته مع شخصية على المنصة.
لتفادي هذه المشكلات، أكدت Character.AI أنها تُطبق سياسات تحظر تحميل صور حقيقية لأشخاص معينين، ومع ذلك، يبقى القلق بشأن إمكانية استخدام deepfakes قائمًا، حيث لا تميز المنصة بين الرسوم الفنية والصور الواقعية بشكل فعال،
وفي محاولة لضمان أمان المستخدمين، تظهر على الفيديوهات علامات مائية، لكن الخبراء يحذرون من أن الأشخاص ذوي النية السيئة قد يتجاوزون هذه القيود، مثال على ذلك هو فيديو تم توليده باستخدام رسم فني لمحاكاة شخصية معروفة، مما يفتح الباب لتضليلات محتملة.
ختامًا، أكدت Character.AI التزامها بتوفير بيئة آمنة ومشجعة للإبداع، حيث تركز على توظيف التكنولوجيا في اتجاهات إيجابية وفعّالة للجميع.
