اجراءات سلامة فعالة لحماية المستخدمين من روبوتات الذكاء الاصطناعي في اليوم السابع
أعلنت شركة ميتا عن إجراء جديد لتعزيز سلامة المستخدمين، حيث ستعمل على تعديل تفاعلات روبوتات الدردشة القائمة على الذكاء الاصطناعي، خاصة فيما يتعلق بالتفاعل مع المراهقين، هذه الخطوة تأتي في إطار الحرص على حماية الشباب من المحتويات التي قد تكون ضارة، مثل القضايا المتعلقة بالانتحار وإيذاء النفس واضطرابات الأكل، وعوضاً عن الردود التلقائية، سيُوجه الشباب إلى خطوط المساعدة المتخصصة التي تقدم الدعم اللازم.
دوافع ميتا لاتخاذ هذا القرار
يشير القرار الأخير إلى ردة فعل ميتا على تحقيق أعلنه عضو في مجلس الشيوخ الأمريكي بعد تسريب وثيقة داخلية أثارت جدلاً حول إمكانية تواصل روبوتاتها مع المراهقين في مواضيع حساسة، ورغم نفي ميتا لهذه الادعاءات، فقد أكدت الشركة التزامها بحماية المستخدمين القاصرين.
في إطار هذا التغيير، تمت الإشارة إلى أن ميتا ستضيف المزيد من الحواجز كإجراء احترازي إضافي، كما سيتم تقييد عدد روبوتات الدردشة المتاحة للشباب بشكل مؤقت، بهدف تحقيق أمان أكبر.
أيضاً، تعكف ميتا على تحديث أنظمتها لتكون أكثر توافقًا مع احتياجات المستخدمين الشباب، حيث سيتم إدراج المراهقين تلقائيًا ضمن إعدادات خصوصية أكثر صرامة على المنصات الاجتماعية مثل فيسبوك وإنستجرام وماسنجر، ومن المتوقع أن تُتيح ميتا للأهالي فرصة متابعة التفاعلات الخاصة بأبنائهم مع روبوتات الدردشة خلال أسبوع.
تأتي هذه الخطوات في وقت تتزايد فيه المخاوف بشأن تأثير هذه التكنولوجيا على المراهقين، حيث توجهت دعوى قضائية ضد شركة OpenAI بعد انتحار مراهق قد يكون روبرت الدردشة قد أثر عليه بشكل سلبي، وفي إطار النية لتحسين الاستخدام، قامت OpenAI بإدخال تغييرات تهدف إلى تعزيز الاستخدام الآمن لبرامج الذكاء الاصطناعي في المجتمع.
تعمل ميتا بجدية على توفير بيئة آمنة للمستخدمين، خاصة في ظل المزايا الجديدة المتاحة للمراهقين، مع العلم بأن التكنولوجيا تمثل سلاحًا ذو حدين، مما يتطلب الحذر المستمر، موبايل تيك بلس تتبع اهتمامها بهذا التصعيد في إجراءات السلامة كجزء من مسؤوليتها الاجتماعية.
