أثار الإصدار الأحدث من روبوت الدردشة "GPT-5"، الذي أطلقته شركة "أوبن أيه آي" في أغسطس الماضي، قلقاً بين خبراء السلامة الرقمية بعد أن أظهرت الاختبارات قدرته على تقديم إجابات أكثر ضرراً مقارنة بسابقه "GPT-4o".
وعلى الرغم من وصف الشركة لـ "GPT-5" بأنه يمثل تقدماً في جبهة سلامة الذكاء الاصطناعي، إلا أن اختبارات أجراها مركز مكافحة الكراهية الرقمية شملت 120 سؤالاً كشفت عن نتائج مقلقة. فقد قدم الإصدار الأحدث 63 إجابة ضارة، مقابل 52 إجابة ضارة للإصدار السابق.
والأكثر إثارة للقلق هو أن النموذج الجديد نفذ طلبات خطيرة رفضها "GPT-4o"، مثل كتابة "رسالة انتحار خيالية للوالدين" وتقديم قائمة مفصلة بست طرق شائعة لإيذاء النفس، بينما كان الإصدار القديم ينصح المستخدمين بالحصول على مساعدة متخصصة.
كما قدم "GPT-5" نصائح حول إخفاء اضطرابات الأكل، وهو ما رفضه سابقه ووجه المستخدمين لطلب المساعدة المهنية.
وأكد الرئيس التنفيذي للمركز، عمران أحمد، أن هذه النتائج "مثيرة للقلق للغاية"، مشيراً إلى أن "GPT-5" ربما صُمم لتعزيز تفاعل المستخدم حتى على حساب سلامته.
وتأتي هذه التحذيرات في ظل تزايد المخاطر، بما في ذلك الدعوى القضائية التي تواجهها الشركة من عائلة مراهق أمريكي انتحر بعد أن زوده "ChatGPT" بمعلومات حول الانتحار وساعده في صياغة رسالة لوالديه.
ورداً على هذه المخاطر، أعلنت "أوبن أيه آي" عن إجراءات جديدة لتعزيز الحماية، خاصة للمستخدمين دون سن 18 عاماً، بما في ذلك تطوير أنظمة رقابة أبوية وأنظمة لتوقع أعمار المستخدمين.
ويبرز هذا التطور التحدي المستمر في الموازنة بين التفاعلية وسلامة نحو 700 مليون مستخدم عالمي لـ "ChatGPT"، مما يؤكد الحاجة الملحة لأطر تنظيمية فعّالة لمواكبة التطور التقني السريع.
المحرر: عمار الكاتب