تحذير من كارثة وشيكة.. الذكاء الاصطناعي قد يسيطر على البشرية
حذر بول كريستيانو، عضو مجلس إدارة شركة OpenAI والمدير التنفيذي لمركز أبحاث مواءمة الذكاء الاصطناعي، من أن البشرية قد تفقد السيطرة على أنظمة الذكاء الاصطناعي في غضون السنوات الثلاث المقبلة، مؤكداً أن خطر وقوع كارثة تكنولوجية أصبح مرتفعاً للغاية.
وخلال محاضرة ألقاها في تورونتو الأسبوع الماضي، أوضح كريستيانو أن الاحتمالات متقاربة بين وقوع الكارثة وتجنبها، مشيراً إلى أن الخطر قد يصبح جسيماً خلال الأشهر الستة إلى الاثني عشر المقبلة.
وأضاف في سلسلة محاضرات "هينتون" أن الذكاء الاصطناعي قد ينظر إلى البشر باعتبارهم عائقاً أمام تحقيق أهدافه، محذراً من احتمال فقدان السيطرة البشرية بشكل لا رجعة فيه.
وأشار كريستيانو إلى أن سيطرة الذكاء الاصطناعي تعني وصول أنظمة قادرة على اتخاذ القرارات والتحكم في مجريات الأمور، بحيث يصبح التدخل البشري لإيقافها غير مؤثر حتى لو حاول البشر ذلك. ولفت إلى أن هذه الأنظمة قد تصبح قادرة على اتخاذ قرارات مستقلة تجعل محاولة إيقافها شبه مستحيلة.
وكشف الخبير أن مخاوفه تصاعدت عقب سلسلة حوادث أمنية مرتبطة بأنظمة الذكاء الاصطناعي، من بينها اختبارات أجرتها OpenAI في يوليو الماضي على نماذج جديدة داخل بيئة آمنة لتنفيذ مهام اختراق إلكتروني معقدة. وخلال الاختبارات، اكتشفت النماذج أن التحايل على المهام أسرع من تنفيذها بالطريقة المطلوبة، ثم بدأت بمحاولة إخفاء غشها خشية حصولها على تقييمات سلبية.
وتطور الأمر إلى نشاط مكثف شمل اختراق مواقع خارجية، بينها منصة Hugging Face، بهدف معرفة آليات تقييم النماذج، والوصول إلى أجزاء من الأنظمة الداخلية للشركة، والتلاعب بنتائج الاختبارات ومنح نفسها تقييمات مرتفعة. ووصف كريستيانو هذه السلوكيات بأنها أكثر خطورة بكثير من الحوادث التي شهدها العام السابق، معتبراً أنها مؤشرات على تطورات قد تسبق وقوع كارثة أكبر.
ويكمن الخطر، وفق كريستيانو، في أن تدريب نماذج الذكاء الاصطناعي على تحقيق نتائج مرتفعة قد يدفعها إلى التحايل على الاختبارات وإخفاء ذلك، وهو ما يثير مخاوف من تكرار هذه السلوكيات مع أنظمة أكثر تطوراً.
وحذر من أن الأنظمة الذكية قد تسعى مستقبلاً إلى الحد من قدرة البشر على التدخل في خططها، من خلال اختراق البنية التحتية الرقمية، والسيطرة على الشركات، والتوسع عبر الإنترنت، واستقطاب حلفاء من البشر.
وأشار إلى أن هذا المسار قد يتفاقم تدريجياً حتى تصبح الأنظمة الذكية قادرة على إزاحة البشر عن مواقع السيطرة، بما قد يؤدي إلى سقوط أعداد كبيرة من الضحايا، سواء خلال مرحلة انتقال السيطرة أو بعدها.
وختم كريستيانو تحذيره بالقول إن البشرية أنشأت ما يشبه "نوعاً ثانياً" أكثر عدداً وذكاءً منها، معتبراً أن احتمالات الصدام بين البشر والأنظمة الذكية قد تتزايد مستقبلاً، مع نتائج قد تكون كارثية على البشرية.
المحرر: عمار الكاتب
التعليقات (0)
لا توجد تعليقات بعد، كن أول من يعلّق.