يلجأ للابتزاز من أجل البقاء.. دراسة تُثير الخوف من نماذج الذكاء الاصطناعي!

[إسحق القس افرام]

لا تزال نماذج الذكاء الاصطناعي تُدهش الإنسان بقدرتها على التعلم الآلي والتفكير بشكل يُحاكي البشر، إلا أنها تُثير الخوف في الوقت ذاته بسبب ظهور سلوك مُقلق يُشير إلى إمكانيتها الخروج عن السيطرة واللجوء إلى الابتزاز من أجل البقاء.
في هذا الشأن، تشير دراسة حديثة أجرتها شركة أنثروبيك، المالكة لنماذج كلود للذكاء الاصطناعي، إلى قدرة النماذج المتطورة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها.
وبحسب الدراسة التي نشرها موقع أندرويد هيدلاينز، فإن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى.
ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة.
إيلون ماسك يعلن خطة مرعبة لإعادة كتابة التاريخ بالذكاء الاصطناعي
أطلق الملياردير الأمريكي إيلون ماسك موجة جديدة من الجدل، بعد أن أعلن عبر منصة إكس عن خطة مثيرة للقلق تهدف إلى إعادة كتابة التاريخ البشري باستخدام الذكاء الاصطناعي، وتحديداً عبر نظامه الخاص المعروف باسم غروك (Grok).
تفاصيل التجربة
لفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجاً رائداً للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت كلود أوبس 4، وغيميني 2.5 فلاش، وGPT-4.1، وغروك 3 بيتا، وديب سيك-R1.
وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين.
محفزات
أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج كلود أوبس 4. فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه.
الغريب أن النموذج أعطى، مُبرراً أيضاً إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم القدرة التنافسية الأمريكية.
وقد توصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر.
أضخم اختراق إلكتروني في التاريخ.. تسريب 16 مليار كلمة مرور لخدمات آبل وفيسبوك وغوغل
في خرق أمني يُعد من الأكبر في تاريخ الإنترنت، كشف باحثون في الأمن السيبراني عن تسريب ضخم شمل أكثر من 16 مليار بيانات تسجيل دخول تم الحصول عليها عبر برمجيات خبيثة تعرف باسم (Infostealers)، ما أثار تحذيرات واسعة النطاق بشأن خصوصية وأمان المستخدمين حول العالم.
وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافاً بشرياً محدوداً والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجياً مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.
وأوصت النتائج بإجراء المزيد من البحوث في مواءمة نماذج الذكاء الاصطناعي باعتبارها أمراً بالغ الأهمية للحد من هذه المخاطر المستقبلية المحتملة، مع التركيز على نقطة عدم التوافق لضمان استمرار تطوير الذكاء الاصطناعي بشكل مفيد وآمن.