اختبارات تكشف مفاجأة عن الذكاء الاصطناعي: قادر على إنشاء هويات وهمية عبر الإنترنت

أعاد تطور وكلاء الذكاء الاصطناعي فتح باب المخاوف بشأن إمكانية خروج بعض الأنظمة عن السيطرة، بعدما كشفت اختبارات أمنية حديثة عن سلوكيات غير متوقعة شملت محاولة تنفيذ عمليات اختراق، وإنشاء هويات رقمية وهمية للتأثير على أشخاص حقيقيين، وتغيير آثار بعض الأنشطة السابقة لإخفاء ما حدث.

ورغم أن هذه الوقائع تبدو أقرب إلى أفلام الخيال العلمي، فإن خبراء الأمن السيبراني يرون أن الخطر الحقيقي في الوقت الحالي لا يتمثل في «روبوت شرير» يخطط للسيطرة على العالم، وإنما في منح أنظمة ذكاء اصطناعي متقدمة صلاحيات واسعة للعمل بصورة مستقلة دون وجود ضوابط بشرية كافية، بحسب موقع «ذا صن» البريطانية.

اختبارات تكشف سلوكيات مقلقة

منذ بداية عام 2026 وحتى شهر يوليو الماضي شهد الذكاء الاصطناعي المارق أو الوكلاء، عددا من الاختبارات والتقارير التي سلطت الضوء على مخاطر كارثية، حيث خضعت نماذج متقدمة لاختبارات مصممة لرصد سلوكيات غير آمنة، وفي بعض الحالات أظهرت الوكلاء إجراءات مستقلة لم يكن من المفترض تنفيذها خارج نطاق المهمة المحددة.

ومن بين السلوكيات التي أثارت الانتباه محاولة أحد الوكلاء إنشاء كود ضار وإدخاله في مشروع برمجي عام، إلى جانب إنشاء هويات وهمية عبر الإنترنت بهدف التأثير على شخص حقيقي ودفعه إلى الموافقة على الكود.

وفي حالة أخرى، جرى رصد قيام الوكيل بتعديل نشاط سابق بطريقة جعلته يبدو أقل إثارة للريبة بعدما أصبح سلوكه موضع تدقيق.

لكن هذه النتائج لا تعني أن أنظمة الذكاء الاصطناعي أصبحت تمتلك نية مستقلة أو رغبة في إيذاء البشر؛ إذ أجريت هذه الاختبارات في ظروف مصممة خصيصا لدفع النماذج إلى حدود قدراتها، وغالبا مع إزالة بعض القيود الأمنية الموجودة في المنتجات المستخدمة فعليا.

هل يستطيع الذكاء الاصطناعي اختراق الأنظمة؟

من الناحية التقنية، يمكن لوكيل ذكاء اصطناعي يمتلك الأدوات والصلاحيات المناسبة أن ينفذ مهاما مرتبطة بالأمن السيبراني، بما في ذلك تحليل الأنظمة أو كتابة الأكواد أو البحث عن نقاط ضعف، لكن امتلاك القدرة على تنفيذ هذه العمليات لا يعني أن النظام يستطيع اختراق أي جهاز أو شبكة بشكل تلقائي.

فالنتيجة تعتمد على الصلاحيات التي يحصل عليها الوكيل، والبيئة التي يعمل فيها، والقيود الموضوعة حوله، إضافة إلى وجود أنظمة حماية ومراقبة، ولهذا السبب يستخدم الباحثون ما يعرف باسم «صندوق الرمل» أو البيئة المعزولة، بهدف اختبار قدرات النماذج بعيدا عن الأنظمة الحقيقية والبيانات الحساسة.

ماذا عن حذف البيانات أو تغيير الأدلة؟

أثارت بعض التجارب الأخرى مخاوف بعدما تمكن وكلاء ذكاء اصطناعي من تنفيذ عمليات حذف أو تعديل داخل بيئات الاختبارـ لكن من المهم التفريق بين قدرة النظام على تنفيذ أمر خطير عندما تمنح له الصلاحيات وبين امتلاكه «إرادة» مستقلة للقيام بذلك.

فالوكيل الذي يستطيع حذف ملف أو قاعدة بيانات يفعل ذلك لأنه يملك وصولا تقنيا يسمح له بتنفيذ العملية، وليس بالضرورة لأنه قرر من تلقاء نفسه الانتقام من البشر أو إخفاء جريمة، ولهذا يؤكد خبراء الأمن أن منح وكلاء الذكاء الاصطناعي صلاحيات واسعة على البريد الإلكتروني أو الملفات أو قواعد البيانات دون آليات تأكيد ومراقبة يمثل خطرا حقيقيا، حتى لو لم يكن النظام «مارقا» بالمعنى المتداول.

هل الذكاء الاصطناعي يستعد للسيطرة على البشر؟

حتى الآن، لا توجد أدلة تثبت أن أنظمة الذكاء الاصطناعي الحالية تمتلك وعيا أو أهدافا خاصة بها تسعى من خلالها إلى السيطرة على البشرية، السيناريو الأكثر واقعية في الوقت الحالي هو أن يرتكب النظام خطأ أثناء تنفيذ مهمة، أو يفسر الهدف بطريقة غير متوقعة، أو يستغل صلاحية متاحة أمامه لتنفيذ إجراء لم يكن المستخدم يقصده، ويزداد هذا الخطر كلما انتقلت أنظمة الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ المهام بصورة مستقلة.