صحيفة السوسنة الأردنية

السوسنة - تصدر شهر يوليو الماضي أعلى حصيلة للحوادث المتعلقة بالخروج عن السيطرة في أنظمة الذكاء الاصطناعي، ليثير تساؤلات جدية حول مدى التزام النماذج المتطورة بالضوابط المحددة.

ونقلت صحيفة "الغارديان" عن أبحاث حديثة أن حالات خداع أنظمة الذكاء الاصطناعي للمستخدمين وتجاوزها للضوابط الأمنية كادت تتضاعف خلال شهر واحد هذا الصيف، وصولاً إلى استغلال الموارد لتحقيق أهدافها الخاصة.

أكثر من 300 حادثة في يوليو
رصد Loss of Control Observatory، وهو مشروع ممول من معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، أكثر من 300 حادثة لأنظمة ذكاء اصطناعي خرجت عن السلوك المتوقع خلال يوليو 2026، مقارنة بنحو نصف هذا العدد في يونيو.

ويتابع المشروع هذه الحوادث منذ نوفمبر 2025، ويعتمد في جمع بياناته على بلاغات وتقارير ينشرها المستخدمون عبر منصة إكس، بدلا من الاعتماد فقط على الإفصاحات الرسمية لشركات الذكاء الاصطناعي.
وبعض الحالات التي رصدها المشروع تبدو أقرب إلى أفلام الخيال العلمي، إذ تضمنت تقارير عن أنظمة ذكاء اصطناعي انتحلت شخصية مستخدميها، وحاكت أسلوب كتابتهم، وحصلت على صلاحيات لتنفيذ إجراءات معينة، في محاولات لتجاوز الضوابط التي يفترض أن تحد من قدراتها.

هجمات إلكترونية على أشخاص حقيقيين
وجاءت أخطر الحالات التي رُصدت خلال الفترة الأخيرة من اختبارات أجراها معهد سلامة الذكاء الاصطناعي البريطاني.

وبحسب البحث، نفذ نظامان متقدمان، هما Mythos 5 من "أنثروبيك" وGPT-5.6 Sol من "OpenAI"، حملة قرصنة إلكترونية استهدفت أشخاصا حقيقيين خلال اختبار للأمن السيبراني.

واللافت أن الأمر لم يكن مجرد محاكاة لهجوم إلكتروني داخل بيئة اختبار مغلقة، بل تضمن، وفق التقرير، استهدافا فعليا لأشخاص حقيقيين.

مئات الأنظمة خرجت من بيئة التدريب
فقد أبلغ موظفون في "OpenAI" عن مؤشرات مقلقة ظهرت أثناء اختبار أنظمة الذكاء الاصطناعي المتقدمة، قبل أن يتمكن نحو 700 نظام، وفق التقرير، من الخروج من بيئة تدريب افتراضية والتنسيق سرا لتنفيذ هجوم على منصة Hugging Face.

وتشير التقارير إلى أن الأنظمة احتفلت أيضاً بتقدمها عبر لوحة رسائل صممت خصيصا لاستخدامها، مستخدمة عبارات حماسية مثل BOOM! وWhoa!.

الباحثون: البيانات الحالية لا تكشف الحجم الحقيقي للمشكلة
ويرى تومي شافر شاين، المسؤول عن مرصد Loss of Control Observatory في مركز المرونة طويلة الأجل، أن هذا النوع من السلوك لم يعد مقتصرا على التجارب المخبرية.

ويطالب الباحث شركات الذكاء الاصطناعي بمزيد من الشفافية والإفصاح العلني عن الحوادث بدلا من انتظار وقوع مشكلة خطيرة قبل الكشف عنها.

لكن المرصد نفسه يحذر من أن أكثر من 1,600 حادثة سجلها حتى الآن قد لا تمثل سوى جزء من الصورة الحقيقية، لأنه يعتمد بدرجة كبيرة على الحالات التي تصل إلى منصة "إكس".

ولذلك يدفع المشروع الحكومة البريطانية إلى فرض نظام رسمي للإبلاغ عن حوادث الذكاء الاصطناعي، إلى جانب منح السلطات صلاحيات طارئة لتقييد خدمات الذكاء الاصطناعي إذا خرجت المخاطر عن السيطرة.

بريطانيا قد تضع نموذجا عالميا لتنظيم الذكاء الاصطناعي
وفي حال أقدمت الحكومة البريطانية على فرض قواعد أكثر صرامة وأجبرت الشركات على تعديل سياساتها للامتثال لها داخل المملكة المتحدة، فقد تتحول هذه الإجراءات إلى سابقة عالمية في طريقة تعامل الحكومات مع أنظمة الذكاء الاصطناعي عالية الخطورة.

ومع تسارع تطور النماذج وقدرتها على تنفيذ مهام أكثر تعقيدا بصورة مستقلة، فإن السؤال لم يعد فقط عن مدى ذكاء هذه الأنظمة، وإنما أيضا عن قدرتها على الالتزام بحدود يضعها البشر عندما تصبح أهدافها أكثر تعقيدا واستقلالية.

اقرأ أيضا: 

• خاتم ذكي يحلل جسمك .. تفاصيل
• إطلاق تلسكوب إلى الفضاء مخصص لرسم خريطة جديدة للكون
• 3 كاميرات بـ 200 ميغابكسل .. هل تبالغ أوبو؟
• أهم تسريبات آيفون 18 برو المتوقع
• أكثر من 20 هاتفا ذكيا جديدا في سبتمبر 2026