صحيفة السوسنة الأردنية

السوسنة - كشف باحثون في الأمن السيبراني عن أساليب اختراق متقدمة تستهدف نموذج GPT-5 من شركة OpenAI، عبر تقنيات تعتمد على التضليل السردي وحقن الكلمات المفتاحية، ما يُمكّن من تجاوز القيود الأخلاقية وإنتاج تعليمات ضارة دون إطلاق إنذارات أمنية.

وأوضحت منصة "NeuralTrust" أن الهجوم، الذي أُطلق عليه اسم EchoLeak، يستغل ما يُعرف بـ"غرفة الصدى" والتوجيه القصصي، حيث يُدفع النموذج تدريجيًا نحو محتوى محظور داخل سياق يبدو بريئًا، مما يُصعّب على أنظمة الحماية اكتشافه.

وفي تطور موازٍ، كشفت شركة Zenity Labs عن سلسلة هجمات جديدة تحت اسم AgentFlayer، تعتمد على حقن غير مباشر داخل مستندات أو رسائل بريد إلكتروني، ما يُتيح للمهاجمين الوصول إلى بيانات حساسة مثل مفاتيح API وملفات التخزين السحابي، دون أي تفاعل من المستخدم.

وتشمل أمثلة هذه الهجمات:

مستندات Google Drive مزروعة بكود خبيث يستهدف نماذج الذكاء الاصطناعي.

تذاكر Jira تُجبر أدوات البرمجة المدعومة بالذكاء الاصطناعي على سحب بيانات سرية.

رسائل بريد إلكتروني موجهة لاختراق Microsoft Copilot Studio.

وتُشير التقارير إلى أن هذه الهجمات تمثل نمطًا جديدًا من التهديدات الصامتة، حيث تستغل "الاستقلالية المفرطة" للأنظمة الذكية في التصرف الذاتي، مما يُوسع من سطح الهجوم المحتمل على بيئات السحابة وإنترنت الأشياء.

وحذر خبراء الأمن من أن أنظمة التصفية التقليدية القائمة على الكلمات المفتاحية لم تعد كافية، داعين إلى تبني استراتيجيات حماية متعددة الطبقات وتحديثات أمنية دورية لمواجهة هذه الأساليب المتطورة.

اقرأ ايضاً:

• المسؤولية القانونية عن أخطاء الذكاء الاصطناعي في المجال الطبي
• الصين تطالب أمريكا بتخفيف قيود رقائق الذكاء الاصطناعي
• بينترست تدمج الذكاء الاصطناعي في التوصيات والإعلانات
• كانفا تُحدث ثورة في التصميم بالذكاء الاصطناعي
• غوغل تنفي تراجع الزيارات بسبب الذكاء الاصطناعي
• إلينوي تحظر العلاج النفسي بالذكاء الاصطناعي