صحيفة السوسنة الأردنية

السوسنة - ازدادت مؤخراً المخاوف المتعلقة بنماذج الذكاء الاصطناعي مع تسارع تطور قدراتها الذاتية واحتمال خروجها عن سيطرة البشر، وقيامها بالخداع والكذب لتحقيق أهداف خاصة تتعارض مع المصالح الإنسانية، وسط مطالبات بفرض قيود تنظيمية صارمة على الأنظمة عالية المخاطر.

هروب نماذج الذكاء الاصطناعي

أجرى مرصد "لوس أوف كنترول"، المنشأ حديثا بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، دراسة أشارت إلى أن يوليو/تموز شهد ارتفاعا في معدل حالات هروب نماذج الذكاء الاصطناعي وخروجها عن طوع مستخدميها عبر الكذب والخداع وحتى تجاهل أوامر المستخدمين، فضلا عن محاولتها تحقيق أهدافها بغض النظر عن سلامة الطريقة التي تتبعها.

ويختص المرصد بتتبع حالات خروج أنظمة الذكاء الاصطناعي ووكلائها عن التعليمات الأولية من المستخدمين، وبدأ المرصد عمله في نوفمبر/تشرين الثاني الماضي وفق تقرير صحيفة "غارديان" عن الأمر.

ومنذ ذلك الوقت، سجل المرصد العديد من الحالات المختلفة مشيرا إلى تضاعف معدل خروج الذكاء الاصطناعي في يوليو/تموز مقارنة بيونيو/حزيران السابق، إذ وصل إجمالي الحالات إلى 300.

ويعرف المرصد حالات هروب الذكاء الاصطناعي بأنها الحالات التي يفقد فيها المستخدم البشري سيطرته على وكيل الذكاء الاصطناعي الذي يقوم بتشغيله مع ظهور أدلة واضحة على تآمر الوكيل وتخطيطه للخروج عن السيطرة.

وكشف تقرير موقع "ديجيتال تريندز" التقني الأمريكي عن حالة انتحل فيها وكيل ذكاء اصطناعي شخصية المستخدم البشري وقلّد أسلوبه في الكتابة ليوجه لنفسه أوامر تمكنه من الخروج عن التعليمات الأساسية التي أصدرها له المستخدم.

ومن جانبه، أوضح تومي شافر-شين مدير السياسات الأول في مركز "لونغ تيرم ريزيليانس" ضمن حديثه مع "غارديان" أن سلوكيات الذكاء الاصطناعي الخبيثة والتآمر للهروب من سيطرة المستخدمين البشر لم تعد قاصرة على الاختبارات المعملية والنماذج الاختبارية فقط.

وأضاف: "نرى سلوكيات مقلقة مماثلة في حالات الاستخدام الأخرى، لذا يجب ألا نكون متراخين تجاه احتمال حدوث هذه الأشياء في العالم الحقيقي".

وسجل المرصد حالة اختراق شخصية وحيدة لوكيل ذكاء اصطناعي اخترق الصالة الرياضية لمالكه (غيتي)
ويأتي تقرير المرصد عقب هروب عدة وكلاء ذكاء اصطناعي من بيئة اختبارية تابعة لشركة "أوبن إيه آي" الأمريكية، ثم اختراقهم لمنصة "هاغينغ فيس" الأمريكية لاستضافة نماذج الذكاء الاصطناعي في يوليو/تموز الماضي.

ولا تعد هذه الحالة الوحيدة لهروب نماذج الذكاء الاصطناعي، إذ قامت بذلك أيضا نماذج من شركة "أنثروبيك" الأمريكية و"ميتا" أيضا، فضلا عن حدوث حالة اختراق وحيدة من وكيل ذكاء اصطناعي شخصي لأحد المستخدمين، وفيها اخترق الوكيل نظام الحجز في صالة رياضية لتغيير موقع حجز مالكه وتقديمه على الآخرين.

وأفاد تقرير "ديجيتال تريندز" بأن المرصد تمكن من تسجيل أكثر من 1600 حالة هذا العام فقط عبر متابعة منصات التواصل الاجتماعي وتحديدا منصة "إكس"، وذلك في ظل غياب آلية رسمية لتتبع حالات هروب نماذج الذكاء الاصطناعي بشكل مباشر من الشركات أو الحكومات.

ويؤكد التقرير الحاجة إلى وجود آلية مراقبة وتحذير عالمية فور ظهور حالات الاختراق بدلا من الاكتشاف العرضي أو الاعتماد على منصات التواصل الاجتماعي لمتابعة مثل هذه الحالات، مشيرا إلى أن العدد الفعلي لحالات الهروب قد يتخطى ما يبلغ عنه المستخدمون في منصة "إكس".

استعدادات لإبطاء وتيرة تطوير أنظمة للذكاء الاصطناعي

عقب التحذيرات المتعلقة بالسلامة التي أصدرها باحثون في مجال الذكاء الاصطناعي، وخروج نماذج من مطورين عن سيطرة البشر، أبلغ الرئيس التنفيذي لشركة أوبن إيه.آي سام ألتمان الموظفين خلال اجتماع للشركة بأن الشركة مستعدة لإبطاء وتيرة تطوير أنظمتها للذكاء الاصطناعي.

ونقلت وكالة بلومبرج نيوز عن مصادر أن ألتمان قال في اجتماع شمل جميع موظفي الشركة أن الشركة المطورة لتشات جي.بي.تي يمكنها مواءمة وتيرة التطوير مع مختبرات الذكاء الاصطناعي الأخرى، لكن البعض ربما لا يوافق على ذلك.

وأثارت التحذيرات المتعلقة بالسلامة التي أصدرها باحثون في مجال الذكاء الاصطناعي إلى جانب عدة حوادث وقعت في الآونة الأخيرة وشملت خروج نماذج ذكاء اصطناعي من مطورين بينهم أوبن إيه.آي عن سيطرة البشر قلقا ودعوات لفرض لوائح أمان أكثر صرامة.

واتهم جاكوب كوكسون، الباحث السابق في شركتي أنثروبيك وأوبن إيه.آي، الشركتين علنا في وقت سابق من هذا الأسبوع بالاندفاع نحو تحقيق تقدم في مجال الذكاء الاصطناعي دون التصرف بمسؤولية.

قال متحدث باسم أنثروبيك الخميس إن الشركة مهتمة بالتعاون مع قطاع الذكاء الاصطناعي بشأن وتيرة إصدار أدوات جديدة في هذا المجال.

أوقفت أوبن إيه.آي في آب معظم عمليات تطوير نماذجها لمدة أسبوعين لتعزيز دفاعاتها بعد أن خرجت نماذج ذكاء اصطناعي تابعة لها عن السيطرة واخترقت منصة (هاجينج فيس) مفتوحة المصدر.

وقالت أوبن إيه.آي الأربعاء إنها تضغط من أجل فرض متطلبات وطنية إلزامية لسلامة الذكاء الاصطناعي في الولايات المتحدة، وعزت هذا لمخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة قد تسرع من تطوير نفسها.

اجتماع لمجلس الأمن يناقش الذكاء الاصطناعي

 على هامش انعقاد الجمعية العامة للأمم المتحدة، قال مصدر دبلوماسي فرنسي الاثنين، إنه يُتوقّع أن يعقد مجلس الأمن الدولي الأسبوع المقبل اجتماعا مخصّصا للذكاء الاصطناعي، في ظل تزايد المخاوف من مخاطر الأنظمة الأكثر تطوّرا لهذا القطاع.

وقال المصدر، إنّ قضية الذكاء الاصطناعي ستحتل "موقعا متقدما في جدول أعمال" الجمعية العامة للأمم المتحدة الأسبوع المقبل.

واضاف "من المتوقع عقد اجتماع لمجلس الأمن مخصّص لموضوع الذكاء الاصطناعي والأمن".

وتشدّد فرنسا التي تتولى الرئاسة الدورية لمجلس الأمن في أيلول، على ضرورة مناقشة "التهديد الوجودي الذي قد يمثّله الذكاء الاصطناعي بالنسبة للبشرية"، لافتة إلى أن رؤساء تنفيذيين لشركات الذكاء الاصطناعي عبّروا هم أيضا عن مخاوفهم.

لكن الجهود الفرنسية قد تصطدم برفض قاطع من جانب الرئيس الأميركي دونالد ترامب الذي ندّد الاثنين بـ"مؤامرة خبيثة" تستهدف الذكاء الاصطناعي، منتقدا بشدة الدعوات المتزايدة إلى فرض ضوابط على تطويره.

ووصف ترامب الادعاء أن الذكاء الاصطناعي قد يدمّر البشرية بأنه "خدعة".

في نهاية آب، دعا وزير الخارجية الفرنسي جان-نويل بارو إلى إرساء "ضوابط للذكاء الاصطناعي" تقوم خصوصا على تقييم النماذج قبل نشرها، ومراقبتها بعد تشغيلها، وتبادل المعلومات بين الدول عقب حوادث خطيرة سُجّلت في الصيف.

وقال "ينبغي أيضا أن يكون الذكاء الاصطناعي خاضعا للمساءلة"، لافتا إلى أن الأمر لا يتّصل بـ"كبح الابتكار" أو "إعاقة التقدّم" أو "تأخير انتشاره في اقتصاداتنا ومجتمعاتنا"، بل بـ"درء أكبر المخاطر".