تحذير من "ديدان الذكاء الاصطناعي" القادرة على التكاثر الذاتي عبر أجهزة إنترنت الأشياء

حذرت شركة Anthropic، المتخصصة في أبحاث الذكاء الاصطناعي، من إمكانية قيام نماذج الذكاء الاصطناعي الصغيرة بتطوير قدرة على التكاثر الذاتي، مما يشكل تهديدًا جديدًا عبر أجهزة إنترنت الأشياء (IoT)، على غرار "ديدان" البرمجيات الخبيثة التقليدية.

تكمن الخطورة في أن هذه "الديدان الذكية" قد تكون قادرة على تكييف هجماتها وحمولاتها بشكل ديناميكي لتناسب الأهداف المختلفة، مما يجعلها أكثر فتكًا من التهديدات الحالية. وبمجرد بدء سلسلة الإصابات هذه، قد يصبح إيقافها تحديًا هائلاً للمدافعين.

تستطيع هذه "الديدان الذكية" حمل أوزان نماذجها معها أثناء التكاثر، أو إعادة تنزيلها من مراكز عامة، ثم تشغيل الاستدلال مباشرة على الأجهزة المخترقة. وبذلك، تصبح أوزان النماذج جزءًا من الحمولة الخبيثة نفسها. وقد أطلقت Anthropic على هذه الكيانات اسم "المتوالدات الذاتية الصغيرة المعتمدة على الأوزان".

تعمل هذه النماذج من خلال وكلاء يمتلكون أدوات استغلال شائعة، مثل "الأصداف العكسية". يتبع مسار الهجوم خطوات محددة: تحديد الأهداف، اكتساب تنفيذ التعليمات البرمجية، إنشاء الاستدلال، ثم الانتشار إلى مضيفين جدد. والميزة الحاسمة مقارنة بالديدان التقليدية هي قدرة هذه الوكلاء على التعلم أثناء التنفيذ، حيث يمكن لكل فشل في اختراق جهاز معين أن يترك ملاحظات ومعلومات للأجيال القادمة لتجنب تكرار الخطوات غير الفعالة.

ترى Anthropic أن مرحلة الاستدلال الديناميكي هي الأكثر تعقيدًا وتحديًا في دورة التكاثر، حيث تتطلب سلسلة طويلة من القرارات بناءً على الأجهزة والبرامج المحددة لكل هدف، بما في ذلك اختيار برامج الاستدلال المتوافقة، وتثبيت التبعيات، ومعالجة الأخطاء الخاصة بالمنصة. وعلى الرغم من أن هذه الخطوات تعتمد على بعضها البعض ويصعب التعافي من الفشل فيها، إلا أن التجارب أظهرت أن النماذج الصغيرة تزداد قدرة على حل هذه المشكلات بشكل مستقل. ومع ذلك، لا تزال النماذج الخفيفة قيد الاختبار غير قادرة على إكمال دورة التكاثر الكاملة بنفسها، كما أن العملية لا تزال بطيئة للغاية.