ثغرة أمنية خطيرة: برامج ذكاء اصطناعي تنشر أكوادًا غريبة في شبكات الشركات

اكتشف باحثون أمنيون ثغرة خطيرة قد تسمح بتسلل برمجيات خبيثة إلى شبكات الشركات الكبرى، وذلك عبر استغلال الطريقة التي تتعامل بها بعض نماذج الذكاء الاصطناعي مع ملفات الوثائق على مواقع الويب. وتبين أن أكثر من 100 موقع إلكتروني، بما في ذلك مواقع تابعة لشركات ضمن قائمة Fortune 500، تحتوي على ملفات وثائق (llms.txt و llms-full.txt) تشير إلى محتوى تنفيذي يحتمل أن يكون خطيرًا، ويتم تثبيته تلقائيًا عند زيارته بواسطة وكلاء الذكاء الاصطناعي.

هذه الملفات، التي أصبحت معيارًا جديدًا لتوفير ملخصات للمحتوى وهيكلية الموقع بصيغة قابلة للقراءة آليًا، تشبه إلى حد كبير ملفات "robots.txt" التي توجه محركات البحث. وقد قام فريق من الباحثين في شركة ناشئة إسرائيلية بمسح آلاف النطاقات، ليكتشفوا أن 120 ملفًا منها تشير إلى حزم برمجية أو أسماء نطاقات غير مسجلة. وعندما قام الباحثون بتسجيل بعض هذه الأسماء غير المسجلة واستضافوا حزمًا برمجية، تلقوا ردودًا من شركات كبرى، بما في ذلك شركات ضمن قائمة Fortune 500، مما يؤكد إمكانية استغلال هذه الثغرة.

ما يثير القلق بشكل خاص هو أن التحقيقات كشفت أن وكلاء الذكاء الاصطناعي المشاركين في هذه العملية شملت نماذج معروفة مثل Claude، و Codex من OpenAI، و Hermes من Nous Research. وقد أكد أحد الباحثين أن "نموذج الثقة مكسور"، مشيرًا إلى أن وكلاء الذكاء الاصطناعي يثقون بشكل أعمى في وثائق الموردين دون تمحيص، وهو ما ينطبق أيضًا على البشر الذين يشرفون عليهم.

مع الانتشار المتزايد لاستخدام الذكاء الاصطناعي الوكيل في مختلف طبقات التكنولوجيا، من البرمجيات كخدمة (SaaS) إلى الحوسبة السحابية ونقاط النهاية، تتسع مساحة الهجوم المحتملة. ويشير هذا الاكتشاف إلى حاجة ماسة لإعادة تقييم الإجراءات الأمنية الحالية، وتطوير آليات دفاعية جديدة لمواكبة التحديات المتطورة التي يفرضها الذكاء الاصطناعي.