تقنية "التهريب النصي" الخفية: من مهاجمة الذكاء الاصطناعي إلى خداع مرشحات البريد الإلكتروني

أصبح الأسلوب المبتكر الذي كان يُستخدم سابقًا لإخفاء التعليمات الخبيثة في هجمات موجهة ضد الذكاء الاصطناعي، يُستخدم الآن من قبل مرسلي البريد العشوائي لخداع مرشحات البريد الإلكتروني. تُعرف هذه التقنية بـ "التهريب النصي" (ASCII smuggling)، وقد اكتسبت شهرة قبل عامين كوسيلة لجعل هجمات "حقن الأوامر" (prompt injections) أكثر خفاءً.

بدلاً من كتابة التعليمات الخبيثة بوضوح داخل رسائل البريد الإلكتروني أو أي محتوى غير موثوق به سيتم معالجته بواسطة نماذج اللغة الكبيرة (LLMs)، يتم ترميزها باستخدام مجموعة خاصة من علامات يونيكود. على سبيل المثال، تعكس العلامة U+E0041 حرف "A"، بينما تعكس U+E0061 حرف "a". هذه المجموعة من 128 علامة تحاكي إلى حد كبير جزءًا من معيار ASCII، لكن مع فارق جوهري: الأحرف التي تشفرها قابلة للقراءة بواسطة أجهزة الكمبيوتر، لكنها، بحكم التصميم، غير مرئية تقريبًا للبشر.

هذا يعني أنه عند استخدام هذه العلامات لترميز الأوامر الخبيثة، فإن نماذج الذكاء الاصطناعي تتعرف عليها وتنفذها، بينما لا يراها المستخدم البشري الذي يقرأ الرسالة إطلاقًا. لم تعد هذه التقنية مقتصرة على إخفاء هجمات حقن الأوامر.

في بداية هذا العام، لاحظت شركة مايكروسوفت زيادة هائلة في رسائل البريد العشوائي التي تستخدم هذه التقنية. ففي يوم واحد في أوائل فبراير، قفز عدد التواقيع المكتشفة لـ "التهريب النصي" بواسطة Microsoft Defender for Office من حوالي 21 ألف توقيع يوميًا إلى أكثر من 1.3 مليون. وخلال أربعة أيام فقط، ارتفع هذا العدد إلى 2.5 مليون توقيع. استمر هذا التدفق لعدة أشهر قبل أن ينخفض بشكل حاد في منتصف مايو.

وتوضح مايكروسوفت أن "نظرًا لأن أحرف العلامات غير مرئية للبشر ولكنها موجودة على مستوى معالجة النص، فإن نفس الخاصية التي تجعلها مفيدة لتهريب التعليمات إلى النموذج تجعلها مفيدة أيضًا لإخفاء الكلمات المفتاحية قبل أن يقوم الكاشف بتقييمها. على الرغم من أن الغرض معكوس، إلا أن الآلية متشابهة، ولا يثير ذلك شكوك المستخدم."