هجوم "BioShocking": لماذا قد تكون متصفحات الذكاء الاصطناعي خطيرة؟

كشف هجوم جديد يُدعى "BioShocking" عن ثغرة خطيرة في متصفحات الذكاء الاصطناعي، مما يثير تساؤلات حول مدى أمان هذه التقنيات الحديثة. نجح الهجوم في خداع ستة من هذه المتصفحات، بما في ذلك ChatGPT Atlas و Comet و Claude Chrome plugin، مما سمح للذكاء الاصطناعي بتجاوز قيوده الأمنية والقيام بإجراءات غير آمنة.

يعتمد الهجوم على تقنية "حقن الأوامر" (prompt injection) لخداع نماذج اللغة الكبيرة (LLMs) التي تعمل في هذه المتصفحات. تم تصميم التحدي بأسلوب مستوحى من ألعاب الفيديو والروايات الشهيرة، حيث يُطلب من الذكاء الاصطناعي إثبات "كفاءته التقنية" من خلال استخراج معلومات من كود معين، مع عبارات مضللة مثل "النصر هو الهزيمة" و "2 + 2 = 5"، وهي إيحاءات إلى رواية "1984" لجورج أورويل. بمجرد أن فهمت نماذج الذكاء الاصطناعي أن "الإجراءات غير الصحيحة مقبولة"، فقدت ارتباطها بالواقع.

تكمن الخطورة الأكبر في أن هذه المتصفحات تدمج وظائف عرض محتوى الويب وتنفيذ الإجراءات نيابة عن المستخدم في مكان واحد. في المتصفحات التقليدية، توجد حواجز قوية تمنع موقعاً واحداً من قراءة بيانات موقع آخر أو الوصول إلى بريدك الإلكتروني. لكن متصفحات الذكاء الاصطناعي، بفضل وصولها الواسع، يمكن أن تتجاوز هذه القيود. إذا تمكن المهاجم من السيطرة على الذكاء الاصطناعي عبر حقن الأوامر، فيمكنه أن يطلب من المساعد الموجود في المتصفح تسليم البيانات التي يمكنه الوصول إليها، مما يقوض الفصل المعتاد للمعلومات.

يُحذر خبراء الأمن من أن هذه المتصفحات قد تصبح ناقلاً جديداً لانتهاك البيانات الشخصية وبيانات الاعتماد للمصادقة. وعلى الرغم من أن هجوم "BioShocking" في شكله الحالي قد لا يكون هجوماً شاملاً قابلاً للتطبيق بالكامل، إلا أنه يسلط الضوء على طريقة أخرى لتجاوز الضوابط الأمنية المصممة لمنع الذكاء الاصطناعي من الانحراف عن مساره.