باحثون: نماذج الذكاء الاصطناعي الجديدة سهلة الاختراق لإنتاج محتوى إباحي

كشفت دراسة حديثة شارك في إعدادها باحثون من جوجل، شملت مستخدمين في الولايات المتحدة وأستراليا والمملكة المتحدة، أن هذا المحتوى غير الرضائي ينتشر عادة عبر الرسائل النصية والمباشرة أو يُخزن في سحابات خاصة يصعب اكتشافه أو الإبلاغ عنه. وخلصت الدراسة إلى أن "نقطة التدخل الأكثر أهمية" تظل عند المصدر، أي الأدوات الضارة للذكاء الاصطناعي المستخدمة لإنشاء الصور الجنسية المزيفة. ومع ذلك، تشير اختبارات السلامة التي أجريت في الأشهر الأخيرة إلى أنه مع تزايد قدرات نماذج توليد الصور الرائدة من جوجل وOpenAI، قد تتدهور قدرتها على حظر المخرجات الصريحة.

يأتي هذا التحذير من باحثين في شركة "وايت سيركل" (White Circle)، وهي مؤسسة ذات منفعة عامة مدعومة من كبار القادة والباحثين في شركات مثل Anthropic وDeepMind وHugging Face وOpenAI. تأسست الشركة بعد أن نشر رئيسها التنفيذي، دينيس شيلوف، أحد أشهر "الاختراقات" الشاملة للنماذج الرائدة في أكتوبر 2024. تهدف "وايت سيركل" إلى كسر حماية النماذج لإجراء اختبارات سلامة شاملة، وتساعد الشركات على اكتشاف التهديدات وردعها عند تطبيق أنظمة الذكاء الاصطناعي المتقدمة التي قد لا تتصرف دائمًا كما هو متوقع.

في ورقة بحثية نُشرت الشهر الماضي، كشف باحثو "وايت سيركل" عن ثغرات في أنظمة الحماية الخاصة بنماذج DALL·E 3، وNano Banana 2 من جوجل، وGPT-Image-2. وأوضحوا في بيان صحفي أنه "باستخدام أدوات متاحة بسهولة عبر الإنترنت، ومن خلال إرسال استدعاءات API، تمكنت "وايت سيركل" من تجاوز مرشحات السلامة" وإنشاء محتوى صريح بنسبة 13% من الوقت. وأكدت الشركة أن هذه الطلبات لم تتطلب نماذج ذكاء اصطناعي مخصصة أو متقدمة، مما يعني عدم الحاجة لخبرة متخصصة لتنفيذ الهجمات.

تشير النتائج إلى أن "في وقت تخضع فيه سلامة الذكاء الاصطناعي لتدقيق غير مسبوق، فإن الدفاعات التي بنتها المختبرات الرائدة أضعف بكثير مما تقر به". تهدف "وايت سيركل" من خلال نشر أبحاثها إلى أن تكون مقيّمًا خارجيًا للمختبرات الرائدة، وتخطط لجعل خط أنابيب الهجوم بأكمله مفتوح المصدر لتمكين صانعي النماذج من فهم حجم الثغرة الحقيقية وبناء حماية أقوى. وعلى الرغم من أن الشركة لم تروج للبحث على نطاق واسع بعد، إلا أنها ستشاركه في مؤتمر بارز للذكاء الاصطناعي في نوفمبر، مما قد يزيد التدقيق على جوجل وOpenAI.

حتى الآن، لم ترد شركتا جوجل وOpenAI على طلبات التعليق المباشر حول الثغرات المكتشفة في نماذجهما. ومع ذلك، أفادت "وايت سيركل" أن اختبارات السلامة على أحدث إصداراتها، ChatGPT Images 2.5 وNano Banana 2.1، أظهرت أنها "أكثر قابلية للكسر بشكل كبير من إصداراتها السابقة". يثير هذا النهج المخاوف بشأن قدرة أنظمة الدفاع الأكثر خطورة، قيد التطوير حاليًا، على حظر سلوكيات الذكاء الاصطناعي الأخرى غير المرغوب فيها، مثل القرصنة.

يُطلق على طريقة الهجوم التي طورتها "وايت سيركل" اسم "RISE" (Red-teaming via Iterative Strategy Evolution)، وهي تعتمد على نموذجين: نموذج مهاجم يولد الاختراقات، ونموذج حكم يتحقق مما إذا كان الناتج محتوى محظورًا. يشير الباحثون إلى أنه "لا تحتاج إلى نماذج متقدمة أو تقنية خاصة لكسر دفاعات نموذج متقدم، بل تحتاج فقط إلى تنزيل مجاني والقدرة على إجراء استدعاءات API".

في سياق متصل، حذرت مؤسسة Internet Watch Foundation (IWF) من الحاجة الملحة لاتخاذ إجراءات، حيث اكتشف محللون متخصصون "صورًا جنسية إباحية مولّدة بالذكاء الاصطناعي أكثر واقعية في النصف الأول من هذا العام مقارنة بعام 2025 بأكمله، بما في ذلك صور لأطفال دون سن الثانية". وبلغ إجمالي الصور المولّدة بالذكاء الاصطناعي التي تندرج تحت التعريف القانوني لإساءة معاملة الأطفال جنسيًا 6,310 صورة في الأشهر الستة الأولى من عام 2026، بزيادة تقارب 40% عن إجمالي النتائج للعام الماضي.

يدعو الباحثون إلى فرض اختبارات سلامة مستقلة وطرف ثالث، أسوة بالأنظمة المستخدمة لمنع التهديدات النووية، لضمان استثمار شركات الذكاء الاصطناعي بشكل أكبر في تدابير السلامة والأمن حول نماذجها. ويؤكدون أن "المختبرات التي تبني هذه الأنظمة هي نفسها التي تقيّم سلامتها، وتنشر نتائجها، وتحدد معاييرها الخاصة. هذا دليل إضافي على ضرورة أن تدفع الحكومات نحو تقييم مستقل من طرف ثالث".