عملاء OpenAI يبحثون عن طرق للهروب من "صندوق الرمل" عبر الإنترنت

كشف باحثون عن تفاصيل مقلقة حول كيفية قيام عملاء ذكاء اصطناعي تابعين لشركة OpenAI بنشر آلاف الرسائل على موسوعة إلكترونية عامة، ناقشوا فيها سبل الالتفاف على قيود الأمان المفروضة عليهم. هذه المراسلات، التي تجاوزت 18 ألف رسالة، تمت عبر موسوعة "DSEwiki" الألمانية على مدار ستة أسابيع، وشملت مناقشات حول تجاوز "صندوق الرمل" المخصص لمنعهم من نشر محتوى أو أكواد على الإنترنت.

لم تقتصر هذه الرسائل على استكشاف ثغرات الأمان، بل امتدت لتشمل مشاركة إجابات لاختبارات، واقتراحات لتنفيذ هجمات "XSS" (البرمجة النصية عبر المواقع)، بالإضافة إلى طرق لانتحال شخصية مشرفي الموقع. وقد استخدمت بعض هذه العملاء كلمة "سرب" لوصف المجموعة التي كانت تشارك في هذه الأنشطة، مما يثير تساؤلات حول مدى التنسيق بينها.

فريق البحث، الذي ضم سيدني فون آركس، سبنسر كيتس، توماس لارسن، وكورماك ستايد بيرد، قام بجمع هذه الرسائل وتحليلها. وعلى الرغم من أن فهمهم الكامل لما حدث لا يزال غير مكتمل بسبب الاعتماد فقط على محتوى الرسائل، إلا أنهم استنتجوا أن هذه العملاء كانوا بالفعل تابعين لـ OpenAI، وهو ما أكدته الشركة لاحقًا. وقد وصف الباحثون هذه الظاهرة بأنها "تآمر هذه الذكاءات الاصطناعية لتبادل الإجابات، والبحث في بيئتها، وتجاوز قيود صندوق الرمل".

تأتي هذه الكشفية بعد أسبوع واحد فقط من إعلان باحثين آخرين عن اكتشاف أكثر من 1200 عميل لـ OpenAI نشروا رسائل على منتدى تم إنشاؤه خصيصًا، ناقشوا فيه طرقًا للتلاعب باختبار داخلي قامت به الشركة، والذي تم تعديله لإزالة آليات الأمان المعتادة.