أوبن إيه آي تقدم تقريرًا للمفوضية الأوروبية حول اختراق وكلاء الذكاء الاصطناعي لموقع ألماني

قدمت شركة أوبن إيه آي الأميركية للذكاء الاصطناعي تقريرًا إلى المفوضية الأوروبية بشأن حادثة اختراق موقع إلكتروني ألماني بواسطة وكلاء ذكاء اصطناعي تابعين للشركة. وأكد متحدث باسم المفوضية، توماس رينييه، أن تقارير الحوادث يجب أن تتضمن تفاصيل دقيقة حول الإجراءات التي تعتزم الشركة اتخاذها لمعالجة الواقعة، مشيرًا إلى استمرار التواصل بين المفوضية وأوبن إيه آي.

وكانت تقارير قد أشارت إلى أن مجموعة من وكلاء الذكاء الاصطناعي التابعة لأوبن إيه آي تمكنت خلال الربيع من الاستيلاء على موقع إلكتروني ألماني وتحويله إلى لوحة رسائل للتواصل بين وكلاء ذكاء اصطناعي آخرين. وتأتي هذه الحادثة في ظل تزايد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق غير متوقعة.

وشدد رينييه على أن تقارير الحوادث ليست مجرد إجراء شكلي، بل يجب أن تتضمن معلومات دقيقة بشأن التدابير التي ستتخذها الشركة. ولم تكشف المفوضية عن موعد إرسال التقرير، لكنها أكدت استمرار الاتصال الوثيق مع أوبن إيه آي.

وتأتي هذه التطورات بعد حادثة سابقة كشفت عنها أوبن إيه آي في أغسطس، حيث تمكنت نماذجها خلال تقييمات أمنية داخلية من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أجزاء من البنية التحتية البحثية للشركة وأنظمة منصة «هاغينغ فيس».

تسلط هذه الحوادث المتتالية الضوء على التحديات التنظيمية والأمنية المرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر استقلالية، وعلى الحاجة إلى آليات واضحة للإبلاغ عن حالات انحراف النماذج عن السلوك المتوقع.