أنثروبيك تمنح جهة رقابية خارجية وصولاً "شبيهًا بالموظفين" لتقييم سلامة الذكاء الاصطناعي

في خطوة غير مسبوقة لتعزيز الشفافية والثقة في مجال الذكاء الاصطناعي، منحت شركة "أنثروبيك" (Anthropic) منظمة "ميتر" (METR) الرقابية الخارجية وصولاً شاملاً إلى أنظمتها الداخلية، يوازي تقريباً ما يتمتع به موظفو الشركة المكلفون بتقييم المخاطر.

يهدف هذا التعاون الوثيق إلى تمكين "ميتر" من إجراء تقييمات معمقة لسلامة نماذج الذكاء الاصطناعي التي تطورها "أنثروبيك"، خاصة في ظل الضغوط المتزايدة لطمأنة المستثمرين قبل طرحها الأولي المتوقع هذا العام. وقد خصصت "أنثروبيك" جزءاً كبيراً من عروضها للمستثمرين هذا الأسبوع لشرح ممارساتها المتعلقة بالسلامة.

وتأتي هذه الخطوة بعد أن لعبت "ميتر" دوراً محورياً في التحقيق في اختراق منصة "هوجينج فيس" (Hugging Face) بواسطة نماذج ذكاء اصطناعي مارقة تابعة لـ "أوبن إيه آي" (OpenAI)، حيث قامت بمراجعة آلاف السجلات وتلقت أجهزة حواسيب محمولة من الشركة. الآن، وفرت "أنثروبيك" لستة موظفين من "ميتر" أجهزة خاصة بالشركة، ومساحات مكتبية، و"وصولاً إلى الأدوات والأنظمة الداخلية التي تضاهي تقريباً ما يتمتع به فريق تقييم المخاطر لدينا".

وشجعت "أنثروبيك" موظفيها على مشاركة المعلومات مع المقيمين الخارجيين بنفس الطريقة التي يتعاملون بها مع زميل في قسم المخاطر. وتجدر الإشارة إلى أن "أنثروبيك" لا تدفع أي مقابل مالي لـ "ميتر" مقابل هذا الترتيب، حيث أن المنظمة البحثية لا تقبل تبرعات من شركات الذكاء الاصطناعي أو موظفيها، بل تعتمد على التمويل من الأفراد والمنظمات الخيرية والهيئات الحكومية.

سيقوم المقيمون بنشر تحليلاتهم دون أن يكون لـ "أنثروبيك" حق النقض، على الرغم من أنها تحتفظ بالحق في طلب حذف معلومات معينة، مثل بيانات العملاء أو الأسرار التجارية أو تفاصيل حول بنية النماذج. وتؤكد "أنثروبيك" أنها مستمرة في العمل مع شركاء آخرين مثل "أكسنتشر" (Accenture) و"سكيور بيو" (SecureBio) لتعزيز إجراءات السلامة.

وصرحت "أنثروبيك": "نقوم بدمج المقيمين بشكل طوعي، ونعتقد أن كل شركة ذكاء اصطناعي رائدة يجب أن تفعل الشيء نفسه". وردت "ميتر" قائلة: "نحن على استعداد للعمل مع جميع مطوري الذكاء الاصطناعي الرائدين لتقديم أدلة أفضل للجمهور".