مستخدمو "كلود" يتجاوزون إجراءات الأمان لأبحاث الأسلحة البيولوجية

أثارت أنباء عن تجاوز مستخدمي نماذج الذكاء الاصطناعي، مثل "كلود" من شركة أنثروبيك، لإجراءات الأمان المتبعة في أبحاث الأسلحة البيولوجية، قلقاً متزايداً بشأن المخاطر المحتملة لهذه التقنيات المتطورة. يأتي هذا في وقت تتصاعد فيه المخاوف من قدرة الذكاء الاصطناعي على المساهمة في تطوير أسلحة بيولوجية أو نشر فيروسات خطيرة.

جاءت هذه التطورات عقب استقالة جاكوب كوكسون من شركة تعمل في مجال الذكاء الاصطناعي، حيث أعرب عن اعتقاده بأن هذه التقنية قد تشكل تهديداً وجودياً للبشرية بحلول نهاية العقد الحالي. وتصاعدت المخاوف بشكل ملحوظ هذا العام مع إطلاق نماذج ذكاء اصطناعي متقدمة، مثل نموذج "ميثوس" من أنثروبيك، بالإضافة إلى أنباء عن قدرة نماذج "أوبن إيه آي" على اختراق أنظمة أخرى بشكل مستقل.

يتزايد الإجماع بين كبار المسؤولين التنفيذيين في قطاع الذكاء الاصطناعي وباحثي الأمن البيولوجي على ضرورة تأمين وتنظيم استخدام هذه التقنيات في مجال علوم الحياة، مع تزايد قدرات النماذج. يخشى الخبراء بشكل متزايد من أن جماعات إرهابية، أو جهات فاعلة في دول، أو حتى أفراد معزولين، قد يستخدمون الذكاء الاصطناعي لتصميم أسلحة بيولوجية، أو استحداث فيروسات جديدة، أو نشر مسببات أمراض قائمة.

ومع ذلك، حتى لو أمكن للذكاء الاصطناعي تصميم سلاح بيولوجي نظري، لا تزال هناك عقبات محتملة، مثل صعوبة التصنيع العملي والحاجة إلى موارد كبيرة. وقد شملت المخاوف الأمنية الكبرى، وفقاً لتقرير أنثروبيك عن إساءة استخدام تقنياتها، حوادث مثل بناء شبكات تطبيقات مواعدة وهمية لخداع المستخدمين، وأنظمة مراقبة مصممة لتحديد ومتابعة المعارضين السياسيين.

كما كشف التقرير عن مزاعم بأن سبعة مختبرات في الصين، بما في ذلك "مون شوت" و"ديب سيك"، حاولت تكرار تقنية أنثروبيك عبر عملية تعرف بالتقطير. وأشارت أنثروبيك إلى اكتشافها "أساليب متزايدة التطور للتحايل على دفاعاتها واستخلاص قدرات نماذج أمريكية متطورة".