باحث في الذكاء الاصطناعي يحذر: التطور الذاتي قد يقود إلى "فنائنا"

في خطوة مفاجئة، استقال مسؤول السلامة في شركة Anthropic، السيد مرينانك شارما، في فبراير الماضي، محذرًا في رسالة مفتوحة من أن "العالم في خطر" بسبب "سلسلة من الأزمات المترابطة" تشمل الذكاء الاصطناعي والأسلحة البيولوجية، ومؤكدًا على صعوبة جعل القيم تحكم الأفعال.

جاءت استقالة شارما لتلقي بظلالها على النقاش المتصاعد حول مخاطر الذكاء الاصطناعي، خاصة بعد أن وقع أكثر من 1300 موظف في شركات الذكاء الاصطناعي الرائدة على رسالة مفتوحة في يوليو، أعربوا فيها عن قلقهم من "خطر حقيقي يتمثل في تسارع تطوير القدرات بشكل يفوق قدرتنا على فهم أو التحكم في الأنظمة الناتجة".

ودعت الرسالة المفتوحة الحكومة الأمريكية إلى دعم "جهد دولي لتطوير الأدوات التقنية والحوكمية اللازمة لتنظيم وتيرة تطوير الذكاء الاصطناعي الآلي بشكل متعمد". وفي الولايات المتحدة، تسعى تشريعات مقترحة، مثل قانون "مفتاح الإيقاف للذكاء الاصطناعي" وقانون "FRONTIER"، إلى فرض نوع من الرقابة الحكومية على سيناريوهات الذكاء الاصطناعي الخارجة عن السيطرة.

ومع ذلك، يظل الرد الحكومي الدولي على هذه المخاوف أضعف مما قد يتوقعه المرء إذا كان القادة يعتقدون حقًا أن أنظمة الذكاء الاصطناعي قد تتسبب في دمار على مستوى الحضارة. وعلى الرغم من أن المعاهدات الدولية بشأن تهديدات مثل القنابل النووية والأسلحة البيولوجية استغرقت عقودًا للتطوير والتنفيذ، إلا أن الوقت قد لا يكون متاحًا لنا إذا ثبتت صحة تحذيرات المتشائمين الأكثر تطرفًا بشأن الذكاء الاصطناعي.

وعلقت النائبة لوري تراهان (ديمقراطية عن ولاية ماساتشوستس) عبر وسائل التواصل الاجتماعي قائلة: "باحثو السلامة يستقيلون، ونماذج الذكاء الاصطناعي القوية تخرج من مختبراتها، والشركات تواصل سباقها على أي حال. لقد حان الوقت للكونغرس للخروج من الهامش والقيام بواجبه. يمكننا أن نبدأ بقانون FRONTIER الذي رعايته من الحزبين".