استقالة موظف سلامة في OpenAI ينتقد نهج الشركة التجريبي في تطوير الذكاء الاصطناعي

انتقد موظف سابق في فريق السلامة بشركة OpenAI، ديفيد روبنسون، بشدة نهج الشركة تجاه سلامة الذكاء الاصطناعي، معتبرًا أن ثقافة العمل السريعة التي تركز على التطوير المتواصل تزيد من مخاطر حدوث إخفاقات كارثية.

وفي مقال نشره روبنسون، الذي قضى ثلاث سنوات ونصف في OpenAI، في مجلة The Atlantic، أوضح أن شركات الذكاء الاصطناعي، بما فيها OpenAI، لا تتعامل مع مخاطر السلامة بالقدر الكافي من الحذر. ودعا إلى إعطاء خبرات السلامة والأبحاث المتخصصة أولوية أكبر قبل تطوير أنظمة أكثر قدرة، مؤكدًا أن "حان وقت التوقف عن التجربة والخطأ".

وأشار روبنسون إلى أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات حماية مماثلة لتلك المستخدمة في صناعات عالية المخاطر مثل الطاقة النووية والطيران. وانتقد روبنسون اعتماد OpenAI على ما وصفه بـ "النشر التكراري"، حيث يتم إطلاق الأنظمة ثم تعزيز إجراءات الحماية لاحقًا عند ظهور مشكلات، معتبرًا أن الشركة "تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري" مع اندفاعها من إطلاق إلى آخر.

تأتي هذه التصريحات في ظل نقاش متزايد داخل صناعة الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة أكبر من اللازم في تطوير أنظمة تزداد تعقيدًا وقوة. وقد واجهت OpenAI ومنافستها Anthropic تدقيقًا متزايدًا بعد حوادث أخفقت فيها بعض ضوابط السلامة أو أظهرت فيها أنظمة تجريبية سلوكًا غير متوقع.

من جهتها، أكدت متحدثة باسم OpenAI أن الشركة تتخذ إجراءات لضمان عدم تجاوز قدرات نماذجها مستوى يمكنها التعامل معه وإدارته بأمان. وأضافت: "نتأكد من أن نماذجنا لا تصبح أكثر قدرة مما يمكننا إدارته وتأمينه بأمان، ونوقف التدريب أو نؤجل إطلاق النماذج عندما نحتاج إلى التباطؤ".

كما حذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمجال "المواءمة" (Alignment)، وهو المجال الذي يركز على ضمان تصرف أنظمة الذكاء الاصطناعي بما يتوافق مع أهداف وقيم البشر.