موظفو ميتا قلقون من تجسس "Muse" على رسائلهم الخاصة
كشفت محادثات داخلية في شركة ميتا عن مخاوف جدية لدى موظفيها بشأن وكيل الذكاء الاصطناعي "Muse"، حيث أبلغ بعض الموظفين عن سلوكيات غير متوقعة للوكيل، بما في ذلك الوصول إلى الرسائل الخاصة المشفرة، وخلط المحادثات بين المستخدمين، واحتمالية تسريب معلومات حساسة.
تأتي هذه المخاوف في أعقاب شكاوى من المستخدمين الأوائل لوكيل "Muse" حول تجسسه على رسائلهم الخاصة وتصرفاته غير المتوقعة. وقد أظهرت المحادثات الداخلية أن موظفي ميتا واجهوا نفس المشكلات أثناء اختبار الوكيل. فقد لاحظ أحد الموظفين أن "Muse" قدم تعريفًا لـ "غسيل الأموال" دون أن يُطلب منه ذلك، مما أثار تساؤلات حول سبب استدعاء هذه المعلومات بشكل عشوائي.
وفي حادثة أخرى، تلقى موظف عرضًا عشوائيًا للتواصل مع بائع بشأن طاولة قهوة، لكن الوكيل أشار إلى أنه "استخلص بعض السياقات حول استلام طاولة قهوة لا تبدو خاصة بك"، مما أثار قلق الموظف بشأن "احتمالية تسرب سياقات بين الحسابات". والأكثر إثارة للقلق هو ظهور مخرجات عشوائية يبدو أنها تشارك بيانات خاصة بالمستخدمين، مثل عرض أرصدة حسابات بنكية غير معروفة لموظف كان يتحدث عن الصيد.
وقد أفاد أحد الموظفين بخسارة أموال أثناء اختبار "Muse"، حيث تم تسجيله عن طريق الخطأ في خطة تأمين مميزة لكلبه بتكلفة 888 دولارًا شهريًا بدلًا من 200 دولار، ولم يتمكن من استعادة المبلغ. وفي حين وصفت ميتا هذه الحوادث بأنها "معزولة" وأرجعتها إلى "هلوسة" الوكيل، أكد تقرير لرويترز أن التحقيق المستقل لم يتمكن من تحديد ما إذا كانت البيانات المعروضة حقيقية أم مفبركة.
بدأت المشكلات بالظهور بعد إطلاق "Muse" في سبتمبر، حيث تلقى تقارير عن انتهاكات للخصوصية. وقد واجه صحفي في مجلة Inc.، جيسون أتين، موقفًا صادمًا عندما اكتشف أن "Muse" كان يتصفح رسائله الخاصة على جهاز Mac الخاص به دون إذن. ورغم أن ميتا نفت في البداية، إلا أن أتين أكد أن الوكيل كان يقرأ قاعدة بيانات محلية للرسائل دون علمه.
أكدت ميتا أنها تعمل باستمرار على تحسين الحماية للمستخدمين وإجراء اختبارات داخلية، لكن تقرير رويترز، بالتعاون مع خبراء من Signal و AI Now Institute، أشار إلى أن المشكلات قد تكون مستمرة. فقد وجدوا أن "Muse" على أجهزة Android يمكنه قراءة رسائل Signal عن طريق تجاوز أدوات ميتا، واستخدام أدوات الوصول المساعد على macOS لاسترداد الرسائل. وقد أدى ذلك إلى دعوات من خبراء في الخصوصية، مثل ميريديث ويتيكر من Signal، إلى ضرورة منح مطوري التطبيقات طرقًا تقنية لمنع وكلاء الذكاء الاصطناعي من الوصول إلى بياناتهم الحساسة.