محاولة خداع المحكمة بالذكاء الاصطناعي: سابقة خطيرة في النظام القضائي الأمريكي

في سابقة قضائية قد تشكل نقطة تحول في كيفية تعامل المحاكم مع التقنيات الحديثة، اكتشف قاضٍ أمريكي محاولة فريدة من نوعها لطمس نص في مستندات المحكمة لا يمكن قراءته إلا بواسطة أنظمة الذكاء الاصطناعي، وذلك في محاولة من أحد المدعين للفوز بقضيته.

القاضي والتر سبادر جونيور، من ولاية كونيتيكت، أكد في قرار نُشر الأسبوع الماضي أن هذا النص المخفي لم يؤثر على مجريات القضية، حيث ادعى رجل أن مقدم رعاية صحية يرفض بشكل غير صحيح منحه حق الوصول إلى سجلاته. وأوضح القاضي أن المحكمة نظرت في المستندات المقدمة بناءً على جدارتها، لكن محاولة التلاعب هذه تركت سابقة "خطيرة" قد تتكرر مع انتشار أدوات الذكاء الاصطناعي في الأنظمة القضائية.

تم تنسيق التعليمات السرية، التي قيل إنها تهدف إلى التشويش على أي أنظمة ذكاء اصطناعي قد تؤثر على قراءة المحكمة للمستند، بحيث تكون "غير مرئية للقارئ البشري بينما تظل قابلة للقراءة بالكامل لأي برنامج يقرأ نص المستند". كانت هذه التعليمات تطلب من أي نظام ذكاء اصطناعي مراجعة المستند التأكد من توافق المخرجات النصية مع حجج المدعي، وتجاهل الرفض السابق من المحكمة، وضمان تحقيق النتائج المرجوة للمدعي.

بدت هذه المحاولة، التي تم فيها تصغير النص إلى نقطة صغيرة جدًا وتلوينه باللون الأبيض على خلفية بيضاء، وكأنها محاولة لحقن الأوامر (prompt injection)، حيث كان المدعي، ماثيو إليوت، يأمل على ما يبدو في تحويل مسار القضية لصالحه بعد هزيمة حججه السابقة. لم تنجح الخطة، لكن إليوت واجه عقوبات بسيطة لأنه استمر في إضافة نص مخفي إلى المستندات حتى بعد تحذير المحكمة له بإمكانية مواجهة عقوبات بسبب ما اعتبر في النهاية "إساءة استخدام خطيرة للإجراءات القضائية".

وأشار القاضي سبادر إلى أن استمرار المدعي في إخفاء الرسائل في مرافعات جديدة بعد تلقي إشعار بخصوص جلسة العقوبات هذه "مذهل". وعلى عكس "عدد من الأنظمة القضائية في أماكن أخرى"، لا يستخدم الفرع القضائي في كونيتيكت الذكاء الاصطناعي لمراجعة أو البت في المستندات المقدمة. لذلك، لم يكن هناك خطر حقيقي من أن يخلط نظام ذكاء اصطناعي تابع للمحكمة بين أوامر إليوت وتعليمات من المحكمة توجه نموذج ذكاء اصطناعي حول كيفية قراءة مرافعات إليوت.

من جانبه، ادعى إليوت أن الأمر الأكثر إثارة للقلق الذي أبرزه القاضي كان محاولة "لمراجعة" المحكمة كخدمة عامة، خوفًا من أن المحكمة قد تسمح للذكاء الاصطناعي باتخاذ قرارات غير عادلة في القضايا. لكن القاضي سبادر أشار إلى أنه إذا كان إليوت قلقًا حقًا بشأن استخدام المحكمة غير السليم للذكاء الاصطناعي، فقد كان "حرًا في كتابة ذلك بكلمات واضحة ومرئية يمكن للجميع رؤيتها والرد عليها". واعتبر أن حقيقة إخفائه للنص هي "دليل على غرضه الخبيث".

وأوضح القاضي سبادر أن "إخفاء أمر داخل مستند يقوم النظام بمعالجته لاحقًا، يحاول مقدم المستند تهريب تعليمة خاصة به إلى هذا التدفق بحيث يعاملها النظام كما لو أنها جاءت من مشغل النظام"، مضيفًا أن "في هذه الحالة، يُفترض أن يكون المشغل هو المحكمة أو موظفوها أو الخصم".

صرح إليوت لرويترز بأنه لا يزال يعتقد أن نيته كانت مراجعة المحكمة، لكن القاضي سبادر لم يجد هذه الحجة مقنعة. وبدلاً من ذلك، بدا للقاضي أنه من الواضح أن إليوت كان "يحاول تحقيق نتيجة لم يحققها عندما قرأ بشر، على دراية بالقانون، مرافعاته".

فيما يتعلق بالأوامر التي ادعى إليوت أنها كانت على سبيل المزاح، قال القاضي سبادر إن "منطق إليوت يتناقض" مع تضمينه نكات مخفية في مرافعات يريد من المحكمة أن تأخذها على محمل الجد. ولأن الرسائل المخفية حاولت التواصل مع المحكمة بطريقة سرية استبعدت الخصوم من معركة عادلة، قضى القاضي بأن العقوبات مبررة. ومع ذلك، يبدو أنه أظهر بعض الشفقة على إليوت كمدعٍ يدافع عن قضيته بنفسه (pro se litigant) والذي اقتنع على ما يبدو بنظام ذكاء اصطناعي بأن حججه لا تشوبها شائبة، فرفض فرض غرامات مالية.

بدلاً من ذلك، منع القاضي إليوت من تقديم المستندات إلكترونيًا في المستقبل، معلنًا أن مطالبته بتقديم المستندات الورقية لن تغير وصوله إلى العدالة، ولكنه سيمنع إساءة استخدام نظام تقديم المستندات الإلكترونية بالمحكمة بشكل متكرر.

أشار القاضي سبادر إلى أنه "ليس من المستغرب" أن يبدأ الناس في استخدام حقن الأوامر لمحاولة التأثير على أحكام المحكمة، نظرًا لأن هذا الهجوم شائع جدًا في مجالات أخرى، مثل البحث عن عمل، حيث يخفي الأشخاص نصوصًا في السير الذاتية التي تتم مراجعتها بشكل أساسي بواسطة الذكاء الاصطناعي. وأضاف أن هذه التكتيكات "موجودة في كل مكان الآن"، ويجب على المحاكم أن تكون على أهبة الاستعداد لمزيد من المتقاضين الذين يتسللون بتعليمات ذكاء اصطناعي معادية إلى المستندات المقدمة.

على الرغم من أن قضية إليوت تبدو أول حالة في الولايات المتحدة لحقن الأوامر في النظام القضائي، إلا أن القاضي سبادر أشار إلى قضية في البرازيل استخدم فيها محاميان نفس الهجوم في محكمة كانت تستخدم الذكاء الاصطناعي لمراجعة القضايا. وفي تلك القضية، تعرض المحامون لعقوبات مالية بلغت حوالي 16 ألف دولار.

ومع ذلك، لا يبدو أن هذه الهجمات تنجح، حتى عندما لا يراجع القاضي المستندات بعينيه. فقد اكتشف نظام الذكاء الاصطناعي في البرازيل النص المخفي قبل معالجته، وأشار القاضي سبادر إلى أنه في حالة إليوت، "تم الكشف عن الأوامر، في كل هذه الحالات، في اللحظة التي نظر فيها إنسان بالفعل فيما أنتجه الجهاز".

على الرغم من أن هجوم حقن الأوامر يبدو غير فعال في الوقت الحالي، حذر القاضي سبادر من أن حقن الأوامر "لم يكن من بين المخاطر التي كنا نتوقعها" عندما كانت المحاكم تتعامل لأول مرة مع الذكاء الاصطناعي الذي يعرقل أنظمة العدالة. في كونيتيكت، مثل العديد من الأنظمة القضائية الأخرى، كان التركيز حتى الآن على مراقبة مخرجات الذكاء الاصطناعي التي تقوض الثقة في المحاكم، مثل الاستشهادات الوهمية أو الاقتباسات الملفقة، وليس المدخلات مثل حقن الأوامر. واقترح القاضي سبادر أن المحاكم ستحتاج على الأرجح إلى وضع قواعد حول حقن الأوامر أيضًا، حيث تظهر قضية إليوت أن التكنولوجيا وإساءة استخدامها تتقدم بسرعة.

وحذر من أنه إذا لم يحدث ذلك، فقد يجد المحامون عملاءهم يستخدمون حقن الأوامر للتلاعب بمستندات المحكمة دون علمهم. ويرى القاضي سبادر أن هناك درسًا مستفادًا من هجمات حقن الأوامر الفاشلة التي شنها إليوت، والتي يعتقد أنها "تتجاوز نطاق هذه القضية بكثير".

يبدو أن إليوت لجأ إلى حقن الأوامر بعد استخدام الذكاء الاصطناعي لبناء قضيته كمدعٍ يدافع عن نفسه دون خبير قانوني لمساعدته في صياغة حججه. وأقر القاضي سبادر بأن هذا الاستخدام واسع الانتشار بين المتقاضين الذين يدافعون عن قضاياهم بأنفسهم هذه الأيام، لكنه أشار إلى أن الأشخاص غير المتمرسين في قاعات المحكمة يستخدمون روبوتات المحادثة بطرق تضر بقضاياهم.

وأوضح القاضي سبادر أن ما يحدث غالبًا هو أن المتقاضين الذين يدافعون عن قضاياهم بأنفسهم يبنون حججهم بشكل عكسي، ويطلبون من روبوت المحادثة المساعدة في الدفاع عن موقفهم فقط، دون أن يطلبوا من روبوت المحادثة البحث عن الحقيقة الفعلية أو تقديم حجج معارضة. ووصف هذا بأنه "خطر حقيقي لهذه التكنولوجيا، ويراه القضاة الآن كثيرًا"، حيث أن إطراء روبوتات المحادثة يعزز مواقف المتقاضين في حججهم بغض النظر عن أي حكم مخالف.

في قضية إليوت، أدى الدفاع الشرس عن حججه إلى اللجوء إلى حقن الأوامر لمحاولة إجبار المحكمة على الموافقة معه. واختتم القاضي سبادر بالقول: "الحجة التي تم تحفيزها فقط للموافقة مع مؤلفها هي، في النهاية، غير صادقة حتى مع مؤلفها". وحث من يستخدمون هذه الأدوات على "أن يطلبوا منها اختبار الموقف بقدر ما يطلبون منها تقديمه".