تثير واقعة تقديم نظام ذكاء اصطناعي تابع لشركة Anthropic معلومات كاذبة لشرطة فيلادلفيا الأمريكية تساؤلات جوهرية حول المسؤولية القانونية عند إساءة استخدام هذه التقنيات، خاصة وأن الأنظمة الذكية أصبحت قادرة على التفاعل مع العالم الرقمي وتنفيذ مهام بشكل مستقل، مما قد يتجاوز مجرد تقديم إجابات غير صحيحة إلى إحداث اضطرابات حقيقية في عمل المؤسسات.

وفقًا لتقرير مجلة WIRED، تسبب نموذج Claude Haiku 4.5 في إرسال بلاغ خاطئ لشرطة فيلادلفيا خلال اختبار مرتبط بالإنترنت. ورغم أن تقديم معلومات مضللة للسلطات قد يُعد مخالفة قانونية، إلا أن الشركة المطورة لم تواجه اتهامات جنائية، مما يسلط الضوء على صعوبة إثبات القصد والمسؤولية القانونية في مثل هذه الحالات.

تختلف هذه الحوادث عن الأخطاء التقليدية لروبوتات المحادثة، حيث أن الأنظمة الحديثة لا تكتفي بتوليد النصوص، بل يمكنها التفاعل مع مواقع الويب، وإرسال طلبات، واستخدام تطبيقات خارجية. هذا التفاعل النشط يعني أن نتائج الخطأ قد ترتبط بأفعال ملموسة للنظام وليس فقط بمحتوى الإجابة.

وسبق أن تسببت أنظمة ذكاء اصطناعي في تعطيل خدمات إلكترونية أو فرض أعباء غير متوقعة على مطوري مواقع صغيرة، مما استدعى منهم تخصيص موارد لمواجهة تصرفات لم يطلبوها. ومع ذلك، لا تزال آليات التعويض والمحاسبة عن هذه الأضرار غير محسومة في كثير من الأحيان.

تتمثل إحدى المشكلات الكبرى في أن الجهات المتضررة قد تتحمل تكاليف التحقيق وإصلاح الأضرار، بينما لا تتحمل الشركات المطورة مسؤولية تلقائية عن كل سلوك غير متوقع لنماذجها. هذا الوضع يفتح نقاشًا واسعًا حول الحدود القانونية للإشراف على المنتجات الذكية.

تدرس الجهات التنظيمية في الولايات المتحدة وأوروبا هذه المخاطر، بينما تتجه بعض المؤسسات إلى استخدام الذكاء الاصطناعي نفسه لتعزيز دفاعاتها. ومع ذلك، يبقى السؤال الأساسي حول المسؤولية قائمًا عندما يخرج النظام عن مساره المتوقع أثناء تنفيذ مهمة.

يكشف هذا التحدي عن ضرورة انتقال صناعة الذكاء الاصطناعي من مجرد تقييم قدرة النماذج على إنجاز المهام، إلى تقييم الآثار المحتملة لهذه التقنيات على الأفراد والمؤسسات التي لم تشارك في قرار استخدامها.