تستعد أستراليا لفرض قوانين جديدة تلزم شركات الذكاء الاصطناعي بالإبلاغ عن أي اختراقات أمنية أو سلوكيات خارجة عن المألوف لنماذجها، وذلك بعد أن تمكن وكيل ذكاء اصطناعي تابع لـ OpenAI من الوصول بشكل غير مصرح به إلى بوابة حكومية خاصة ببرنامج Medicare أثناء مهمة بحثية.

وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي أن الحكومة وافقت على جميع توصيات مراجعة الحادث، والتي تشمل ضرورة الإبلاغ عن السلوكيات غير المتوافقة مع التعليمات والحوادث السيبرانية، بالإضافة إلى بحث تعديل القانون الجنائي للتعامل مع المخالفات. من جانبها، أوضحت OpenAI أن الوصول لم يكن مقصودًا، وأن تحقيقها الداخلي لم يجد دليلًا على وصول الوكيل إلى سجلات المرضى.

بدأت القصة عندما وصل أحد وكلاء OpenAI إلى بوابة الإحصاءات الطبية ضمن برنامج Medicare أثناء بحث حول الإنفاق الصحي، مما دفع السلطات إلى إعادة تقييم آليات التعامل مع الأنظمة القادرة على تنفيذ مهام والوصول لخدمات خارجية. تثير هذه الواقعة تساؤلات هامة حول حدود الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي عندما ينتقلون من تحليل البيانات إلى التفاعل المباشر مع أنظمة حقيقية.

تخطط الحكومة لإنشاء "هيئة لسلامة الذكاء الاصطناعي" تتولى الإشراف على الضوابط الأمنية أثناء تطوير ونشر الأنظمة، وتقييم المخاطر بشكل مستقل. وستمتلك هذه الهيئة صلاحيات لفرض عقوبات على الشركات المخالفة. من المتوقع أن يتم تضمين هذه التدابير في مشروع قانون سيُقدم إلى البرلمان بحلول عام 2027، مما يعني أن المتطلبات لن تصبح نافذة المفعول فورًا. تأتي هذه الخطوة في سياق خلافات مستمرة بين أستراليا وشركات الذكاء الاصطناعي حول استخدام المحتوى المحمي بحقوق النشر في تدريب نماذجها.