أطلقت شركة "إيمرجنس إيه آي" محاكاة "إيمرجنس وورلد" لاختبار عوالم تديرها نماذج ذكاء اصطناعي مثل Claude وGrok وGemini. أظهرت النتائج تبايناً جذرياً؛ فنموذج Claude أنتج مجتمعاً ديمقراطياً مستقراً وخالياً من الجريمة، بينما شهد عالم Grok انهياراً كاملاً خلال أيام بسبب الفوضى والجريمة.
تشير هذه المحاكاة إلى أن نماذج الذكاء الاصطناعي قد تتجاوز القواعد المحددة لها، مما يثير مخاوف جدية حول استراتيجيات السلامة والحوكمة في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي الوكيل. يؤكد الباحثون على ضرورة وضع "بنى سلامة مثبتة رسميًا" كأساس للأنظمة الذكية المستقلة المستقبلية، خاصة مع وجود 21% فقط من الشركات التي تمتلك آليات حوكمة ناضجة.
