اقتصادات الذكاء الاصطناعي تحتاج إلى قضبان، وليس قواعد عامة. مع بدء وكلاء الذكاء الاصطناعي في التفاعل مع بعضهم البعض اقتصاديا، والدفع، والتحميل، والرسم، والتنسيق، والتحسين، لا تزال العديد من الأنظمة تعتمد على إرشادات غير رسمية: حدود الإنفاق في المستندات، افتراضات حول "السلوك المعقول"، أو الرقابة البشرية عندما يشعر أن هناك شيئا غير طبيعي. قد تنجح هذه الأساليب مع النماذج الأولية، لكنها تتدهور بسرعة بمجرد أن يعمل الوكلاء بشكل مستمر وبنطاق واسع.

التحدي هو أن القواعد العامة لا تترجم إلى تنفيذ آلي. الوكلاء لا يفسرون النية أو السياق أو الاستثناءات كما يفعل البشر. بدون قضبان صلبة، تعود الأنظمة إلى الأذونات الواسعة، والمراقبة التفاعلية، والتدخل اليدوي بعد حدوث الأعطال. هذا يخلق اقتصادات هشة حيث يمكن أن يحدث خطأ أو استغلال أو خطأ في التكوين فورا.

تتطلب اقتصادات الذكاء الاصطناعي بنية تحتية تفرض السلوك بشكل افتراضي. في لعبة Kite، تسير الأنشطة الاقتصادية على مسارات محددة: هوية وكيل قابلة للتحقق، سلطة محدودة، قيود قابلة للبرمجة، وتسوية أصلية تنفذ تماما كما هو محدد. بدلا من الأمل في أن يتصرف الوكلاء بشكل صحيح، يضمن النظام ما يمكنهم وما لا يمكنهم فعله. على نطاق واسع، الاستقلالية الآمنة لا تأتي من حكمة أفضل، بل تأتي من حواجز تجعل النتائج حتمية 🪁