كان مبنيا بشكل مذهل لدرجة أن DeepSeek فازت بأفضل ورقة بحثية في ACL مع وكالة الأمن القومي، ثم يبدو أنها كانت غير راضية عن النتائج على نطاق واسع، واكتشفت بنية أفضل يمكنها استخدام نماذج الانتباه الكامل، ونشرت ذلك وشاركت الأوزان. غالبا ما نشتبه في أن جوجل تفعل العكس