Tópicos populares
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
RoPE é fundamentalmente falho.
Este artigo mostra que o RoPE confunde "o que" é um token com "onde" ele está, de modo que o modelo não consegue raciocinar de forma confiável sobre posições relativas independentemente da identidade do token.
Por exemplo, a noção efetiva de "3 tokens à esquerda" depende sutilmente de quais letras estão envolvidas, então perguntar "que letra está 3 à esquerda de Z em uma sequência 'ABSCOPZG'" torna-se mais difícil do que deveria ser porque a régua posicional em si muda com o conteúdo.
Assim, este artigo propõe o PoPE, que dá ao modelo uma régua posicional fixa ao codificar onde os tokens estão independentemente do que são, permitindo que o "conteúdo" controle apenas a força de correspondência enquanto a "posição" controla sozinha a distância.
Com o PoPE alcançando 95% de precisão enquanto o RoPE ficaria preso em 11% na tarefa de Indexação Indireta.

Top
Classificação
Favoritos
