好的,根据回复,我认为我们应该定义这些词的含义。 Token(令牌):一个分词器生成令牌,这些令牌是具有初始值的槽位。 Latent(潜在):令牌的初始值嵌入到一个维度空间中,成为潜在值。 Residual(残差):一种潜在值,但强调流式特性,作为被注释的值。 Hidden state(隐藏状态):当潜在值被视为就地更新时,有时称为隐藏状态。 Activation(激活):在给定层内处理潜在值时产生的短暂状态。有时残差会短暂产生,然后这些也会成为激活。