新語

嗑友

它既指喜歡嗑瓜子的人聚集在一起，也指那些喜歡在網(wǎng)絡(luò)上討論相同話題的人，他們通過討論明星或者電視劇情等這一共同愛好聚集在一起，形成了一個社交群體。

原生稀疏注意力（NSA）

它是一種用于超快速長文本訓(xùn)練與推理的、硬件對齊且可原生訓(xùn)練的稀疏注意力機制。如果將傳統(tǒng)稠密注意力比作“鋪滿草坪”的注意力分配方式，那NSA則更像是“精準灌溉”，只將注意力“澆灌”在最需要的地方，避免了資源浪費。