AICAT ─ 全球3000+优质AI工具盘点，热门AI教程推荐
标签：注意力
全新近似注意力机制HyperAttention：对长上下文友好、LLM推理提速50%
AIGC动态欢迎阅读原标题：全新近似注意力机制HyperAttention：对长上下文友好、LLM推理提速50%关键字：矩阵,注意力,算法,研究者,条目文章来源：机器之心内容字数：9661字内容摘要：……
Mamba-2新架构出世一统江湖！普林斯顿CMU华人再出神作，性能狂飙8倍
AIGC动态欢迎阅读原标题：Mamba-2新架构出世一统江湖！普林斯顿CMU华人再出神作，性能狂飙8倍关键字：注意力,序列,模型,维度,矩阵文章来源：新智元内容字数：0字内容摘要：新智元报……
Sigmoid注意力一样强，苹果开始重新审视注意力机制
AIGC动态欢迎阅读原标题：Sigmoid注意力一样强，苹果开始重新审视注意力机制关键字：注意力,序列,矩阵,函数,内存文章来源：机器之心内容字数：0字内容摘要：机器之心报道机器之心编……
以3D视角洞悉矩阵乘法，这就是AI思考的样子
AIGC动态欢迎阅读原标题：以3D视角洞悉矩阵乘法，这就是AI思考的样子关键字：矩阵,乘法,注意力,表达式,分区文章来源：机器之心内容字数：20213字内容摘要：选自PyTorch机器之心编译……
Mamba-2：超越 Transformer 的新架构，训练效率大幅提升！
AIGC动态欢迎阅读原标题：Mamba-2：超越Transformer的新架构，训练效率大幅提升！关键字：矩阵,报告,状态,注意力,算法文章来源：人工智能学家内容字数：0字内容摘要：机器之心报道……
三大流派与热点技术！一文看懂小模型与端侧模型
AIGC动态欢迎阅读原标题：三大流派与热点技术！一文看懂小模型与端侧模型关键字：模型,报告,注意力,数据,技术文章来源：智猩猩AGI内容字数：0字内容摘要：9月6-7日，2024全球AI芯片……
Meta对Transformer架构下手了：新注意力机制更懂推理
AIGC动态欢迎阅读原标题：Meta对Transformer架构下手了：新注意力机制更懂推理关键字：上下文,注意力,提示,变体,机制文章来源：机器之心内容字数：5038字内容摘要：机器之心报道编……