AICAT ─ 全球3000+优质AI工具盘点,热门AI教程推荐
标签:矩阵
全新近似注意力机制HyperAttention:对长上下文友好、LLM推理提速50%
AIGC动态欢迎阅读原标题:全新近似注意力机制HyperAttention:对长上下文友好、LLM推理提速50%关键字:矩阵,注意力,算法,研究者,条目文章来源:机器之心内容字数:9661字内容摘要:……
Mamba-2新架构出世一统江湖!普林斯顿CMU华人再出神作,性能狂飙8倍
AIGC动态欢迎阅读原标题:Mamba-2新架构出世一统江湖!普林斯顿CMU华人再出神作,性能狂飙8倍关键字:注意力,序列,模型,维度,矩阵文章来源:新智元内容字数:0字内容摘要:新智元报……
超过ConvNeXt,CSWin等!上海交大提出Transformer架构新SOTA:SeTformer!
AIGC动态欢迎阅读原标题:超过ConvNeXt,CSWin等!上海交大提出Transformer架构新SOTA:SeTformer!关键字:模型,卷积,矩阵,特征,参数文章来源:算法邦内容字数:7178字内容摘要:……
Sigmoid注意力一样强,苹果开始重新审视注意力机制
AIGC动态欢迎阅读原标题:Sigmoid注意力一样强,苹果开始重新审视注意力机制关键字:注意力,序列,矩阵,函数,内存文章来源:机器之心内容字数:0字内容摘要:机器之心报道机器之心编……
以3D视角洞悉矩阵乘法,这就是AI思考的样子
AIGC动态欢迎阅读原标题:以3D视角洞悉矩阵乘法,这就是AI思考的样子关键字:矩阵,乘法,注意力,表达式,分区文章来源:机器之心内容字数:20213字内容摘要:选自PyTorch机器之心编译……
Mamba-2:超越 Transformer 的新架构,训练效率大幅提升!
AIGC动态欢迎阅读原标题:Mamba-2:超越Transformer的新架构,训练效率大幅提升!关键字:矩阵,报告,状态,注意力,算法文章来源:人工智能学家内容字数:0字内容摘要:机器之心报道……
PyTorch团队重写「分割一切」模型,比原始实现快8倍
AIGC动态欢迎阅读原标题:PyTorch团队重写「分割一切」模型,比原始实现快8倍关键字:本,内核,矩阵,张量,乘法章来源:机器之心内容字数:7501字内容摘要:机器之心报道编辑:陈萍我……
一行代码训练成本再降30%,AI大模型混合精度训练再升级|开源
AIGC动态欢迎阅读原标题:一行代码训练成本再降30%,AI大模型混合精度训练再升级|开源关键字:报告,精度,模型,张量,矩阵文章来源:量子位内容字数:0字内容摘要:允中发自凹非寺量……