Tags

深度学习

ChatRWKV:挑战 Transformer 的开源 100% RNN 语言模型
AI

ChatRWKV:挑战 Transformer 的开源 100% RNN 语言模型

多年来,AI 社区一直处在一个广为接受的假设之下:Transformer 架构——在里程碑式的「Attention Is All You Need」论文中首次提出——是构建大型语言模型的唯一可行途径。递归神经网络(RNN)被认为已经过时——训练太慢、太容易出现梯度消失、无法在规模上匹配 …

神经符号 AI 能耗降低 100 倍
AI 趋势

神经符号 AI 能耗降低 100 倍

AI 产业在过去五年通过扩展规模来获取更强大的模型——增加参数、消耗更多算力,以令电网运营商从弗吉尼亚到新加坡都警觉的速度吞噬电力。2026 年 4 月,塔夫茨大学研究团队发布了一项成果,从根本挑战这一策略的核心假设:更大,不必然意味着更昂贵。他们的神经符号视觉语言动作模型在一项严苛的规划 …

TAG
CATEGORIES