谷歌欲AI技术封锁；Meta提出“多token注意力”｜AI日报

背景：近期AI行业动态频繁，谷歌决定不再分享前沿AI研究成果以保持竞争优势，Meta提出“多token注意力”机制以提升大语言模型的性能，同时OpenAI学院上线提供免费AI知识学习资源。研究目的：Meta的研究旨在通过多token注意力机制改进大语言模型的注意力权重计算，提升其在语言建模和长上下文信息搜索任务中的性能。结论：Meta的多token注意力机制在多个基准测试中表现优于传统Transformer模型，而AI行业的技术竞争和知识共享问题也引发了广泛关注。