2025年03月19日
海岛老司机，不浪不会玩斯基。各位好，我是难言的小跟班——浪斯基
对于大部分和平精英的玩家来说，玩游戏最主要的目的就是上分，无论是落地钢枪也好，跳野区苟发育也好，都是为了拿到更多的淘汰分或排名分，增加结算时的排位分。很多玩家为了能快速上分，一般都会选择组一个固定的四人车队，毕竟四排上分是比单排稳定多了。
而在游戏中，想要快速上分，除了稳定的车队以及个人技术之外，地图的选择其实也很重要，在和平精英中，最适合上分的其实是雪地图，为什么会说是雪地图呢？且听浪浪给各位好好分析一下。首先沙漠图是最不适合的地图，因为沙漠图面积太大了，一局游戏所耗费的时长是远超过其他三张地图，虽然沙漠图更适合拿排名分，但较长的游戏时间，使这张地图并不适合用来快速上分。
2025年03月19日
北京日报微信公众号 | 记者 车社
8月8日，北京日报（ID：Beijing_Daily）发现，通过手机地图软件搜索“京台高铁”，已可显示京台高铁线路图（建设中）。
根据地图软件，京台高铁起点为北京南站，经廊坊、天津、沧州继续向南。
在台湾省设高铁新竹站，终点为高铁台北站。
去年11月，歌曲《2035去台湾》被网友传唱，歌词说要搭动车去看台湾好风光。国台办发言人朱凤莲在例行新闻发布会上应询表示，“这是一首新歌，我以前听过一首网络歌曲《坐上高铁去台北》，这两首歌应该是有异曲同工之处。”
2025年03月19日
分组查询注意力 (Grouped Query Attention) 是一种在大型语言模型中的多查询注意力 (MQA) 和多头注意力 (MHA) 之间进行插值的方法，它的目标是在保持 MQA 速度的同时实现 MHA 的质量。
这篇文章中，我们将解释GQA的思想以及如何将其转化为代码。
GQA是在论文 GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints paper.中提出，这是一个相当简单和干净的想法，并且建立在多头注意力之上。
2025年03月19日
2025年2月18日，DeepSeek团队发布了原生稀疏注意力机制（Native Sparse Attention，NSA）
2025年03月19日
众所周知，目前的大模型大多基于 Transformer 架构。Transformer 的核心结构是多头自注意力模型（multi-head self-attention model）。
2025年03月19日
这篇论文介绍了一种名为NSA（Natively Sparse Attention）的新型稀疏注意力机制，旨在提高长上下文建模的效率，同时保持模型的性能。
1. 研究背景：问题：长上下文建模对于下一代语言模型至关重要，但标准的注意力机制由于其高计算成本而带来了显著的挑战。难点：现有的稀疏注意力方法在实际部署中往往未能实现预期的加速效果，主要因为它们在推理阶段有效，但在训练阶段缺乏支持。相关工作：现有的稀疏注意力方法包括KV缓存驱逐方法、基于块的选择方法和采样、聚类或哈希选择方法，但这些方法在实际应用中存在局限性。