论文第一作者谭宇乔来自中国科学院自动化研究所的自然语言处理和知识工程研究组，导师为何世柱老师。目前研究方向主要在利用大语言模型参数知识增强大模型能力。

　　人类的思维是非透明的，没有继承的记忆，因此需要通过语言交流的环境来学习。人类的知识传递长期依赖符号语言：从文字、数学公式到编程代码，我们通过符号系统将知识编码、解码。但这种方式存在天然瓶颈，比如信息冗余、效率低下等。

　　现如今，大语言模型（LLM）就主要模仿这一套范式来学习和传递知识。然而，与人脑不可知和不透明的特性不同，开源 LLM 的可访问参数和信息流则像一个透明的大脑，直接编码了事实知识shadowrocket12元，已有的研究对其进行了系统分析、精确定位和有效转移。因此研究人员提出疑问：大模型能否像《阿凡达》中的人类和纳威人之间建立传递知识的练习？其中在天然存在的较大 LLM 和较小 LLM 对之间展开，将参数知识作为媒介。

　　最近，中国科学院自动化所提出对 Parametric Knowledge Transfer (PKT，参数知识迁移) 的全面分析。一句话总结：跨规模大模型之间的表现相似和参数结构相似度都极低，这对实现有效的 PKT 提出了极大的挑战。

　　论文首先通过简单的前置实验，挖掘出参数空间的对齐是实现参数知识迁移的必要条件。现有的参数对齐方法Seeking通过梯度定位部分较大 LLM 参数以适配较小 LLM 张量形状，将其初始化为 LoRA 矩阵通过后续微调实现迁移，称之为后对齐参数迁移方法（Post-Align PKT）。论文为了更全面探索 PKT 是否可行，根据对齐时机提出先对齐知识迁移（Pre-Align PKT）新范式，采用定位后对齐（Locate-then-Align，LaTen）方法实现参数对齐。

　　该方法的核心理念是首先通过神经元级别的归因分析，识别出与特定任务相关的参数，然后利用训练得当的超网络，将较大 LLM 的知识映射到较小 LLM 上。

　　知识提取：通过分析大模型的参数，识别出与目标任务相关的知识。这一过程利用静态神经元归因方法，计算出每个神经元在任务中的重要性，从而选择出最具信息量的参数进行迁移。参数对齐：一旦确定了重要参数，接下来通过轻量级的超网络进行对齐，确保这些参数能够有效整合到小型模型中。参数注入：这一过程强调在对齐后直接注入参数，减少了后续训练所需的资源和时间。

　　通过上述流程，就可以将较大模型中的参数知识转换为在较小模型中可受用的知识进而进行注入，以避免参数空间的差异性导致的性能丢失。

　　在实验部分，研究者针对多个基准数据集，涵盖世界知识（MMLU），数学推理（GSM8K）和代码能力（HumanEval 和 MBPP）进行了详细评估。

　　对于 Post-Align PKT，论文将其同利用 SVD 从模型自身获取 LoRA 的 PiSSA 方法对比，结果发现 PiSSA 在相同设置下优于 Seeking，证明从较大模型抽取的参数知识不如利用模型自身知识作为 LoRA 初始化，进一步怀疑其可行性。对于 Pre-Align PKT，结果显示，只需要极少的训练步数和数据开销，LaTen 能有效取得性能提升。但是 Pre-Align PKT 通过训练实现参数对齐的方式受到极大限制，无法超越较大 LLM 的能力上界，同时训练不太稳定，没有明显收敛。

　　此外，论文从另一个方面来验证目前阶段的 PKT 是否有效。既然假设迁移的参数知识中包含了有用的特定任务的知识，那么在特定任务上表现更好的模型，理应在迁移后能让小模型的性能更好。因此，研究者在代码任务上开展了这一探索实验：

　　实验结果证明了两种 PKT 在这种设置下的失败，让人疑惑为什么跨规模 PKT 无法有效实现？

　　PKT 的核心任务在于对齐（Align），不管是通过后续训练还是提前通过超网络实现，是否能有效实现对齐是 PKT 成功的关键。从现有实验结果来看，PKT 并没有有效实现对齐，那么阻碍的关键在哪？

　　对于表现相似度的分析，论文采用了中心核对齐（Centered Kernel Alignment, CKA）方法，该方法基于 Hilbert-Schmidt 独立性准则（HSIC），用于计算神经网络中特征表示的相似性。该指标评估了两个模型之间行为的相似性，可以视为大语言模型的行为相似性。

　　如图 4 所示，Llama2-7B 和 13B 之间的相似性较低，尤其是在多头自注意力（MHSA）模块中，该模块在信息整合中扮演着至关重要的角色。有趣的是，上投影层的相似性较高，这可能是因为它们作为关键记忆，捕捉特定的输入模式，而这些模式通常在不同模型间是一致的。跨规模大模型之间的低相似性也解释了为何从同一模型衍生的 LoRA 表现更好，因为它与模型的内在行为更为贴合。证明跨规模大语言模型之间的表示相似性较弱是导致神经不兼容性的关键因素之一，这使得理想的参数知识转移成功变得困难。

　　人类从牙牙学语到学贯古今，通过语言和文字在历史长河中不断汲取知识，通过吸收和迭代实现知识的传承。

　　然而，我常幻想能实现，类似科幻小说中三体人直接通过脑电波传递所有知识，或利用一张链接床就能把人类的意识输入到纳威人体内，这是一种更理想的知识传递方式，而开放的大模型参数正有可能实现这一点。

　　通过将 PKT 根据 Align 进行划分，我们完成了对现有阶段 PKT 的全面研究，找出了实验结果欠佳的背后是不同规模大模型之间参数知识本质上的行为和结构的差异。

　　但仍期望，在未来大模型之间的交流不再局限于语言这种有损的压缩方式，而去尝试更高效直接的迁移方法。

　　05月29日,国家航天局紧急调配高分卫星助力新疆阿克苏地震应急救援,当心你成为“主角”，揭秘酒店针孔摄像头，住酒店咋防偷拍？,91人妻精品无码久久久久久久。

　　,男女被啪羞羞全免费,欧美三星成人屁股,不知火舞❌爆奶水摇舌头在线：丝袜人妻熟女XXXXX网站

　　05月29日,“潭美”残涡叠加冷空气 三亚9小时最大降雨量416.5毫米,3、还有就是要关心孩子的发展方向。有的家长会说，我的孩子成绩一直优异，很让我放心。大有自己没用武之地，高枕无忧的姿态。其实，对那些成绩好的孩子，老师和家长都要树立起全面培养孩子的观念，要明白学习成绩好是孩子成长中的一部分，还有思想道德、身体健康、心理素质、礼节礼貌、劳动观念、专业技术、自我控制能力、组织才能等，所以，家长不能只看到学习成绩而不管其它，家长应该全面地培养孩子。比如、让孩子有多一点时间学习实践，提高办事能力；让孩子学习一点组织策划知识，掌握一点领导技能等，不要一叶障目，不见其它。像我们班的汤婷同学一直成绩优异，读书、作业不用人喊，自觉、专心、认真，但是她一心忙着自己的学习，对班上其他的事情不是很热心，对劳动也不是很积极。发现了这点后，我们除了在学习上继续严格要求她以外，在其他方面也多给她锻炼的机会，现在她担任我们班的语文课代表和班长，就得到了很好的锻炼，得到了全面的培养，这对她终身都是有益的。,白丝甘雨被爆❌羞羞动漫,女自慰被❌❌喷水免费看,东方铁心被❌到喷水小说。

　　同志们，朋友们，让我们以这次邻居节活动为契机，积极唱响尊老爱幼、男女平等、夫妻和睦、勤俭持家、邻里团结、爱国爱区的美德之歌，用社会主义荣辱观规范自己的日常行为，让社会主义文明之花开遍整个建设社区!最后预祝建设社区第三届邻居节在大家的支持下圆满成功。

　　05月29日,银发婚纱活动在港举办 为30对长者夫妇拍摄婚纱照,并不是所有人都如此，也有人暗中冷笑，道：“诸位过于做作了，我们都是为了得狻猊宝骨，即便带走这个孩子，最后也多半会杀掉，以除后患。”,妺妺用🐻夹我的🍌网站第四,人与野鲁HD,教室里被老师揉到高潮视频。

　　村中，小清风很感激，道：“海爷爷，我不能和你们走，要跟小哥哥一起离开，他说能够治好我的脚。你们自己快走吧，不然那些坏人是不会罢手的。”

　　05月29日,新疆军区某陆航旅飞赴喀纳斯救援,3.如果逃生路线被大火封锁，要立即退回室内，用打手电筒、挥舞鲜艳衣物等方式向窗外或阳台发送求救信号，等待救援。,叶罗丽仙子被强行侵犯的小说,床上亲胸摸腿扒衣视频,美女脱了内裤张开腿让男人桶网站。

　　今天，爸爸又带我去事故现场看了一下，想想线号楼被炸坏，周围的楼都有不同程度的损坏，还有好多停放的汽车被震坏。

　　新闻信息服务许可证音像制品出版许可证广播电视节目制作经营许可证网络视听许可证网络文化经营许可证山东省互联网传媒集团主办联系电话 违法不良信息举报电话