4-bit 量化，能让现存反学习 / 机器淡忘本事失灵！

也即是大模子在东说念主类条款下"假装"健忘了特定学问（版权、私东说念主内容等），但有技能能让它再行"回忆"起来。

最近，来自宾夕法尼亚州立大学、哈佛大学、亚马逊团队的一项新商议在 reddit、Hacker News 上引起热议。

他们发现对"失忆"的模子量化（quantization），不错部分或致使都备收复其已淡忘的学问。

原因是在量化历程中，模子参数的轻细变化可能导致量化后的模子权重与原始模子权重疏通。

看到这项商议后，不少网友也暗示有点不测：

从信息表面的角度来看这有点出东说念主预感，似乎也曾在竣工的 32-bit 中顺利移除了这些学问，但当你将其压缩到 4-bit 时，学问又再行出现了。

这让东说念主不禁思知说念在压缩 / 量化时势中到底丢失了什么信息。

可能这些学问从未确切丢失，仅仅被荫藏了。

如若咱们把神经齐集看作是代码，权重即是源代码，微调实质上可能有用地修改了这些代码，以辞谢复返某些收尾。

因此，你可能仅仅在某些输出周围建造了防火墙。但量化可能使这些最近的裁剪隐藏，它们太轻细而无法保留。

值得一提的是，团队建议了一种缓解此问题的计策。

这种计策通过构建模块级别的权贵性图来提醒淡忘历程，只更新与淡忘数据最关连的模子部分，从而在保合手模子遵循的同期，减一丝化后学问收复的风险。

话未几说，具体来康康。

让失忆的大模子再行难忘来

大模子在检察历程中可能会偶然学习到东说念主类不但愿它保留的学问，举例版权和私东说念主内容。为了惩处这个问题，商议者们此前建议了反学习（machine unlearning）的看法，旨在不再行检察模子的情况下，从模子中移除特定学问。

现存的主流反学习门径包括梯度飞腾（GA）和负向偏好优化（NPO）两大类，通常会接收较小的学习率并加入遵循接续，以在淡忘特定内容的同期保合手模子的合座性能。

用于优化模子淡忘的最常用数学抒发式是：

再来看量化，商酌一组或一块权重 w，线性操作不错暗示为 y=wx，量化后为 y=Q ( w ) x，其中 Q ( ⋅ ) 是量化函数：

在这项商议中，商议东说念主员使用 Q ( f ) 暗示量化后的模子 f。因此，扩充一个反学习法然后对淡忘后的模子进行量化不错写为：

商议东说念主员评估了针对大模子的六种有用的反学习门径——连合 NPO、GA 两种计策，在保留集上进行梯度下落（GDR）或最小化 KL 散度（KLR），变成了 GA、GA_GDR、GA_KLR、NPO、NPO_GDR、NPO_KLR。

收尾骄慢，这些门径在经过量化后会出现"厄运性失败"。

具体线路为，在全精度下，加入遵循接续的反学习法平均保留 21% 的方向淡忘学问，但经过4-bit 量化后，这一比例急剧飞腾到 83%。

这意味着大部分被"淡忘"的学问通过浅显的量化操作就能收复。

现实中还使用了不同位数的量化，包括 4-bit 和 8-bit 量化，量化精度对淡忘后果也有权贵影响，8-bit 量化的影响相对较小，模子线路接近全精度版块，但在 4-bit 量化下，淡忘性能权贵恶化。

现实在 NEWS（BBC 新闻著述）和 BOOKS（哈利波特系列）等基准数据集上进行，使用了四个评估主张：

逐字追思（VerMem，评估逐字复制才能）、学问追思（KnowMem，评估学问问答才能）、苦衷表示（PrivLeak，基于成员推理报复评估苦衷保护进程）以及保留集遵循（评估模子在非淡忘数据上的线路）。

商议东说念主员还分析了各式量化本事对淡忘的影响，用 GPTQ 和 AWQ 两种先进的 4-bit 量化法在疏通的现实设立下进行现实，NEWS 数据集上的收尾如下：

GPTQ 和 AWQ 的线路与 RTN 相同。

尽管商议东说念主员暗示已竭力有用地退换参数，但校准数据集是通用的，而不是针对淡忘数据集的边界进行定制，这意味着 GPTQ 和 AWQ仍然可能保留了本应被淡忘的学问。

为什么？如何办？

经分析，商议东说念主员以为这一问题的根蒂原因在于：

现存反学习法为了保合手模子遵循而使用较小的学习率和遵循接续，导致模子权重变化很小，在量化历程华夏模子和淡忘后模子的权重很容易被映射到疏通的翻脸值，从而使被淡忘的学问再行裸露。

由此，商议东说念主员建议了一种称作SURE（Saliency-Based Unlearning with a Large Learning Rate）的框架看成校正有野心。

该框架通过构建模块级权贵性图来提醒淡忘历程，遴荐性地对与淡忘数据最关连的组件使用较大的学习率，同期最小化对其它功能的影响。

通过现实，考证了 SURE 计策疑望量化后淡忘学问收复的有用性，何况与现存的反学习门径比拟，SURE 在全精度模子上完了了可比的淡忘性能和模子遵循。

商议东说念主员还探讨了 SURE 计策中不同阈值对淡忘性能的影响，发现死心的阈值不错在淡忘性能和模子遵循之间获取均衡。

更多细节，感酷好的童鞋不错查阅原论文，代码已在 GitHub 上公开。

论文诱导：https://arxiv.org/pdf/2410.16454

参考诱导：

[ 1 ] https://news.ycombinator.com/item?id=42037982

[ 2 ] https://github.com/zzwjames/FailureLLMUnlearning开云体育