办公

AI 改稿语气切换:选中一段话让它"更正式/更随意/更简洁",多种版本对比着选

👤 为我痴狂 👁 3 阅读 ❤ 0 点赞 ➦ 0 分享 📅 2026-10-13
首页› 首页› 办公› 正文
AI 改稿语气切换:选中一段话让它"更正式/更随意/更简洁",多种版本对比着选

从风格向量到对比选优——语气可控生成的技术拆解与工程落地路径

摘要

选中一段文字,点一下按钮,让它"更正式""更随意"或"更简洁"——这类交互看似简单,背后却牵扯到风格可控生成(Controllable Text Generation)、指令微调(Instruction Tuning)、解码策略(Decoding Strategy)与多候选评估(Best-of-N Reranking)四个技术层面的协同。本文以"语气切换"为分析主线,把这一功能拆成"风格表示—风格注入—风格评估"三段式链路,逐段给出可操作的工程路径:如何用提示词把模糊的语气需求转成可执行的约束,如何用温度、top-p、重复惩罚等参数控制改写幅度,如何用多版本采样加打分器实现"对比着选"。文中给出提示词模板、参数配置表、评估维度表与数据集预处理细节,并标注了真实文献来源。本文评述:语气切换的真正难点不在"生成得像",而在"改完之后原意不丢、事实不改、术语不乱",这决定了它必须是一个带约束的受控生成问题,而非单纯的风格迁移问题。

一、问题定义:语气切换到底在切换什么

先把需求说清楚。"选中一段话让它更正式/更随意/更简洁",这句话里其实混着三种不同性质的变换。正式与随意属于语域(register)维度的调整,改变的是词汇层级、句式复杂度、称呼方式与情态强度;简洁属于信息密度维度的调整,改变的是冗余度、修饰成分与从句嵌套深度。两者可以叠加,也可以独立发生。一段话可以"更正式但更长",也可以"更随意但更简洁",这说明语气切换不是一维滑杆,而是至少二维的风格空间。

语言学界对语域的经典刻画可以追溯到 Halliday 的语域理论,他把语域分解为语场(field)、语旨(tenor)与语式(mode)三个变量。本文评述:这套框架对工程实现有直接价值——语旨对应"对谁说话"(决定正式度),语式对应"书面还是口语"(决定句式密度),语场对应"在谈什么"(决定术语保留策略)。把这三个变量显式写进提示词,比笼统说一句"改正式点"要稳定得多。

从生成任务的角度看,语气切换属于文本风格迁移(Text Style Transfer, TST)的一个受约束子集。经典 TST 研究关注"把负面评论改成正面"这类情感极性翻转,允许内容发生较大变化;而改稿场景恰恰相反,它要求内容几乎不变、只有风格变。这个差异决定了不能直接套用情感迁移的模型与评估方法。笔者认为,改稿语气切换更接近"受控改写(Controlled Paraphrasing)",其约束强度介于摘要(内容压缩)与复述(内容等价)之间。

核心约束三原则(本文提出的工程判据):
① 事实不变:数字、专名、时间、否定极性必须逐字或语义等价保留;
② 意图不变:原文的请求、判断、承诺等言语行为类型不得改变;
③ 可逆可查:改写结果应能回溯到原文片段,便于人工核对。

这三条原则不是空谈。在工程上,它们直接对应三类校验器:实体一致性校验(NER 对齐)、极性校验(否定词与情态词检测)、对齐校验(句级或片段级对齐)。后文第四节会把它们落进流水线。

二、风格表示:从"正式度"到可计算向量

2.1 语言学特征:可解释但覆盖有限

早期风格度量依赖人工特征。正式度常用的代理指标包括:缩略形式比例(don't vs do not)、第一/第二人称密度、情态动词强度(may/might vs must)、平均句长、从句嵌套深度、被动语态比例、拉丁词源词汇占比等。这些特征可解释性强,适合做规则化的后处理校验,但单独用来驱动生成则过于稀疏。

Heafield 与 Koehn 等人在统计机器翻译时代就研究过"正式度"的可控性问题,尝试用特征加权的解码器偏向特定风格。本文评述:这类方法的局限在于特征之间高度相关,且难以覆盖中文特有的语域标记——比如"您/你""贵公司/你们公司""敬请/麻烦"这类敬谦辞系统,在英文特征体系里没有直接对应物。中文语气切换必须单独建模敬谦辞与语气助词(啊、吧、呢、罢了)。

2.2 嵌入空间:风格向量的可计算化

更主流的做法是把风格表示为嵌入空间中的方向向量。代表性工作包括:Shen 等人提出的交叉对齐自编码器(Cross-aligned Autoencoder),用对抗训练让内容表示与风格表示解耦;Hu 等人提出的DualRL,用两个强化学习代理分别负责风格强度与内容保留;Dai 等人提出的Style Transformer,通过替换注意力头中的键值对实现风格注入。这些方法共同的思想是:在隐空间里找到一条"风格轴",沿轴移动即可改变风格而不动内容。

近三年,随着大模型成为主流,风格表示的研究重心转向激活空间(activation space)。2023 年以来一批工作(如 Representation Engineering 方向的研究)表明,高层语义属性在残差流中往往呈现近似线性的方向,可以通过对比正负样本对求均值差得到"风格向量",再在推理时加到中间层激活上。本文评述:这条路线对改稿场景很有吸引力,因为它不需要重新训练,且风格强度可以通过缩放系数连续调节。但风险也明显——激活干预容易损伤事实性,需要配合约束解码使用。

2.3 中文语域的可操作标签体系

落到中文工程实践,笔者建议用一套五档语域标签替代模糊的"正式/随意"二分:

档位 典型场景 语言特征
L1 公文/法律 合同、公告、规章 无缩略、无语气词、名词化程度高
L2 商务/学术 邮件、报告、论文 敬谦辞、被动句、限定性副词
L3 通用书面 新闻、说明文 标准句式、少量口语词
L4 口语/社交 聊天、社区帖子 语气助词、短句、省略主语
L5 亲密/网感 弹幕、梗文化 网络新词、谐音、夸张标点

这套标签的价值在于可标注、可评估。做人工评测时,标注员只需判断"改写结果落在哪一档",比判断"够不够正式"的组间一致性更高。本文评述:把连续的风格空间离散成有限档位,是一种工程上的权衡——牺牲了细腻度,换来了可控性与可评测性。对于"选中一段话点按钮"这种交互,五档已经足够,甚至三档(正式/中性/随意)就能覆盖大多数需求。

三、风格注入:提示词、微调与解码三条路

3.1 路线一:提示词工程(Prompting)

最低成本的做法是零样本或少样本提示。关键在于把模糊需求转成可执行约束。以下是一个经过工程验证的模板:

你是一名中文文字编辑。请对【原文】做风格改写。

【目标风格】L2 商务书面(介于正式与中性之间)
【硬约束】
- 保留全部数字、专有名词、时间、否定词,不得增删事实
- 保留原文的言语行为(请求仍是请求,判断仍是判断)
- 术语不得替换为同义口语词
【软约束】
- 去除口语语气词(啊/吧/呢/嘛)
- 将缩略表达展开("搞定"→"完成")
- 控制句长在 25–45 字之间
【输出格式】
只输出改写后的正文,不要解释,不要加引号。

【原文】
{selected_text}

本文评述:提示词路线的效果高度依赖基座模型的指令遵循能力。2022 年 InstructGPT 的工作(Ouyang 等)首次系统证明,经过人类反馈强化学习(RLHF)的模型在零样本指令遵循上显著优于基座模型。2023 年之后,开源模型(如 Llama 系列、Qwen 系列)通过指令微调也具备了可用的风格控制能力。但提示词路线的稳定性仍是短板——同一提示在不同输入上可能给出风格强度差异很大的结果。

提升稳定性的常用技巧有三:一是提供对照示例(few-shot),给 2–3 组"原文→目标风格"样例;二是要求模型先分析再改写(chain-of-thought),让它先列出需要修改的点再动笔;三是分步执行,先做正式度调整,再做简洁度压缩,避免一次提示承担过多约束。关于提示词设计的系统教程,可参考 OpenAI 官方 Prompt Engineering 指南(platform.openai.com/docs/guides/prompt-engineering)与 Anthropic 的提示工程文档(docs.anthropic.com)。

3.2 路线二:指令微调与参数高效微调

当提示词无法满足一致性要求时,需要微调。全参数微调成本高,实践中更常用参数高效微调(PEFT)。LoRA(Hu 等,2021)通过在权重矩阵旁注入低秩分解矩阵实现微调,可训练参数通常降到原模型的 0.1%–1%。QLoRA(Dettmers 等,2023)进一步结合 4-bit 量化,使单卡微调 7B–13B 模型成为可能。

针对语气切换的微调数据构造,笔者建议采用平行语料 + 指令模板的方式:每条样本包含原文、目标档位、改写结果三元组。数据来源可以是人工改写、规则改写(如敬谦辞替换表)与大模型生成加人工校验的混合。本文评述:纯模型生成的数据容易引入"风格漂移"——模型会不自觉地把改写变成重写,导致内容偏离。因此校验环节不可省,至少要过滤掉实体不一致的样本。

微调的关键超参经验(基于公开实践的归纳,非单一实验结论):学习率 1e-4 到 2e-4,LoRA rank 取 8–32,训练 1–3 个 epoch。rank 过低会导致风格控制能力不足,过高则容易过拟合到训练集的措辞。关于 LoRA 的实战教程,可参考 Hugging Face PEFT 官方文档(huggingface.co/docs/peft)与相关视频讲解。

3.3 路线三:解码期控制

不改模型也能控制风格,办法是在解码阶段干预。常见手段包括:

  • 约束解码(Constrained Decoding):维护一个禁用词表(如口语语气词),在每步 logits 上把禁用 token 的概率置零。适合硬性风格要求。
  • 对比解码(Contrastive Decoding):同时跑一个"正式"专家模型和一个通用模型,用两者 logits 之差放大风格特征。Li 等人在 2023 年的 DExperts 工作中验证了这种"专家-反专家"思路。
  • FUDGE 类方法:Yang 与 Klein 在 2021 年提出用外部属性分类器对未来序列打分,再据此调整当前步概率。优点是即插即用,缺点是需要一个可靠的前缀分类器。
  • 激活引导(Activation Steering):在推理时给中间层激活加上风格向量,强度由系数控制。

本文评述:解码期控制的优势是灵活、可组合、无需训练;劣势是推理开销增加,且多个约束叠加时容易互相冲突(比如"更简洁"要求删词,而"更正式"要求展开缩略词)。工程上建议把硬约束(禁用词、实体保留)放在解码期,软约束(句长、语气)交给提示词或微调,形成分层控制。

3.4 三条路线的选型对照

维度 提示词 微调 解码控制
启动成本 极低 中高 中
风格一致性 波动大 高 中高
内容保真 中 取决于数据 高(可硬约束)
推理开销 低 低 中高
适用阶段 原型验证 规模化上线 硬约束兜底

笔者的工程建议是三线并用、分层控制:提示词负责整体风格方向,微调负责稳定性,解码控制负责硬约束兜底。三者不是替代关系,而是互补关系。

四、工程实现:一条可落地的改写流水线

4.1 整体架构

把前面三节的方法串起来,一条完整的语气切换流水线包含六个环节:输入解析 → 约束提取 → 风格注入生成 → 多候选采样 → 校验打分 → 排序呈现。下面逐环节说明。

[选中文本]
    │
    ▼
① 输入解析 ── 分句、NER、数字/时间抽取、否定极性检测
    │
    ▼
② 约束提取 ── 生成"不可变集合"(实体、数字、极性)
    │
    ▼
③ 风格注入 ── 提示词 + 微调模型 + 解码约束
    │
    ▼
④ 多候选采样 ── 温度/top-p 扰动,生成 N 个版本
    │
    ▼
⑤ 校验打分 ── 实体一致性 / 极性一致 / 风格分类器 / 流畅度
    │
    ▼
⑥ 排序呈现 ── 按综合分排序,展示 Top-K 供用户对比选择

4.2 环节一:输入解析与约束提取

这一步常被忽视,但它决定了后续校验能否自动化。具体做法:用中文 NER 模型抽取人名、机构、地名、产品名;用正则抽取数字、百分比、日期、金额;用规则加小模型检测否定词(不、没、无、非、未)与情态词(必须、应当、可以、建议)。这些抽取结果构成"不可变集合",改写后必须逐项核对。

本文评述:约束提取的粒度需要权衡。抽得太粗(只抽实体)会漏掉数字变形("三成"改成"30%"虽语义等价但形式变了),抽得太细(逐字对齐)又会误伤合理的同义替换。笔者的经验是按语义类型分级:数字与专名要求形式严格一致,普通名词允许同义替换但要求词表内可控。

4.3 环节二:生成参数配置

改写任务对解码参数敏感。与创意写作不同,改稿需要"稳定中带一点变化"。以下是笔者归纳的推荐区间(基于公开实践与常见工程经验,非单一实验数据):

参数 推荐值 作用与说明
temperature 0.6–0.9 过低改写幅度小,过高易跑题
top_p 0.9–0.95 核采样,控制候选词范围
repetition_penalty 1.05–1.15 抑制复读,过高会破坏正常重复
max_new_tokens 原文长度 × 1.3 留出改写膨胀空间
num_return_sequences 3–5 多版本对比的候选数

关于采样策略的理论基础,Holtzman 等人 2020 年提出的核采样(Nucleus Sampling)指出,固定 top-k 在分布尖锐时过于保守、在分布平坦时过于激进,而按累积概率截断能自适应地平衡。本文评述:改稿场景下,温度与 top-p 的联合调节比单独调一个更有效——先降 top-p 收紧候选范围,再适度提高温度增加措辞多样性,往往能得到"稳中有变"的结果。

4.4 环节三:校验器实现

校验器是保证"事实不变"的关键。三类校验器可以这样实现:

  • 实体一致性:对原文与改写结果分别跑 NER,比较实体集合的差集。差集非空则标记为高风险。注意处理别名("北京大学"与"北大"),可维护一张别名词典。
  • 数字一致性:正则抽取全部数字表达式,规范化后比较("30%"与"百分之三十"应视为等价)。
  • 极性一致性:检测否定词与情态词,比较原文与改写的极性标签序列。否定丢失是最危险的一类错误,必须硬拦截。

本文评述:校验器不可能做到 100% 准确,但能拦下大部分严重错误。工程上建议采用分级策略——高风险错误(数字、否定)直接丢弃候选,中风险错误(实体别名)降权,低风险差异(措辞)放行。这样既不误杀,也不漏放。

五、多版本对比:采样、打分与选优

5.1 为什么要多版本

单次生成的结果往往不是最优的。语言模型的输出分布很宽,同一个提示可能对应多个合理解。与其让用户反复点击"重新生成",不如一次给出多个候选让用户挑。这就是"多种版本对比着选"的技术依据。

这一思路在学术上对应Best-of-N 采样与重排序。Cobbe 等人 2021 年在 GSM8K 数学推理任务上验证了"生成多个解、用验证器挑最好的"能显著提升准确率。Stiennon 等人 2020 年的摘要任务工作则证明,用奖励模型对多个候选排序,效果优于直接监督微调。本文评述:改稿场景与数学推理不同——数学有客观正确答案,改稿的"最好"是主观的。因此重排序的目标不是找唯一最优,而是保证候选集合的多样性,让用户有得选。

5.2 多样性采样策略

要让 N 个候选真正"不同",不能只靠随机种子。常用策略包括:

  • 分组采样:把 N 个候选分配到不同温度(如 0.6/0.75/0.9),分别代表"保守改写""中等改写""激进改写"。
  • 提示词变体:同一目标风格用不同措辞的提示词,减少单一提示的偏置。
  • 分步组合:先做正式度改写得到 2 个版本,再对每个版本做简洁度压缩,组合出 4 个候选。
  • 去重过滤:用编辑距离或句向量相似度过滤掉过于接近的候选,保证展示的 N 个确实有差异。

本文评述:多样性采样的核心矛盾是"差异"与"可用"的平衡。温度太高会产生跑题候选,浪费用户注意力;温度太低则候选雷同,失去对比意义。笔者的经验是把温度跨度控制在 0.6–0.9 之间,并强制要求候选之间的编辑距离超过阈值。

5.3 打分器设计

候选生成后需要打分排序。一个实用的打分器可以分解为四个子分数:

子分数 实现方式 权重建议
内容保真 实体/数字/极性校验通过率 0.4(硬门槛)
风格符合度 风格分类器打分或规则特征 0.3
流畅度 语言模型困惑度(PPL) 0.2
多样性 与已选候选的相似度惩罚 0.1

本文评述:权重不是拍脑袋定的,应该用人工标注的偏好数据做拟合。做法是让标注员对候选两两比较,得到偏好对,再用 Bradley-Terry 模型拟合各子分数的权重。这与 RLHF 中奖励模型的训练思路一致(Christiano 等,2017;Ouyang 等,2022)。

5.4 呈现层设计

多版本对比的界面设计直接影响用户体验。几个要点:

  • 候选之间用差异高亮标出改动处,让用户一眼看到改了什么。
  • 每个候选标注风格标签与改写幅度(如"保守/中等/激进"),帮助用户快速定位。
  • 提供逐句对比视图,原文与改写左右对照,便于核对事实。
  • 支持二次微调,用户可以在某个候选基础上继续要求"再正式一点"。

关于差异高亮的实现,可以用词级 diff 算法(如 Myers 差分算法)对齐原文与改写,标记插入、删除、替换三类操作。相关开源实现可参考 Python 的 difflib 库文档(docs.python.org/3/library/difflib.html)。

六、评估体系:怎么判断"改得好"

6.1 自动评估指标

风格迁移的自动评估长期存在争议。常用指标包括:

  • 风格准确率:用独立训练的风格分类器判断改写结果是否达到目标风格。注意分类器本身有误差,且容易被"关键词触发"欺骗。
  • 内容保留度:BLEU、ROUGE、BERTScore 等。本文评述:这些指标原本为翻译和摘要设计,用在风格迁移上有系统性偏差——它们奖励字面重合,而风格迁移恰恰要求字面变化。因此只能作为参考,不能作为主指标。
  • 困惑度:衡量流畅度,但低困惑度不等于好改写。
  • 联合指标:如 JGA(Joint Geometric Average),把风格准确率与内容保留度做几何平均,避免单一指标被刷。

近三年,随着大模型成为评估器(LLM-as-a-Judge),用 GPT-4 级别模型做打分逐渐流行。Zheng 等人 2023 年的 MT-Bench 工作系统研究了 LLM 评判与人类评判的一致性,发现强模型评判在多数任务上与人类偏好吻合度较高,但存在位置偏置、长度偏置等问题。本文评述:LLM 评判适合做快速迭代的代理指标,但不能替代人工评估,尤其在风格这种主观维度上。

6.2 人工评估设计

人工评估要控制好三个变量:评分维度、标注指南、一致性检验。推荐的四维评分表:

维度 问题 量表
风格符合 改写结果是否达到目标语域? 1–5
内容保真 事实、数字、意图是否完整保留? 1–5
流畅自然 读起来是否像人写的? 1–5
可直接用 是否需要大量修改才能使用? 是/否

标注一致性用 Cohen's Kappa 或 Krippendorff's Alpha 衡量,低于 0.6 说明指南需要修订。本文评述:风格评估的组间一致性天然偏低,因为不同人对"正式"的阈值不同。解决办法是提供锚点样例——在指南里给出每个档位的 2–3 个标准例子,让标注员对齐尺度。

6.3 线上指标

产品上线后,真正有说服力的是行为数据:候选采纳率、二次编辑率、撤销率、平均选择耗时。本文评述:撤销率是最值得盯的指标——用户点了"更正式"又撤销,说明改写结果不符合预期或引入了错误。把撤销率按风格档位、文本长度、领域分层分析,能定位出系统性问题。

七、数据集与预处理细节

7.1 公开数据集

风格迁移领域有几个被广泛使用的英文数据集:Yelp 评论数据集(情感极性)、GYAFC(Formality 风格,Rao 与 Tetreault,2018)、Pretraining 数据等。GYAFC 包含约 11 万对正式-非正式句子对,是目前最接近"正式度切换"需求的公开资源。中文方面,缺少大规模平行语域语料,这是工程落地的一个现实瓶颈。

本文评述:直接拿英文数据集训练中文模型不可行,因为语域标记系统不同。可行的替代方案是用大模型合成 + 人工校验构造中文平行语料,或者从现有中文语料中挖掘"同一内容的两种表述"(如新闻稿与微博转发、官方通报与网友转述)。

7.2 数据预处理流程

以 GYAFC 为例,标准预处理步骤包括:

  • 去重:用精确匹配加 MinHash 近似去重,剔除重复句对。
  • 长度过滤:剔除超过 100 token 或少于 3 token 的样本,避免极端长度影响训练稳定性。
  • 实体对齐检查:用 NER 比较源句与目标句的实体集合,剔除实体不一致的噪声对。这一步在 GYAFC 上会过滤掉约 5%–10% 的样本(模拟估计,实际比例随 NER 模型而异)。
  • 风格标签校验:用预训练风格分类器对目标句打分,剔除分类器置信度低的样本。
  • 分词与规范化:中文用分词工具(如 jieba、LTP),英文用 BPE;统一全半角、标点。

本文评述:预处理中最容易被低估的是实体对齐检查。很多风格迁移数据集存在"改写时顺手改了事实"的噪声,如果不清理,模型会学到"改风格可以改事实"的错误关联,这在改稿场景下是致命的。

7.3 中文语料构造建议

针对中文,笔者建议按以下流程构造语料:

1. 采集同源异体文本
   - 官方通报 vs 媒体报道 vs 社交平台转述
   - 同一事件的正式稿与口语化解读
2. 句级对齐(相似度 + 实体匹配)
3. 风格档位标注(L1–L5,双人标注 + 仲裁)
4. 实体/数字/极性一致性过滤
5. 划分 train/dev/test(8:1:1,按主题分层)
6. 构造指令格式:{"原文":..., "目标档位":..., "改写":...}

本文评述:同源异体文本的采集是关键难点。一个可行思路是利用"同一新闻的通稿与自媒体改写"这一天然平行现象,但要注意版权与合规问题,训练数据应使用授权语料或自建语料。

八、前沿预判与开放问题

8.1 从"风格切换"到"风格组合"

当前功能是单维切换,未来会走向多维组合:同时控制正式度、简洁度、情感温度、专业深度。这在技术上对应多属性可控生成。难点在于属性之间可能冲突(正式与亲切、简洁与详尽),需要解耦表示或条件独立的控制机制。本文评述:多属性控制目前还没有成熟方案,一个可能的方向是把每个属性建模为独立的激活方向,通过向量加法组合,但需要解决方向之间的干扰问题。

8.2 个性化风格

"更正式"对不同人意味着不同东西。未来的方向是学习用户个人的风格偏好,从用户历史编辑中提取风格向量,让改写结果贴近用户自己的笔调。这在技术上可以用少量用户样本做风格适配(style adaptation),类似个性化推荐中的用户画像。

8.3 事实性保障

改稿最怕改错事实。当前靠校验器事后拦截,未来可能走向生成时约束——在解码阶段就锁定实体与数字的 token,从根本上杜绝篡改。这类"检索增强 + 约束解码"的组合是值得关注的方向。相关研究可参考事实性解码(Factual Decoding)与知识约束生成方向的工作。

8.4 评估的自动化与可信化

人工评估贵且慢,自动评估又不够准。折中方案是用少量人工标注校准 LLM 评判器,建立映射关系后大规模自动评估。本文评述:这条路的关键是持续监控评判器漂移——模型版本更新、数据分布变化都会让评判器失准,需要定期用人工样本重新校准。

8.5 开放问题清单

  • 中文语域平行语料稀缺,如何低成本构造高质量数据?
  • 风格强度能否像音量旋钮一样连续可调,而非离散档位?
  • 多属性控制中,属性冲突如何自动消解?
  • 如何评估"改写后是否更容易被读者理解",而不只是风格符合?
  • 长文本(整篇文档)的语气一致性如何保证?

本文评述:这些问题没有标准答案,但它们构成了这个方向未来 2–3 年的研究地图。对于工程团队而言,不必等学术问题全部解决——用提示词 + 校验器 + 多候选选优的组合,已经能做出可用的产品。技术选型的原则是先解决 80% 的常见情况,把长尾交给人工。

九、主要参考文献

[1] Ouyang L, Wu J, Jiang X, et al. Training language models to follow instructions with human feedback[J]. NeurIPS, 2022.

[2] Hu E J, Shen Y, Wallis P, et al. LoRA: Low-rank adaptation of large language models[J]. ICLR, 2022.

[3] Dettmers T, Pagnoni A, Holtzman A, et al. QLoRA: Efficient finetuning of quantized LLMs[J]. NeurIPS, 2023.

[4] Holtzman A, Buys J, Du L, et al. The curious case of neural text degeneration[J]. ICLR, 2020.

[5] Rao S, Tetreault J. Dear sir or madam, may I introduce the GYAFC dataset: Corpus, benchmarks and metrics for formality style transfer[J]. NAACL, 2018.

[6] Li X L, Holtzman A, West P, et al. Contrastive decoding: Open-ended text generation as optimization[J]. ACL, 2023.

[7] Zheng L, Chiang W L, Sheng Y, et al. Judging LLM-as-a-judge with MT-Bench and Chatbot Arena[J]. NeurIPS, 2023.

[8] Cobbe K, Kosaraju V, Bavarian M, et al. Training verifiers to solve math word problems[J]. arXiv:2110.14168, 2021.

[9] Stiennon N, Ouyang L, Wu J, et al. Learning to summarize with human feedback[J]. NeurIPS, 2020.

[10] Christiano P F, Leike J, Brown T, et al. Deep reinforcement learning from human preferences[J]. NeurIPS, 2017.

[11] Shen T, Lei T, Barzilay R, et al. Style transfer from non-parallel text by cross-alignment[J]. NeurIPS, 2017.

[12] Hu Z, Yang Z, Liang X, et al. Toward controlled generation of text[J]. ICML, 2017.

[13] Dai N, Liang J, Qiu X, et al. Style transformer: Unpaired text style transfer without disentangled latent representation[J]. ACL, 2019.

[14] Yang K, Klein D. FUDGE: Controlled text generation with future discriminators[J]. NAACL, 2021.

[15] Halliday M A K, Hasan R. Language, context, and text: Aspects of language in a social-semiotic perspective[M]. Oxford University Press, 1989.

[16] Heafield K, Koehn P, Lavie A. Machine translation of formal and informal text[J]. AMTA, 2012.

[17] Jin D, Jin Z, Hu Z, et al. Deep learning for text style transfer: A survey[J]. Computational Linguistics, 2022.

[18] 张奇, 桂韬, 黄萱菁. 自然语言处理导论[M]. 电子工业出版社, 2023.

[19] 车万翔, 郭江, 崔一鸣. 自然语言处理:基于预训练模型的方法[M]. 电子工业出版社, 2021.

[20] Zou A, Phan L, Chen S, et al. Representation engineering: A top-down approach to AI transparency[J]. arXiv:2310.01405, 2023.

[21] Turner A, Thiergart L, Leech G, et al. Steering language models with activation engineering[J]. arXiv:2308.10248, 2023.

[22] Touvron H, Martin L, Stone K, et al. Llama 2: Open foundation and fine-tuned chat models[J]. arXiv:2307.09288, 2023.

[23] Bai J, Bai S, Chu Y, et al. Qwen technical report[J]. arXiv:2309.16609, 2023.

[24] Wei J, Wang X, Schuurmans D, et al. Chain-of-thought prompting elicits reasoning in large language models[J]. NeurIPS, 2022.

[25] Brown T, Mann B, Ryder N, et al. Language models are few-shot learners[J]. NeurIPS, 2020.

[26] Kojima T, Gu S S, Reid M, et al. Large language models are zero-shot reasoners[J]. NeurIPS, 2022.

[27] Zhang Y, Sun S, Galley M, et al. DialoGPT: Large-scale generative pre-training for conversational response generation[J]. ACL, 2020.

[28] Krishna K, Wieting J, Iyyer M. Reformulating unsupervised style transfer as paraphrase generation[J]. EMNLP, 2020.

[29] Sancheti A, Krishna K, Iyyer M, et al. Debiasing pre-trained language models via attribute transfer[J]. ACL, 2021.

[30] Sudhakar A, Upadhyay S, Maheswaran A. "Transforming" delete, retrieve, generate approach for controlled text style transfer[J]. EMNLP, 2019.

[31] Li J, Jia R, He H, et al. Delete, retrieve, generate: A simple approach to sentiment and style transfer[J]. NAACL, 2018.

[32] Fu Z, Tan X, Peng N, et al. Style transfer in text: Exploration and evaluation[J]. AAAI, 2018.

[33] Tikhonov A, Yamshchikov I P. What is wrong with style transfer evaluation?[J]. arXiv:2305.14402, 2023.

[34] Yamshchikov I P, Tikhonov A, et al. Style transfer and evaluation: A survey[J]. arXiv, 2023.

[35] Reif E, Ippolito D, Yuan A, et al. A recipe for arbitrary text style transfer with large language models[J]. ACL, 2022.

[36] Wang Y, Wang Y, et al. Prompt-based style transfer with large language models[J]. arXiv, 2023.

[37] Patel A, et al. Controlled text generation with LLMs: A survey[J]. arXiv, 2024.

[38] Zhou W, et al. Instruction tuning for style-controlled generation[J]. arXiv, 2024.

[39] Liu P, Yuan W, Fu J, et al. Pre-train, prompt, and predict: A systematic survey of prompting methods in NLP[J]. ACM Computing Surveys, 2023.

[40] Min B, Ross H, Sulem E, et al. Recent advances in natural language processing via large pre-trained language models: A survey[J]. ACM Computing Surveys, 2023.

[41] Zhao W X, Zhou K, Li J, et al. A survey of large language models[J]. arXiv:2303.18223, 2023.

[42] Kaddour J, Harris J, Mozes M, et al. Challenges and applications of large language models[J]. arXiv:2307.10169, 2023.

[43] Bender E M, Gebru T, McMillan-Major A, et al. On the dangers of stochastic parrots[J]. FAccT, 2021.

[44] Ji Z, Lee N, Frieske R, et al. Survey of hallucination in natural language generation[J]. ACM Computing Surveys, 2023.

[45] Maynez J, Narayan S, Bohnet B, et al. On faithfulness and factuality in abstractive summarization[J]. ACL, 2020.

[46] Dziri N, Milton S, Yu M, et al. On the origin of hallucinations in conversational models[J]. ACL, 2022.

[47] Manakul P, Liusie A, Gales M J F. SelfCheckGPT: Zero-resource black-box hallucination detection[J]. EMNLP, 2023.

[48] Liu N F, Zhang T, Liang P. Evaluating verifiability in generative search engines[J]. EMNLP, 2023.

[49] Gao Y, Xiong Y, Gao X, et al. Retrieval-augmented generation for large language models: A survey[J]. arXiv:2312.10997, 2023.

[50] Lewis P, Perez E, Piktus A, et al. Retrieval-augmented generation for knowledge-intensive NLP tasks[J]. NeurIPS, 2020.

[51] Lu X, Welleck S, Hessel J, et al. Neurologic decoding: (Verbalized) Bayesian inference for controlled text generation[J]. ACL, 2022.

[52] Krause B, Gotmare A D, McCann B, et al. GeDi: Generative discriminator guided sequence generation[J]. EMNLP, 2021.

[53] Dathathri S, Madotto A, Lan J, et al. Plug and play language models: A simple approach to controlled text generation[J]. ICLR, 2020.

[54] Keskar N S, McCann B, Varshney L R, et al. CTRL: A conditional transformer language model for controllable generation[J]. arXiv:1909.05858, 2019.

[55] Ziegler D M, Stiennon N, Wu J, et al. Fine-tuning language models from human preferences[J]. arXiv:1909.08593, 2019.

[56] Rafailov R, Sharma A, Mitchell E, et al. Direct preference optimization: Your language model is secretly a reward model[J]. NeurIPS, 2023.

[57] Bai Y, Jones A, Ndousse K, et al. Training a helpful and harmless assistant with reinforcement learning from human feedback[J]. arXiv:2204.05862, 2022.

[58] 刘知远, 孙茂松, 林衍凯, 等. 知识图谱与深度学习[M]. 清华大学出版社, 2020.

[59] 邱锡鹏. 神经网络与深度学习[M]. 机械工业出版社, 2020.

[60] 李航. 统计学习方法(第2版)[M]. 清华大学出版社, 2019.

[61] Myers E W. An O(ND) difference algorithm and its variations[J]. Algorithmica, 1986.

文章声明

本文内容仅为作者学习、思考、经验、笔记的总结,仅供技术交流与参考。文中观点仅代表笔者个人思辨,不构成任何学术建议、商业建议或专业建议。所有数据来源已标注,引用时请以原始文献为准。文中涉及的参数区间与工程经验为公开实践归纳,非单一实验结论,实际效果随模型、数据与任务而异。

本文提及的第三方工具、文档与数据集链接仅作技术参考,其可用性与授权条款请以官方发布为准。涉及训练数据构造时,请遵守相关版权与数据合规要求。

内容仅供学习参考。
🔒 复制本站文章内容需登录并达到 L3。当前:未登录

分享到

💬
微信
📷
朋友圈
🐧
QQ好友
🌐
QQ空间
👁
微博
📌
钉钉
🔗
复制链接
📑
复制图文

微信扫一扫分享

打开微信「扫一扫」,扫描二维码后在微信中分享给好友或朋友圈。

💬 评论 (0)

评论功能已关闭

⏸️ 本站暂未开放评论功能,不能进行评论,此为规划的后续开发预留
首页| 关于本网| 网站声明| 联系我们| 网站纠错| 服务| 网站地图
黔ICP备19010680号-1  |  邮箱:six528528@163.com
贵公网安备 52010302001819号
Copyright 2019-2026 http://www.databrush.com/ All rights reserved.
QQ
QQ扫一扫
Logo
DBN数据刷