尽管近年来利用Transformer模型进行神经机器翻译（NMT）取得了巨大成功，但NMT模型对输入微小干扰的敏感性仍然是一个问题，导致各种错误的发生。谷歌研究院的一篇ACL 2019论文提出了一种方法，通过生成对抗性样本来提高机器翻译模型的鲁棒性，从而防止输入中存在的小型扰动影响其性能。这篇论文《具有双对抗性输入的鲁棒神经机器翻译》由Yong Cheng、Lu Jiang和Wolfgang Macherey共同撰写，并在ACL 2019上发表。
该论文提出的方法是使用生成的对抗性样本来增强神经网络机器翻译模型，使其能够更好地抵御输入数据中的微小变化。这种方法利用一种称为AdvGen算法的技术，它可以生成可信任且有助于训练一个更加坚韧和准确的模型。通过学习如何识别并应对这些潜在的问题，这个新方法不仅提高了标准基准测试上的表现，而且还提供了一种有效的手段，以便将这个新的高效策略应用到商业系统中。
然而，即使经过这样的改进，现有的NMT模型仍然缺乏足够程度的鲁棒性，这限制了它们在实际应用中的使用范围。此外，由于相关领域文献中关于学习鲁棒NMT模式所做出的努力相比计算视觉领域来说显得不足，这一挑战尤其突出。在实践中，对于许多不可容忍任何非鲁棒性的商业系统来说，开发能够处理不同情境下的细微差异并保持高质量输出的是非常重要。
为了解决这一问题，该团队提出了一个创新的思想：直接利用已知知识以及扭曲预测意图以克服这些被设计成欺骗目标函数或损失函数行为引入到模拟环境中的“虚假”数据集中的扭曲。这种基于攻击与防御之间交互作用原理建立起来的一个创新框架，被证明能够极大地提高结果质量并降低出现错误率。而它并不依赖于鉴别者网络，而是简单地将它们反馈给训练过程之中以实现多样化扩展和丰富训练集内容。
通过实验验证，该方案显示出卓越效果，在汉英及英德语言之间标准基准测试上均获得显著提升，为推广此类技术奠定基础，同时也为未来的深入研究提供了灵感来源。在未来，我们希望进一步探索这一概念，以达到更好的结果，并最终实现真正适用于复杂环境下的智能自动化服务平台。
