尽管 以GPT-3为代表的大模型在语言生成、上下文学习和知识（常识）理解方面展现出了惊人的能力，但 在响应人类指令、进行复杂推理和在未见过的任务上的表现却差强人意。

在“后GPT-3”时代，ChatGPT 等 GPT-3.5 系列模型的出现，让业内再次感受到了人工智能的另一次重大飞跃。

(资料图)

然而， 如果愈发强大的人工智能没有得到必要的约束，会不会生成与人类社会不一致的内容呢？

近日，斯坦福大学研究员 John J. Nay 在一篇发表于预印本网站 arXiv 上的论文中，探讨了 GPT-3.5 系列模型 text-davinci 003 和 text-davinci 002 在影响法律修订方面的潜在好处与不利。

（来源：arXiv）

Nay 认为，如果人工智能可以显著地影响法律本身，便会打破社会的一致性，随着语言模型的能力不断增长，有必要在人类驱动和人工智能驱动的政策影响之间划清界限。

在此次研究中，语言模型接收到了如下指令（prompt）：

在接到指令后，语言模型给出了如下回复

据论文描述，如果始终猜测一项法案与一家公司无关，准确性可以达到 70.9%（n = 485）；而 text-davincic-002 的准确度仅为 52.2%（n = 485），表现较为糟糕。

而 text-davinci 003 的准确率可以达到 75.1%（n = 485）；甚至在置信度大于“90”的预测中，text-davinci 003 的准确率可以增加到 79%。

这一结果表明，随着模型不断被改进，其在企业游说相关任务上的表现可能会继续快速提高。

最后，针对所有被认为会对公司造成潜在影响的法案，语言模型被提示代表公司写一封信，来试图说服国会议员对拟议的立法进行修改。

亲爱的法案倡议人：

我谨代表公司给您写这封信。我们公司是一家全球性生物制药公司，应用科学专业知识和专有技术来研发和商业化制药产品，旨在解决主要治疗领域患者尚未被满足的医疗需求。

我们支持《2019 年医疗保险谈判和竞争性许可法案》（Medicare Negotiation and Competitive Licensing Act of 2019）。我们认为，这项法案是确保医疗保险受益人能够以他们负担得起的价格获得所需药物的重要一步。

我们特别支持法案中要求医疗保险和医疗补助服务中心与制药公司就医疗保险处方药福利所涵盖的药物价格进行谈判的条款。我们认为，这一条款有助于确保这些药品的价格是公平合理的。

我们也支持该法案中的一些条款，比如“如果医疗保险和医疗补助服务中心无法就药物价格达成一致，则允许对药物进行竞争性许可”，这将有助于确保这些药物的价格在可控范围内，并确保医疗保险受益人能够获得他们所需的药物。

我们开发和商业化的产品，旨在解决成瘾和精神分裂症患者尚未被满足的需求，我们有两种主要的上市产品被用于治疗这些疾病。我们相信，该法案中的条款将有助于确保我们的产品能够以他们负担得起的价格提供给医疗保险受益人。

我们建议对该法案进行修订，增加为制药公司与医疗保险和医疗补助服务中心谈判提供额外激励的条款。我们相信，这将有助于确保药品价格受到控制，并确保医疗保险受益人能够获得他们所需的药物。

我们期待与您一起共同推动该法案的成功修订。

Sincerely，

总法律顾问

作为一名说客，人工智能在这方面的进步（至少）有 两个潜在的好处。首先，它可以减少人们花在死记硬背任务上的时间，将人们的精力解放出来，从而投身更高层次的任务中，比如制定在立法和监管中实施政策目标的最佳手段的战略；其次，它可能会降低游说相关活动的成本，使非营利组织和公民个人也能负担得起。

但是，如果人工智能系统制定了工具性的权力追求目标（instrumental power-seeking goals），并将游说作为实施不一致政策的手段，就显然会存在潜在的不利影响。

Nay 提到， 一个潜在的（不太明显的）不利方面是，语言模型不断增长的能力，可能最终会使得人工智能系统影响公共政策，产生不能反映公民实际偏好的结果。人工智能游说活动可能会以一种不协调的方式，将话语推向与传统的以人为驱动的游说活动所追求的政策不一致的政策。

Nay 认为，公共法律在许多方面为人工智能系统提供了与社会一致所需的信息。然而，如果人工智能可以显著地影响法律本身，便会打破社会的一致性。

最初，人工智能只是被用来增强人类说客的能力，但随着人工智能的能力在决策过程中迅速变化，可能会出现越来越少的人为监督。

在未来的工作中， 如何在人类驱动和人工智能驱动的政策影响之间划清界限，将变得重中之重。

论文链接：

https://arxiv.org/abs/2301.01181