科技处官网ChatGPT决策潜力与风险评估

（视觉中国/图）

人工智能应用ChatGPT的流行，促使社会对其决策能力的探讨不断拓展，并引发相关风险规制的实践。2023年7月10日，《生成式人工智能服务管理暂行办法》已由国家发改委、教育部、科技部、工信部等多部门同意并公布，自2023年8月15日起施行。该管理办法针对生成式人工智能技术提供的文本、图片、音频、视频等内容，对相关服务坚持发展和安全并重、促进创新和依法治理相结合。

科学研究已经通过实验预演部分场景，对ChatGPT决策潜力和风险进行了初步预演。一项医学研究比较了医生与人工智能应用在回答病人的问题效果，显示ChatGPT获得更多好评，在近六百个评价中，超过78%认为其优于医生的回答。

此外，一些健康领域研究人员开始考虑将大语言模型人工智能聊天应用作为专业医疗设备。此前，加州大学圣迭戈分校的研究人员使用ChatGPT来回答病人的问题，这项对比研究显示，尽管ChatGPT没有经过专业训练，但它在同理心方面表现出色，其回答质量也超越了医生的水平，从好评度看差距极大。

然而，大语言模型的人工智能聊天应用要想成为医疗器械，还需要通过更科学严谨的方式证明自己在准确性、安全性和临床效果方面。在某些自主决策场景下，它们的潜力和风险显然更大。丹麦和德国机构的一项实验模拟了经典道德判断难题“电车困境”，结果发现，即使是机器人，也无法一致地做出道德判断。

这些不一致的道德判断可能会干扰人们在现实社会中做出明智决策，而随着科学家对这类技术了解深入，相关风险管控可能并不容易。此外，一份由麻省理工学院经济系发布于《科学》杂志（Science）的实验结果支持了生成式人工智能提高生产力的能力，该技术可以提高受过高等教育者写作效率，并且他们完成任务后的满意度也更高。这表明，如果未能妥善规制，这种技术可能带来的影响将更加广泛。