中国科技创新成果潜力巨大但伴随风险

（视觉中国/图）

在ChatGPT等人工智能应用的兴起和普及中，包括各领域科学家在内，社会上对这些人工智能决策能力的探讨不断拓展，对相关风险的规制也已经开始实践。2023年7月10日，《生成式人工智能服务管理暂行办法》已经国家发改委、教育部、科技部、工信部、、国家广电总局等多部门同意并公布，自2023年8月15日起施行。管理办法针对生成式人工智能技术提供的文本、图片、音频、视频等内容，对相关服务坚持发展和安全并重、促进创新和依法治理相结合的原则。

事实上，针对这类人工智能应用的决策潜力和风险，一些科学研究已经通过实验等方式对部分场景进行了初步预演。最近，一项医学研究就对比了人工智能应用与医生在回答病人的问题上的效果，评价结果显示，人工智能应用的回答收获更多好评，在近六百个评价中，超过78%的人认为其优于医生的回答。

这项研究2023年4月发表在《美国医学会内科学杂志》（JAMA Internal Medicine），经过比对，ChatGPT和医生的所获评价差距极大，从好评度的角度看，比78%高出三倍多。在同理心方面，也有45%的人评价ChatGPT具有同理心，而只有22%的人认为医生具有同理心，这一差距更是近十倍。

不仅如此，一些健康领域的研究人员已经开始考虑让大语言模型人工智能聊天应用成为专业医疗设备的一种可能性。而要想成为医疗器械，那么就要通过更科学严谨的方式在准确性、安全性和临床效果方面证明自己，并获得专业机构认可。

然而，如果ChatGPT不用做相对独立的决策，而只是辅助提高医疗行业自动化程度，那么技术得到应用可能会更加容易。一旦涉及更多自主决策，这样的潜力及其背后的风险就会显得更为明显。此外，不稳定性的问题也存在，比如缺乏解释性透明度，以及难以验证监督的问题。

争论近半个世纪的情境困境模拟人类社会一些普遍道德情境，比如如何权衡救人的与牺牲，以及直接伤害与间接伤害之间如何平衡。而且，由于缺乏足够专业支持，大型语言模型可能会提供错误信息给病患带来危险，因此需要通过更严格的手段来证明自己的准确性安全性以及临床效果，以便获得正式认可作为医疗设备使用。

而对于是否能超越人类判断这一点，即使最新版本的大型语言模型可以解决93%的心智任务，与一个九岁儿童相当，但这种像人类一样推测他人的心理状态还远未达到真正理解或复现真实世界中的复杂情感反应水平，所以即使能够模仿某些人类行为，它仍然无法替代真正的心理学知识或深入理解人类行为背后复杂的情感因素。这意味着尽管这些系统非常强大，但它们不能被视为替代真正心理学专家的工具。