何勇
当前，AI正赋能千行百业，为人们的工作、学习、生活带来极大便利。与此同时，不少人发现，用AI搜索数据，给出的内容查无实据；用AI辅助诊疗，出现误判干扰正常治疗……AI频频上演“一本正经胡说八道”。社交平台上，AI幻觉引发热议。（9月25日《重庆晨报》）
AI“一本正经胡说八道”，这种现象被业界称为“AI幻觉”，是指AI平台生成的信息内容，它认为是真实存在的，甚至看起来合理或可信，与现实世界事实或用户输入不一致的现象。
“AI幻觉”，除了训练数据良莠不齐这个原因之外，主要是大数据模型驱动的内在机制的一种必然。众所周知，生成式AI基于大数据集训练的深度学习模型来创建新内容，使用了大量互联网数据，在AI“养成”过程中，数据“投喂”是关键环节，这些数据集本身可能存在错误、过时或缺漏等问题，从而污染AI数据。而人工智能大模型本身又“认知边界模糊”，不具备事实判断的能力，更多的是在纯符号空间中展开排列组合。“博览群书”，却无法像人一样理解书中内容，识别出信息错误。
然而，随着AI产品深入我们日常生活的各个维度，“AI幻觉”很可能给我们造成一定程度上的“认知幻觉”。如果我们对AI生成内容不加以区分，盲目信任，很容易被AI“一本正经胡说八道”的错误信息带偏，误导我们的选择、决策，轻则影响日常生活，重则影响社会秩序，甚至危害生命健康安全。比如，今年3月，一名“95后”新手家长面对孩子反复咳嗽发热的症状，在手机端用AI问诊判定孩子为“普通呼吸道感染”，并参考网络建议居家用药，致病情延误。最终，孩子被医院确诊为病毒感染肺炎。更严重的是，如果过度依赖AI“一本正经胡说八道”的错误信息，久而久之，必将影响人们的认知和判断能力，使人陷入信息的误区。
虽然目前，受限于技术因素，“AI幻觉”可能难以避免。但是，作为普通用户能够做的也是需要做的就是：使用AI要有所节制，不能过度依赖AI，切莫盲目迷信AI生成内容。对于AI生成的重要信息内容，我们应当时刻保持谨慎态度，提高辨别能力，不要轻易相信、直接采用，不妨通过多个AI平台进行交叉比对印证，并按图索骥，找到权威信息源头进行核实。同时，我们需要养成多从官方渠道获取权威信息的网络生活习惯，了解法律法规、国家政策等权威信息不要过度依赖AI生成。
当然，对于用户发布一些AI生成虚假信息，监管部门要依法惩治，倒逼大众慎重对待AI生成信息。今年4月，中央网信办印发通知，在全国范围内部署开展“清朗·整治AI技术滥用”专项行动，整治重点之一便是利用AI制作发布谣言。
另外，AI平台不能以技术为由对“AI幻觉”视若无睹。在技术手段有限的现实情况下，应当强化人工干预和人工审核机制，对大数据集严格把关，及时过滤错误数据，确保数据可靠、可信、高质量。特别是对于涉及到法律法规、方针政策、医疗健康等涉及大众民生的严肃性、权威性数据，实行人工审核应是标配，确保其真实性和可靠性。
责编：印奕帆
一审：印奕帆
二审：李昆励
三审：蒋玉青
来源：华声在线
