□ 刘梦瑶
9月9日至15日，2024年国家网络安全宣传周在全国范围举办，主题是“网络安全为人民，网络安全靠人民”。互联网给我们带来便利的同时，也随之产生一系列网络乱象，让人防不胜防，如近日“儿童手表频现毒答案”就给AI智能产品应用敲响警钟。
中国互联网络信息中心发布的第54次《中国互联网络发展状况统计报告》显示，截至2024年6月，我国网民规模近11亿人，较2023年12月增长742万人，其中10-19岁青少年更是占到新增网民数量的49%。人工智能技术以前所未有的速度进入我们生活的方方面面，从个性化推荐到自动问答，AI正逐步成为连接人与信息、人与服务的重要桥梁。AI“已读乱回”等现象不仅损害用户体验，更可能引发信任危机，尤其是可能让独立甄别能力不强的青少年形成不正确的价值观。为进一步规范网络信息平台，技术平台、政府部门和网络用户应共同发力，多种渠道多种方式构建良好的网络环境，筑牢网络安全防线。
构建智能时代的信任基石，必须加强技术升级，强化平台责任。目前大规模数据集训的信息库内容来源于不特定网络，控制难度较高。一方面技术平台应抓紧进行技术更新与迭代，通过引入更先进的自然语言处理技术、深度学习算法和强化学习机制等，使AI系统能够更准确地捕捉用户意图和语境变化，减少误解和误判的发生。同时企业在研发产品时也要多从呵护青少年成长等角度去设计，及时辨别与删除有害信息，从源头控制错误信息的生成与传播。
构建智能时代的信任基石，必须完善监管体系。中国网络安全产业联盟在今年3月就已实施《儿童智能手表个人信息和权益保护指南》；7月中央网信办也专门启动了“清朗·2024年暑假未成年人网络环境整治”专项行动。本次国家网络安全宣传周更是利用多种方式呼吁人们注意网络安全。在此基础上政府和相关机构应加快制定和完善针对AI在网络信息平台上应用的监管体系和评估标准。明确AI应用的合法边界、责任主体和处罚措施等关键问题，为AI技术的健康发展提供有力保障。同时，鼓励行业协会和企业制定自律规范和标准，推动整个行业向更加规范、有序的方向发展。
构建智能时代的信任基石，必须增强用户教育。用户作为AI应用的直接受益者和监督者，其认知水平和行为习惯对AI技术的发展和应用具有重要影响。通过普及AI知识、推广最佳实践等方式，帮助用户更好地理解和使用AI系统，减少误解和误操作的发生。同时，在网络使用过程中，也应鼓励用户积极参与AI应用的监督和反馈工作，共同推动AI技术与网络平台的健康发展。
“网络安全为人民，网络安全靠人民”。网络信息人人共享，网络信任各方守护，只有构建一个更加规范、有序、可信的网络环境，才能充分发挥AI技术的潜力和优势，在智能时代的大潮中，为人类社会带来更多的便利和福祉。
来源：红网
责编：张岚
来源：红网
