信号山：ChatGPT一本正经胡说八道 谣言泛滥值得警惕

近日，ChatGPT炮制出一条“杭州3月1日取消限行”的假新闻，引发各方担忧。复盘此事件，是有业主尝试用ChatGPT写了一篇杭州不限行的新闻稿，并在群里直播了全过程和最终文章。有些业主不看上下文，随手截图转发，导致失实信息传播。相关词条也登上热搜，ChatGPT“编造谣言”的“功能”令人担心。如果虚假信息在政治、经济等关键领域泛滥，所造成的社会影响将更加恶劣。

ChatGPT，可以将其简单视为一个“聊天机器人+搜索工具+文本创造工具”的组合体。在国内一般称作“人工智能自然语言处理工具”。根据研究机构测试发现，如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题，它能在几秒钟内改编信息，产生大量令人信服却没有来源依据的内容。

以往的谣言大多都有粗制滥造、漏洞百出的特点，“劣质”谣言的套路尚可总结：来源不权威，轻信短视频平台的非官方媒体账户和朋友圈截图；内容“三不提”：不提“政策”来源部门、不提“政策”所在文件、不提“政策”发布时间；话术真假掺半，如“社保卡统一（假）办理电子版（真），不办理就会被销户（假）”，这样的谣言迷惑性极强；风格吓唬人，惯用“必须”“后果自负”等耸人听闻用词和大量感叹号，目的就是利用焦虑情绪替代判断力。

如今，怀有不良企图的人却可以引导ChatGPT写出逻辑清晰、语言表达流畅的谣言。这样一来，ChatGPT生成的内容很容易被当作是权威信息而大肆传播，而且查证的难度很高。谣言的传播能力取决于事件的重要性、模糊程度和公众的判断能力，ChatGPT的“专业性”影响了受众的判断能力，势必会助推虚假信息的传播。

ChatGPT的使用成本极低，造谣成本同样也在大大降低。“一本正经地胡说八道”不能只是一句调侃的玩笑，“错误的废话”绝不是无足轻重，一旦ChatGPT被不法分子利用输出误导信息，将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。如果虚假信息在政治、经济等重要领域泛滥，如果谣言大肆泛滥却无法追责，那么对于新闻媒体、平台和大众来说，伤害都是不可估量的。

ChatGPT向人们展现了人工智能先进性，与此同时，造谣工具的“利刃”也在出鞘。2023年1月10日起施行的《互联网信息服务深度合成管理规定》，为ChatGPT套上了制约的枷锁。《规定》中明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。

推动引导ChatGPT有序发展，还需多方发力，方能实现多赢。针对人工智能自然语言处理工具所面临的现实问题，建议使用ChatGPT在互联网生成和发布信息的，进行实名制认证，网络平台加强监管，对结果进行审核。加强互联网人工智能自然语言处理工具管理，在充分调研的基础上，结合《互联网信息服务深度合成管理规定》等法律法规，网信部门可出台相关管理措施，最大程度上保证新技术不被滥用。未来，期待AI安全有更完善的法律保护。

信网评论员 秦璐