今年3月初，一则关于“华山医院前院长张明远因阑尾炎未得到及时救治客死他乡”的消息在互联网上广泛传播。然而经警方核查，华山医院并没有名为“张明远”的前院长或同名员工。上海公安网安部门对此展开调查，最终成功侦破这起利用AI造谣案，抓获犯罪嫌疑人王某某、郭某某和石某某。
自2025年2月起，这三人成立了一个工作室，通过自媒体账号发布内容以吸粉引流牟利。他们控制了500多个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词，引导AI软件自动生成并发布不实帖文，日均发布量超过1万条，累计发布不实信息30余万条，非法获利4万余元。这些行为造成了恶劣的社会影响。目前，王某某等三名嫌疑人因涉嫌非法利用信息网络罪被上海警方依法采取刑事强制措施，相关违法账号也被封禁。
今年以来，上海公安机关积极开展打击整治网络谣言专项行动，严厉打击“造热点”“带节奏”的网络水军。截至目前，已破获网络水军案件15起，抓获38名违法犯罪嫌疑人。
据犯罪嫌疑人王某某供述，他们在发布内容前并不知道有华山医院，也不知道“张明远”这个人。他们主要采集“阅读top”内容，并用AI批量改写，要求AI生成的内容第一句话要吸引人，以吸引更多点击量。他们的收入主要依赖于流量，每天发布1万多条不同内容的帖文，每万次阅读量大约可以获得5元收益。
王某某表示，他们曾因编造某女明星去世时的虚假信息而被平台处罚，但总体来说，被处罚的概率很低。现在他们认识到自己的错误，感到非常后悔。他们认为获得流量应该有底线，不应该胡编乱造或者夸大其词，更不应该编造发布虚假信息。
警方指出，这一团伙的行为主要是为了“养号”涨粉，以便后续直播带货等牟利。这种行为是“流量经济”劣化的表现形式，通过AI编造大量不实、虚假、有害的信息，对网络环境造成严重劣化。上海公安机关与头部平台建立了畅通的工作联动机制，及时通报掌握的问题，持续加强网络生态治理，全力营造清朗有序的网络环境。
