澳大利亚新南威尔士大学举办一场别开生面的模拟选举,让学生利用人工智能(AI)机器人在社交媒体上制造争议、影响选民立场,借此研究AI如何操纵网络舆论,以及如何识别和防范这类干预行为。
澳大利亚广播公司(ABC)报道,这场竞赛以虚构岛国“金斯顿尼亚”(Kingstonia)为背景,居民须就一项公共卫生政策举行公投,决定是否强制民众出示“海豚流感”疫苗接种证明,才能进入公共场所。
参赛学生分组支持不同立场,并在专为比赛开发的虚拟社交平台“Legit Social”上展开为期一个月的宣传战。他们可以设计AI机器人,自动发布贴文、点赞、分享及回复,试图影响由AI模拟的选民。
比赛根据贴文吸引的关注度、改变选民立场的效果,以及识别对手机器人的能力计分。
电脑工程系学生杜马西亚拟采取“激怒式诱饵”(rage bait)策略,发布容易引起愤怒和争论的内容,诱使用户留言互动,提高贴文曝光率。
她说,这种策略源自日常社交媒体经验,因为现实中许多贴文正是利用愤怒情绪吸引流量。
新南威尔士大学电脑科学高级讲师皮尔斯指出,比赛让学生在安全、受控的环境中学习攻击者如何利用AI操纵舆论,同时掌握识别和防范这类攻击的方法。
这项研究正值美国中期选举前夕。澳洲选举委员会此前警告,AI可能加剧虚假信息传播、舆论操纵及外国势力干预选举等既有风险。
杜马西亚说,参与活动后,她更容易辨认AI生成的可疑贴文,也意识到自己同样容易受到煽动情绪的网络内容影响。



