拜生成式 AI 发展所赐，人们现在利用 Midjourney 和 Stable Diffusion 等图像生成工具就能轻松产制大量图片，但也惹出不少「假新闻」争议，像是前些日子，就有 AI 生成的美国前总统川普（Donald Trump）被捕、特斯拉执行长马斯克（Elon Musk）和通用汽车执行长玛莉．巴拉（Marry Barra）牵手上街图片在社群媒体上疯传；5 月份一张五角大厦爆炸的生成图甚至影响了股市。
对此，今年 7 月白宫召集了各大科技领袖举行 AI 会议，与会的企业（包括 Google 和 OpenAI 等）承诺会开发出浮水印工具，让 AI 生成图更容易辨识。Google DeepMind 也於今年 8 月开发一个 AI 检测工具：SynthID。