人工智慧技术的兴起虽然一方面提升了企业的生产效率，但另一方面也替网路恶意份子创造了更多机会。网路资安厂商趋势科技为此发表企业资安平台与消费性网路资安产品新功能，防范快速成长的 AI 攻击与深伪（Deepfakes）诈骗，以保护所有网路环境。
据趋势科技研究报告指出，骇客正搭上 AI 应用爆炸性成长的热潮，导致网路犯罪地下市场的 AI 犯罪工具暴增。这些工具不仅越来越便宜且更容易取得，使得任何技术能力的骇客都能更轻易地发动大规模攻击，藉由欺骗受害者来从事勒索、身分冒用、诈骗以及散播假讯息。
趋势科技营运长Kevin Simzer表示，如同过去其他新兴威胁与 IT 情势的转变一样，我们早已预见并克服 AI 的资安挑战。最新研究披露了多项新的深伪工具，这些工具让任何具备技术能力的网路骇客都能轻而易举地从事诈骗取财、发动社交工程攻击，以及避开资安防护。
侦测与打击这些 AI 犯罪手法是企业改善攻击面风险管理以及降低消费者整体网路风险的核心。趋势科技调查显示，有高达 71% 的消费者对深伪抱持着负面观感，并相信深伪的最大用途之一就是诈骗。
趋势科技接下来即将在 Trend Vision One 平台全新推出的深伪侦测技术，运用多种进阶方法来侦测 AI 生成内容。除了影像杂讯分析与色彩侦测等技术，Vision One 平台还会分析使用者的行为元素来执行更强大的深伪侦测及拦截方法。在侦测的当下，趋势科技便会立即通知企业资安团队，让他们有机会学习及获得更新，并采取主动措施来防范未来的攻击。
此外，该功能即日起也将经由 Trend Micro Deepfake Inspector 提供给一般消费者使用，可协助确认即时视讯会议当中是否有人正在使用深伪技术，并提醒使用者其目前谈话的对象可能有人是假的。
Gartner 分析师 Dan Ayoub 表示，一些现成的高品质生成式 AI 应用程式现在已经可以产生逼真的视讯内容，足以骗过或误导观赏者。由於这些工具的使用门槛很低，而且越来越精密，因此有必要发展出一套可侦测生成式 AI 深伪内容的系统性方法。
深伪对现代企业和一般个人都是一项严重风险，只要一次不小心被深伪所骗，就可能面临财务损失、丢掉工作、法律问题、名誉损失、身分遭冒用，以及潜在的精神或健康损害。在趋势科技的
调查中显示，36% 的消费者表示曾经遇到过深伪诈骗。而美国联邦调查局（FBI）先前也曾警告大众小心歹徒结合深伪技术与视讯电话来从事变脸诈骗（BEC），以及假装应徵远距上班工作的情况。
这不仅可能被滥用於骗过真人审查程序，还可能用来欺骗一些生物辨识安全机制，例如脸部辨识。趋势科技研究也披露了最近资安情势所出现的一些转变，指出骇客越来越喜欢使用一些创新的越狱技巧来攻击现有大型语言模型（LLM）的弱点，而非自行开发犯罪专用的 AI 工具。
在推动零信任策略的方针下，趋势科技最近也为 Trend Vision One 推出新的功能来实现以下目标：
- 集中管理员工存取与使用生成式 AI 的情况。
- 检查生成式 AI 指令（prompts）来防止资料外泄与恶意注入攻击。
- 过滤生成式 AI 内容来达成法规遵循要求。
- 防范大型语言模型攻击。
Trend Micro Deepfake Inspector 是一套免费的解决方案，是为提醒使用者注意视讯通话中的潜在深伪内容而设计。这项分析技术会在使用者的装置上即时执行，确保资料和隐私随时受到保护。
（首图来源：趋势科技）