自然语言处理和高级翻译功能使生成式AI成为黑客的宝贵工具。不过,人工智能生成的网络钓鱼电子邮件可能并不比人类生成的诈骗内容更危险。用户和安全专家应该如何了解人工智能在网络钓鱼和网络攻击中的作用?
AI是如何写钓鱼邮件的
从2021年到2022年,报告的网络钓鱼内容增加了61%。从恶意URL到电子邮件诈骗,网络钓鱼每年都变得越来越普遍。人工智能是黑客用来推进网络钓鱼活动的最新工具。虽然AI的自然语言处理是有益的,但黑客可以利用它来创建更有效的网络钓鱼内容。
ChatGPT等人工智能即服务平台的可用性使任何人都可以比以往更轻松地生成内容。黑客可以向大型语言模型AI展示数千个合法电子邮件示例,然后要求它根据这些创建原始电子邮件。自然语言处理(NLP)允许AI理解和重建逼真的书面内容——这是网络钓鱼攻击的完美工具。
理想情况下,AI会生成模仿人类编写的电子邮件的原始电子邮件。黑客可以要求它自定义消息以包含有关特定公司、个人或地点的详细信息。人工智能甚至可以将信息翻译成另一种语言。黑客可以在短时间内有效地创建完全原创的、个性化的网络钓鱼电子邮件,从而使他们能够避免在多个目标中重复使用一封恶意电子邮件。
人工智能生成的钓鱼邮件有效吗?
AI支持的网络钓鱼的可能性听起来令人生畏,但它们是否比人工创建的网络钓鱼内容更危险?人工智能生成的网络钓鱼电子邮件的优势主要归结为黑客更高效的工作流程。
早期研究表明,人工智能生成的网络钓鱼电子邮件与人工生成的网络钓鱼电子邮件同样具有说服力。黑客对AI即服务平台的访问也受到限制。大多数大型开发商——包括OpenAI——都有防止非法人工智能模型应用的保障措施。
人工智能对网络钓鱼黑客的主要优势是效率和语言。使用AI生成诈骗邮件比手动写出来的速度更快,允许黑客创建更多种类的钓鱼邮件。此外,由于具有NLP功能的易于访问的AI翻译工具,他们可以将目标对准世界任何地方的受害者。
因此,人工智能生成的网络钓鱼电子邮件增加了网络钓鱼攻击的风险,但不一定比人工生成的内容更有说服力。
如何抵御AI生成的网络钓鱼
人工智能是黑客的有用工具,但并非万无一失。随着网络钓鱼攻击变得越来越聪明,安全技术和用户也可以改进他们的防御策略。用户应该首先及时了解网络钓鱼内容的危险信号,因为即使是AI生成的电子邮件,这些危险信号也将保持相关性。
虽然一目了然地检测网络钓鱼电子邮件可能会变得更加困难,但某些安全措施可以最大限度地减少或消除网络钓鱼造成损害的可能性。此外,新的检测技术可以捕获人工智能和人工编写的恶意电子邮件。
切换到云存储
更改为云存储是将网络钓鱼电子邮件和网络攻击的威胁降到最低的好方法。传统数据存储的孤立性使其极易受到黑客的利用。黑客需要做的就是控制一个硬盘驱动器或服务器,他们可以劫持某人的所有数据。
云存储避开了这种威胁。由于数据与任何特定设备无关,因此黑客删??除或损坏任何信息的难度要大得多。基于云的网络安全还可以提高抵御黑客攻击的能力。
例如,用户可以实施自动漏洞扫描以发现其云安全中的弱点。这对于防止黑客使用后门或窃取的凭据访问云中的数据非常有用。即使他们这样做了,他们也很难完全控制任何数据,因为云存储非常分散。
创建一个DIY验证系统
一种有助于阻止任何类型的网络钓鱼消息的DIY解决方案是在受信任的通信者之间建立代码系统。这可能包括家人、朋友和同事等人。每当群组中的人互相发送电子邮件时,他们都可以编写一个特定的代码短语来验证消息是否确实来自他们。
这个代码系统不需要太复杂。这个想法只是在电子邮件中添加一个黑客或AI事先无法可靠知道的因素。让代码短语变得不寻常,这样它就不太可能在AI的培训电子邮件中常见。
例如,该代码可以是幻影定居点的名称,例如“纽约安格洛”。幽灵定居点不太可能经常出现在电子邮件中,因为它们是虚构的地方,只是出于版权目的添加到地图上。
使用AI网络钓鱼检测
黑客并不是唯一使用AI来创新其方法的人。用户和安全专家可以利用人工智能模型来检测网络钓鱼内容,无论是人类还是人工智能编写的。
例如,开发人员可以使用机器学习来监控和跟踪合法电子邮件通讯员的自然通信模式。如果人工智能能够快速学习个人独特的沟通方式,它就能识别出不匹配的假电子邮件。无论电子邮件是人类还是AI撰写的,这都适用。
人工智能驱动的网络钓鱼的最大优势之一也是一个主要缺陷。黑客可以使用AI高效地创建可信的虚假电子邮件,但这些电子邮件的通信方式无法有效地个性化。黑客通常没有技术专长或资源来训练AI准确复制特定人的写作风格。网络钓鱼检测AI模型可以利用这一弱点来保护用户。
了解人工智能网络钓鱼的风险
在创建网络钓鱼电子邮件时,人工智能可以成为黑客的宝贵工具。然而,人工智能生成的电子邮件并不一定比人类生成的网络钓鱼内容更有说服力。网络钓鱼的主要危险信号——例如紧急行动呼吁——无论是谁或什么创建了网络钓鱼电子邮件,都仍然具有相关性。用户和安全专家可以采用创新的技术和技术来保护他们的数据免受AI支持的网络钓鱼活动的侵害。