导读 尽管令人担忧的是，ChatGPT和Gemini等生成型人工智能模型有一天可能会变得有知觉或抢走我们的工作，但还有更紧迫的担忧。例如，来自美国和...
尽管令人担忧的是，ChatGPT和Gemini等生成型人工智能模型有一天可能会变得有知觉或抢走我们的工作，但还有更紧迫的担忧。例如，来自美国和以色列的三名安全研究人员最近创建了一种恶意软件蠕虫，专门针对生成式人工智能服务，以执行提取私人数据、传播宣传或进行网络钓鱼攻击等恶意活动。
好消息是，研究人员开发了这种蠕虫病毒——他们以1988年莫里斯蠕虫病毒命名为MorrisII——“作为创造GenAI蠕虫病毒可能性的告密者，以防止它们的出现。”换句话说，你没有被莫里斯二世攻击的危险。这里的目标是警告科技公司潜在的威胁。
您可以在研究人员发表的这篇论文中阅读有关该研究的更多信息，但这里的要点是，攻击者可以通过将对抗性自我复制提示插入到模型处理和复制的输入中，使用类似的计算机蠕虫来瞄准生成式人工智能服务输出，此时它们可用于从事恶意活动。
在这项研究中，研究人员通过针对人工智能驱动的电子邮件助手展示了他们的恶意软件的应用。在一种情况下，他们能够将电子邮件中的图像附件武器化，向最终用户发送垃圾邮件。在另一起事件中，他们使用电子邮件中的文本“毒害”电子邮件应用程序客户端的数据库、越狱ChatGPT和Gemini，并泄露敏感数据。
“这项工作并不是为了反对GenAI功能的实际开发、部署和集成。研究人员在他们的研究中解释说，它也不是为了对GenAI的采用产生怀疑的威胁造成必要的恐慌。“本文的目的是提出设计GenAI生态系统时应考虑的威胁，并应根据GenAI生态系统的具体部署(用例、结果、实用性等)评估其风险。”
标签：
免责声明：本文由用户上传，如有侵权请联系删除！