人工智能(AI)越来越多地被用于更准确、更高效地执行任务。
但是，虽然生成式人工智能可以自动执行任务，减少人为错误，甚至帮助医生，但它也有黑暗的一面。
网络犯罪分子正在利用人工智能在网上制造假人，通过编程机器人进行真实的文字对话，并生成图片和音频，在约会应用上欺骗澳大利亚人。
我们使用Adobe Firefly应用程序创建了下面的图片来说明这个故事。Adobe的AI使用Adobe Stock图像、公开许可内容和版权过期的公共领域内容进行训练。你可以在这里阅读更多关于他们的内容倡议。
?The人工智能机器人会与那些认为自己正在与真人聊天的人“交谈”，并在很长一段时间内建立联系，然后讲述一个感人的故事，说服约会应用程序的用户转账。
这种类型的骗局被称为“LoveGPT”，参考了流行的生成人工智能工具ChatGPT。
为了测试?how可以轻松生成AI图像，我们使用Adobe Firefly通过使用各种提示来生成人物图像。我们选择Adobe Firefly是因为它是Nine使用的媒体产品。我们并不是说这是骗子经常使用的产品。
基本的人工智能生成器在不到一分钟的时间内创建了这些图像
诈骗者还使用语音克隆来冒充真人，并发送音频信息，以进一步说服受害者他们是真实的，当他们不是。
Avast网络安全专家Stephen Kho表示，ChatGPT去年才推出，但随着技术的发展，它使骗子更容易欺骗人们。
“在(ChatGPT)之前，当你与聊天机器人交谈时，你会觉得，‘啊，这显然是一个机器人，因为它们没有直觉，它们不会交谈，它们的语言能力有限，’”Kho说。
“但从那以后，它就逐渐消失了。”
他说，机器人的反应速度?at现在和一个人想说什么然后回答的速度差不多。
“很容易被骗。它甚至没有针对老一辈，”他说。
“我们都很脆弱，因为如果你想要一段感情，?you可能是35岁、40岁或60岁，这真的无关紧要。”
?Kho说，你可以训练人工智能机器人拥有某种个性，或者以某种方式讨人喜欢。
“骗子会加入约会网站和应用程序，在所有约会应用程序中，他们会创建虚假的个人资料，”他说。
“所以一旦骗子发现你需要一些东西……如果是在约会网站上，他们会把你从约会网站上拉下来，开始和你聊天，建立关系。”
他说，过去一个呼叫中心的人每天会进行大约20次诈骗，但?now有这么多自动聊天机器人，他们可以一次欺骗数十万人。
全球各国政府都在努力?to制定立法，以赶上这一快速发展的技术。
今年6月，欧盟制定了世界上第一部“全面的人工智能法”，澳大利亚正在努力迎头赶上。
澳大利亚人权委员会表示:“澳大利亚已经制定了几项立法，规范在特定环境或情况下使用人工智能。”
“然而，人工智能的监管环境是拼凑的，监管缺口可能存在。”
?Kho表示，这个骗局还处于早期阶段，你需要注意一些事情。
“他们会尽快把你从约会软件中删除，”Kho说。
“他们会说，让我们在WhatsApp或Signal上谈谈，他们会把你从网站上删除，因为很多(约会)网站也使用人工智能检测来寻找虚假账户、垃圾邮件和机器人账户，所以他们越快把你删除越好。”
另一种判断你是否在和人工智能聊天的方法是，如果他们拒绝进行视频通话，因为人工智能生成的视频不如照片、文本或音频好
“然后诈骗的正常情况就出现了，所以他们试图把事情弄得很紧急，有人生病了，他们想要钱，他们需要从你那里得到一些东西，因为事情很紧急，有人遇到了麻烦。
“这总是最近出现的、情绪化的情况。”
根据澳大利亚竞争委员会(ACCC)的数据，澳大利亚人在2022年因诈骗损失了创纪录的31亿美元
据Kho说，防止诈骗的最好方法之一是通过教育。
?He鼓励人们不要感到尴尬，当他们被骗的时候告诉别人，这样更多的人就会意识到它是如何发生的。
如果你被骗了，你可以向Scamwatch举报，那里有更多关于?Australia当前在线陷阱的信息。