程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep2年前AI资讯781

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

美国专利商标局驳回了OpenAI申请"GPT"商标的尝试

美国专利商标局(U.S. Patent and Trademark Office)驳回了 OpenAI 申请"GPT"商标的尝试,裁定该词"仅仅是描述性的",因...

免费了,OpenAI放开限制,用户无需注册即可使用ChatGPT

人工智能(AI)公司OpenAI宣布,将允许用户直接使用ChatGPT,而无需注册该项服务,这将让人们更加容易体验人工智能的潜力。OpenAI表示,它将从周一开始逐步推出这一功能,让185个国家和地区...

GPT-4级大模型上线即挤爆,成本仅2200万美元,微软钦点OpenAI备胎!

成立仅9个月,法国Mistral AI拿出仅次于GPT-4的大模型。在所有已能通过API访问的大模型中排第二,全班唯二在MMLU考试中拿80分以上的。一举获得微软青睐,签署了多年合作协议。也就是说,微...

开源类ChatGPT产品Grok,马斯克将在本周宣布执行!

马斯克在社交平台宣布,将在本周开源生成式AI产品——Grok。Grok是马斯克旗下公司xAI在去年11月发布的,一款类ChatGPT产品,可以提供生成文本、代码、邮件、信息检索等功能。其测试性能超过G...

Canvas来了,可辅助完成编程、写作,ChatGPT史诗级大更新!

OpenAI重磅更新了ChatGPT新增功能——Canvas。据悉,Canvas是基于GPT-4o模型开发而成,它提供了一个单独的窗口,可以与ChatGPT一起执行编程、写作任务,会帮你提供意见、审核...

争夺“中国ChatGPT”心智定位,零一万物首次出新To C 李开复再出马!

李开复表示,大模型推理成本的下降会推动中国AI大模型进入”落地为王”的阶段,今年会迎来“大模型应用爆发元年”。他同时预测,明年下半年,随着大模型推理成本的大幅度下降,人们将迎来大模型普惠应用的井喷期。...