程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep1年前AI资讯446

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

84%收入来自近1000万名ChatGPT付费用户,机构预计一年创收34亿美元!OpenAI营收拆解!

近日,人工智能(AI)调研机构FutureSearch发布报告,对全球AI独角兽OpenAI的收入构成进行了拆解,提供了一个更清晰的收入结构图。FutureSearch的研究人员称,他们之所以要分析O...

上海AI Lab开始给大模型重新出题了,GPT-4o数学能力跑分直掉50%!

新模型在 MATH 上(以数学竞赛为主)动辄跑分 80% 甚至 90% 以上,却一用就废。这合理吗??为了真实检验模型数学推理能力,上海人工智能实验室司南 OpenCompass 团队放大招了。推出新...

未来专家将有“分身术”,元宇宙医学数字人GPT在闵行亮相!

专家少,患者多,如何解决专家的稀缺性问题?4月10日,上海市闵行区医学会元宇宙医学专业委员会举行成立大会。会上,全球领先的元宇宙医学数字人GPT——BAIMGPT1.0正式亮相。据悉,BAIMGPT1...

设计行业变革,如何让GPT变身设计界黑马?

最近不少修图软件都开始推出生成式AI功能了,比如这两周大火的Remini、Lensa可以根据照片内容生成其他风格的图片,老牌的Canva也接入了AI实现图像生成功能。不过想要不受限制的使用这些工具,用...

人工智能ETF、软件30ETF等产品布局相关产业链投资机会。GPT-5有望于今夏发布!

本周国证机器人产业指数下跌1.4%,中证云计算与大数据主题指数下跌2.1%,中证人工智能主题指数下跌2.2%,中证软件服务指数下跌3.2%。银河证券认为,预计GPT-5将在大模型的上下文输入长度实现重...

将发布针对日语进行优化的GPT-4模型,OpenAI官宣在东京开设首个亚洲办事处!

每经AI快讯,OpenAI 4月15日宣布在日本东京设立该公司在亚洲的首个办事处,将业务扩展到亚洲,并将发布针对日语进行优化的GPT-4定制模型。OpenAI称,将致力于与日本政府、当地企业和研究机构...