程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep2年前AI资讯714

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

国产的GPT应用商店发布

OpenAI在一周之前刚刚推出GPT应用商店,宣布AI的应用时代就此拉开帷幕了。一周之后,国内的头部AI大模型厂商智谱就推出了照猫画虎的AI智能体应用商店。打开智谱清言的网站,就可以看到里面的智能体商...

夸克正打算重新定义AI搜索

夸克正打算重新定义AI搜索

夸克是AI搜索的最佳形态么?2月的最后一天,我注意到,夸克宣布已经完成对夸克App和PC端的全面升级:首页改版,夸克AI搜索上线“深度思考”。这是夸克首次将大模型深度思考能力融入AI搜索功能。夸克方面...

GPT商店涌入AI女友机器人,审核和盈利前景尚待明确

·点击聊天机器人“虚拟甜心”,用户将收到诸如“你的梦想女孩是什么样子?”“与我分享你最黑暗的秘密”之类的启动提示。·在经济环境严峻的情况下,制造聊天机器人的公司最近却一直在以惊人的速度筹集资金。但仍不...

这个工业“GPT”有何不同:向“新”发力!

当工业互联网遇到人工智能,会产生怎样的化学反应?“过去我们的生产线发生故障时,处理流程是人员接到设备报警信息后赶到现场,查找是哪台设备发生了故障,然后出维修方案,整个处理周期基本在四小时以上。应用我们...

国产大模型拿下总分第一,GPT-4 Turbo首次被击败!

OpenAI长期霸榜的SuperCLUE(中文大模型测评基准),终于被国产大模型反将一军。事情是这样的。自打SuperCLUE问世以来,成绩第一的选手基本上要么是GPT-4,要么是GPT-4 Turb...

传统业务疲软,AI与智能驾驶能否撑起未来?百度2024年财报解析!

2024年,百度在AI转型的关键一年交出了一份喜忧参半的财报。智能云业务逆势增长26%,文心一言调用量激增33倍,转型成果初显。然而,传统广告业务持续承压,爱奇艺业绩表现不佳,整体业绩略显疲软。更值得...