程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep5个月前AI资讯161

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

AI的出现,将给电影产业带来什么影响

  近日举办的第75届柏林国际电影节上,德国导演汤姆·蒂克韦尔的新作《光》作为揭幕影片亮相。一个叫“无瑕”的美国外语配音公司与蒂克韦尔合作,通过人工智能(AI)调整电影中演员的口型,制作了“口型与台词...

Meta等让LLM分饰三角自评自进化:4轮暴训,Llama 7B击败GPT-4!

Meta、UC伯克利、NYU共同提出元奖励语言模型,给「超级对齐」指条明路:让AI自己当裁判,自我改进对齐,效果秒杀自我奖励模型。LLM对数据的大量消耗,不仅体现在预训练语料上,还体现在RLHF、DP...

传统业务疲软,AI与智能驾驶能否撑起未来?百度2024年财报解析!

2024年,百度在AI转型的关键一年交出了一份喜忧参半的财报。智能云业务逆势增长26%,文心一言调用量激增33倍,转型成果初显。然而,传统广告业务持续承压,爱奇艺业绩表现不佳,整体业绩略显疲软。更值得...

面向付费用户,ChatGPT网页版上线高级语音模式!

面向付费用户,ChatGPT网页版上线高级语音模式!

日前 OpenAI 方面宣布,ChatGPT 网页版已正式上线高级语音模式(Advanced Voice Mode),并同样将面向 ChatGPT Plus、Team、Enterprise 和 Edu...

MedGPT凭借精确性成为医生“好帮手”,筑牢安全防线!

MedGPT凭借精确性成为医生“好帮手”,筑牢安全防线!

近日,国家卫生健康委办公厅、国家中医药局综合司、国家疾控局综合司联合发布《卫生健康行业人工智能应用场景参考指引》,指出各地要积极推进卫生健康行业“人工智能+”应用创新发展,在医学影像智能辅助诊断及质控...

OpenAI获66亿美元新融资 投后估值超千亿

引领此轮生成式人工智能潮流的美国科技公司OpenAI,近日宣布再获66亿美元(约合人民币463.22亿元)新融资,投后估值高达1570亿美元(约合人民币1.1万亿元)。今年年初时,OpenAI市场估值...