开源类ChatGPT产品Grok,马斯克将在本周宣布执行!

seekdeep2年前AI资讯673

马斯克在社交平台宣布,将在本周开源生成式AI产品——Grok。

Grok是马斯克旗下公司xAI在去年11月发布的,一款类ChatGPT产品,可以提供生成文本、代码、邮件、信息检索等功能。其测试性能超过GPT-3.5、LLaMA 2 70B,弱于GPT-4。

目前,该产品仅为X Premium+客户提供服务,至今没有大范围对外开放使用非常神秘。


Grok简单介绍

根据xAI在官网公布的早期模型卡显示,首先开发团队先训练了一个330亿参数的原始大模型Grok-0,其性能相当于700亿参数的LLaMA 2,但仅使用其一半的训练资源。

然后基于Grok-0进行蒸馏、微调开发了Grok-1,在GSM8k、MMLU、HumanEval等多个测试平台显示,其性能全面超过了LLaMA 2-70B、GPT-3.5。但与Claude 2、GPT-4还有较大的距离。

由于这些基准测试是公开的,Grok-1的训练数据可能已经包含了测试答案。

随后,开发团队使用了2023年匈牙利全国高中决赛的数学题对Grok-1、Claude 2、GPT-4进行了人工测试。

结果显示,Grok-1 以 C (59%) 的成绩通过了考试,而 Claude-2取得了差不多的成绩 (55%),GPT-4 以 68% 的成绩获得了B,其推理能力还是挺不错的。

训练数据方面,Grok-1 发布版本所使用的训练数据截至 2023 年第三季度的互联网数据以及xAI人工智能导师提供的数据。

局限性,虽然 Grok-1 在信息处理方面表现出色,但需要对 Grok-1生成的内容进行审核。Grok-1 语言模型不具备独立搜索网络的能力,不是一个多模态的产品。

马斯克为什么开源Grok

本月初,马斯克正式起诉了OpenAI以及其联合创始人Sam Altman和Greg Brockman。

原因是,OpenAI违反合同协议、违反信托义务和不公平的商业行为,在发布ChatGPT等爆火产品后转向闭源并开始盈利。这与最初的开放AI造福人类理念截然相反。


马斯克作为OpenAI最初创始人之一,表示Altman 和 Brockman 在 2015 年说服他帮助创立OpenAI并为其提供资金,同时承诺该公司将是一家非营利性AI研究机构,专注于对抗来自谷歌等科技公司的竞争。诉讼称,基于创始协议要求 OpenAI 向公众 免费提供 其技术成果。

但根据OpenAI最新发布的回应邮件来看,为了更好的开发AGI,获取更多资金壮大产品线走营利模式,当时马斯克是同意的。

所以,马斯克在这个时间点选择开源Grok,估计和前几天起诉OpenAI的案件有关,兑现自己当年联合创立OpenAI时的“开源”诺言。

关于xAI

xAI成立于2023年7月13日,隶属于马斯克旗下。其核心团队成员曾经分别在DeepMind、OpenAI、谷歌研究、微软研究、特斯拉等前沿公司或多伦多大学等学术机构任职过。

相关文章

性能直逼GPT-4,微软宣布合作投资,欧洲最火AI独角兽发布旗舰大模型!

欧洲生成式AI独角兽Mistral AI发布最新旗舰大语言模型Mistral Large。据报道,与Mistral AI之前的模型不同,Mistral Large不会开源。该模型上下文窗口为32K t...

GPT-4级大模型上线即挤爆,成本仅2200万美元,微软钦点OpenAI备胎!

成立仅9个月,法国Mistral AI拿出仅次于GPT-4的大模型。在所有已能通过API访问的大模型中排第二,全班唯二在MMLU考试中拿80分以上的。一举获得微软青睐,签署了多年合作协议。也就是说,微...

应用场景尚待深化,部署DeepSeek 银行大模型矩阵扩容!

  在现有大模型矩阵引入DeepSeek的银行,数量还在增加。截至记者发稿前,除了工行、邮储、建行、招行、浦发等大中型银行,一些地方中小银行、互联网银行也在加快部署DeepSeek大模型,推进其在智能...

普通人如何应对: AI技术冲击就业

人工智能正在以前所未有的速度改变我们的生活和工作方式。从智能客服到自动驾驶,从医疗诊断到金融分析,AI技术的应用场景不断扩大,引发社会各界对就业市场的深刻担忧。AI技术的广泛应用正在重塑就业市场格局。...

高考报考GPT,百年育才发布会圆满落幕

2024年4月2日9:30,百年育才高考报考GPT正式发布。百年育才创始人金泰雄先生隆重推出了这款AI产品,以其创新性和出色的性能引起了广泛关注,通过人机对话完成高考志愿填报,体验科技的力量。发布会现...

蚂蚁首次公布AI应用矩阵;OpenAI已启动开发“GPT-5”;百度智能云推出“千帆行业增强版”

今日AI daily早新闻主要内容有:OpenAI宣布已启动下一代前沿模型训练,传言已久的“GPT-5”已经开始了;蚂蚁首次公布AI应用矩阵;百度智能云推出“千帆行业增强版”,加速行业大模型应用落地。...