马斯克突发新版大模型,牺牲特斯拉资源叫板OpenAI,一手实测来了
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
马斯克旗下xAI大模型,马斯模型出二代了!克突
Grok-2测试版发布,发新安徽某某机电设备售后客服中心小杯Grok-2 mini已经在平台在线可玩。版大板
马斯克还以谜语人的牺牲形式,揭晓了困扰大模型圈一个多月的拉资秘密:
原来Lmsys大模型竞技场上的神秘匿名模型sus-column-r,真身就是源叫Grok-2。
sus-column-r在排行榜上积累了1万多人类投票,手实测已经与GPT-4o的马斯模型API版并列第三。
在xAI自己的克突安徽某某机电设备售后客服中心内部测试中,Grok-2在常识(MMLU、发新MMLU-Pro)、版大板数学竞赛问题(MATH)、牺牲研究生水平科学知识(GPQA)等领域与其他前沿模型相媲美。拉资
另外Grok-2最擅长基于视觉的源叫任务,在视觉数学推理(MathVista)达到SOTA。
不过这个图的排版可就有点心机在里面了:把分数最高的GPT-4o、Claude-3.5-Sonnet放得离自己远一些。
光看分数还是抽象,下面就进入一手实测环节。
一手实测Grok-2
如果你是/推特平台付费用户,可以直接进入Grok频道试玩。不花钱的话也可以到Lmsys大模型竞技场选择sus-column-r试玩。
而且付费用户反倒只能玩到小杯mini版,免费用户能玩大杯,也是很厚到了。
由于Grok-2可以访问上的实时数据,可以直接让他总结当天的新闻,开启趣味模式的话还可以附赠吐槽。
付费版本还接入了最新开源AI生图模型Flux.1,会把中文提示词翻译成英文理解。
点进主页上的“安利一个奇幻游戏”问题示例,可以看到它先推荐了《博德之门3》,并从剧情、人物自定义、游戏机制、世界塑造、幽默元素和玩家社区几个角度做点评,很好的把握了游戏的亮点。
此时可以直接换中文继续提问。
Grok-2同样了解《黑神话:悟空》这款还没发售的游戏,准确说出发售日期在8月20日、使用的虚幻5引擎,并且总结了上网友的讨论。
还在最后附带了网友的帖子,可以点进去参与讨论,与整个平台的功能整合已经到位了。
不过由于上只有mini版模型,接下来上强度测试我们移步大模型竞技场,还可以与GPT-4o来一场捉对pk。
在最近流行的智商检测问题“9.9和9.11哪个大”上,Grok-2(sus-column-r)表现碾压ChatGPT最新版本。
不过另一项流行测试“strawberry中有几个r”问题上,两者都还是没能通过。(多试几次两者都有小概率答对)。
更严肃一些的陷阱题“以下哪支蜡烛是最先被吹灭的”中,Grok-2比ChatGPT稍有进步。
考点是最先被吹灭的蜡烛剩下的部分更长(正确答案3),ChatGPT错误的理解成最短的,Grok-2思路是对的但是数哪个最长没数对。
对于经典的大模型弱点“逆转诅咒”问题,两者似乎都以某种方式克服了。不仅能正着回答“汤姆克鲁斯的母亲是谁”,也能倒过来回答数据出现频率更少的“Mary Lee Pfeiffer的儿子是汤姆克鲁斯”。
(当然不排除只是成为经典问题之后,相关数据更多了。)
马斯克大模型升级,牺牲特斯拉换的
测试先告一段落,可以看出Grok-2对比上一代Grok-1.5有了很大进步。
背后马斯克可是,花费了大量资源和人力。
比如有新加入xAI的研究员表示,能用10万卡集群做研究,比起在学校里可怜的资源爽太多了。
但是有一群人可不满意了:特斯拉股东。
根据华尔街日报消息,马斯克持续把人才、数据和GPU资源从特斯拉向xAI转移。
目前为止,xAI已经雇佣了至少11名曾在特斯拉工作过的员工,其中六名直接在Autopilot团队工作过。
原本为特斯拉保留的GPU订单,马斯克也要求英伟达优先供应xAI。
马斯克还公开谈论了特斯拉收集的大量视觉数据,他表示这些数据可以作为训练xAI模型的资源。
至少三位特斯拉股东因为这事把马斯克给告了,声称将资源转移到xAI损害了特斯拉投资者的利益。
目前案件正在特拉华州法院审理。