就在刚刚结束的一场开源行动中,埃隆·马斯克领导的xAI团队正式宣布开放Grok 2.5模型源代码,并预告将在半年后开源Grok 3版本。
事实上在本月早些时候马斯克就曾公开表示:”当前版本Grok已可通过HuggingFace平台下载”(文末附具体链接)。
根据官方指引建议使用SGLang框架部署Grok 2模型: 第一步需下载模型权重文件 用户可将路径/local/grok-2替换为自定义文件夹名称执行下载命令 官方提示若遇到下载错误可重复尝试直至完成 成功下载后目标文件夹应包含42个文件总计约500GB数据 第二步启动推理服务时 必须安装最新版SGLang推理引擎(版本需高于等于v0.5.1) 通过指定命令启动推理服务器 特别说明该模型运行需配备8块显存超过40GB的GPU 第三步发送API请求时 必须采用官方提供的预训练模板进行调用 当正确发送请求后系统将返回”Grok”作为初始响应标识 关于本次开源模型的实际性能表现: 尽管当前版本可能尚未达到行业最先进水平 但参考去年发布的Grok系列技术白皮书可见 该模型在LMSYS基准测试中总体Elo评分已超越Claude及GPT-4 在研究生级科学知识测试(GPQA)、专业级多选题集(MMLU-Pro)以及数学竞赛题库(MATH)等学术场景中展现出与前沿模型相当的竞争实力 然而此次开源引发部分争议: 有开发者指出HuggingFace页面未明确标注模型参数规模 根据社区推测这可能是基于2690亿参数量构建的混合专家(MoE)架构 同时开源协议条款引发关注——官方声明显示其属于非商业用途许可 值得关注的是此次更新还包含AI视频生成模块改进: 新版本v1.1.58着重优化了视频生成能力 马斯克在推文中幽默表示:”现在连猫咪都能生成自己的电影了” 参考资料: [1]https://x.com/elonmusk/status/1959379349322313920 [2]https://x.com/HuggingPapers/status/1959345658361475564 [3]https://x.com/elonmusk/status/1959384678768447976 [4]https://x.com/elonmusk/status/1959388879888302363
评论列表 (0条):
加载更多评论 Loading...