2.3K Star 8.1K Fork 4.3K

GVPMindSpore / mindspore

 / 详情

910B上跑bge_m3推理,reducemax算子编译报错

VALIDATION
Bug-Report
创建于  
2024-04-28 15:17
name about labels
Bug Report Use this template for reporting a bug kind/bug

Describe the current behavior / 问题描述 (Mandatory / 必填)

910B切分成32G vnpu,挂载进docker容器,用mindnlp套件执行bge_m3模型推理,reducemax算子编译报错

Environment / 环境信息 (Mandatory / 必填)

  • Hardware Environment(Ascend/GPU/CPU) / 硬件环境:

Please delete the backend not involved / 请删除不涉及的后端:
/device ascend

  • Software Environment / 软件环境 (Mandatory / 必填):
    -- MindSpore version (e.g., 1.7.0.Bxxx) :2.2.13
    -- Python version (e.g., Python 3.7.5) :3.9.19
    -- OS platform and distribution (e.g., Linux Ubuntu 16.04):ubuntu 20.04

  • Excute Mode / 执行模式 (Mandatory / 必填)(PyNative/Graph):

/mode pynative

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 910B3按照vir10_3c_32g模板进行算力切分;
  2. 挂载切分后的vnpu进dockers容器;
  3. 执行bge_m3推理;

Describe the expected behavior / 预期结果 (Mandatory / 必填)

程序正常输出结果

Related log / screenshot / 日志 / 截图 (Mandatory / 必填)

输入图片说明
输入图片说明

Special notes for this issue/备注 (Optional / 选填)

评论 (6)

tzard 创建了Bug-Report

Please assign maintainer to check this issue.
请为此issue分配处理人。
@fangwenyi @chengxiaoli @Shawny

感谢您的提问,您可以评论//mindspore-assistant更快获取帮助:

  1. 如果您刚刚接触MindSpore,或许您可以在教程找到答案
  2. 如果您是资深Pytorch用户,您或许需要:
  1. 如果您遇到动态图问题,可以设置set_context(pynative_synchronize=True)查看报错栈协助定位
  2. 模型精度调优问题可参考官网调优指南
  3. 如果您反馈的是框架BUG,请确认您在ISSUE中提供了MindSpore版本、使用的后端类型(CPU、GPU、Ascend)、环境、训练的代码官方链接以及可以复现报错的代码的启动方式等必要的定位信息
  4. 如果您已经定位出问题根因,欢迎提交PR参与MindSpore开源社区,我们会尽快review
Shawny 负责人设置为Shawny
Shawny 关联项目设置为MindSpore Issue Assistant
Shawny 计划开始日期设置为2024-04-29
Shawny 计划截止日期设置为2024-05-29
Shawny 添加了
 
mindspore-assistant
标签
Shawny 添加了
 
sig/ops
标签

您好,建议移步mindnlp代码仓提问,如确认是框架问题会有内部问题单进行跟踪

已和mindnlp负责人沟通,确认是框架的问题

Shawny 任务状态TODO 修改为VALIDATION

已和mindnlp负责人沟通,确认是框架的问题

@tzard 您好 mindnlp的bge_m3目前支持的GPU后端,910B+切分场景暂未支持,建议您联系mindnlp的负责人进行需求评审
@lvyufenghw

好的,感谢

登录 后才可以发表评论

状态
负责人
项目
里程碑
Pull Requests
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
开始日期   -   截止日期
-
置顶选项
优先级
预计工期 (小时)
参与者(3)
8108889 shawny233 1628167362
Python
1
https://gitee.com/mindspore/mindspore.git
git@gitee.com:mindspore/mindspore.git
mindspore
mindspore
mindspore

搜索帮助