2.3K Star 8K Fork 4.2K

GVPMindSpore / mindspore

 / 详情

动态图中能否实现LazyTensor的功能

DONE
RFC
创建于  
2021-06-13 14:02

Background

当前AI框架有三种执行模式:

  • Eagle model(动态图):执行控制在Python解释器中,好处是对开发态友好,易用性/可调试性/灵活性好;缺点是性能上较弱
  • 静态图模式:通过tracing或者ast transform把Python代码编译到native的方式去执行,牺牲了开发友好性来提升性能
  • 混合模式:在动态图中,通过修饰符指定静态执行的部分,试图把动态图的易用性和静态图的性能结合起来,但是问题是修饰符的位置需要开发人员指定,其实很难判断

LazyTensor是指一种将动态图和静态图有机结合的方式,在运行时进行jit加速的方式,与混合模式的区别在于不用打修饰符标签,由框架自己来决定加速的代码段。

Introduction

LazyTensor看上去优点很多,不过同时也存在很多挑战:

  • 如何决定需要JIT的程序块
  • 如何缓存JIT代码?
  • 如何判断是否需要重新JIT?
    ......

评论 (7)

XuefengJin 创建了RFC
XuefengJin 关联仓库设置为MindSpore/mindspore
展开全部操作日志

Please add labels (comp or sig), also you can visit "https://gitee.com/mindspore/community/blob/master/sigs/dx/docs/labels.md" to find more.
为了让问题更快得到响应,请您为该issue打上**组件(comp)或兴趣组(sig)**标签,打上标签的问题可以直接推送给责任人进行处理。更多的标签可以查看 https://gitee.com/mindspore/community/blob/master/sigs/dx/docs/labels.md"
以组件问题为例,如果你发现问题是data组件造成的,你可以这样评论:
//comp/data
当然你也可以向data SIG组求助,可以这样写:
//comp/data
//sig/data
如果是一个简单的问题,你可以留给刚进入社区的小伙伴来回答,这时候你可以这样写:
//good-first-issue
恭喜你,你已经学会了使用命令来打标签,接下来就在下面的评论里打上标签吧!

mindspore-dx-bot 负责人设置为XuefengJin
mindspore-dx-bot 添加了kind/feature(已删除)标签
mindspore-dx-bot 添加了
 
stat/wait-response
标签
XuefengJin 添加协作者XuefengJin
XuefengJin 负责人XuefengJin 修改为chujinjin
XuefengJin 取消协作者XuefengJin
XuefengJin 修改了描述

//stat/discuss-welcome

mindspore-dx-bot 添加了stat/discuss-welcome(已删除)标签
zhunaipan 置顶等级设置为

hello, @XuefengJin , Has this problem been resolved? If yes, please close this issue, thanks!
你好, @XuefengJin , 这个问题是否已经解决了呢? 如果是的,请关闭这个issue, 谢谢!

hello, @XuefengJin , Has this problem been resolved? If yes, please close this issue, thanks!
你好, @XuefengJin , 这个问题是否已经解决了呢? 如果是的,请关闭这个issue, 谢谢!

@XuefengJin @chujinjin any progress on this issue?

hello, @XuefengJin , Has this problem been resolved? If it is in progress, please change the status to WIP. If the issue was solved, please close this issue, thanks!
你好, @XuefengJin , 这个问题是否已经解决了呢? 如果正在进行中,请把issue状态设置为WIP;如果问题已解决,请关闭这个issue, 谢谢!

XuefengJin 置顶等级 修改为不置顶
zhunaipan 移除了kind/feature(已删除)标签
zhunaipan 移除了stat/discuss-welcome(已删除)标签
XuefengJin 任务状态TODO 修改为WIP
XuefengJin 任务状态WIP 修改为DONE

登录 后才可以发表评论

状态
负责人
项目
里程碑
Pull Requests
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
开始日期   -   截止日期
-
置顶选项
优先级
预计工期 (小时)
参与者(4)
8777557 test bot 1617846881 6560119 panza 1584156773 592338 robekeane 1609604347
Python
1
https://gitee.com/mindspore/mindspore.git
git@gitee.com:mindspore/mindspore.git
mindspore
mindspore
mindspore

搜索帮助