人工智能视频教程 ai vip技术 人工智能数学基础 爬虫 python机器学习 tensorflow深度学习 20+个企业AI实战项目

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 46|回复: 0

[课堂笔记] 当遇到GPU内存溢出OOM时 的解决办法

[复制链接]

791

主题

965

帖子

9818

积分

管理员

Rank: 10Rank: 10Rank: 10

积分
9818
QQ
发表于 2019-8-6 11:01:37 | 显示全部楼层 |阅读模式



当遇到GPU内存溢出OOM时 的解决办法:
对于caffe而言,默认不是占满GPU全部的显存,而是通过网络设置batchsize及每个epoch所迭代的次数,网络模型大小等参数控制,
在运行时遇到超出内存等报错时,可以调低batchsize数量及网络模型的大小。




对于tensorflow及keras而言,二者默认都是占用GPU全部的内存,由于keras是集成在tensorflow中,因此,二者的解决办法类似。


    在文件中添加一些命令以控制模型所占用GPU显存的比例。
gpu_options.per_process_gpu_memory_fraction = 0.8  # 这里设置占用的比例

让天下人人学会人工智能!人工智能的前景一片大好!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|人工智能工程师的摇篮 ( 湘ICP备18018285号-1 )

GMT+8, 2019-8-20 12:17 , Processed in 0.172769 second(s), 19 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表