东方耀AI技术分享

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 2505|回复: 2
打印 上一主题 下一主题

[学习笔记] 15、底层实现梯度下降法

[复制链接]

1365

主题

1856

帖子

1万

积分

管理员

Rank: 10Rank: 10Rank: 10

积分
14437
QQ
跳转到指定楼层
楼主
发表于 2019-10-10 12:25:16 | 只看该作者 |只看大图 回帖奖励 |倒序浏览 |阅读模式
15、底层实现梯度下降法


ipynb文件在附件,可提供下载!


## 梯度下降法的优势(样本数据shape:m*n):
1、对于非常复杂的模型根本没有一个数学方程公式求解,只能使用GD


2、对于有公式求解的,比如线性回归问题也可以用正规方程解,但是如果特征数n非常大的时候,正规方程解效率会变低,而梯度下降法的效率并不会降多少


3、梯度下降法对样本个数m也不是很敏感,一般用小批量GD,batch_size可以预先设定






视频教程请参考:http://www.ai111.vip/thread-349-1-1.html
东方老师微信:dfy_88888

01.png (126.26 KB, 下载次数: 122)

01.png

02.png (104.12 KB, 下载次数: 121)

02.png

03.png (106.61 KB, 下载次数: 126)

03.png

04.png (109.81 KB, 下载次数: 124)

04.png

05.png (92.37 KB, 下载次数: 122)

05.png

06.png (105.7 KB, 下载次数: 121)

06.png

07.png (82.61 KB, 下载次数: 124)

07.png

08.png (97.95 KB, 下载次数: 122)

08.png

09.png (97.04 KB, 下载次数: 124)

09.png

10.png (147.3 KB, 下载次数: 121)

10.png

11.png (230.67 KB, 下载次数: 123)

11.png

12.png (261.46 KB, 下载次数: 124)

12.png

13.png (234.82 KB, 下载次数: 125)

13.png

14.png (168.22 KB, 下载次数: 125)

14.png

15.png (71.8 KB, 下载次数: 123)

15.png

16.png (80.68 KB, 下载次数: 123)

16.png

梯度下降法_模拟.ipynb

145.11 KB, 阅读权限: 10, 下载次数: 2

多元线性回归_梯度下降法.ipynb

18.41 KB, 阅读权限: 10, 下载次数: 1

让天下人人学会人工智能!人工智能的前景一片大好!
回复

使用道具 举报

0

主题

96

帖子

202

积分

中级会员

Rank: 3Rank: 3

积分
202
沙发
发表于 2019-12-22 17:25:56 | 只看该作者
this is good idea
回复

使用道具 举报

0

主题

249

帖子

500

积分

高级会员

Rank: 4

积分
500
板凳
发表于 2022-11-6 10:27:26 | 只看该作者
学习中,支持
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|人工智能工程师的摇篮 ( 湘ICP备2020019608号-1 )

GMT+8, 2024-5-6 02:09 , Processed in 0.191806 second(s), 21 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表