博客
关于我
pytorch入门第五课——逻辑斯蒂回归
阅读量:687 次
发布时间:2019-03-17

本文共 1579 字,大约阅读时间需要 5 分钟。

前言

b站刘洪普老师的pytorch入门课笔记。记录学习。

本文内容为逻辑斯蒂回归示例。

目录

方法

逻辑斯蒂回归函数为:

在这里插入图片描述
虽然它的名字中带有回归,但事实上它并不是一种回归算法,而是一种分类算法。它的优点是,它是直接对分类的可能性进行建模的,无需事先假设数据分布,这样就避免了假设分布不准确所带来的问题,因为它是针对于分类的可能性进行建模的,所以它不仅能预测出类别,还可以得到属于该类别的概率。

关于激活函数

一个函数是否是激活函数需要看三点,而逻辑斯蒂曲线就是典型的激活函数。

1、范围[-1,1]

2、单调增
3、饱和函数

饱和函数即其导数符合这样的曲线

在这里插入图片描述

jupyter record

与线性回归不同的地方是,前馈过程需要经过一次逻辑斯蒂激活函数将数据归到[0,1]范围内,且这里使用的损失是BCELoss,即交叉熵损失。

import torchimport torch.nn.functional as F# 第一步,准备数据集x_data = torch.Tensor([[1.0],[2.0],[3.0]])y_data = torch.Tensor([[0],[0],[1]])# 第二步,使用类设计模型,继承自nn.Moduleclass LogisticRegressionModel(torch.nn.Module):    def __init__(self):        super(LogisticRegressionModel,self).__init__()        self.linear = torch.nn.Linear(1,1)        def forward(self,x):        y_pred = F.sigmoid(self.linear(x))        return y_predmodel = LogisticRegressionModel()# 第三步,构建损失和优化器criterion = torch.nn.BCELoss(size_average = False)optimizer = torch.optim.SGD(model.parameters(),lr = 0.01)# 第四步,训练阶段:前馈,反馈,更新for epoch in range(1000):    y_pred = model(x_data)    loss = criterion(y_pred,y_data)    print(epoch,loss.item())    optimizer.zero_grad()    loss.backward()    optimizer.step()

0 2.870121955871582

1 2.852933168411255
2 2.836561918258667
3 2.8209731578826904
4 2.8061323165893555
5 2.7920048236846924
6 2.778557300567627
7 2.765756130218506
8 2.7535696029663086
9 2.7419652938842773
991 1.173973560333252
992 1.1733458042144775
993 1.17271888256073
994 1.1720927953720093
995 1.1714673042297363
996 1.1708428859710693
997 1.1702193021774292
998 1.1695961952209473
999 1.1689739227294922

总结

以上就是逻辑斯蒂回归的示例了,其中的四个步骤可以作为一个框架来学习。

转载地址:http://hmzhz.baihongyu.com/

你可能感兴趣的文章
Nginx面试三连问:Nginx如何工作?负载均衡策略有哪些?如何限流?
查看>>
Nginx:NginxConfig可视化配置工具安装
查看>>
ngModelController
查看>>
ngrok | 内网穿透,支持 HTTPS、国内访问、静态域名
查看>>
ngrok内网穿透可以实现资源共享吗?快解析更加简洁
查看>>
NHibernate学习[1]
查看>>
NHibernate异常:No persister for的解决办法
查看>>
NIFI1.21.0_java.net.SocketException:_Too many open files 打开的文件太多_实际操作---大数据之Nifi工作笔记0051
查看>>
NIFI1.21.0_Mysql到Mysql增量CDC同步中_日期类型_以及null数据同步处理补充---大数据之Nifi工作笔记0057
查看>>
NIFI1.21.0_Mysql到Mysql增量CDC同步中_补充_更新时如果目标表中不存在记录就改为插入数据_Postgresql_Hbase也适用---大数据之Nifi工作笔记0059
查看>>
NIFI1.21.0_NIFI和hadoop蹦了_200G集群磁盘又满了_Jps看不到进程了_Unable to write in /tmp. Aborting----大数据之Nifi工作笔记0052
查看>>
NIFI1.21.0最新版本安装_连接phoenix_单机版_Https登录_什么都没改换了最新版本的NIFI可以连接了_气人_实现插入数据到Hbase_实际操作---大数据之Nifi工作笔记0050
查看>>
NIFI1.21.0通过Postgresql11的CDC逻辑复制槽实现_指定表多表增量同步_增删改数据分发及删除数据实时同步_通过分页解决变更记录过大问题_02----大数据之Nifi工作笔记0054
查看>>
NIFI1.21.0通过Postgresql11的CDC逻辑复制槽实现_指定表多表增量同步_插入修改删除增量数据实时同步_通过分页解决变更记录过大问题_01----大数据之Nifi工作笔记0053
查看>>
NIFI1.21.0通过Postgresql11的CDC逻辑复制槽实现_指定表或全表增量同步_实现指定整库同步_或指定数据表同步配置_04---大数据之Nifi工作笔记0056
查看>>
NIFI1.23.2_最新版_性能优化通用_技巧积累_使用NIFI表达式过滤表_随时更新---大数据之Nifi工作笔记0063
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_根据binlog实现数据实时delete同步_实际操作04---大数据之Nifi工作笔记0043
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置binlog_使用处理器抓取binlog数据_实际操作01---大数据之Nifi工作笔记0040
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置数据路由_实现数据插入数据到目标数据库_实际操作03---大数据之Nifi工作笔记0042
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置数据路由_生成插入Sql语句_实际操作02---大数据之Nifi工作笔记0041
查看>>