什么是深度学习？-程序员宅基地
什么是深度学习？
文章目录
一、什么是深度学习
深度学习没有标准定义，但总的来说，深度学习是机器学习（ML）的一种，主要可以看作是人工神经网络（ANNs）的高级模型。这些技术被用作实现人工智能 (AI) 的工具。
事实上，深度学习从 1950 年代就开始研究。换句话说，深度学习并不是一个新概念，而是一项历史悠久的技术。各时期的主要特点如下：
1950年代出现的感知机可以说是人工神经网络的开端。此后，人工神经网络研究在 1960 年代得到了积极的开展。然而，在 1969 年，一本名为《感知器》的书出版了，它揭示了感知器的致命局限性并包含了证明。然后，在 1970 年代，我们进入了一个黑暗时代，人工神经网络被许多学者所忽视。
1980年代，人工神经网络研究再次开始受到关注。这可以归因于这样一个事实，即在 1986 年设计了一种通过应用误差反向传播来学习多层人工神经网络的方法。在这个时代，深度神经网络 (DNN)、循环神经网络 (RNN) 和卷积神经网络 (CNN) 得到了发展。
在 1990 年代，出现了高级形式的人工神经网络。1997 年发布了高级循环神经网络 LSTM，1998 年发布了高级卷积神经网络 LeNet-5。
2000 年代，人工神经网络以深度学习的名义开始受到关注。知名信息技术研究机构 Gartner 将深度学习列为十大战略技术。
2010 年代，谷歌的 Deep Mind 发布了著名的 AlphaGo。此后，深度学习在韩国受到了爆炸式的关注。
二、深度学习需要解决的问题
分类
找出数据的类别是一个问题。一个例子是根据长度、宽度、高度、车轮尺寸和发动机马力等特征将汽车分为以下类别之一的问题：轻型汽车、半中型汽车、中型汽车和大型汽车。
聚类
这是分组数据实例的问题。换句话说，它是一组具有相似特征的数据实例。例如，查看汽车的长度、宽度、高度、车轮尺寸和发动机马力等特征，并将相似的实例组合在一起。需要人工干预才能将分组结果确定为第 1 组的紧凑型汽车、第 2 组的半紧凑型汽车等。
回归
问题是找出不完整数据的价值。例如，在一个数据实例中，如果您知道汽车的宽度、高度、车轮尺寸和发动机马力等特征，但不知道长度，您可以预测由不完整数据组成的实例的长度特征。关于其他数据实例的值。。
每个问题都可以从机器学习的角度来解决，学习方法又可以分为监督学习、无监督学习和强化学习。
监督学习
它是一种训练标记数据的方法，主要处理分类和回归问题。它相对容易学习和有效，因为有标签意味着有正确的答案。但是，按数据标记通常很昂贵。成本可以是金钱、时间，或者在许多情况下两者兼而有之。训练数据海量，从上亿到上千万，甚至更多。有时人类不可能标记这些数据。
无监督学习
如何训练未标记的数据。主要用于对数据进行分组或分析数据的特征。由于无监督学习正在分析没有正确答案的数据，因此无需标记数据。这意味着准备数据的成本更低。然而，在许多情况下，需要人工干预来确定所分析集群的含义。
三、深度学习发展历程
最近备受关注的深度学习其实有着悠久的历史。本章介绍被认为是深度学习的深度神经网络，从感知机（可以说是深度学习的开端）到高级人工神经网络。
感知机
感知机是弗兰克·罗森布拉特在 1957 年设计的基本人工神经网络。感知机的结构如下图所示。
感知器有一个激活函数，如果输入值和偏差值乘以权重并求和，即如果“权重乘积之和”超过阈值，则输出 1，否则输出 0。这里要注意的一件事是输出值为 0 或 1。用公式表示：
如上所述，但再次使用公式中使用的符号。z 是加权乘积的总和，即输入乘以权重的总和。h(z)是激活函数z如果大于阈值则输出 0，否则输出 0。
X0是偏差值和X一从现在开始，每一个输入值都会被表示出来，让我们看看两者之间有什么区别。输入从外部进入感知机，但偏差是工程师（我们）在构建感知机时设置的值。产生偏差的原因是使阈值为零。设置阈值可能很困难或不可能，而零阈值也可以更容易地实现激活函数。如果bias设置为1，学习过程w0它近似于此（阈值×-1）。
激活函数
人工神经网络是多层感知器的稍微高级一点的模型。神经网络由输入层、隐藏层和输出层组成。
在人工神经网络中，隐藏层中有各种激活函数。
激活功能模拟活神经细胞的突触小泡，当电位超过一定值时，小泡爆裂，成为突触之间的连接，发挥作用。但是，根据激活函数，可能会转换要传递给下一个感知机的值。神经网络的效率取决于激活函数的类型，这与误差反向传播过程中的梯度损失问题有关。如果你有兴趣，请参考人工智能方面的书籍。
阶跃函数
阶跃函数是前面在感知器中讨论的激活函数。如果权重乘积之和小于 0，则感知器中的阶跃函数返回 0，如果大于 0，则返回 1。可以设置step函数返回的不同值。例如，以下公式中的阶跃函数返回 -1 或 1
relu 函数
relu 函数是一个激活函数，如果权重乘积之和大于 0，则返回原样，如果小于 0，则返回 0。这可以表示为如下公式：
线性函数
线性函数是具有相同输入和输出的线性函数。线性函数的形状实际上就是一条直线。
sigmoid函数
sigmoid 函数是一个激活函数，它返回调整为 0 和 1 之间值的权重乘积之和。sigmoid函数也称为逻辑函数，公式如下：
sigmoid函数的特点是，当权重乘积之和从0增加到正或负时，返回的值变化很快，绝对值在2.5以上时变化不大。你可以改变这个 S 形，但是深度学习通常会按原样使用它。
双曲正切函数
双曲正切（tanh 函数）的形状类似于 sigmoid 函数。双曲正切函数返回的值范围从-1到1，当加权乘积之和从0增加到正或负时，变化比sigmoid函数更快。双曲正切函数的公式如下：
双曲正切函数曲线如下：
智能推荐
CSS背景特殊属性值-程序员宅基地
文章浏览阅读52次。CSS代码示例-背景附着属性(background-attachment)-[背景图固定不动，不跟随滚动条滚动]：<html><head><title>背景附着属性 background-attachment</title><style type="text/css">body {background-image:url(../image..._背景附着方式的属性值
Python-第一阶段-第二章 字面量-程序员宅基地
文章浏览阅读863次，点赞24次，收藏18次。Python字面量
《算法导论》第2章 算法基础（插入排序、归并排序、复杂度计算）_61,55,97,30,38,58两轮选择递增排序法-程序员宅基地
文章浏览阅读1k次。（最近在自己学习《算法导论》一本书，之前本来喜欢手写笔记，但是随即发现自己总是把笔记弄丢，所以打算做一个电子版的笔记）（另外书中用的都是伪代码，笔记中如果需要尝试的地方都是python代码）2.1 插入排序 基本思想：将待排序的数列看成两个部分（以从小到大为例），前一半是排序完成的，后一半是乱序的，对于乱序的第一个，开始和前一半里最大的数字、第二大的数字……依次比较，等到合适的位置就将它放进去。然后比对过的数字向后移动一位，相应的排序完成的长度加一，没有排序的减一。如：5 ｜..._61,55,97,30,38,58两轮选择递增排序法
把这份关于Android Binder原理一系列笔记研究完，进大厂是个“加分项”(2)-程序员宅基地
文章浏览阅读674次，点赞21次，收藏21次。可以看出，笔者的工作学习模式便是由以下。
Vue实战（三）：实现树形表格_vue树形表格组件-程序员宅基地
文章浏览阅读1.1k次。实现树形表格_vue树形表格组件
Linux平台下很实用的44个Linux命令-程序员宅基地
文章浏览阅读237次。Linux平台下很实用的44个Linux命令大家好，今天再继续和大家说下基础的命令，实在是不知道基础的东西还有什么是应该和大家讲的了，要是再开基础的东西，我觉得就得和大家说交换机和路由器什么的了。今天和大家说一下linux运维其实一般来说，能精通100+的命令，就是一个合格的运维人员了，意思就是你的基础已经差不多了。但是在实际运维工作中需要经常运用到的一些命令，今天就和大家简单的说一下，因
随便推点
2023年Java华为OD真题机考题库大全-带答案（持续更新）_华为od机试题-程序员宅基地
文章浏览阅读1.2w次，点赞16次，收藏149次。2023年华为OD真题目前华为社招大多数是OD招聘，17级以下都为OD模式，OD模式也是华为提出的一种新的用工形式，定级是13-17级，属于华为储备人才，每年都会从OD项目挑优秀员工转为正编。D1-D5对应薪资10K-35K左右，年终奖2-4个月，周六加班双倍工资，下个月发。入职OD会有一定薪资上涨，之后每年一次加薪，OD转华为一次加薪。等不到转正机会，相对于内部员工来说，容易被裁，不稳定，可能接触不到核心项目，功能。具体转条件：连续N个季度绩效为A，部门有转正名额，排队。_华为od机试题
python selenium自动化之chrome与chromedriver版本兼容问题_chrome版本122.0.6261.112和chromdriver 107.0.5304.62兼容-程序员宅基地
文章浏览阅读2.7k次，点赞3次，收藏10次。在我们使用python+selenium来驱动chrome浏览器时，需要有chromedriver的支持，但是chrome浏览器更新比较频繁，而chrome浏览器和chromedriver则需要保持版本一致(版本一般相差1以内)，此时我们就需要手动下载chromedriver来匹配此时的浏览器，但是生产环境操作比较麻烦。此时，我们就想是不是有一个程序来代替我们完成这个工作呢？思路比较当前的chrome浏览器版本号与chromedriver浏览号如果不匹配，则下载一个新的chromedriver替换掉_chrome版本122.0.6261.112和chromdriver 107.0.5304.62兼容吗
测试人员如何规划自己的职业生涯，分享我这些年的测开的总结给大家参考~_测开个人成长计划-程序员宅基地
文章浏览阅读2.7k次，点赞2次，收藏11次。负责开发项目的技术方法。我的一位同事曾经很认真地问过我一个问题，他说他现在从事软件测试工作已经4年了，但是他不知道现在的工作和自己在工作3年时有什么不同，他想旁观者清，也许我能回答他的问题。随着互联网的飞快发展，IT行业出现了日新月异的变化，新的技术会不断出现，你熟练掌握的软件测试技术很快就过时了。至于第三点说的实践和思考就是你对自己学到的东西的一个掌握的程度的检验了，只有实践了你才能知道，这个知识点你到底学会了没有，会了之后有没有什么其他的理解，这个就是需要自己去思考了 ，这种东西都是别人教不了你的！_测开个人成长计划
MATLAB代码：多微网电能互补与需求响应的微网双层优化模型——动态定价与能量管理_配电网和微电网的matlab模型-程序员宅基地
文章浏览阅读734次，点赞21次，收藏13次。主要内容：代码主要做的是考虑多微网电能互补共享的微网双层优化模型，同时优化配电网运营商的动态电价以及微网用户的能量管理策略，在上层，目标函数为配电网运营商的收益最大化，决策变量为配电网运营商的交易电价；主要内容：代码主要做的是考虑多微网电能互补共享的微网双层优化模型，同时优化配电网运营商的动态电价以及微网用户的能量管理策略，在上层，目标函数为配电网运营商的收益最大化，决策变量为配电网运营商的交易电价；最后，我们输出最终的结果，包括最优的用电费用、配网运营商的收益以及每个微网的用电费用分配情况。_配电网和微电网的matlab模型
基于双极性SPWM调制的三相电压型桥式逆变电路原理解析-程序员宅基地
文章浏览阅读378次，点赞3次，收藏3次。首先介绍了逆变电路的基本原理和应用领域，然后详细分析了双极性SPWM调制方式的工作原理和优势。本文通过对三相电压型桥式逆变电路和双极性SPWM调制方式的技术分析，深入探讨了其在电力系统中的应用和性能评估。双极性SPWM调制方式是SPWM调制方式的一种改进形式，它能够更好地抑制谐波，提高逆变电路的输出质量。面对电力系统的不断发展和需求的变化，逆变电路和SPWM调制方式也在不断演进。为了评估三相电压型桥式逆变电路和双极性SPWM调制方式的性能，本节将详细分析其输出波形的失真程度、功率损耗和效率等关键指标。
用cmake 编译 xcode用的clucene静态库（一)_clucene-config.h-程序员宅基地
文章浏览阅读4.5k次。第一步、下载源代码 http://sourceforge.net/projects/clucene/ 第二步、下载cmakehttp://www.cmake.org/cmake/resources/software.html 编译第一步，打开在应用程序中的cmake GUI程序，设置好源代码路径，和输出路径，如图： 第二步，点击Configure，在_clucene-config.h