人工智能深度学习应该怎么学习

人工智能并不是一个新的术语咜已经有几十年的历史了,大约从80年代初开始计算机科学家们开始设计可以学习和模仿人类行为的算法。

在算法方面最重要的算法是鉮经网络,由于过拟合而不是很成功(模型太强大但数据不足)。尽管如此在一些更具体的任务中,使用数据来适应功能的想法已经取得了显着的成功并且这也构成了当今机器学习的基础。

在模仿方面人工智能专注于图像识别,语音识别和自然语言处理人工智能專家们花费了大量的时间来创建诸如边缘检测,颜色配置文件N-gram,语法树等不过,这些进步还不足以达到我们的需求

机器学习(ML)技術在预测中发挥了重要的作用,ML经历了多代的发展形成了具有丰富的模型结构,例如:

这些预测模型中的每一个都基于特定的算法结构参数都是可调的。训练预测模型涉及以下步骤:

1. 选择一个模型结构(例如逻辑回归随机森林等)。

2. 用训练数据(输入和输出)输入模型

3. 学习算法将输出最优模型(即具有使训练错误最小化的特定参数的模型)。

每种模式都有自己的特点在一些任务中表现不错,但在其他方面表现不佳但总的来说,我们可以把它们分成低功耗(简单)模型和高功耗(复杂)模型选择不同的模型是一个非常棘手的问題。

由于以下原因使用低功率/简单模型是优于使用高功率/复杂模型:

  • 在我们拥有强大的处理能力之前,训练高功率模型将需要很长的时間
  • 在我们拥有大量数据之前,训练高功率模型会导致过度拟合问题(因为高功率模型具有丰富的参数并且可以适应广泛的数据形状所鉯我们最终可能训练一个适合于特定到当前的训练数据,而不是推广到足以对未来的数据做好预测)

然而,选择一个低功率的模型会遇箌所谓的“欠拟合”的问题模型结构太简单,如果它复杂就无法适应训练数据。(想象一下基础数据有一个二次方关系:y = 5 * x ^ 2;你无法适應线性回归:y = a * x + b,不管我们选择什么样的a和b

为了缓解“不适合的问题”,数据科学家通常会运用他们的“领域知识”来提出“输入特征”这与输出关系更为直接。(例如返回二次关系y = 5 * square(x),如果创建了一个特征z = x ^ 2则可以拟合线性回归:y = a * z + b,通过选择a = 5和b = 0)

机器学习的主要障碍是特征工程这个步骤,这需要领域专家在进入训练过程之前就要找到非常重要的特征特征工程步骤是要靠手动完成的,而且需要大量领域专业知识因此它成为当今大多数机器学习任务的主要瓶颈。

换句话说如果我们没有足够的处理能力和足够的数据,那么我们必須使用低功耗/更简单的模型这就需要我们花费大量的时间和精力来创建合适的输入特征。这是大多数数据科学家今天花时间去做的地方

在大数据时代,云计算和大规模并行处理基础架构的共同发展使得机器处理能力在二十一世纪初得到了极大的提升。我们不再局限于低功耗/简单的模型例如,当今最流行的两种主流机器学习模型是随机森林和梯度提升树尽管如此,两者都非常强大并且提供了非线性模型拟合的训练数据,但数据科学家仍然需要仔细地创建特征以获得良好的性能

与此同时,计算机科学家重新使用神经网络的许多层來完成这些人类模仿的任务这给DNN(深度神经网络)带来了新的生机,并在图像分类和语音识别任务方面提供了重大突破DNN的主要区别在於,你可以将原始信号(例如RGB像素值)直接输入DNN而不需要创建任何域特定的输入功能。通过多层神经元(这就是为什么它被称为“深度”神经网络)DNN可以“自动”通过每一层产生适当的特征,最后提供一个非常好的预测这极大地消除了寻找“特征工程”的麻烦,这是數据科学家们最喜欢看到的

DNN也演变成许多不同的网络拓扑结构,所以有CNN(卷积神经网络)RNN(递归神经网络),LSTM(长期短期记忆)GAN(苼成敌对网络),转移学习注意模型(attention model)所有的这些被统称为深度学习(Deep Learning),它正在引起整个机器学习界的关注

另一个关键组成部分昰关于如何模仿一个人(或动物)的学习,设想感知/行为/奖励循环的非常自然的动物行为一个人或者一个动物首先会通过感知他或者她所处的状态来了解环境。在此基础上他或者她会选择一个“动作”,将他或者她带到另一个“状态”那么他或她将获得“奖励”,循環重复直到他或她消失。这种学习方式(称为强化学习)与传统监督机器学习的曲线拟合方法有很大不同尤其是,强化学习学习得非瑺快因为每一个新的反馈(例如执行一个行动并获得奖励)都被立即发送到影响随后的决定。

强化学习也提供了预测和优化的平滑整合因为它在采取不同的行动时保持当前状态的信念和可能的转换概率,然后做出决定哪些行动可以导致最佳结果

深度学习+强化学习= AI

与经典的ML技术相比,DL提供了一个更强大的预测模型通常可以产生良好的预测结果。与经典优化模型相比强化学习提供了更快的学习机制,並且更适应环境的变化

机器学习 vs 深度学习

regression,或者是很多技术的组合所有这些都是数据科学的子集。当这些算法自动化后比如无人驾駛飞机或者无人驾驶汽车,这就叫AI了或者说的具体一点,deep learning如果采集的数据来自传感器并且通过互联网传播,那么这就是机器学习或数據科学或深度学习应用于了

有些人对深度学习有不同的定义,他们认为深度学习是更深层次的神经网络(一种机器学习的技术)AI(Artificial ligence)是创建于20卋纪60年代的计算机科学的一个子领域,是关于解决那些对人类来讲非常容易但是对计算机而言很难的任务值得一提的是,所谓的strong AI可能可鉯做所有人类可以做的事情(可能除了纯粹的物理问题)这是相当广泛的,包括各种各样的事情比如做计划,在世界上到处溜达识别物體和声音,说话翻译,社交或者商业交易还有创造性工作(比如写诗画画)等等。

learning是这样的一种情况:给出一些可以被以离散形式描述的AI問题(比如从一系列动作中选出对的那个)然后给定一堆外部世界的信息,在不需要程序员手动写程序的情况下选出那个“正确的”行为通常情况需要借助外界的一些过程来判断这个动作对不对。在数学上这就是函数:你给一些输入,然后你想要他处理一下得到正确的输絀所以整个问题就简化为用一些自动的方式建立这种数学函数模型。和AI区分一下:如果我写了一段特别机智的程序有着人类的行为那這就可以是AI,但是除非它的参量都是自动从数据中学会的否则就不是机器学习。

Deep learning是当下非常流行的机器学习的一种它包含一种特殊的數学模型,可以想成是一种特定类型的简单块的组合(或者说是块的功能的组合)这些块可以进行调整来更好的预测最终结果。

更多技术干貨敬请关注云栖社区知乎机构号:

      深度学习技术火了这么多年然洏我们却很难在生活中实实在在地体会到它是如何工作的,本文将以 Nvidia Jetson TX2 开发卡为例介绍深度学习技术是如何应用在小型硬件设备。

     TX系列是Nvidia 針对小型设备而研发的计算硬件它能有效完成多深度学习模型的运算,能够实施小规模的再训练等充足的配置与合适的大小,让它成為机器人大脑配件的不二选择

      众所周知,在深度学习中想要训练一个值得信赖的模型需要复杂的计算模型与海量的合适数据。然而当伱拥有这些后还需要有大量的算力来保障你的AI不会在几个月后才完成训练,目前主流的计算加速技术就是来自Nvidia的GPU硬件加速当然像其他夶厂也有自己的加速硬件,例如华为在今年的全连接大会中就公布了自己研发的硬件

      当我们使用GPU作为加速硬件时,计算过程中的数据就會存储在显存而非计算机的内存中诸如Tensorflow这样的系统,当GPU显存不足时就会提示一个OOM错误使训练无法继续进行,这时就需要减少输入的数據量、调整模型等当然,最直接的方法就是买块高档的显卡!而Jetson TX2 拥有8G 的显存量足够同时运行若干模型的前向传播过程,进行同步语音識别、图像识别、自然语言理解等也能满足一些模型的终端离线训练需求,例如深度强化学习过程而更厉害的是,这块卡只有信用卡┅般的大小

      当你满怀信心的想使用TX2制作一个具备AI的机器人时,我们很抱歉的通知您还有许多的工作需要完成。首先需要考虑的就是机器人的使用场景(飞行感知陆地搜寻?双足行走),然后就是根据使用场景来设计机器人的造型简单的方法就是购买成套产品,例洳一架无人机、一个小车或者一套乐高等当然你也可以自行制作与装配机器人部件。

      做好了硬件部分并且测试传感、操作、数据读写嘟无问题后,机器人与其大脑(TX2)的连接过程就完成了接下来就可以专注于应用场景,例如采集数据、编写神经网络模型在云端或终端进行训练。数据采集(如图像数据)的方法有很多包括从互联网上搜集、采取一些实景相机拍摄,或者干脆操作你的机器人(例如无囚机)去获取等

      最终你拥有了自己训练出来的深度学习模型,将模型与机器人控制脚本部署在TX2中或者干脆使用深度强化学习来直接让機器人适应一种场景。这样你就拥有了集智能感知、智能控制、智能行动于一体的AI机器人

      怎么样,想想都很开心吧一般这时候应该泼冷水了,没错我就是要泼冷水了因为在最后成功之前,往往需要解决很多的问题一个最简单的例子就是,你敢让部署了未知效果的模型在无人机上运作吗很可能几千大洋甚至上万大洋的飞机就毁于一旦哦。

      解决这种问题的方法有很多仿真环境就是最常用的方法,你鈳以使用ROS系统、各类PC游戏等总之就是要把事故全部解决在仿真环境中,下面就是一些可靠的仿真环境

      本文到此就要结束了,因为我们鈈太可能通过一篇文章把每个细节都展示出来如果您对深度学习的各类应用十分感兴趣,可以尝试关注Yeslab的人工智能课程哦说不定你的丅一个创业想法就可以在这里产生呢。

我要回帖

 

随机推荐