认知计算概论

      前段时间的“人机大战”——谷歌的Alpha Go战胜人类棋手的新闻甚嚣尘上,不禁有人会想起1997年IBM自主研发的深蓝战胜卡斯帕罗夫的事件。“人工智能”这个词再次被推上风口浪尖,而“认知计算”却鲜有人听说,同样是人类模拟机器思索,让机器具有自主思考能力,都是具有跨时代意义和里程碑式的存在。

      认知计算更加强调机器或人造大脑如何能够主动学习、推理、感知这个世界,并与人类、环境进行交互的反应。它会根据环境的变化做出动态的反应,所以认知更加强调它的动态性、自适应性、鲁棒性、交互性。

      计算机在体系架构上的发展历史主要体现在两个方面:

  • 计算能力的增强
  • 计算规模的增大

     随着计算机计算能力的大幅增强,具备了处理海量数据的能力;另一方面,日常生活中所产生的数据规模日益扩大,所拥有的数据源驱动了深层次分析的需求;同时大数据、云计算技术的不断完善,都促进了对数据进行深度挖掘,提取数据的特征,利用特征让机器具有自主学习与思考的能力。

     按照计算方式的不同,可以分为三个计算时代:

  • 1990s~1940s  打卡阶段(The Tabulating Era)       机械式
  • 1950s~现在     编程阶段(The Programming Era)   自主输入
  • 2011~将来      认知计算阶段(The Cognitive Era)    自动思考

     “大脑”项目:Think & Learn

  • 2006     IBM        Watson      利用自然语言分析,让机器自动推理事件与回答问题;涵盖医疗、数据分析、“危险游戏”等。
  • 2011     Google    谷歌大脑     通过神经网络,能够让更多的用户拥有完美的、没有错误的使用体验;谷歌无人驾驶汽车、谷歌眼镜等。
  • 2012     Baidu      百度大脑     融合深度学习算法、数据建模、大规模GPU并行化平台等技术,构造起深度神经网络。

一、认知计算的概念:

  1. 人工智能与认知计算的区别:
  • 人工,以人为主导;认知,机器对事物与外界的理解,交互的能力
  • 编程能力;学习与推理的能力
  • 确定性结果;概率性结果
  • 人并未参与;人、机器、环境之间的交互
  • 图灵测试或仿造人测量;实际应用中的测试

     2.  认知计算所涉及的技术领域:

  • 神经科学:机器模拟人脑神经元的思考过程;
  • 超计算:超级快速计算和处理能力;
  • 纳米技术:芯片、系统等底层架构设计。

     

     3. 认知计算系统的组成:

     需要一个能够理解、学习、推理的“大脑”,一个物物相连的外部环境,大脑与环境之间互相感知与交互。

     

    4.  认知计算的应用:

  • 典型系统特征:大规模、复杂、人与外界交互、大量非结构化数据、输出结果不定的系统;
  • 生命科学领域:医疗、保险;
  • 社会机构领域:金融银行、政府、能源、教育、商业、交通等。

   5.  案例:Watson-历史上第一个认知系统

  • 自然语言处理
  • 问答技术
  • 高性能计算
  • 知识的表达和推理
  • 机器学习
  • 非结构化信息管理

   6.  认知系统的五个核心功能:

  • 创造更深的人工参与
  • 测量和提升专业知识
  • 认知融入产品和服务
  • 实现认知过程和操作
  • 加强探索和发现

   7.  认知计算系统的挑战与要求:

   

   8.  认知计算系统的架构:

  • 底层架构:芯片设计(GPU、FPGA、ASIC、POWER8)
  • 基础设施:云环境、超级计算节点
  • 组织构架:caffe、Theano、Torch等
  • 库文件:数据库、工具、包等
  • 应用层:信息采集的有效性、人机交互界面、搜索引擎等

 二、人工智能的概述:

     人的大脑科学&计算机科学——>可视化、心理学、神经元组成、深度学习

    1. 人工智能发展过程:

     

     重要的时间节点与人物:

  • 1950-1956:两个重要的人物,诺伯特·维纳(控制论)和克劳德·艾尔伍德·香农(信息论)将事物从更高的层次进行抽象,奠定了AI坚实的理论基础;
  • 1950:图灵,提出了图灵测试的基本测试方法;
  • 1956:达特茅斯会议第一次正式提出AI的概念;
  • 1956-1974:AI得到极大发展,提出了许多新的理论,包括自然语言处理、reasoning as search、micro-worlds等;
  • 1974-1980:由于发展迅速所带来的副作用日益凸显,关于机器代替人类的社会、伦理等问题、投资人看不到长期受益问题等导致其发展陷入低谷;
  • 1980-1987:在日本的第五代项目提出,结合AI来发展现代工业生产,又给AI界打了一针强心剂(专家系统);
  • 1987-1993:计算机的高速发展,给传统硬件组成的研究系统带来巨大挑战,更多的人将注意力放在计算能力更强、价格更为便宜的普通计算机上;
  • 1995:Sparse coding,将计算机科学理论与生物神经科学理论相结合;
  • 2006:Deep Learning,含多隐层的多层感知器的深度学习结构;
  • 2007:GPU CUDA,CPU与GPU并用的“协同处理”发展的统一计算设备架构;
  • 2011:Google Brain,谷歌在人工智能领域开发出的一款模拟人脑的软件。

    2. 机器学习的概述:

     

     机器学习两种传统分类:

  • 监督学习:已知label来对事物进行分类;
  • 无监督学习:未知label来学习事物特征。

     应用领域:图像识别、计算机视觉、语音识别、生物监控、机器人控制、经验科学、智能医疗等。

     机器学习的流程图(有监督学习):

     

     分类算法(Classification):

  • 支持向量机(SVM)
  • 神经网络(Neural Network)
  • 朴素贝叶斯(Naiive Bayes)
  • 贝叶斯网络(Bayesian network)
  • 逻辑回归(Logistic regression)
  • 随机森林(Randomized Forests)
  • 决策树(Boosted Decision Trees)
  • k近邻(K-nearest neighbor)
  • RBMs

     聚类算法(Clustering):

  • K-means
  • 合并聚类(agglomerative clustering)
  • 均值漂移聚类(mean shift clustering)
  • 谱聚类(spectral clustering)

    泛化问题(Generalization):过拟合、欠拟合

     

    3. 深度学习的概述:

     

      深度学习是机器学习的一个分支,通过利用多层处理的复杂结构,基于一系列的算法来建立高维抽象的模型。其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。深度学习的概念由Hinton等人于2006年提出。基于深度置信网络(DBN)提出非监督贪心逐层训练算法,为解决深层结构相关的优化难题带来希望,随后提出多层自动编码器深层结构。此外Lecun等人提出的卷积神经网络(CNN)是第一个真正多层结构学习算法,它利用空间相对关系减少参数数目以提高训练性能。

     典型的深度学习:卷积神经网络CNN

     

     实验已经证明,CNN在图像和语音处理中能够取得比传统方法更好的识别效果,也产生了许多著名的深度学习网络VGG-NetAlexNet

     VGG-Net与AlexNet的对比分析:

    

深度学习网络 AlexNet VGG-Net
产生背景

2012年,deep learning的大牛教授 Geoffrey Hinton的学生Alex Krizhevsky设计了一个8层的CNN,并把它用于ImageNet的image classification,直接把当时最好算法的错误率差不多减半。

Andrew Zisserman 教授的组 (Oxford),VGG-Net 在2014年的 ILSVRC localization and classification 两个问题上分别取得了第一名和第二名。
结构层次 总共有8层,由5层 convolutional layer,2层 fully connected layer,和最后一层 label layer (1000个node, 每个node代表ImageNet中的一个类别) 组成。 VGG-Net使用更多的层,通常有16-19层,所有 convolutional layer 使用同样大小的 convolutional filter。
结构示意  
特征描述

中间层描述了图片的局部特征,全连接层表示了图像的全局特征。

        业界牛人:

         

         

         

         

         开发架构:

         

         机器学习的常用库和数据集:

        

       

       

       

原文地址:https://www.cnblogs.com/wallacup/p/5994772.html