头歌实践教学平台:数据科学与大数据技术导论(三) 三、大数据与其他新兴科技的关系第1关云计算相关知识为了完成本关任务你需要掌握1.云计算的概念及特点2.云计算的服务模式和类型3.云计算数据中心4.云计算的应用及产业。云计算的概念及特点云计算cloud computing是分布式计算的一种指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序然后通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。云计算早期简单地说就是简单的分布式计算解决任务分发并进行计算结果的合并。因而云计算又称为网格计算。通过这项技术可以在很短的时间内几秒钟完成对数以万计的数据的处理从而达到强大的网络服务。现阶段所说的云服务已经不单单是一种分布式计算而是分布式计算、效用计算、负载均衡、并行计算、网络存储、热备份冗杂和虚拟化等计算机技术混合演进并跃升的结果。云计算的可贵之处在于高灵活性、可扩展性和高性比等与传统的网络应用模式相比其具有如下优势与特点1虚拟化技术必须强调的是虚拟化突破了时间、空间的界限是云计算最为显著的特点虚拟化技术包括应用虚拟和资源虚拟两种。众所周知物理平台与应用部署的环境在空间上是没有任何联系的正是通过虚拟平台对相应终端操作完成数据备份、迁移和扩展等。2动态可扩展云计算具有高效的运算能力在原有服务器基础上增加云计算功能能够使计算速度迅速提高最终实现动态扩展虚拟化的层次达到对应用进行扩展的目的。3按需部署计算机包含了许多应用、程序软件等不同的应用对应的数据资源库不同所以用户运行不同的应用需要较强的计算能力对资源进行部署而云计算平台能够根据用户的需求快速配备计算能力及资源。4灵活性高目前市场上大多数IT资源、软、硬件都支持虚拟化比如存储网络、操作系统和开发软、硬件等。虚拟化要素统一放在云系统资源虚拟池当中进行管理可见云计算的兼容性非常强不仅可以兼容低配置机器、不同厂商的硬件产品还能够外设获得更高性能计算。5可靠性高倘若服务器故障也不影响计算与应用的正常运行。因为单点服务器出现故障可以通过虚拟化技术将分布在不同物理服务器上面的应用进行恢复或利用动态扩展功能部署新的服务器进行计算。6性价比高将资源放在虚拟资源池中统一管理在一定程度上优化了物理资源用户不再需要昂贵、存储空间大的主机可以选择相对廉价的 PC 组成云一方面减少费用另一方面计算性能不逊于大型主机。7可扩展性用户可以利用应用软件的快速部署条件来更为简单快捷的将自身所需的已有业务以及新业务进行扩展。如计算机云计算系统中出现设备的故障对于用户来说无论是在计算机层面上亦或是在具体运用上均不会受到阻碍可以利用计算机云计算具有的动态扩展功能来对其他服务器开展有效扩展。这样一来就能够确保任务得以有序完成。在对虚拟化资源进行动态扩展的情况下同时能够高效扩展应用提高计算机云计算的操作水平。云计算的服务模式和类型通常它的服务模式和类型分为三类即基础设施即服务(IaaS)、平台即服务(PaaS)和软件即服务(SaaS)。这三种云计算服务有时称为云计算堆栈因为它们构建堆栈它们位于彼此之上。以下是这三种服务的概述1、基础设施即服务IaaS)基础设施即服务是主要的服务类别之一它向云计算提供商的个人或组织提供虚拟化计算资源如虚拟机、存储、网络和操作系统。2、平台即服务(PaaS)平台即服务是一种服务类别为开发人员提供通过全球互联网构建应用程序和服务的平台。PaaS 为开发、测试和管理软件应用程序提供按需开发环境。3、软件即服务(SaaS)软件即服务也是其服务的一类通过互联网提供按需软件付费应用程序云计算提供商托管和管理软件应用程序并允许其用户连接到应用程序并通过全球互联网访问应用程序。云计算的四种部署模式1、私有云Private Cloud私有云是为某个特定用户/机构建立的只能实现小范围内的资源优化因此并不完全符合云的本质:社会分工。托管型私有云在一定程度上实现了社会分工但是仍无法解决大规模范围内物理资源利用效率的问题。2、公有云Public cloud公有云是为大众建的所有入驻用户都称租户不仅同时有很多租户而且一个租户离开其资源可以马上释放给下一个租户。公有云是最彻底的社会分工能够在大范围内实现资源优化。3、社区云/行业云Community cloud社区云是介于公有、私有之间的一个形式每个客户自身都不大但自身又处于敏感行业上公有云在政策和管理上都有限制和风险所以就多家联合做一个云平台。4、混合云Hybrid cloud混合云是公有云、私有云、社区云几种的任意混合这种混合可以是计算的、存储的也可以两者兼而有之。在公有云尚不完全成熟、而私有云存在运维难、部署实践长、动态扩展难的现阶段混合云是一种较为理想的平滑过渡方式短时间内的市场占比将会大幅上升。云计算数据中心云计算数据中心是一种基于云计算架构的计算、存储及网络资源松耦合完全虚拟化各种 IT 设备、模块化程度较高、自动化程度较高、具备较高绿色节能程度的新型数据中心。云数据中心的特点首先是高度的虚拟化这其中包括服务器、存储、网络、应用等虚拟化使用户可以按需调用各种资源;其次是自动化管理程度包括对物理服务器、虚拟服务器的管理对相关业务的自动化流程管理、对客户服务的收费等自动化管理最后是绿色节能云计算数据中心在各方面符合绿色节能标准一般 PUE 值不超过 1.5。数据中心是云计算的温床云计算推动数据中心向虚拟化和云架构的转型不断提高 IT 基础架构的灵活性以降低 IT、能源和空间成本从而让客户能够快速地提高业务敏捷性。云计算的应用及产业搜索引擎大家最为熟悉的莫过于谷歌和百度了在任何时刻只要用过移动终端就可以在搜索引擎上搜索任何自己想要的资源通过云端共享了数据资源。而网络邮箱也是如此在过去寄写一封邮件是一件比较麻烦的事情同时也是很慢的过程而在云计算技术和网络技术的推动下电子邮箱成为了社会生活中的一部分只要在网络环境下就可以实现实时的邮件的寄发。其实云计算技术已经融入现今的社会生活。1、存储云存储云又称云存储是在云计算技术上发展起来的一个新的存储技术。云存储是一个以数据存储和管理为核心的云计算系统。用户可以将本地的资源上传至云端上可以在任何地方连入互联网来获取云上的资源。大家所熟知的谷歌、微软等大型网络公司均有云存储的服务在国内百度云和微云则是市场占有量最大的存储云。存储云向用户提供了存储容器服务、备份服务、归档服务和记录管理服务等等大大方便了使用者对资源的管理。2、医疗云医疗云是指在云计算、移动技术、多媒体、4G通信、大数据、以及物联网等新技术基础上结合医疗技术使用“云计算”来创建医疗健康服务云平台实现了医疗资源的共享和医疗范围的扩大。因为云计算技术的运用于结合医疗云提高医疗机构的效率方便居民就医。像现在医院的预约挂号、电子病历、医保等等都是云计算与医疗领域结合的产物医疗云还具有数据安全、信息共享、动态扩展、布局全国的优势。3、金融云金融云是指利用云计算的模型将信息、金融和服务等功能分散到庞大分支机构构成的互联网“云”中旨在为银行、保险和基金等金融机构提供互联网处理和运行服务同时共享互联网资源从而解决现有问题并且达到高效、低成本的目标。在 2013 年 11 月 27 日阿里云整合阿里巴巴旗下资源并推出来阿里金融云服务。其实这就是现在基本普及了的快捷支付因为金融与云计算的结合现在只需要在手机上简单操作就可以完成银行存款、购买保险和基金买卖。现在不仅仅阿里巴巴推出了金融云服务像苏宁金融、腾讯等等企业均推出了自己的金融云服务。4、教育云教育云实质上是指教育信息化的一中发展。具体的教育云可以将所需要的任何教育硬件资源虚拟化然后将其传入互联网中以向教育机构和学生老师提供一个方便快捷的平台。现在流行的慕课就是教育云的一种应用。慕课 MOOC指的是大规模开放的在线课程。现阶段慕课的三大优秀平台为 Coursera、edX 以及 Udacity在国内中国大学 MOOC 也是非常好的平台。在 2013 年 10 月 10 日清华大学推出来 MOOC 平台——学堂在线许多大学现已使用学堂在线开设了一些课程的 MOOC。5、政务云政务云是指运用云计算技术统筹利用已有的机房、计算、存储、网络、安全、应用支撑、信息资源等发挥云计算虚拟化、高可靠性、高通用性、高可扩展性及快速、按需、弹性服务等特征为政府行业提供基础设施、支撑软件、应用系统、信息资源、运行保障和信息安全等综合服务平台。政务云上可以部署公共安全管理、容灾备份、城市管理、应急管理、智能交通、社会保障等应用通过集约化建设、管理和运行可以实现信息资源整合和政务资源共享推动政务管理创新加快向服务型政府转型。云计算产业链上游企业主要为云计算基础设施提供商。云计算的基础设施提供商主要可以分为软件基础设施提供商、硬件基础设施提供商以及网络基础设施提供商三种。其中软件基础设施提供商包括 OS、数据库、虚拟化、信息安全等厂商硬件基础设施提供商包括芯片、服务器、储存等厂商网络基础设施提供商包括网络设备和电信运营等。中游企业主要为云供应商。云供应商主要是提供云服务的供应商一般以实力雄厚、规模较大的大企业或者企业集团向用户提供服务。公有云公司里全球著名的有亚马逊 AWS、微软 Azure、谷歌 GCP 和中国的阿里云、腾讯云等。下游企业主要为云计算延伸产业及增值服务。处于云计算产业链下游的延伸产业及增值服务商主要包括云计算规划咨询服务商、云计算实施/交付/外包服务商、云计算系统集成服务商、云计算运维服务商、行业解决方案提供商、云计算终端设备提供商等。编程要求根据相关知识完成右侧选择题第2关物联网相关知识为了完成本关任务你需要掌握1.物联网的概念及特点2.物联网的关键技术3.物联网的应用及产业4.大数据与云计算、物联网的关系。物联网的概念及特点物联网IoT Internet of things即“万物相连的互联网”是互联网基础上的延伸和扩展的网络将各种信息传感设备与网络结合起来而形成的一个巨大网络实现任何时间、任何地点人、机、物的互联互通。物联网是指通过各种信息传感器、射频识别技术、全球定位系统、红外感应器、激光扫描器等各种装置与技术实时采集任何需要监控、 连接、互动的物体或过程采集其声、光、热、电、力学、化学、生物、位置等各种需要的信息通过各类可能的网络接入实现物与物、物与人的泛在连接实现对物品和过程的智能化感知、识别和管理。物联网是一个基于互联网、传统电信网等的信息承载体它让所有能够被独立寻址的普通物理对象形成互联互通的网络。其体系架构如下图所示物联网的基本特征从通信对象和过程来看物与物、人与物之间的信息交互是物联网的核心。物联网的基本特征可概括为整体感知、可靠传输和智能处理。整体感知可以利用射频识别、二维码、智能传感器等感知设备感知获取物体的各类信息。可靠传输通过对互联网、无线网络的融合将物体的信息实时、准确地传送以便信息交流、分享。智能处理使用各种智能技术对感知和传送到的数据、信息进行分析处理实现监测与控制的智能化。根据物联网的以上特征结合信息科学的观点围绕信息的流动过程可以归纳出物联网处理信息的功能:(1)获取信息的功能。主要是信息的感知、识别信息的感知是指对事物属性状态及其变化方式的知觉和敏感信息的识别指能把所感受到的事物状态用一定方式表示出来。(2)传送信息的功能。主要是信息发送、传输、接收等环节最后把获取的事物状态信息及其变化的方式从时间或空间上的一点传送到另一点的任务这就是常说的通信过程。(3)处理信息的功能。是指信息的加工过程利用已有的信息或感知的信息产生新的信息实际是制定决策的过程。(4)施效信息的功能。指信息最终发挥效用的过程有很多的表现形式比较重要的是通过调节对象事物的状态及其变换方式始终使对象处于预先设计的状态物联网的关键技术1.互联网技术物联网是互联网的延伸和扩展因此互联网技术是物联网发展的核心技术。互联网的发展过程中主要包括以下几个方面的技术局域网技术、广域网技术互联网技术传输控制协议/网际协议TCP/IP和云计算技术的发展。2.信息采集技术物联网的发展需要信息获取、信息传递和信息处理的完整结合而信息获取是物联网发展的关键基础。要实现物联网的发展就必须突破信息获取技术的瓶颈。3.网络通信技术其物联网本质上是在许多行业和应用领域的无线传感器网络无线传感网络对一些内置的不同传感器探测环境中的温度、湿度、噪声、光强度、压力、土壤成分、信息等移动物体的速度和方向等信息并通过内置的相关处理和数据处理及通信单元来完成通信任务。4.项目编码技术物品编码是物联网的基石是物联网信息交换的核心和关键字是物品、设备、场所、属性等的数字化名称。5.数据库技术在物联网时代代表物体的标签数量高达数万亿。如此大量的数据需要通过数据库进行管理。数据存储在本地数据库中标签读取器连接到本地数据库。通过授权可以通过网络访问数据库。根据物联网的特点用于存储物品信息的数据库应具备以下功能数据校对位于网络边缘的数据库系统直接与标签阅读器进行数据校对。并不是每次都读取到每个标签有时标签的信息会被误读所以系统可以使用算法来纠正这些错误。6.网络安全技术物联网与互联网之间的关系是不可分割、互补的。然而物联网和互联网在网络组织形式、网络功能和性能等方面都有不同的要求。基于优先级管理的互联网的典型特征使其安全、可靠、可控、可管理但物联网对实时性、安全可信度、资源保障等方面都有很高的要求。7.物联网管理系统开发技术物联网的软件和中间件位于物联网三层架构的中上层和顶层。如果将物联网系统比作人体感知层就像人体的四肢传输层就像人体应用层就像人脑。软件和中间件是物联网系统的灵魂和中枢神经。物联网的应用及产业物联网的应用领域涉及到方方面面在工业、农业、环境、交通、物流、安保等基础设施领域的应用有效的推动了这些方面的智能化发展使得有限的资源更加合理的使用分配从而提高了行业效率、效益。 在家居、医疗健康、教育、金融与服务业、旅游业等与生活息息相关的领域的应用从服务范围、服务方式到服务的质量等方面都有了极大的改进大大的提高了人们的生活质量; 在涉及国防军事领域方面虽然还处在研究探索阶段但物联网应用带来的影响也不可小觑大到卫星、导弹、飞机、潜艇等装备系统小到单兵作战装备物联网技术的嵌入有效提升了军事智能化、信息化、精准化极大提升了军事战斗力是未来军事变革的关键。1智能交通物联网技术在道路交通方面的应用比较成熟。随着社会车辆越来越普及交通拥堵甚至瘫痪已成为城市的一大问题。对道路交通状况实时监控并将信息及时传递给驾驶人让驾驶人及时作出出行调整有效缓解了交通压力高速路口设置道路自动收费系统(简称 ETC)免去进出口取卡、还卡的时间提升车辆的通行效率;公交车上安装定位系统能及时了解公交车行驶路线及到站时间乘客可以根据搭乘路线确定出行免去不必要的时间浪费。 社会车辆增多除了会带来交通压力外停车难也日益成为一个突出问题不少城市推出了智慧路边停车管理系统该系统基于云计算平台结合物联网技术与移动支付技术共享车位资源提高车位利用率和用户的方便程度。该系统可以兼容手机模式和射频识别模式通过手机端APP软件可以实现及时了解车位信息、车位位置提前做好预定并实现交费等等操作很大程度上解决了“停车难、难停车”的问题。2智能家居智能家居就是物联网在家庭中的基础应用随着宽带业务的普及智能家居产品涉及到方方面面。 家中无人可利用手机等产品客户端远程操作智能空调调节室温甚者还可以学习用户的使用习惯从而实现全自动的温控操作使用户在炎炎夏季回家就能享受到冰爽带来的惬意;通过客户端实现智能灯泡的开关、调控灯泡的亮度和颜色等等插座内置 Wifi可实现遥控插座定时通断电流甚者可以监测设备用电情况生成用电图表让你对用电情况一目了然安排资源使用及开支预算;智能体重秤监测运动效果。内置可以监测血压、脂肪量的先进传感器内定程序根据身体状态提出健康建议智能牙刷与客户端相连供刷牙时间、刷牙位置提醒可根据刷牙的数据生产图表口腔的健康状况智能摄像头、窗户传感器、智能门铃、烟雾探测器、智能报警器等都是家庭不可少的安全监控设备你及时出门在外以在任意时间、地方查看家中任何一角的实时状况任何安全隐患。看似繁琐的种种家居生活因为物联网变得更加轻松、美好。3公共安全近年来全球气候异常情况频发灾害的突发性和危害性进一步加大互联网可以实时监测环境的不安全性情况提前预防、实时预警、及时采取应对措施降低灾害对人类生命财产的威胁。 美国布法罗大学早在 2013 年就提出研究深海互联网项目通过特殊处理的感应装置置于深海处分析水下相关情况海洋污染的防治、海底资源的探测、甚至对海啸也可以提供更加可靠的预警。该项目在当地湖水中进行试验获得成功为进一步扩大使用范围提供了基础。利用物联网技术可以智能感知大气、土壤、森林、水资源等方面各指标数据对于改善人类生活环境发挥巨大作用。除此之外物联网也已经广泛应用于智慧医疗、环保监测、智能物流、智能电网、智慧农业、智能工业等领域对国民经济与社会发展起到了重要的推动作用。完整的物联网产业链主要包括核心感应器件提供商、感知层末端设备提供商、网络提供商、软件与行业解决方案提供商、系统集成商、运营及服务提供商等六大环节。物联网产业链如下图所示大数据与云计算、物联网的关系云计算、大数据和物联网代表了 IT 领域最新的技术发展趋势三者既有区别又有联系。如下图所示大数据、云计算和物联网的区别大数据侧重于对海量数据的存储、处理与分析从海量数据中发现价值服务于生产和生活云计算本质上旨在整合和优化各种 IT 资源并通过网络以服务的方式廉价地提供给用户物联网的发展目标是实现物物相连应用创新是物联网发展的核心。大数据、云计算和物联网的联系从整体上看大数据、云计算和物联网这三者是相辅相成的。大数据根植于云计算大数据分析的很多技术都来自于云计算云计算的分布式数据存储和管理系统包括分布式文件系统和分布式数据库系统提供了海量数据的存储和管理能力分布式并行处理框架 MapReduce 提供了海量数据分析能力没有这些云计算技术作为支撑大数据分析就无从谈起。反之大数据为云计算提供了“用武之地”没有大数据这个“练兵场”云计算技术再先进也不能发挥它的应用价值。物联网的传感器源源不断产生的大量数据构成了大数据的重要数据来源没有物联网的飞速发展就不会带来数据产生方式的变革即由人工产生阶段转向自动产生阶段大数据时代也不会这么快就到来。同时物联网需要借助于云计算和大数据技术实现物联网大数据的存储、分析和处理。可以说云计算、大数据和物联网三者已经彼此渗透、相互融合在很多应用场合都可以同时看到三者的身影。在未来三者会继续相互促进、相互影响更好地服务于社会生产和生活的各个领域。编程要求根据相关知识完成右侧选择题第3关人工智能相关知识为了完成本关任务你需要掌握1.人工智能的概念及特点2.人工智能的关键技术3.人工智能的应用及产业4.大数据与人工智能的关系。人工智能的概念及特点人工智能Artificial Intelligence英文缩写为 AI是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学企图了解智能的实质并生产出一种新的能以人类智能相似的方式做出反应的智能机器该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能的三大特征1、通过计算和数据为人类提供服务。从根本上说人工智能系统必须以人为本这些系统是人类设计出的机器按照人类设定的程序逻辑或软件算法通过人类发明的芯片等硬件载体来运行或工作其本质体现为计算通过对数据的采集、加工、处理、分析、和挖掘形成有价值的信息流和知识模型来为人类提供延伸人类能力的服务来实现对人类期望的一些“智能行为”的模拟在理想情况下必须体现服务人类的特点而不应该伤害人类特别是不应该有目的性地做出伤害人类的行为。2、对外界环境进行感知与人交互互补。人工智能系统应能接触传感器等器件产生对外界环境包括人类进行感知的能力可以像人一样通过听觉、视觉、嗅觉、触觉等接收来自环境的各自信息对外界输入产生文字、语音、表情、动作控制执行机构等必要的反应甚至影响到环境或人类。借助于按钮、键盘、鼠标、屏幕、手势、体态、表情、力反馈、虚拟现实、增强现实等方式人与机器间可以产生交互与互动是机器设备越来越“理解”人类乃至人类共同协作、优势互补。这样人工智能系统能够帮助人类做人类不擅长、不喜欢但机器能够完成的工作而人类则适合去做更需要创造性、洞察力、想象力、灵活性、多变性乃至用心领悟或需要感情的一些工作。3、拥有适应和学习特性可以演化迭代。人工智能系统在理想情况下应具有一定的自适应特性和学习能力即具有一定的随环境、数据或任务变化而自适应调节参数或更新优化模型的能力并且能够在此基础上通过与云、端、人、物越来越广泛深入数字化连接扩展实现机器安体乃圣人水二体的演化法代以使系统具有造应性、灵活性、扩展性来应对不断变化的现实环境从而使人工智能系统在各行各业产生丰高的应用。人工智能的关键技术1、机器学习强调三个关键词算法、经验、性能其处理过程如图所示。在数据的基础上通过算法构建出模型并对模型进行评估。评估的性能如果达到要求就用该模型来测试其他的数据如果达不到要求就要调整算法来重新建立模型再次进行评估。如此循环往复最终获得满意的模型来处理其他数据。机器学习处理过程如下图所示2、知识图谱知识图谱Knowledge Graph又称为科学知识图谱在图书情报界称为知识域可视化或知识领域映射地图是显示知识发展进程与结构关系的一系列各种不同的图形用可视化技术描述知识资源及其载体挖掘、分析、构建、绘制和显示知识及它们之间的相互联系。3、自然语言处理自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理的应用包罗万象例如机器翻译、手写体和印刷体字符识别、语音识别、信息检索、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等。4、人机交互人机交互是一门研究系统与用户之间的交互关系的学科。系统可以是各种各样的机器也可以是计算机化的系统和软件。人机交互界面通常是指用户可见的部分。用户通过人机交互界面与系统交流并进行操作。人机交互是与认知心理学、人机工程学、多媒体技术、虚拟现实技术等密切相关的综合学科。5、计算机视觉计算机视觉是一门研究如何使机器“看”的科学更进一步地说是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量的机器视觉并进一步做图形处理成为更适合人眼观察或传送给仪器检测的图像。6、生物特征识别生物特征识别技术涉及的内容十分广泛包括指纹、掌纹、人脸、虹膜、指静脉、声纹、步态等多种生物特征其识别过程涉及到图像处理、计算机视觉、语音识别、机器学习等多项技术。7、VR/AR虚拟现实VR/增强现实AR是以计算机为核心的新型视听技术。结合相关科学技术在一定范围内生成与真实环境在视觉、听觉、触感等方面高度近似的数字化环境。人工智能的应用及产业1、智能制造智能制造Intelligent ManufacturingIM是一种由智能机器和人类专家共同组成的人机一体化智能系统它在制造过程中能进行智能活动诸如分析、推理、判断、构思和决策等。2、智能家居智能家居通过物联网技术将家中的各种设备如音视频设备、照明系统、窗帘控制、空调控制、安防系统、数字影院系统、影音服务器、影柜系统、网络家电等连接到一起提供家电控制、照明控制、电话远程控制、室内外遥控、防盗报警、环境监测、暖通控制、红外转发以及可编程定时控制等多种功能和手段。3、智能交通智能交通是未来交通系统的发展方向它是将先进的信息技术、数据通讯传输技术、电子传感技术、控制技术及计算机技术等有效地集成运用于整个地面交通管理系统而建立的一种在大范围内、全方位发挥作用的实时、准确、高效的综合交通运输管理系统。4、智能安防智能安防是兼顾了整体城市管理系统、环保监测系统、交通管理系统、应急指挥系统等应用的综合体系。特别是车联网的兴起在公共交通管理上、车辆事故处理上、车辆偷盗防范上可以更加快捷准确的跟踪定位处理。还可以随时随地的通过车辆获取更加精准的灾难事故信息、道路流量信息、车辆位置信息、公共设施安全信息、气象信息等等信息来源。5、智能医疗借助于物联网/云计算技术、人工智能的专家系统、嵌入式系统的智能化设备可以构建起完善的物联网医疗体系使全民平等地享受顶级的医疗服务解决或减少由于医疗资源缺乏导致看病难、医患关系紧张、事故频发等现象。6、智能物流使用智能搜索、推理规划、计算机视觉以及智能机器人等技术实现货物运输过程的自动化运作和高效率优化管理提高物流效率。7、智能零售人工智能在零售领域的应用已经十分广泛无人便利店、智慧供应链、客流统计等等都是的热门方向。大数据与人工智能的关系人工智能和大数据是紧密相关的两种技术二者既有联系又有区别。1、人工智能与大数据的联系一方面人工智能需要数据来建立其智能特别是机器学习。例如机器学习图像识别应用程序可以查看数以万计的飞机图像以了解飞机的构成以便将来能够识别出它们。人工智能应用的数据越多其获得的结果就越准确。在过去人工智能由于处理器速度慢、数据量小而不能很好地工作。今天大数据为人工智能提供了海量的数据使得人工智能技术有了长足的发展甚至可以说没有大数据就没有人工智能。另一方面大数据技术为人工智能提供了强大的存储能力和计算能力。在过去人工智能算法都是依赖于单机的存储和单机的算法而在大数据时代面对海量的数据传统的单机存储和单机算法都已经无能为力建立在集群技术之上的大数据技术主要是分布式存储和分布式计算可以为人工智能提供强大的存储能力和计算能力。2、人工智能与大数据的区别人工智能与大数据也存在着明显的区别人工智能是一种计算形式它允许机器执行认知功能例如对输入起作用或作出反应类似于人类的做法而大数据是一种传统计算它不会根据结果采取行动只是寻找结果。另外二者要达成的目标和实现目标的手段不同。大数据主要目的是通过数据的对比分析来掌握和推演出更优的方案。就拿视频推送为例我们之所以会接收到不同的推送内容便是因为大数据根据我们日常观看的内容综合考虑了我们的观看习惯和日常的观看内容推断出哪些内容更可能让我们会有同样的感觉并向将其推送给我们。而人工智能的开发则是为了辅助和代替我们更快、更好地完成某些任务或进行某些决定。不管是汽车自动驾驶、自我软件调整亦或者是医学样本检查工作人工智能都是在人类之前完成相同的任务但区别就在于其速度更快、错误更少它能通过机器学习的方法掌握我们日常进行的重复性的事项并以其计算机的处理优势来高效的达成目标。编程要求根据相关知识完成右侧选择题第4关大数据与区块链相关知识为了完成本关任务你需要掌握1.区块链的概念及特点2.区块链的类型3.区块链的核心技术3.区块链的应用4.大数据与区块链的关系。区块链的概念及特点区块链起源于比特币 2008 年 11 月 1 日一位自称中本聪Satoshi Nakamoto的人发表了《比特币一种点对点的电子现金系统》一文阐述了基于 P2P 网络技术、加密技术、时间戳技术、区块链技术等的电子现金系统的构架理念这标志着比特币的诞生。两个月后理论步入实践2009 年 1 月 3 日第一个序号为 0 的创世区块诞生。几天后 2009 年 1 月 9 日出现序号为 1 的区块并与序号为 0 的创世区块相连接形成了链标志着区块链的诞生。狭义区块链是按照时间顺序将数据区块以顺序相连的方式组合成的链式数据结构并以密码学方式保证的不可篡改和不可伪造的分布式账本。广义区块链技术是利用块链式数据结构验证与存储数据利用分布式节点共识算法生成和更新数据利用密码学的方式保证数据传输和访问的安全、利用由自动化脚本代码组成的智能合约编程和操作数据的全新的分布式基础架构与计算范式。区块链就是一个又一个区块组成的链条。每一个区块中保存了一定的信息它们按照各自产生的时间顺序连接成链条。这个链条被保存在所有的服务器中只要整个系统中有一台服务器可以工作整条区块链就是安全的。这些服务器在区块链系统中被称为节点它们为整个区块链系统提供存储空间和算力支持。如果要修改区块链中的信息必须征得半数以上节点的同意并修改所有节点中的信息而这些节点通常掌握在不同的主体手中因此篡改区块链中的信息是一件极其困难的事。相比于传统的网络区块链具有两大核心特点一是数据难以篡改、二是去中心化。基于这两个特点区块链所记录的信息更加真实可靠可以帮助解决人们互不信任的问题。其特征如下1、去中心化。区块链技术不依赖额外的第三方管理机构或硬件设施没有中心管制除了自成一体的区块链本身通过分布式核算和存储各个节点实现了信息自我验证、传递和管理。去中心化是区块链最突出最本质的特征。2、开放性。区块链技术基础是开源的除了交易各方的私有信息被加密外区块链的数据对所有人开放任何人都可以通过公开的接口查询区块链数据和开发相关应用因此整个系统信息高度透明。3、独立性。基于协商一致的规范和协议(类似比特币采用的哈希算法等各种数学算法)整个区块链系统不依赖其他第三方所有节点能够在系统内自动安全地验证、交换数据不需要任何人为的干预。4、安全性。只要不能掌控全部数据节点的 51%就无法肆意操控修改网络数据这使区块链本身变得相对安全避免了主观人为的数据变更。5、匿名性。除非有法律规范要求单从技术上来讲各区块节点的身份信息不需要公开或验证信息传递可以匿名进行。一般说来区块链系统由数据层、网络层、共识层、激励层、合约层和应用层组成。如下图所示其中数据层封装了底层数据区块以及相关的数据加密和时间戳等基础数据和基本算法网络层则包括分布式组网机制、数据传播机制和数据验证机制等共识层主要封装网络节点的各类共识算法激励层将经济因素集成到区块链技术体系中来主要包括经济激励的发行机制和分配机制等合约层主要封装各类脚本、算法和智能合约是区块链可编程特性的基础应用层则封装了区块链的各种应用场景和案例。该模型中基于时间戳的链式区块结构、分布式节点的共识机制、基于共识算力的经济激励和灵活可编程的智能合约是区块链技术最具代表性的创新点。区块链的类型1、公有区块链公有区块链Public Block Chains世界上任何个体或者团体都可以发送交易且交易能够获得该区块链的有效确认任何人都可以参与其共识过程。公有区块链是最早的区块链也是应用最广泛的区块链各大 bitcoins 系列的虚拟数字货币均基于公有区块链世界上有且仅有一条该币种对应的区块链。2、行业区块链行业区块链Consortium Block Chains由某个群体内部指定多个预选的节点为记账人每个块的生成由所有的预选节点共同决定预选节点参与共识过程其他接入节点可以参与交易但不过问记账过程本质上还是托管记账只是变成分布式记账预选节点的多少如何决定每个块的记账者成为该区块链的主要风险点其他任何人可以通过该区块链开放的 API 进行限定查询。3、私有区块链私有区块链Private Block Chains仅仅使用区块链的总账技术进行记账可以是一个公司也可以是个人独享该区块链的写入权限本链与其他的分布式存储方案没有太大区别。传统金融都是想实验尝试私有区块链而公链的应用例如 bitcoin 已经工业化私链的应用产品还在摸索当中。区块链的核心技术1、分布式账本分布式账本指的是交易记账由分布在不同地方的多个节点共同完成而且每一个节点记录的是完整的账目因此它们都可以参与监督交易合法性同时也可以共同为其作证。跟传统的分布式存储有所不同区块链的分布式存储的独特性主要体现在两个方面一是区块链每个节点都按照块链式结构存储完整的数据传统分布式存储一般是将数据按照一定的规则分成多份进行存储。二是区块链每个节点存储都是独立的、地位等同的依靠共识机制保证存储的一致性而传统分布式存储一般是通过中心节点往其他备份节点同步数据。没有任何一个节点可以单独记录账本数据从而避免了单一记账人被控制或者被贿赂而记假账的可能性。也由记账节点足够多理论上讲除非所有的节点被破坏否则账目就不会丢失从而保证了账目数据的安全性。2、非对称加密存储在区块链上的交易信息是公开的但是账户身份信息是高度加密的只有在数据拥有者授权的情况下才能访问到从而保证了数据的安全和个人的隐私。3、共识机制共识机制就是所有记账节点之间怎么达成共识去认定一个记录的有效性这既是认定的手段也是防止篡改的手段。区块链提出了四种不同的共识机制适用于不同的应用场景在效率和安全性之间取得平衡。区块链的共识机制具备“少数服从多数”以及“人人平等”的特点其中“少数服从多数”并不完全指节点个数也可以是计算能力、股权数或者其他的计算机可以比较的特征量。“人人平等”是当节点满足条件时所有节点都有权优先提出共识结果、直接被其他节点认同后并最后有可能成为最终共识结果。以比特币为例采用的是工作量证明只有在控制了全网超过 51% 的记账节点的情况下才有可能伪造出一条不存在的记录。当加入区块链的节点足够多的时候这基本上不可能从而杜绝了造假的可能。4、智能合约智能合约是基于这些可信的不可篡改的数据可以自动化的执行一些预先定义好的规则和条款。以保险为例如果说每个人的信息包括医疗信息和风险发生的信息都是真实可信的那就很容易的在一些标准化的保险产品中去进行自动化的理赔。在保险公司的日常业务中虽然交易不像银行和证券行业那样频繁但是对可信数据的依赖是有增无减。因此笔者认为利用区块链技术从数据管理的角度切入能够有效地帮助保险公司提高风险管理能力。具体来讲主要分投保人风险管理和保险公司的风险监督。区块链的应用1、金融领域区块链在国际汇兑、信用证、股权登记和证券交易所等金融领域有着潜在的巨大应用价值。将区块链技术应用在金融行业中能够省去第三方中介环节实现点对点的直接对接从而在大大降低成本的同时快速完成交易支付。比如 Visa 推出基于区块链技术的 Visa B2B Connect它能为机构提供一种费用更低、更快速和安全的跨境支付方式来处理全球范围的企业对企业的交易。要知道传统的跨境支付需要等 3-5 天并为此支付 1-3% 的交易费用。Visa 还联合 Coinbase 推出了首张比特币借记卡花旗银行则在区块链上测试运行加密货币“花旗币”。2、物联网和物流领域区块链在物联网和物流领域也可以天然结合。通过区块链可以降低物流成本追溯物品的生产和运送过程并且提高供应链管理的效率。该领域被认为是区块链一个很有前景的应用方向。区块链通过结点连接的散状网络分层结构能够在整个网络中实现信息的全面传递并能够检验信息的准确程度。这种特性一 定程度上提高了物联网交易的便利性和智能化。区块链 大数据的解决方案就利用了大数据的自动筛选过滤模式在区块链中建立信用资源可双重提高交易的安全性并提高物联网交易便利程度。为智能物流模式应用节约时间成本。区块链结点具有十分自由的进出能力可独立的参与或离开区块链体系不对整个区块链体系有任何干扰。区块链 大数据解决方案就利用了大数据的整合能力促使物联网基础用户拓展更具有方向性便于在智能物流的分散用户之间实现用户拓展。3、公共服务领域区块链在公共管理、能源、交通等领域都与民众的生产生活息息相关但是这些领域的中心化特质也带来了一些问题可以用区块链来改造。区块链提供的去中心化的完全分布式 DNS 服务通过网络中各个节点之间的点对点数据传输服务就能实现域名的查询和解析可用于确保某个重要的基础设施的操作系统和固件没有被篡改可以监控软件的状态和完整性发现不良的篡改并确保使用了物联网技术的系统所传输的数据没有经过篡改。4、数字版权领域通过区块链技术可以对作品进行鉴权证明文字、视频、音频等作品的存在保证权属的真实、唯一性。作品在区块链上被确权后后续交易都会进行实时记录实现数字版权全生命周期管理也可作为司法取证中的技术性保障。例如美国纽约一家创业公司 Mine Labs 开发了一个基于区块链的元数据协议这个名为 Mediachain 的系统利用 IPFS 文件系统实现数字作品版权保护主要是面向数字图片的版权保护应用。5、保险领域在保险理赔方面保险机构负责资金归集、投资、理赔往往管理和运营成本较高。通过智能合约的应用既无需投保人申请也无需保险公司批准只要触发理赔条件实现保单自动理赔。一个典型的应用案例就是 LenderBot是 2016 年由区块链企业 Stratumn、德勤与支付服务商 Lemonway 合作推出它允许人们通过 Facebook Messenger 的聊天功能注册定制化的微保险产品 为个人之间交换的高价值物品进行投保而区块链在贷款合同中代替了第三方角色。6、公益领域区块链上存储的数据高可靠且不可篡改天然适合用在社会公益场景。公益流程中的相关信息如捐赠项目、募集明细、资金流向、受助人反馈等均可以存放于区块链上并且有条件地进行透明公开公示方便社会监督。7、司法领域为进一步加强区块链在司法领域应用充分发挥区块链在促进司法公信、服务社会治理、防范化解风险、推动高质量发展等方面的作用最高人民法院在充分调研、广泛征求意见、多方论证基础上制定《最高人民法院关于加强区块链司法应用的意见》于 2022 年 5 月 25 日发布。大数据与区块链的关系1、数据安全区块链让数据真正“放心”流动起来区块链以其可信任性、安全性和不可篡改性让更多数据被解放出来。用一个典型案例来说明即区块链是如何推进基因测序大数据产生的。区块链测序可以利用私钥限制访问权限从而规避法律对个人获取基因数据的限制问题并且利用分布式计算资源低成本完成测序服务。区块链的安全性让测序成为工业化的解决方案实现了全球规模的测序从而推进数据的海量增长。2、数据开放共享区块链保障数据私密性政府掌握着大量高密度、高价值数据如医疗数据、人口数据等。政府数据开放是大势所趋将对整个经济社会的发展产生不可估量的推动力。然而数据开放的主要难点和挑战是如何在保护个人隐私的情况下开放数据。基于区块链的数据脱敏技术能保证数据私密性为隐私保护下的数据开放提供了解决方案。数据脱敏技术主要是采用了哈希处理等加密算法。例如基于区块链技术的英格码系统Enigma在不访问原始数据情况下运算数据可以对数据的私密性进行保护杜绝数据共享中的信息安全问题。例如公司员工可放心地开放可访问其工资信息的路径并共同计算出群内平均工资。每个参与者可得知其在该组中的相对地位但对其他成员的薪酬一无所知。3、数据存储区块链是一种不可篡改的、全历史的、强背书的数据库存储技术区块链技术通过网络中所有节点共同参与计算互相验证其信息的真伪以达成全网共识可以说区块链技术是一种特定数据库技术。迄今为止我们的大数据还处于非常基础的阶段基于全网共识为基础的数据可信的区块链数据是不可篡改的、全历史的、也使数据的质量获得前所未有的强信任背书也使数据库的发展进入一个新时代。4、数据分析区块链确保数据安全性数据分析是实现数据价值的核心。在进行数据分析时如何有效保护个人隐私和防止核心数据泄露成为首要考虑的问题。例如随着指纹数据分析应用和基因数据检测与分析手段的普及越来越多的人担心一旦个人健康数据发生泄露将可能导致严重后果。区块链技术可以通过多签名私钥、加密技术、安全多方计算技术来防止这类情况的出现。当数据被哈希后放置在区块链上使用数字签名技术就能够让那些获得授权的人们才可以对数据进行访问。通过私钥既保证数据私密性又可以共享给授权研究机构。数据统一存储在去中心化的区块链上在不访问原始数据情况下进行数据分析既可以对数据的私密性进行保护又可以安全地提供给全球科研机构、医生共享作为全人类的基础健康数据库对未来解决突发疾并疑难疾病带来极大的便利。5、数据流通区块链保障数据相关权益对于个人或机构有价值的数据资产可以利用区块链对其进行注册交易记录是全网认可的、透明的、可追溯的明确了大数据资产来源、所有权、使用权和流通路径对数据资产交易具有很大价值。一方面区块链能够破除中介拷贝数据威胁有利于建立可信任的数据资产交易环境。数据是一种非常特殊的商品与普通商品有着本质区别主要是具有所有权不清晰、 “看过、复制即被拥有”等特征这也决定了使用传统商品中介的交易方式无法满足数据的共享、交换和交易。因为中介中心有条件、有能力复制和保存所有流经的数据这对数据生产者极不公平。这种威胁仅仅依靠承诺是无法消除的而这种威胁的存在也成为阻碍数据流通巨大障碍。基于去中心化的区块链能够破除中介中心拷贝数据的威胁保障数据拥有者的合法权益。另一方面区块链提供了可追溯路径能有效破解数据确权难题。区块链通过网络中多个参与计算的节点来共同参与数据的计算和记录并且互相验证其信息的有效既可以进行信息防伪又提供了可追溯路径。把各个区块的交易信息串起来就形成了完整的交易明细清单每笔交易来龙去脉非常清晰、透明。另外当人们对某个区块的“值”有疑问时可方便地回溯历史交易记录进而判别该值是否正确识别出该值是否已被篡改或记录有误。编程要求根据相关知识完成右侧选择题有任何问题都可以随时关注私信