当前位置: 首页 > 数据分析师 > 数据分析师实战技能 > 数据分析师数据分析 > 大数据的数据来源需要真实可靠

大数据的数据来源需要真实可靠

发布时间:2020年10月12日 08:51:20 来源: 点击量:27

【摘要】大数据的数据来源需要真实可靠_数据分析师考试在当今的技术支持下,大数据的表现成功将人类的想象转化为现实,并逐渐渗透进人们的生活。其

大数据的数据来源需要真实可靠_数据分析师考试

在当今的技术支持下,大数据的表现成功将人类的想象转化为现实,并逐渐渗透进人们的生活。其意义已不仅仅只是预测结果,改善交通状况,更重要的是带给决策者一种新鲜的思维方式:利用已知的现在去预测未知的未来。随着智能交通的普及,大数据也在各个方面影响着人们的生活、出行方式,人们通过上传数据、共享数据,共同完成数据收集的过程,分享数据处理结果,形成良性循环,彻底解决交通拥堵问题。

交通大数据时代的来临是智能交通发展的必然趋势,在这个进程中我们也将面临前所未有的问题和挑战。所面临的问题主要有几个方面:一是交通数据分散在不同部门(我国与交通相关的部门有10多个),而部门之间又缺乏开放互通,造成了交通数据资源的条块化分割和信息碎片化等现象;二是由于交通检测方式多样,信息模式复杂,造成数据种类繁多,且缺乏统一的标准;三是目前尚缺乏有效的市场化推进机制,基于大数据的交通信息服务产业链、价值链尚未真正形成。

当下,大数据概念愈发火爆,如何利用“大数据”解决交通拥堵、车务管理等问题,越来越成为各类汽车服务公司、交通管理部门关注的焦点和亟需攻破的难关。如何真正找到有效、扎实的商业模式,成为了摆在每一个交通类数据处理创业者面前的重要课题。

数据来源需要真实可靠

在交通领域,海量的数据主要包括各类交通运行监控、服务和应用数据,如公路、航道、客运场站和港口等视频监控数据,城市和高速公路、干线公路的各类流量、气象检测数据, 城市公交、出租车和客运车辆卫星定位数据,以及公路和航道收费数据等等,这些交通数据类型繁多,而且体积巨大。

交通数据采集的范围、广度和深度急剧增加,随着智能交通系统建设规模的不断扩大,正在形成以微波、线圈、GPS、车牌等交通流检测数据,交通监控视频数据,以及系统数据和服务数据等为主体的海量交通数据。以北京市为例,6万余辆出租车一天就会产生数亿条GPS数据,车牌识别、交通监控视频等数据量更大,交通相关的数据量级已从TB级别跃升到PB级别,传统的交通数据分析方法已很难有效支撑这么庞大的数据体的开发与利用。

相对国内刚起步的智能交通,国外已有成功经验。如欧洲的智能交通,在大数据技术的支持下能够做到精确采集车辆CAN总线的数据,获得公交车的位置、速度、转弯的角度、发动机的状态、实时的油耗等,这对优化驾驶行为和节能减排等绿色智能公交提供了全新的应用。

随着宽带无线接入技术和移动终端技术的飞速发展,通过移动互联网随时随地乃至在移动过程中方便地从互联网获取信息,成为用户对信息服务的主要追求。

最近两年,智能手机中的公众交通出行应用软件开始得到发展,如北京交管局、广州交警支队、上海城建委、山东高速等纷纷发布了针对城市道路或高速公路实时路况发布的智能手机应用软件。这些应用软件已经被大量下载,表明用户在出行期间对交通信息的需求已经越来越强烈。

数据挖掘 更加“高大上”

大数据交通 数据收集是数据价值挖掘的前提,大数据在智能交通系统的有效运作,显然离不开数据存储和分析技术。

就国内来说,以浙江省某市为例,近年来投入使用的高清卡口设备数量越来越多,储存的车辆拍照信息呈现爆发式的增长,数据储存技术首先遇到了扩容的难题,如继续沿用小型机扩容的方案会导致成本大幅增加,如何有效存储这些海量数据?除了大树据存储,大数据的挖掘与利用更为重要。

杭州诚道科技有限公司销售总监陈海涛在接受记者采访时回忆:在与英特尔合作之前,诚道所存储的几百TB的数据,基于关系数据库很难进行细分与挖掘,所开发的应用最后也多被拖垮。自2006年起,使用英特尔Hadoop软件发行版后,海量图像和视频数据不但实现了可靠和高性能的存储,而且还能被大量的使用者快速地访问和使用,并且有效解决了Hadoop底层的安全性、稳定性、高效性、扩展性等问题。在与英特尔合作过程中,诚道可以完全抛开这些技术底层的开发,将更多精力放在上层业务的开发上,给客户提供最优的解决方案。目前浙江省某市可保存的历史违法数据从3个月延长到24个月,从24亿条过车数据中完成机动车的号牌精确查询和行车轨迹查询,仅需不到1秒的时间。

中国拥有世界最大的人口和信息量,必然会成为大数据应用方面的先锋,只是大数据现在还处于启蒙阶段,大多数企业还是奉行已有的业务逻辑。但随着数据的全面采集,越来越多的企业可以使用新的业务和算法来进一步挖掘数据的内在价值,实现“从数据到信息、从信息到智慧”的升级。未来的大数据应用会从海量数据的实时处理和深度挖掘方面进一步突破。公交刷卡数据挖掘、出租车轨迹挖掘、手机数据挖掘、社会化网络数据挖掘将成为未来大数据的主要方向。

结语

我们再细数一下大数据技术在智能交通应用领域的挑战:包括隐私,数据处理硬件设施,数据不完备性,模型有效性等领域,这些都是我们未来需要继续探讨和解决的问题。要解决这些问题,需要做好以下几项挑战性工作:一是如何从政策和技术上突破交通数据资源互通、共享的壁垒,消除信息分散、内容单一等问题;二是如何确保交通数据资源的安全性,在数据开放的同时,加强数据的安全监管,尊重和保护相关政府部门、交通企业以及个人的机密和隐私不受侵犯;三是如何实现交通数据资源的综合利用效率,将交通路况检测、GPS、交通监控视频等零散信息进行有效地联系、汇聚和发掘,使其能够真正支撑交通系统的运营管理,提高交通运行效率和安全水平。 未来大数据技术在交通运行管理优化、面向车辆和出行者的智能化服务,以及交通应急和安全保障等方面都将形成巨大的市场。

分享到: 编辑:wangmin

就业培训申请领取
您的姓名
您的电话
意向课程
点击领取

环球青藤

官方QQ

扫描上方二维码或点击一键加群,免费领取大礼包,加群暗号:青藤。 一键加群

绑定手机号

应《中华人民共和国网络安全法》加强实名认证机制要求,同时为更加全面的体验产品服务,烦请您绑定手机号.

预约成功

本直播为付费学员的直播课节

请您购买课程后再预约

环球青藤移动课堂APP 直播、听课。职达未来!

安卓版

下载

iPhone版

下载
环球青藤官方微信服务平台

刷题看课 APP下载

免费直播 一键购课

代报名等人工服务

课程咨询 学员服务 公众号

扫描关注微信公众号

APP

扫描下载APP

返回顶部