hammer3.5有趣的问题题

凸体BRUNNMINKOWSKI理论中的几个问题
扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
凸体BRUNNMINKOWSKI理论中的几个问题
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口1118次查看&&&
啪啪的移动端安全其实是不错的,只是碰巧在OAuth 2.0协议的实现上躺枪了。囧,OAuth 2.0还有多少个坑大家还得中啊?Eran Hammer,你画圈圈诅咒千万别应验……
此案例在公开后,各开放平台、以及依赖各OAuth平台登录的客户端开发者(典型如手机应用)可以注意一下。理论上,遇到此问题的概率不甚大,至少我半个多月断断续续地大海捞针,才找到一两家存在此问题。
8398次查看&&&
经测试秒杀最新的3.5版
stieserver官网:
直接访问UserCenter/login.aspx
用户名处输入:
123'insert into bairong_Administrator([U...
1895次查看&&&
其实一整套系统盲注挺多的.....不过他有个防注入的代码...有点蛋疼
我就直接贴代码吧
转摘请注意署名(转摘不署名的烂JJ,全家的JJ都烂掉)& &/sethc5& &&&西毒
微博求关注啊& &http://1./x0h4ck3r您所在的位置: &
3.5 Hadoop平台上的海量数据排序(2)
3.5 Hadoop平台上的海量数据排序(2)
机械工业出版社
《Hadoop实战》第3章Hadoop应用案例分析,本章主要介绍了Hadoop的具体使用案例,我们选取了Yahoo!、百度、Facebook、eBay和海量数据排序为例进行说明,主要介绍了商业公司如何使用Hadoop来增强自己的服务,以及它们在使用Hadoop中遇到的各种问题和改进的方法。本节为大家介绍Hadoop平台上的海量数据排序。
3.5 Hadoop平台上的海量数据排序(2)
使用Hadoop进行 GraySort基准排序时,Yahoo!的研究人员将上面的map/reduce应用程序稍加修改以适应新的规则,整个程序分为4个部分,分别为:
TeraGen是产生数据的map/reduce程序;
TeraSort进行数据取样,并使用map/reduce对数据进行排序;
TeraSum是map/reduce程序,用来计算每个键/值对的CRC32,共128位校验和;
TeraValidate是用来验证输出数据是否有序的map/reduce程序,并且计算校验和的总和。
TeraGen和TeraSort与上面介绍的一样,TeraValidate除了增加了计算输出目录校验和总和的任务以外,其他都一样,这里不再赘述。
TeraSum计算每个键/值对的CRC32的校验和,每个map任务计算输入的校验和并输出,然后一个reduce任务将每个map生成的校验和相加。这个程序用来计算输入目录下每个键/值对校验和的和,还用来检查排序输出后的正确性。
(点击查看大图)图3-10 每个阶段的任务数
这次基准测试运行在Yahoo!的Hammer集群上,集群的具体细节如下:
将近3800个节点(在这样大规模的集群中,一些节点会坏掉);
每个节点两个双核2.5GHz的Xeons处理器;
每个节点4个SATA硬盘;
每个节点8GB内存(在PB级排序前会升级到16GB);
每个节点1GB的以太网带宽;
每个rack拥有40个节点;
每个节点到核心有8GB的以太网带宽;
操作系统为Red Hat Enterprise Linux Server Realease 5.1(kernel 2.6.18);
JDK为Sun Java JDK(1.6.0 05-b13 and 1.6.0 13-b03)(32 and 64 bit)。
对于较大规模的排序,这里NameNode和JobTracker使用的是64位的JVM。排序测试所用的Hadoop平台也做了一些变化,主要有:
重新实现了Hadoop shuffle阶段的reducer部分,在重新设计后提高了shuffle的性能,解除了瓶颈,而且代码也更容易维护和理解了;
新的shuffle过程从一个节点获取多个map的结果,而不是之前的一次只取一个结果。这样防止了多余的连接和传输开销;
允许配置shuffle连接的超时时间,在小规模排序时则可以将其减小,因为一些情况下shuffle会在超时时间到期后停止,这会增加任务的延迟时间;
设置TCP为无延迟并增加TaskTracker和TaskTracker之间ping的频率,以减少发现问题的延迟时间;
增加一些代码,用来检测从shuffle传输数据的正确性,防止引起reduce任务的失败。
在map输出的时候使用LZO压缩,LZO能压缩45%的数据量;
在shuffle阶段,在内存中将map的结果聚集输出的时候实现了reduce需要的内存到内存的聚集,这样减少了reduce运行时的工作量;
使用多线程实现抽样过程,并编写一个基于键值平均分布的较为简单的分配器;
在较小规模的集群上,配置系统在TaskTracker和JobTracker之间拥有较快的心跳频率,以减少延迟(默认为10秒/1000节点,配置为2秒/1000节点);
默认的JobTracker按照先来先服务策略为TaskTracker分配任务,这种贪心的任务分配方法并不能很好地分布数据。从全局的角度来看,如果一次性为map分配好任务,系统会拥有较好的分布,但是为所有的Hadoop程序实现全局调度策略是非常困难的,这里只是实现了TeraSort的全局调度策略;
Hadoop 0.20增加了安装和清除任务的功能,但是在排序基准测试里这并不需要,可以设置为不启动来减少开始和结束任务的延迟;
删除了框架中与较大任务无关的一些硬编码等待循环,因为它会增加任务延迟时间;
允许为任务设置日志的级别,这样通过配置日志级别可以从INFO到WARN减少日志的内容,减少日志的内容对系统的性能有较大的提高,但是增加了调试和分析的困难;
优化任务分配代码,但还未完成。目前,对输入文件使用RPC请求到NameNode上会花费大量的时间。
Hadoop与上面的测试相比有了很大的改进,可以在更短的时间内执行更多的任务。值得注意的是,在大集群和分布式应用程序中需要转移大量数据,这会导致执行时间有很大的变化。但是随着Hadoop的改进,它能够更好地处理硬件故障,这种时间变化也就微不足道了。不同规模的数据排序所需的时间如表3-2所示。
因为较小规模的数据需要更短的延迟和更快的网络,所以使用集群中的部分节点来进行计算。将较小规模计算的输出副本数设置为1,因为整个过程较短且运行在较小的集群上,节点坏掉的可能性相对较小。而在较大规模的计算上,节点坏掉是难免的,于是将节点副本数设置为2。HDFS保证节点换掉后数据不会丢失,因为不同的副本放在不同的节点上。
Yahoo!的研究人员统计了JobTracker上从任务提交状况获得的任务数随时间的变化,图3-11、图3-12、图3-13、图3-14显示了每个时间点下的任务数。maps只有一个阶段,而reduces拥有三个阶段:shuffle、merge和reduce。shuffle是从maps中转移数据的,merge在测试中并不需要;reduce阶段进行最后的聚集并写到HDFS上。如果将这些图与图3-6进行比较,你会发现建立任务的速度变快了。图3-6中每次心跳建立一个任务,那么所有任务建立起来需要40秒,现在Hadoop每次心跳可以设置好一个TaskTracker,可见减少任务建立的开销是非常重要的。
运行大规模数据时,数据传输的次数对任务性能的影响也是非常大的。在PB级数据排序中,每个map处理15GB的数据而不是默认的128MB,每个reduce处理50GB的数据。如果按照1.5GB/map进行处理,需要 40个小时才能完成。因此,为了增加吞吐量,增加每个块的大小是非常重要的。
图3-11 数据量为500GB时任务数随时间的变化
图3-12 数据量为1TB时任务数随时间的变化
(点击查看大图)图3-13 数据量为100TB时任务数随时间的变化
(点击查看大图)图3-14 数据量为1PB时任务数随时间的变化【责任编辑: TEL:(010)】&&&&&&
关于&&的更多文章
Hadoop是一个分布式系统基础架构,也是当前最火热的大数据技术。
网友评论TOP5
本书描述了黑客用默默无闻的行动为数字世界照亮了一条道路的故事。
《修炼之道:互联网产品从设计到运营》以典型的互联网
本书是讲述脑科学的科普读物。从脑的基本结构,到人的
很多企业把网络营销当成一夜暴富的捷径,根源的偏差导
本书描述了怎样应用面向对象的概念来进行.NET应用程序的架构、设计和开发。作者将重点放在了面向业务的对象,即业务对象和怎样在
51CTO旗下网站DAVID.v3.5.1.3298 1CD
TA的其他闲置
&PTC.Creo.v2.0.M030-ISO 2DVD&PTC.PDX.v7.0.M010.Win32_64-ISO 2DVD&SolidCAM 2013 SP0 for SolidWorks
Multilanguage Win32_64 2DVD&TSoft.AxPile.v1.0.0.BearFoot.v3.0.0 1CD&DAVID.v3.5.1.3298 1CD&TAB Reader for ArcGIS Desktop v4.1.0.208 1CDKG-tower+2005.rarpsim9.1.1_32000.rarPsimBook9.1.1.rarAutoPlant 3D_2.01\DP.Technology.ESPRIT.2009\Gemcom Whittle.v4.5 1CD\Intergraph SmartPlant 3D 2009-ISO 1DVD\KG-tower 2005\KG-tower 2005z\Neotec WELLFLO V8.1.6(v7.300.1.4)\psim9.1.1_32\Proteus7.12完美破解版.rarSilvaco AMS 2008.09 Manual 1CD.rarCAESAR II 5.30.2\EPS PanSystem 3.5.1\Geo5.v5.9.14 Full\MIDAS GEN V 7.0.2\PROKON Structural Analysis and Design v2.5.17 SP1 1CD\Trimble Business Center v2.20 for WinXP-ISO\Lectra_Forrmaris_Furniture_V5R1.zipSilvaco AMS 2008.09 Manual 1CD.rarLectra Formaris v5R1C1\++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ & & & & & & & & & & & & & & & & & & & & & & & & & & & & & & &&+ 长期有效,需要联系:++ 联 系 Q Q: & 电 话:++ Skype: &++ 联系Email:
&+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++Lectra Forrmaris Furniture V5R1\Lectra.DesignConcept.3D.v3R1c.Multilanguage-ISO 2cd\TEBIS V3.4 R4 R5 中文版教程 视频录像 tebis培训手册\TEBIS3.4R4 完整后处理 CADCAM制造辅助设计软件\TEBIS3.4R5 送后处理 完全中文版视频教程\Tebis软件详细中文学习教程\ESI-GROUP产品:ProCAST 2011.0 Win32 & Win64-ISO 1CD(最新完全解密正式版)Geomesh v5.0b 1CD(剖分软件,可用于procast几何修复及网格划分)NovaFlow & Solid CV v4.3r6 1CD(铸造过程仿真模拟软件)Visual.Environment v8.0 Win32_64 1DVD(开放式的虚拟产品设计解决方案,可以实现一系列模拟解决方案之间的协同工作)Virtual.Performance.Solution.2011.Win32_64-ISO 1CD& &ProCAST 2006 中文培训资料ProCAST 金属型铸造教程ProCAST 精铸教程ProCAST 砂铸教程ProCAST 压铸教程ProCAST 中文使用教程ProCAST 培训资料ProCAST 2004.0 用户手册(英文版)ProCAST Release Notes 2004.0 (英文版)Inverse Module-ProCAST2004.0 用户手册 (英文版)ProCAST 2004 压铸实例完整word版(中文)MeshCAST2004.0 英文使用教程 ESI Welding Simulation Suite(PAM-Assembly+Weld Planner) v2010.0 for Win32_64-ISO 1DVDESI.SysWeld..Win32_64-ISO 1DVD(为焊接、热处理和焊接装配开发的三维有限元专业分析系统)ESI SysWeld 2009.0-ISO 1DVDESI Sysweld 2007 User's Guides 1DVD ESI.Foam-X.2010.Win32-ISO 1CD(声学材料解决方案)ESI.Nova.2010.Win32_64-ISO 2CD(声学材料解决方案)ESI.Vibro-Acoustic.ONE(VA-ONE).2012.0.Win32_64-ISO 2DVD(全频段振动噪声分析软件)ESI VA-ONE v2007 Catia5 Importer 1CD ESI CFD v2010.0.Win32-ISO 1CD(流体力学模拟计算)ESI.CFD.v2010.Win64-ISO 1DVDESI.CFD.v2009.SUSE10.Linux32-ISO 1DVDESI.CFD.v2009.SUSE10.Linux64-ISO 1DVDESI ACE+ Suite 2010.0.Win32 1CD ESI.QuikCAST.2010.0.Win32_64-ISO 1CD(快速铸造模拟软件,采用基于有限差分元(FDM)的数值计算方法,操作简单、方便。& & & & & & & & & & & & & & & & & & & 可应用于砂模铸造、金属模铸造、高/低压铸造等多种铸造过程)ESI PAM-Shock v2007 1CD(能够预测高频振动,强大而短暂的脉冲(typically a pyrotechnic event)作用& & & & & & & & & & & & &在卫星或火箭(主要是货物或飞行器设备舱)的某一部分)ESI PAM-CRASH 2G 2008-ISO 1DVD(汽车、造船等工业冲撞测试模拟分析软件)ESI PAM-STAMP 2G v2012.0 for Win32_64-ISO 1DVD(世界首屈一指的冲压模拟软件)ESI PAM-Stamp 2G 2012.0 Linux32_64 1DVDESI PAM-STAMP 2G v2007.0 for WINDOWS-Linux-Unix-Irix-ISO 3CDESI PAM-STAMP 2G v2003.0(英文使用教程) CFDRC.v2008.Win32.final.安装版-ISO 1CD(CFDRC 套装应用软体,此软件系有限容积法及 PSI-Cell 方法所发展出来之& & & & & & & & & & & & & & & & & & & 计算流体力学套装应用软体。可以模拟流体流动、热传递、质量传递、化学反应& & & & & & & & & & & & & & & & & & & 等,目前实验室利用 CFDRC 并配合实验系统以了解燃料电池的作用机制)CFDRC.v2004 User Manual-ISO &1CD
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
(1个月前)见面交易
CAESAR II .10 (.2支持win7 32 和 64)
SBS社区平台技术由提供 ICP证:浙B2-

我要回帖

更多关于 有趣的问题 的文章

 

随机推荐