温馨提示  2024年 6月我们已经停止开发者板块文章内容更新,谢谢来访。存档数据
知识 2023-08-28 28 次阅读

storm topology优化思路是什么

   

本篇内容主要讲解“storm topology优化思路是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“storm topology优化思路是什么”吧!

    先假设一种环境,三台机器,cpu core 4,net km 网

topology

componentnameexecutor latency(ms)spouts-bolta0.5boltb0.1boltc0.5boltd1.0bolte0.2

    executor代表数据进入bolt execute方法执行的时间,storm通过采样得到,采样在总数上必定会有误差,但平均数我们暂且认为其一定,这就相当于在1w个1中随机选择一个,怎么选都是1,所以暂且我们假设executor latency可信,最后我们通过实际效率反过来再验证我们的假设

    假定,我们以一种参数提交了topology,运行后ui查看参数如表格,我们观察发现,a,c 两个bolt延迟在0.5ms,b bolt延迟在0.1ms,d bolt延迟在1.0ms,e bolt延迟在0.2ms,所以可以认为性能b=2e=5a=5c=10d,所以我们提高整个topology的效率可以调整各bolt的并行度,我们设b的并行度为x,可以得出   x+2x+5x*2+10x=all executor,如果在某个bolt中有阻塞情况,我们可再额外提高一些并行度,该环境中三台机器,最大并行度为3*4=12,x》=1,所以x=1,由此可得出,b bolt并行度为1,所以每秒处理效率大概=1000/0.1*1=1w

    另外在storm中每个worker有个线程池,池大小默认为core数,我们可根据情况提高池大小,提高cpu利用率

其它参数这里不提了,根据实际情况可以酌情调整

到此,相信大家对“storm topology优化思路是什么”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!