分享

请问怎么测出namenode元数据占用的内存

各位好,开始没有往HDFS上传文件,上传40000个小文件后,那么这些小文件占用的内存是怎么测出来呢?

已有(4)人评论

跳转到指定楼层
yuwenge 发表于 2018-6-25 15:56:09
这比较难计算,先增加2000个测试下,看内存增加多少,依次类推。
为何想计算这个那?减少小文件就好了。
回复

使用道具 举报

halloki_pinjN 发表于 2018-6-25 19:44:52
yuwenge 发表于 2018-6-25 15:56
这比较难计算,先增加2000个测试下,看内存增加多少,依次类推。
为何想计算这个那?减少小文件就好了。

做了个小文件存储优化,需要测出占用内存。看了很多论文,都没有给出具体的方法。
回复

使用道具 举报

sstutu 发表于 2018-6-25 20:37:56
halloki_pinjN 发表于 2018-6-25 19:44
做了个小文件存储优化,需要测出占用内存。看了很多论文,都没有给出具体的方法。

这个不好研究,小文件也没有明确的定义是多少。
只能具体情况具体分析。有测试案例。通用的这个估计没法计算。
回复

使用道具 举报

halloki_pinjN 发表于 2018-6-26 11:50:23
sstutu 发表于 2018-6-25 20:37
这个不好研究,小文件也没有明确的定义是多少。
只能具体情况具体分析。有测试案例。通用的这个估计没法 ...

假如HDFS中没有任何文件,现上传1000个文件(不分大/小文件),能测出内存增加多少吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条