日本电子维修技术 NAS求教ZFS如何去优化?



目前使用的4块矿渣4T的sas盘,用TrueNAS(一个12c48G的虚拟机)做了raid10
2块7600P 1T做成了L2arc,一个P3500做了ZIL。
通过NFS方案,共享给Proxmox VE主机,相当于为一个私有云提供了后端存储


目前虚拟机内的读写速度实在是太拉跨了,只能到能用的程度。
4K写入就只有1.5M/s左右
感觉ZFS是负优化,我尝试过4块1T的7600P,做raid10,4K性能也非常低。

ARC配置了42G内存。设置了vfs.zfs.l2arc_write_max和boost,速度还是不理想
大佬们,是不是没有优化好,还是我要求高了。。。。。。






评论

QQ截图20210815161123.png (101.82 KB, 下载次数: 0)

2021-8-15 16:11 上传

QQ截图20210815153933.png (131.55 KB, 下载次数: 0)

2021-8-15 15:39 上传



评论
  关掉raid提升性能..不开玩笑的说,毕竟你直接用ssd 4k性能也还是不行。对于家用来说raid我实在看不到什么价值。想图方便就做个pool直接用,怕盘坏就分开挂载
   ​cache这东西讲求的就是一个命中率,命中了就是缓存速度没命中就是存储的原生速度(看你这测试4k速度就是机械硬盘应有的速度)。缓存也不是万能解药
   最后..如果对于性能有要求的话我是不会考虑矿渣也不会考虑用虚拟机的。虚拟机对于io的影响你可以自行查询一下,本坛应该有挺多的

评论
没记错的话

freenas官方白皮书,如果内存不超过64G,不建议做写缓存

然后就是,尽量都直通

让内存直接作为缓存读写

虚拟机内还这样做,好像是不咋地

评论

虚拟内应该没问题。
NVME是直通的,硬盘是接到SAS控制器,SAS控制器也是直通。Nutanix的CVM就是这么做的。我试试把内存调成64G以上再试试。

评论

确实坑,安全性和速度不能两全。对比企业的存储,机械加ssd缓存,有很不错的IOPS,可能是我机械矿渣问题,单盘性能不足,导致整体性能不足。
主要是全闪的zfs性能不足,我是完全没想到。。

评论
vfs.zfs.l2arc_norw: 0
vfs.zfs.l2arc_feed_again: 1复制代码

这俩参数试试?

然后不知道你 dataset 的 sync 和 record size 是多少?

zfs 的核心卖点并不是性能,极度成熟的 snapshot 机制才是真的大杀器

至于 zil,首先要明确一下,zil 不是写缓存,只是用一个单独的设备在同步写的情况下拿来存写入日志,防止宕机造成的数据丢失

建议先用内存映射出一个 memory disk 当 zil 试试,看看极限的性能是怎样,如果好很多那建议把 3500 换成 optane(800p,900p,905p 等

理论上来说 sync 写的情况下增加内存不会提高写性能

# create 6GB memory drive, at /dev/md1
mdconfig -a -t swap -s 6g -u 1

# add the ramdisk md1 as slog to pool tank
zpool add tank log md1


# remove ram slog from pool
zpool remove tank md1

# destroy ram disk md1
mdconfig -d -u 1复制代码


参考:https://www.truenas.com/communit ... g-a-ram-disk.56561/


评论

你确定不是TRUENAS拉夸?我用实体机测试truenas scale,12盘M2 SSD,做Z1性能还不如黑裙虚拟机直通,

评论

感谢!我稍后去试一试

评论

TrueNAS确实拉跨

评论

感谢大佬,目前关闭SYNC,关闭压缩,将record设置成64K,添加你给的2个参数,4K性能得到了明显的提升。听你的意见,将内存作为ZIL,性能没有得到提升。

这个是没有添加log和L2arc的测试。

QQ截图20210815200442.png (116.21 KB, 下载次数: 0)

2021-8-15 20:05 上传



感觉很幸福。这数据很香。
但是看到其他帖子里用傲腾的zfs,50w iops这太恐怖了。



评论
折腾4k性能用btrfs

评论


最后是没加缓存了?

写LOG是内存盘吗

评论
zfs没有写缓存的概念,机械盘的4k就这点,不存在优化空间,改任何参数都无用。
内存用来当读缓存的,加大内存无非提高命中率,ecc无非保证读取不出错。

评论

单独的盘,什么都没有加。

评论

现在d3 的reg,ecc内存8G。咸鱼均价65。算上650元有80G。感觉比用傲腾划算多了。

评论

加强4K性能是为了让虚拟机变得流畅点。并不是追求很高

评论



记得是说,什么都不加,会给盘用内存单独写一个SLOG

评论
普通人不要碰任何raid,就单块硬盘一个分区,重要数据做好备份就行了

评论
4k ipos 有 500 多,差么? 不差吧


评论

看来,只需要无脑加内存就行了

评论



zfs就是发疯的加,你敢死,他就敢埋

而且缓存机制是为了多用户多并发准备的 电路 电子 维修 我现在把定影部分拆出来了。想换下滚,因为卡纸。但是我发现灯管挡住了。拆不了。不会拆。论坛里的高手拆解过吗? 评论 认真看,认真瞧。果然有收 电路 电子 维修 求创维42c08RD电路图 评论 电视的图纸很少见 评论 电视的图纸很少见 评论 创维的图纸你要说 版号,不然无能为力 评论 板号5800-p42ALM-0050 168P-P42CLM-01
 ·日本中文新闻 唐田绘里香为新剧《极恶女王》剃光头 展现演员决心
·日本中文新闻 真子小室夫妇新居引发隐私担忧
·日本中文新闻 前AKB48成员柏木由纪与搞笑艺人交往曝光
·日本学校 {日本国际学校}梅田インターナショナルスクール
·日本学校 LINE:sm287 陳雨菲、20歳、台湾からの留学生、東京に来たばかり
·日本留学生活 出售平成22年走行48000km 代步小车
·日本华人网络交流 円相場 一時1ドル=140円台まで上昇?
·日本华人网络交流 问日本华人一个问题
·日本旅游代购 富山接机
 ·生活百科 英国转澳大利亚转换插头
·汽车 【求助】修车遇到困难怎么办?

维修经验

CPUcpu-z 1.77版低调发布

日本维修技术更新: New benchmark “submit and compare” feature New clocks dialog reporting all system’s clock speeds in real-time Preliminary support for Intel Kaby Lake AMD Bristol Ridge processors 主要是增加了支持I、A两个新架构的 ...

维修经验

CPU这几天经常开机黑屏,热重启后又正常

日本维修技术这几天经常开机黑屏,热重启后又正常,今天热重启也不管用了。折腾半天总算点亮,显示超频失败,以前出这个画面我是不理它的,直接重启就能正常进系统了,今天不敢托大,因为 ...

维修经验

CPU超频求助!关于华擎H170和6700K

日本维修技术问题见楼主的show贴 https://www.chiphell.com/thread-1634895-1-1.html 这次华擎的H170 Hyper最大的特色应该是自带时钟发生器可以自由超外频 可是楼主好久没有折腾超频了。。。 两图中除了CPU外频 以 ...

维修经验

CPU液态金属会侵蚀cpu核心吗?

日本维修技术前阵子看到有人说,液态金属时间长了会侵蚀cpu铜盖,那么问题来了,这货会不会侵蚀核心呢? 评论 这玩意儿好像只对铝起反应 评论 不是说,cpu的盖子是铜的吗。。。 评论 不会,核 ...

维修经验

CPUm6i究竟支不支持e3 1231v3

日本维修技术官网上看支持列表没写有e3 1231v3,装机帖又有人晒,百度也没个明确答案,那究竟能不能点亮?有在用的chher说一下么 评论 升级最新bios肯定可以支持 评论 我的p67evo官网上也没说支持12 ...

维修经验

CPU华擎 HYPER 妖板 正确玩法

日本维修技术600元的 B150,10相供电,释放洪荒之力 注意必须官网 Beta 区的 BIOS 有 AVX 的 CPU 可能会掉缓存 启动时按 X 键激活 SKY OC,重启后进入 BIOS 160924164727.jpg (95.63 KB, 下载次数: 1) 2016-9-24 17:47 上传 ...

维修经验

CPUE5 2686 V3和i7 6800K如何选择

日本维修技术默认用,不超频,两者功耗是一模一样的 E5 2686 V3:2.0主频,3.5睿频, 18核心36线程 ,45M L3 咸鱼大约2500~3000元 i7 6800K : 3.5主频,3.8睿频 ,6核心12线程 ,盒装3000元 评论 性能应该是26 ...

维修经验

CPUHD530硬解4K能力还是有点弱呀!

日本维修技术播放器用PotPlay 64bit,各种优化后,跑4K @120Hz视频只能到70帧左右的速度,勉强能用! 显示器用的4K的优派VP2780 未标题-1.jpg (211.97 KB, 下载次数: 0) 2016-9-26 21:29 上传 评论 这个估计你没优化 ...

维修经验

CPU6900k 1.25V到4.2体质怎么样

日本维修技术如图,体质怎么样,ring是35,没敢试了,都说ring高了毁硬件 评论 不错的U,但不算雕,上4.4就大雕了,这电压上4.5的目前没见有人发图 评论 谢谢前辈告知 评论 我这个用1.2V超的4.2,R ...

维修经验

CPUI3 6100 华擎B150M pro4超4.5g测试。

日本维修技术看看论坛没多少i3 6100的帖子,就转下自己发的show贴里面的数据,给大家参考下。家里还有当年的神U i3 540 oc 4.5G在给老妈用。 不知道数据上正常吗?有6100的朋友可以告诉下,另外是不有 ...

维修经验

CPU7系u会兼容100系主板吗?

日本维修技术RT,听说要推200系板,100系还能用吗以后。。 评论 兼容的 评论 感谢!以后换u就行了,目前消息200系板会有新的特性吗? 评论 24条PCI-E 3.0通道、支持Intel Optane混合存储技术、十个USB 3 ...

维修经验

CPU有心入5820k了,求教下温度问题

日本维修技术一直徘徊在6700k和5820k之间,6700k现在这德行直接把我推向了5820k啊,从2600k升级上来,三大件都要换,现在唯一疑惑的是IB-E ex这种顶级风冷能不能压住4.5g的5820呢?毕竟刚刚买一个多月。 ...

维修经验

CPU6600&6600K才100的差价

日本维修技术太少了吧。。。 6600.JPG (106.91 KB, 下载次数: 0) 2016-10-1 10:30 上传 评论 毕竟只是i5而已…… 评论 上z170 6600也能超,等于没区别,差价能有100已经不错了 评论 然后又见不超频人士推荐超频 ...