<div dir="ltr"><div><div><div><div><div><div><div><div>Dear XFS experts,<br><br></div>I was using a 16TB linux mdraid raid10 volume built from 16 seagate<br>2TB disks, which was formatted with an ext3 filesystem. It contained<br>a couple of hundred very large files (ZFS full and incremental dumps<br>with sizes between 10GB and 400GB). It also contained 7 million<br>files from our users home directories, which where backuped with<br>rsync --link-dest=<last backup dir>, so most of these files are<br>just hard links to previous versions.<br><br></div>Two weeks ago I increased the volume from 16TB to 20TB which<br>can be done with linux mdraid while still using the filesystem.<br>Reshaping lasts two days. Then I umounted the ext3 filesystem<br>to grow it from 16TB to 20TB. And guess what - ext3 does not<br>support filesystem > 16TB.<br><br></div>I decided to change the filesystem to XFS but the system must be<br></div>online during weekdays so I have a 48 hour timeframe to do<br></div>lenghty copies.<br><br></div>I added a 16TB temporary RAID5 volume to the machine and here's<br>what I did so far:<br><br>1: create a 14TB XFS-filesystem on the temporary RAID5-volume<br>2: first rsync run to copy the ext3 fs to the temporary XFS-fs,<br></div><div>this took 6 days<br></div><div>3: another rsync run to copy what changed during the first run,<br></div>this took another 2 days<br><div>4: another rsync run to copy what changed during the second run,<br></div>this took another day<br></div><div>5: xfsdump the temporary xfs fs to /dev/null. took 20 hours<br></div><div><div>5: remounting the ext3 fs readonly and do a final rsync run to<br>copy what changed during the third run. This took 10 hours.<br></div><div>6: delete the ext3 fs and create a 20TB xfs fs<br></div><div>7: copy back the temporary xfs fs to the new xfs fs using<br></div><div>xfsdump | xfsrestore<br><br></div><div>Here's my problem Since dumping the temporary xfs fs to /dev/null<br></div><div>needed less than a day I expected the xfsdump | xfsrestore<br></div><div>combination to be finished in less than 2 day. xfsdump | xfsrestore<br></div><div>should be a lot fasten than rsync since it justs pumps blocks from<br>one xfs fs into another one.<br><br></div><div>But either xfsrestore is painfully slow or I did something wrong:<br><br></div><div>Please have a look:<br><br>root@backup:/var/tmp# xfsdump -J -p600 - /xtmp | xfsrestore -J -a /var/tmp - /xtmp2<br>xfsrestore: using file dump (drive_simple) strategy<br>xfsdump: using file dump (drive_simple) strategy<br>xfsrestore: version 3.1.3 (dump format 3.0)<br>xfsdump: version 3.1.3 (dump format 3.0)<br>xfsrestore: searching media for dump<br>xfsdump: level 0 dump of backup:/xtmp<br>xfsdump: dump date: Fri May 27 13:15:42 2016<br>xfsdump: session id: adb95c2e-332b-4dde-9c8b-e03760d5a83b<br>xfsdump: session label: ""<br>xfsdump: ino map phase 1: constructing initial dump list<br>xfsdump: status at 13:25:42: inomap phase 1 14008321/28643415 inos scanned, 600 seconds elapsed<br>xfsdump: ino map phase 2: skipping (no pruning necessary)<br>xfsdump: ino map phase 3: skipping (only one dump stream)<br>xfsdump: ino map construction complete<br>xfsdump: estimated dump size: 12831156312640 bytes<br>xfsdump: creating dump session media file 0 (media 0, file 0)<br>xfsdump: dumping ino map<br>xfsrestore: examining media file 0<br>xfsrestore: dump description:<br>xfsrestore: hostname: backup<br>xfsrestore: mount point: /xtmp<br>xfsrestore: volume: /dev/md6<br>xfsrestore: session time: Fri May 27 13:15:42 2016<br>xfsrestore: level: 0<br>xfsrestore: session label: ""<br>xfsrestore: media label: ""<br>xfsrestore: file system id: 29825afd-5d7e-485f-9eb1-8871a21ce71d<br>xfsrestore: session id: adb95c2e-332b-4dde-9c8b-e03760d5a83b<br>xfsrestore: media id: 5ef22542-774a-4504-a823-d007d2ce4720<br>xfsrestore: searching media for directory dump<br>xfsrestore: NOTE: attempt to reserve 1162387864 bytes for /var/tmp/xfsrestorehousekeepingdir/dirattr using XFS_IOC_RESVSP64 failed: Operation not supported (95)<br>xfsrestore: NOTE: attempt to reserve 286438226 bytes for /var/tmp/xfsrestorehousekeepingdir/namreg using XFS_IOC_RESVSP64 failed: Operation not supported (95)<br>xfsrestore: reading directories<br>xfsdump: dumping directories<br>xfsdump: dumping non-directory files<br>xfsdump: status at 20:04:52: 1/7886560 files dumped, 0.0% data dumped, 24550 seconds elapsed<br>xfsrestore: 20756853 directories and 274128228 entries processed<br>xfsrestore: directory post-processing<br>xfsrestore: restoring non-directory files<br>xfsdump: status at 21:27:27: 26/7886560 files dumped, 0.0% data dumped, 29505 seconds elapsed<br>xfsdump: status at 21:35:46: 20930/7886560 files dumped, 0.0% data dumped, 30004 seconds elapsed<br>xfsdump: status at 21:46:26: 46979/7886560 files dumped, 0.1% data dumped, 30644 seconds elapsed<br>xfsdump: status at 21:55:52: 51521/7886560 files dumped, 0.1% data dumped, 31210 seconds elapsed<br>xfsdump: status at 22:05:45: 57770/7886560 files dumped, 0.1% data dumped, 31803 seconds elapsed<br>xfsdump: status at 22:15:43: 63142/7886560 files dumped, 0.1% data dumped, 32401 seconds elapsed<br>xfsdump: status at 22:25:42: 73621/7886560 files dumped, 0.1% data dumped, 33000 seconds elapsed<br>xfsdump: status at 22:35:51: 91223/7886560 files dumped, 0.1% data dumped, 33609 seconds elapsed<br>xfsdump: status at 22:45:42: 94096/7886560 files dumped, 0.2% data dumped, 34200 seconds elapsed<br>xfsdump: status at 22:55:42: 96702/7886560 files dumped, 0.2% data dumped, 34800 seconds elapsed<br>xfsdump: status at 23:05:42: 102808/7886560 files dumped, 0.2% data dumped, 35400 seconds elapsed<br>xfsdump: status at 23:16:15: 107096/7886560 files dumped, 0.2% data dumped, 36033 seconds elapsed<br>xfsdump: status at 23:25:47: 109079/7886560 files dumped, 0.2% data dumped, 36605 seconds elapsed<br>xfsdump: status at 23:35:52: 112318/7886560 files dumped, 0.2% data dumped, 37210 seconds elapsed<br>xfsdump: status at 23:45:46: 114975/7886560 files dumped, 0.2% data dumped, 37804 seconds elapsed<br>xfsdump: status at 23:55:55: 117260/7886560 files dumped, 0.2% data dumped, 38413 seconds elapsed<br>xfsdump: status at 00:05:44: 118722/7886560 files dumped, 0.2% data dumped, 39002 seconds elapsed<br></div><div><br></div><div>Seems like 2 days was a little optimistic<br></div><br>Any ideas what's going wrong here?<br><br>Peter Koch<br clear="all"></div></div>