xfs
[Top] [All Lists]

Re: deep chmod|chown -R begin to start OOMkiller

To: linux-xfs@xxxxxxxxxxx
Subject: Re: deep chmod|chown -R begin to start OOMkiller
From: Peter Broadwell <peter@xxxxxxxx>
Date: Fri, 12 May 2006 12:36:21 -0700
Sender: linux-xfs-bounce@xxxxxxxxxxx
User-agent: Thunderbird 1.5.0.2 (X11/20060420)
I seem to be having the same problem as CHIKAMA Masaki was having in December 
7, 2005,
namely "chown -R" running very slowly when hitting lots of files (~17 million 
in my case).

My machine doesn't have the same constraints that David pointed to as at least 
part
of the problem.
I have fast disks, and lots of memory (though perhaps still bad logfile sizes)
So I thought I'd feed into the discussion a bit, hoping for any other ideas...

I'm most interested in anything to (safely) speed this up on a live file system 
as it
has been running for nearly 24 hours so far... not hung or corrupted anything 
as far
as I can tell.

Following is possibly interesting info from uname, /proc/meminfo, 
/proc/slabinfo, ...
(I don't have OOMkiller though):

Thanks -

;;peter

= = = = (start of info) = = = =

peter@cl1 /data $ uname -sr
Linux 2.6.14-gentoo-r2
peter@cl1 /data $ cat /proc/meminfo
MemTotal: 8058120 kB
MemFree: 2770704 kB
Buffers: 12 kB
Cached: 3412304 kB
SwapCached: 6860 kB
Active: 2914928 kB
Inactive: 1673712 kB
HighTotal: 0 kB
HighFree: 0 kB
LowTotal: 8058120 kB
LowFree: 2770704 kB
SwapTotal: 32129968 kB
SwapFree: 32114220 kB
Dirty: 16 kB
Writeback: 0 kB
Mapped: 1191804 kB
Slab: 666680 kB
CommitLimit: 36159028 kB
Committed_AS: 1313628 kB
PageTables: 4564 kB
VmallocTotal: 34359738367 kB
VmallocUsed: 24420 kB
VmallocChunk: 34359713687 kB
HugePages_Total: 0
HugePages_Free: 0
Hugepagesize: 2048 kB
peter@cl1 /data $ cat /proc/slabinfo
slabinfo - version: 2.1
# name <active_objs> <num_objs> <objsize> <objperslab> <pagesperslab> : tunables <limit> <batchcount> <sharedfactor> : slabdata <active_slabs> <num_slabs> <sharedavail>
rpc_buffers 8 8 2048 2 1 : tunables 24 12 8 : slabdata 4 4 0
rpc_tasks 8 10 384 10 1 : tunables 54 27 8 : slabdata 1 1 0
rpc_inode_cache 8 12 832 4 1 : tunables 54 27 8 : slabdata 3 3 0
fib6_nodes 7 118 64 59 1 : tunables 120 60 8 : slabdata 2 2 0
ip6_dst_cache 7 24 320 12 1 : tunables 54 27 8 : slabdata 2 2 0
ndisc_cache 1 15 256 15 1 : tunables 120 60 8 : slabdata 1 1 0
RAWv6 4 4 896 4 1 : tunables 54 27 8 : slabdata 1 1 0
UDPv6 1 4 896 4 1 : tunables 54 27 8 : slabdata 1 1 0
tw_sock_TCPv6 0 0 192 20 1 : tunables 120 60 8 : slabdata 0 0 0
request_sock_TCPv6 0 0 128 30 1 : tunables 120 60 8 : slabdata 0 0 0
TCPv6 6 10 1536 5 2 : tunables 24 12 8 : slabdata 2 2 0
UNIX 41 54 640 6 1 : tunables 54 27 8 : slabdata 9 9 0
tcp_bind_bucket 34 448 32 112 1 : tunables 120 60 8 : slabdata 4 4 0
inet_peer_cache 0 0 64 59 1 : tunables 120 60 8 : slabdata 0 0 0
ip_fib_alias 14 118 64 59 1 : tunables 120 60 8 : slabdata 2 2 0
ip_fib_hash 14 118 64 59 1 : tunables 120 60 8 : slabdata 2 2 0
ip_dst_cache 36 48 320 12 1 : tunables 54 27 8 : slabdata 4 4 0
arp_cache 8 30 256 15 1 : tunables 120 60 8 : slabdata 2 2 0
RAW 3 11 704 11 2 : tunables 54 27 8 : slabdata 1 1 0
UDP 16 20 768 5 1 : tunables 54 27 8 : slabdata 4 4 0
tw_sock_TCP 23 40 192 20 1 : tunables 120 60 8 : slabdata 2 2 0
request_sock_TCP 8 30 128 30 1 : tunables 120 60 8 : slabdata 1 1 0
TCP 15 25 1408 5 2 : tunables 24 12 8 : slabdata 5 5 0
uhci_urb_priv 0 0 88 44 1 : tunables 120 60 8 : slabdata 0 0 0
scsi_cmd_cache 29 35 512 7 1 : tunables 54 27 8 : slabdata 5 5 0
cfq_ioc_pool 0 0 96 40 1 : tunables 120 60 8 : slabdata 0 0 0
cfq_pool 0 0 160 24 1 : tunables 120 60 8 : slabdata 0 0 0
crq_pool 0 0 88 44 1 : tunables 120 60 8 : slabdata 0 0 0
deadline_drq 607 760 96 40 1 : tunables 120 60 8 : slabdata 18 19 480
as_arq 0 0 112 34 1 : tunables 120 60 8 : slabdata 0 0 0
mqueue_inode_cache 1 4 896 4 1 : tunables 54 27 8 : slabdata 1 1 0
xfs_chashlist 205900 385952 32 112 1 : tunables 120 60 8 : slabdata 3446 3446 0
xfs_ili 273754 273760 192 20 1 : tunables 120 60 8 : slabdata 13688 13688 0
xfs_ifork 0 0 64 59 1 : tunables 120 60 8 : slabdata 0 0 0
xfs_efi_item 0 0 352 11 1 : tunables 54 27 8 : slabdata 0 0 0
xfs_efd_item 0 0 360 11 1 : tunables 54 27 8 : slabdata 0 0 0
xfs_buf_item 1 21 184 21 1 : tunables 120 60 8 : slabdata 1 1 0
xfs_dabuf 45 288 24 144 1 : tunables 120 60 8 : slabdata 2 2 0
xfs_da_state 0 0 488 8 1 : tunables 54 27 8 : slabdata 0 0 0
xfs_trans 186 351 872 9 2 : tunables 54 27 8 : slabdata 32 39 81
xfs_inode 275317 275317 528 7 1 : tunables 54 27 8 : slabdata 39331 39331 0
xfs_btree_cur 0 0 192 20 1 : tunables 120 60 8 : slabdata 0 0 0
xfs_bmap_free_item 0 0 24 144 1 : tunables 120 60 8 : slabdata 0 0 0
xfs_buf 288 414 408 9 1 : tunables 54 27 8 : slabdata 45 46 216
xfs_ioend 32 54 144 27 1 : tunables 120 60 8 : slabdata 2 2 0
xfs_vnode 275316 275316 632 6 1 : tunables 54 27 8 : slabdata 45886 45886 0
ntfs_big_inode_cache 0 0 896 4 1 : tunables 54 27 8 : slabdata 0 0 0
ntfs_inode_cache 0 0 272 14 1 : tunables 54 27 8 : slabdata 0 0 0
ntfs_name_cache 0 0 512 8 1 : tunables 54 27 8 : slabdata 0 0 0
ntfs_attr_ctx_cache 0 0 64 59 1 : tunables 120 60 8 : slabdata 0 0 0
ntfs_index_ctx_cache 0 0 128 30 1 : tunables 120 60 8 : slabdata 0 0 0
nfs_write_data 36 36 832 9 2 : tunables 54 27 8 : slabdata 4 4 0
nfs_read_data 32 35 768 5 1 : tunables 54 27 8 : slabdata 7 7 0
nfs_inode_cache 1 4 912 4 1 : tunables 54 27 8 : slabdata 1 1 0
nfs_page 0 0 128 30 1 : tunables 120 60 8 : slabdata 0 0 0
isofs_inode_cache 0 0 632 6 1 : tunables 54 27 8 : slabdata 0 0 0
fat_inode_cache 0 0 664 6 1 : tunables 54 27 8 : slabdata 0 0 0
fat_cache 0 0 32 112 1 : tunables 120 60 8 : slabdata 0 0 0
hugetlbfs_inode_cache 1 6 600 6 1 : tunables 54 27 8 : slabdata 1 1 0
ext2_inode_cache 0 0 744 5 1 : tunables 54 27 8 : slabdata 0 0 0
ext2_xattr 0 0 88 44 1 : tunables 120 60 8 : slabdata 0 0 0
journal_handle 0 0 24 144 1 : tunables 120 60 8 : slabdata 0 0 0
journal_head 0 0 96 40 1 : tunables 120 60 8 : slabdata 0 0 0
revoke_table 0 0 16 202 1 : tunables 120 60 8 : slabdata 0 0 0
revoke_record 0 0 32 112 1 : tunables 120 60 8 : slabdata 0 0 0
ext3_inode_cache 0 0 792 5 1 : tunables 54 27 8 : slabdata 0 0 0
ext3_xattr 0 0 88 44 1 : tunables 120 60 8 : slabdata 0 0 0
reiser_inode_cache 0 0 704 5 1 : tunables 54 27 8 : slabdata 0 0 0
dnotify_cache 0 0 40 92 1 : tunables 120 60 8 : slabdata 0 0 0
eventpoll_pwq 0 0 72 53 1 : tunables 120 60 8 : slabdata 0 0 0
eventpoll_epi 0 0 192 20 1 : tunables 120 60 8 : slabdata 0 0 0
inotify_event_cache 0 0 40 92 1 : tunables 120 60 8 : slabdata 0 0 0
inotify_watch_cache 1 59 64 59 1 : tunables 120 60 8 : slabdata 1 1 0
kioctx 0 0 320 12 1 : tunables 54 27 8 : slabdata 0 0 0
kiocb 0 0 256 15 1 : tunables 120 60 8 : slabdata 0 0 0
fasync_cache 0 0 24 144 1 : tunables 120 60 8 : slabdata 0 0 0
shmem_inode_cache 840 850 792 5 1 : tunables 54 27 8 : slabdata 170 170 0
posix_timers_cache 0 0 168 23 1 : tunables 120 60 8 : slabdata 0 0 0
uid_cache 9 118 64 59 1 : tunables 120 60 8 : slabdata 2 2 0
sgpool-128 32 32 4096 1 1 : tunables 24 12 8 : slabdata 32 32 0
sgpool-64 32 32 2048 2 1 : tunables 24 12 8 : slabdata 16 16 0
sgpool-32 32 32 1024 4 1 : tunables 54 27 8 : slabdata 8 8 0
sgpool-16 45 48 512 8 1 : tunables 54 27 8 : slabdata 6 6 0
sgpool-8 52 60 256 15 1 : tunables 120 60 8 : slabdata 4 4 0
blkdev_ioc 114 201 56 67 1 : tunables 120 60 8 : slabdata 3 3 0
blkdev_queue 31 44 712 11 2 : tunables 54 27 8 : slabdata 4 4 0
blkdev_requests 311 630 264 15 1 : tunables 54 27 8 : slabdata 40 42 216
biovec-(256) 256 256 4096 1 1 : tunables 24 12 8 : slabdata 256 256 0
biovec-128 256 256 2048 2 1 : tunables 24 12 8 : slabdata 128 128 0
biovec-64 256 256 1024 4 1 : tunables 54 27 8 : slabdata 64 64 0
biovec-16 285 285 256 15 1 : tunables 120 60 8 : slabdata 19 19 0
biovec-4 864 1652 64 59 1 : tunables 120 60 8 : slabdata 27 28 480
biovec-1 482 1616 16 202 1 : tunables 120 60 8 : slabdata 8 8 108
bio 860 1500 128 30 1 : tunables 120 60 8 : slabdata 50 50 480
file_lock_cache 6 24 160 24 1 : tunables 120 60 8 : slabdata 1 1 0
sock_inode_cache 93 130 704 5 1 : tunables 54 27 8 : slabdata 26 26 0
skbuff_fclone_cache 20 32 448 8 1 : tunables 54 27 8 : slabdata 3 4 0
skbuff_head_cache 555 1035 256 15 1 : tunables 120 60 8 : slabdata 69 69 0
acpi_operand 1127 1166 72 53 1 : tunables 120 60 8 : slabdata 22 22 0
acpi_parse_ext 0 0 64 59 1 : tunables 120 60 8 : slabdata 0 0 0
acpi_parse 0 0 40 92 1 : tunables 120 60 8 : slabdata 0 0 0
acpi_state 0 0 88 44 1 : tunables 120 60 8 : slabdata 0 0 0
proc_inode_cache 667 690 616 6 1 : tunables 54 27 8 : slabdata 115 115 0
sigqueue 32 46 168 23 1 : tunables 120 60 8 : slabdata 2 2 0
radix_tree_node 232625 303359 536 7 1 : tunables 54 27 8 : slabdata 43337 43337 0
bdev_cache 22 28 832 4 1 : tunables 54 27 8 : slabdata 7 7 0
sysfs_dir_cache 2946 3021 72 53 1 : tunables 120 60 8 : slabdata 57 57 0
mnt_cache 26 60 192 20 1 : tunables 120 60 8 : slabdata 3 3 0
inode_cache 1080 1085 584 7 1 : tunables 54 27 8 : slabdata 155 155 0
dentry_cache 252909 252909 224 17 1 : tunables 120 60 8 : slabdata 14877 14877 0
filp 883 1365 256 15 1 : tunables 120 60 8 : slabdata 91 91 0
names_cache 3 5 4096 1 1 : tunables 24 12 8 : slabdata 3 5 0
idr_layer_cache 77 84 528 7 1 : tunables 54 27 8 : slabdata 12 12 0
buffer_head 52111 139612 88 44 1 : tunables 120 60 8 : slabdata 3173 3173 0
mm_struct 67 77 1152 7 2 : tunables 24 12 8 : slabdata 11 11 0
vm_area_struct 2672 2814 184 21 1 : tunables 120 60 8 : slabdata 134 134 0
fs_cache 76 118 64 59 1 : tunables 120 60 8 : slabdata 2 2 0
files_cache 66 72 896 4 1 : tunables 54 27 8 : slabdata 18 18 0
signal_cache 109 120 640 6 1 : tunables 54 27 8 : slabdata 20 20 0
sighand_cache 103 108 2112 3 2 : tunables 24 12 8 : slabdata 36 36 0
task_struct 123 128 1728 4 2 : tunables 24 12 8 : slabdata 32 32 0
anon_vma 987 1440 24 144 1 : tunables 120 60 8 : slabdata 10 10 0
shared_policy_node 0 0 56 67 1 : tunables 120 60 8 : slabdata 0 0 0
numa_policy 39 404 16 202 1 : tunables 120 60 8 : slabdata 2 2 0
size-131072(DMA) 0 0 131072 1 32 : tunables 8 4 0 : slabdata 0 0 0
size-131072 0 0 131072 1 32 : tunables 8 4 0 : slabdata 0 0 0
size-65536(DMA) 0 0 65536 1 16 : tunables 8 4 0 : slabdata 0 0 0
size-65536 2 2 65536 1 16 : tunables 8 4 0 : slabdata 2 2 0
size-32768(DMA) 0 0 32768 1 8 : tunables 8 4 0 : slabdata 0 0 0
size-32768 20 20 32768 1 8 : tunables 8 4 0 : slabdata 20 20 0
size-16384(DMA) 0 0 16384 1 4 : tunables 8 4 0 : slabdata 0 0 0
size-16384 0 0 16384 1 4 : tunables 8 4 0 : slabdata 0 0 0
size-8192(DMA) 0 0 8192 1 2 : tunables 8 4 0 : slabdata 0 0 0
size-8192 17 17 8192 1 2 : tunables 8 4 0 : slabdata 17 17 0
size-4096(DMA) 0 0 4096 1 1 : tunables 24 12 8 : slabdata 0 0 0
size-4096 269 270 4096 1 1 : tunables 24 12 8 : slabdata 269 270 0
size-2048(DMA) 0 0 2048 2 1 : tunables 24 12 8 : slabdata 0 0 0
size-2048 708 736 2048 2 1 : tunables 24 12 8 : slabdata 363 368 0
size-1024(DMA) 0 0 1024 4 1 : tunables 54 27 8 : slabdata 0 0 0
size-1024 350 368 1024 4 1 : tunables 54 27 8 : slabdata 92 92 0
size-512(DMA) 0 0 512 8 1 : tunables 54 27 8 : slabdata 0 0 0
size-512 619 640 512 8 1 : tunables 54 27 8 : slabdata 80 80 0
size-256(DMA) 0 0 256 15 1 : tunables 120 60 8 : slabdata 0 0 0
size-256 82 105 256 15 1 : tunables 120 60 8 : slabdata 7 7 0
size-192(DMA) 0 0 192 20 1 : tunables 120 60 8 : slabdata 0 0 0
size-192 1560 2000 192 20 1 : tunables 120 60 8 : slabdata 100 100 0
size-128(DMA) 0 0 128 30 1 : tunables 120 60 8 : slabdata 0 0 0
size-64(DMA) 0 0 64 59 1 : tunables 120 60 8 : slabdata 0 0 0
size-64 2672 9027 64 59 1 : tunables 120 60 8 : slabdata 153 153 0
size-32(DMA) 0 0 32 112 1 : tunables 120 60 8 : slabdata 0 0 0
size-128 3807 4950 128 30 1 : tunables 120 60 8 : slabdata 165 165 300
size-32 703 784 32 112 1 : tunables 120 60 8 : slabdata 7 7 0
kmem_cache 155 155 704 5 1 : tunables 54 27 8 : slabdata 31 31 0
peter@cl1 /data $


peter@cl1 /data $ df -k
Filesystem           1K-blocks      Used Available Use% Mounted on
/dev/md/0             22479104  13991500   8487604  63% /
udev                   4029060       244   4028816   1% /dev
/dev/md/1            449447808 338816792 110631016  76% /data
none                   4029060         0   4029060   0% /dev/shm
cl4:/data            451279232 112298760 338980472  25% /mnt/cl4-data
peter@cl1 /data $ xfs_info /data
meta-data=/dev/md1               isize=256    agcount=16, agsize=7024672 blks
         =                       sectsz=512
data     =                       bsize=4096   blocks=112394720, imaxpct=25
         =                       sunit=16     swidth=64 blks, unwritten=1
naming   =version 2              bsize=4096
log      =internal               bsize=4096   blocks=32768, version=1
         =                       sectsz=512   sunit=0 blks
realtime =none                   extsz=262144 blocks=0, rtextents=0
peter@cl1 /data $

= = = = (end of info) = = = =


<Prev in Thread] Current Thread [Next in Thread>