Автор Тема: [Resolved]Free space leakage ?? Изчезнаха 70% от руут дяла!  (Прочетена 12090 пъти)

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
ОС Suse Enterprise 10.0
Filesystem ReiserFS
SCSI дискове в HW RAID1
Руут дяла 27ГБ
Една сутрин установявам 99% заето дисково пространство  :o
Logwatch репорта от предната вечер показва 19GB free ?!
2 дни изследвам директория по директория - не мога да открия къде изчезнаха тези гиги?
Ето данните в момента:

Цитат
/ # df
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda1              28G   27G  1.3G  96% /
tmpfs                1013M     0 1013M   0% /dev/shm
/dev/sda3              70G   47G   24G  67% /DATA
/dev/sdb1             151G  1.6G  149G   2% /backup
Цитат
du -shx /
8.0G    /

Някакви идеи какво може да става и какво може да погледна?
« Последна редакция: Feb 16, 2012, 16:47 от Topper »
Активен

romeo_ninov

  • Напреднали
  • *****
  • Публикации: 2155
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #1 -: Feb 06, 2012, 20:59 »
ОС Suse Enterprise 10.0
Filesystem ReiserFS
SCSI дискове в HW RAID1
Руут дяла 27ГБ
Една сутрин установявам 99% заето дисково пространство  :o
Logwatch репорта от предната вечер показва 19GB free ?!
2 дни изследвам директория по директория - не мога да открия къде изчезнаха тези гиги?
Ето данните в момента:

Цитат
/ # df
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda1              28G   27G  1.3G  96% /
tmpfs                1013M     0 1013M   0% /dev/shm
/dev/sda3              70G   47G   24G  67% /DATA
/dev/sdb1             151G  1.6G  149G   2% /backup
Цитат
du -shx /
8.0G    /

Някакви идеи какво може да става и какво може да погледна?
du -sk /*
и обичайните заподозрени са:
/tmp
/var
Активен

0x2B|~0x2B

solarflux

  • Напреднали
  • *****
  • Публикации: 100
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #2 -: Feb 06, 2012, 21:36 »
lsof -a +L1 /
виж дали това ще изкара нещо...
Активен

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #3 -: Feb 06, 2012, 21:43 »
du -sk /*
и обичайните заподозрени са:
/tmp
/var
Привет Капитане :)
/tmp е изпразнен, няма промяна.

Цитат
du -sxh /var/
3.7G    /var/
du -skx дава същото, но само локланите файлове, без монтираните от други дялове (иначе се изкривява резултата)
Смущаващото е, че du -skx дава само 8Гб, докато df дава 27Gb  ::)
lsof не показа някакви увиснали процеси, които да пълнят дяла.
Активен

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #4 -: Feb 06, 2012, 23:32 »
Сега се зачетох в една статия http://mradomski.wordpress.com/2007/01/08/finding-an-unlinked-open-file-and-other-lsof-uses/
Същия случай, както ме посъветва solarflux:

Цитат
lsof -a +L1 /
COMMAND   PID  USER   FD   TYPE DEVICE SIZE NLINK  NODE NAME
mysqld  13712 mysql    6u   REG    8,1    0     0 15016 /tmp/ibKpdj7k (deleted)
mysqld  13712 mysql    7u   REG    8,1    0     0 15018 /tmp/ibXBeg2u (deleted)
mysqld  13712 mysql   11u   REG    8,1    0     0 14979 /tmp/ib6ZuzwG (deleted)

Само че така и не разбрах, какво става с тези файлове ?
Активен

jet

  • Напреднали
  • *****
  • Публикации: 3473
  • Distribution: debian
  • Window Manager: kde
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #5 -: Feb 07, 2012, 00:10 »
размонтирай /dev/sda3 и /dev/sdb1 и виж какво има в  /DATA и  /backup
същото можеш да провериш и ако някъде монтираш устройства за архивиране (провери си архивиращите скриптове)

топ 10 най-големи директории под текущата
Код:
du -sk * | sort -nr | head -10
и се разходи малко из дървото

ако имаш работещ Х пробвай с kDirStat

или
Код:
find /var -size +50000  -exec ls -lahg {} \;
да търсиш големи файлове
Активен

..⢀⣴⠾⠻⢶⣦⠀
  ⣾⠁⢠⠒⠀⣿⡁
  ⢿⡄⠘⠷⠚⠋
  ⠈⠳⣄⠀⠀⠀⠀  Debian, the universal operating system.

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #6 -: Feb 07, 2012, 00:33 »
DATA и Backup са други дискове, не е /dev/sda
Големи файлове (единични) няма.
Разхождал съм се из всички директори, коренови на руута
С МС, директно само с df . && du -shk.... нищо
Сумарно около 8Г заети
А сървъра спира заради недостатъчно свободно дисково пространство!
Сега пуснах да видя най-голямите директории, но не очаквам да излезе нещо....
Активен

jet

  • Напреднали
  • *****
  • Публикации: 3473
  • Distribution: debian
  • Window Manager: kde
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #7 -: Feb 07, 2012, 01:24 »
DATA и Backup са други дискове, не е /dev/sda
много добре виждам че са на други дискове, но това е СЕГА.
Ако се е уляло монтирането на Backup например, нали се сещаш къде се е изсипал архива..., затова не се ослушвай ами провери.
« Последна редакция: Feb 07, 2012, 01:34 от jet »
Активен

..⢀⣴⠾⠻⢶⣦⠀
  ⣾⠁⢠⠒⠀⣿⡁
  ⢿⡄⠘⠷⠚⠋
  ⠈⠳⣄⠀⠀⠀⠀  Debian, the universal operating system.

shoshon

  • Напреднали
  • *****
  • Публикации: 497
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #8 -: Feb 07, 2012, 02:41 »
И ко са ужас :D

Докато не видя изхода от командите по-долу тая тема заслужава златен медал по тролене :D :
du -sh .*
du -sh *
df -h


Иначе разсъждавате по интересен начин :D
"Free space leakage" - баси корпоративния израз. Звучи толкова high-tech и абстрактно, че чак имам чувството, че политам от липса на гравитация и съдържание :D . По-скоро нещо си дъмпи крашове като скрити файлове в root-a или имаш "изтрити" файове, който още се позват - правилно си се ориентирал с lsof. Може ли да видим целия изход на командата ( без параметри) ?

Ай, със здраве :)
« Последна редакция: Feb 07, 2012, 02:43 от shoshon »
Активен

romeo_ninov

  • Напреднали
  • *****
  • Публикации: 2155
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #9 -: Feb 07, 2012, 07:17 »
DATA и Backup са други дискове, не е /dev/sda
Големи файлове (единични) няма.
Разхождал съм се из всички директори, коренови на руута
С МС, директно само с df . && du -shk.... нищо
Сумарно около 8Г заети
А сървъра спира заради недостатъчно свободно дисково пространство!
Сега пуснах да видя най-голямите директории, но не очаквам да излезе нещо....
Топър, ето едно обяснение на разликата между df и du
Цитат
About du -s and df

Notice that du and df report on only the blocks allocated for data actually
written. The ls command reports slightly different results depending on the type
of file. See the section in this document called, "The ls command".

At AIX versions prior to 4.1, df reports its statistics in 1024-byte units and
du reports in 512-byte units. At AIX 4.1 and later, both df and du default to
512-byte units. The following discussion addresses df and du in AIX 4.x; thus
all units are in 512-byte blocks.

--------------------------------------------------------------------------------

The problem

Sometimes du and df are used to get a free block value: df is used to report the
total block count, and then the value returned by du -s /filesystem_path is
subtracted from that total to calculate the free block value. However, this
method of calculation yields a value that is greater than the free block value
reported by df.

For example, sample output from executing du -s /tmp is as follows:

   12920   /tmp

Sample output from executing df /tmp on the same system is as follows:
Filesystem    512-blocks      Free  %Used    Iused  %Iused  Mounted on
/dev/hd3           57344     42208    26%      391      4%  /tmp

Here, the <total from df> - <used from du> = <false free block count>: 57344 -
12920 = 44424.

44424 is greater than 42208. The reason for this discrepancy involves the
implementation of du and df.

du -s

du -s traverses the file tree, adding up the number of blocks allocated to each
directory, symlink, and file as reported by the stat() system call. This is how
du arrives at its total value.

df

df looks at the file system disk block allocation maps to arrive at its total
and free values.

--------------------------------------------------------------------------------

Why the numbers do not add up

The file system allocates some of the disk blocks in the file system to record
its data. This data is referred to as meta data. Meta data is not visible to
most user-level programs. Examples of meta data are inodes, disk maps, indirect
blocks, and super blocks.

du is an example of a user-level program that is not aware of file system meta
data, while df looks at the file system disk allocation maps and is aware of
file system meta data. df obtains the true file system statistics, whereas du
sees only a partial picture. For example, an empty 4MB JFS file system created
with frag=4096 and nbpi=4096 has the following meta data allocated:

   1  4k block for the LVM
   2  4k super blocks
   2  4k blocks for disk maps
   2  4k blocks for inode maps
   2  4k blocks for .indirect
   32 4k blocks for inodes
   -------------------------
   41 4k blocks for meta data on an empty 4MB file system

For AIX Version 4.x:
Executing du /foo returns output like the following:
   8       /foo/lost+found
   16      /foo

The sixteen 512-byte blocks reported by du on this empty file system are the
blocks used by the root directory.

To get the output from du to match that from df, we must add in the meta data.
First, convert 41 4K blocks to 512-byte units:

    41 * 8 = 328
    328(meta data) + 16(from du) = 344

So there are 344 512-byte blocks allocated on this empty file system. For
example:

    8192(total blocks) - 344(used from du + meta data) = 7848

This value does match the output from the free column reported by df /foo.

  Filesystem  512-blocks  Free   %Used   Iused   %Iused   Mounted on
  /dev/lv01         8192  7848      5%      16       2%   /foo

This calculation was easy to perform on an empty file system. However, on a
non-empty file system, the meta data for file indirect blocks comes into play
and such calculations are tedious and impractical.

In conclusion, du -s produces a value that reflects the number of disk blocks
that are allocated to files and directories. df reports on the actual allocation
state of the file system. The true allocation state includes both user data
(files and directories) plus meta data.

Another example that contributes to a difference between du and df is the
following:

  If someone is running an application with a file open in a directory and the
  open file is removed, the du output reflects a reduced size for this
  directory. However, df does not show a reduced size because all blocks in the
  file system remain allocated until the application that has the file open
  closes the file. After the file closure, df shows reduced usage for the file
  system.

--------------------------------------------------------------------------------

The ls command

The following compares ls output with that of du and df for sparse files.

ls gives data on individual files based on the difference between the end-of-file (the largest offset where data is written) and the beginning-of-file, whether or not blocks were actually allocated to the file. A 32MB file (as reported by ls) may not have 32MB of data written to it if the data is not written sequentially.
du shows the blocks actually allocated to an individual file.
df shows the blocks allocated in the entire file system, including inodes and other meta data.
An example sparse file can be created fairly easily. To do so, open the file, seek to a large address, and write some data. This can be demonstrated with the dd command, as follows:

Create a regular file.
    date > notsparse
    ls -l

The output of the ls command will be similar to the following:

    total 8
    -rw-r--r--   1 root     sys         29 Dec 21 08:12 notsparse

Use the fileplace command to see how many allocated and unallocated blocks are included in the file notsparse.

NOTE: Performance Analysis and Control Commands (perfagent.tools) must be installed for AIX Version 4.x.

    fileplace notsparse

The output for AIX Version 4.x will look similar to the following:

    File: notsparse  Size: 29 bytes  Vol: /dev/lv03
    Bkl Size: 4096  Frag size: 4096 Nfrags: 1 Compress: no
    Logical Fragment
    ----------------
    00716                   1 frags        4096 bytes,  100.0%

The du command also reflects how many 512-byte blocks a file occupies.
    du -rs *

Example output looks similar to the following:

    8 notsparse

Now create a sparse file using the regular file notsparse as input, as shown in the following:
    touch sparse.1
    dd if=notsparse of=sparse.1 seek=100

Example output looks similar to the following:

    dd: 0+1 records in.
    dd: 0+1 records out.

The dd command takes the data from the regular file and places it, in 100 512-byte blocks, into the sparse.1 file. Nothing is written to the initial 99 512-byte blocks. The following steps show the characteristics of the resulting file.

The ls command reports the distance from block zero to the last block in the file:
    ls -l

Example output looks similar to the following:

    total 16
    -rw-r--r--  1 root   sys       29 Dec 21 08:12 notsparse
    -rw-r--r--  1 root   sys    51229 Dec 21 08:13 sparse.1

The fileplace command accurately reports what blocks are unallocated and allocated. For example:
    fileplace sparse.1

Example output for AIX Version 4.1 looks similar to the following:

    File: sparse.1  Size: 51229 bytes Vol: /dev/lv03
    Blk Size: 4096  Frag Size: 4096  Nfrags: 1  Compress: no
    Logical Fragment
    ----------------
    unallocated               12 frags  49152 Bytes,  0.0%
    0000769                    1 frags   4096 Bytes, 100.0%

The du command reports the number of allocated blocks the file takes. For example:

    du -rs *

The example output looks similar to the following:

    8 notsparse
    8 sparse.1

Each command correctly reports the data that is specific to its intended purpose. ls shows the range of offsets where data can be read from or written to a file. Reading from an offset where no data is written makes it appear to be zero-filled. du and df report only blocks allocated for data actually written.

NOTE: For more information about sparse files see prism document, "About Sparse Files."
Активен

0x2B|~0x2B

bot

  • Гост
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #10 -: Feb 07, 2012, 11:11 »
 изпразни ли Recycle Bin?
Активен

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #11 -: Feb 07, 2012, 11:16 »
DATA и Backup са други дискове, не е /dev/sda
много добре виждам че са на други дискове, но това е СЕГА.
Ако се е уляло монтирането на Backup например, нали се сещаш къде се е изсипал архива..., затова не се ослушвай ами провери.

Сега ти разбрах идеята, размонтирани:
Цитат
du -sh /backup
0       /backup
 du -sh /DATA
0       /DATA
du -sh /tmp/
0       /tmp/

Цитат
lsof -a +L1
COMMAND   PID USER   FD   TYPE DEVICE SIZE NLINK   NODE NAME
evlogd   6102 root  mem    DEL    0,6          0 458752 /SYSV00001a38
evlogd   6184 root  mem    DEL    0,6          0 458752 /SYSV00001a38
killproc 7957 root    0u   CHR  136,4          0      6 /dev/pts/4 (deleted)
killproc 7957 root    5u   CHR  136,4          0      6 /dev/pts/4 (deleted)
lsof е много голям, така че споделете идеята и какво търсим.
Може да направя дъмп и да го кача някъде, но далеч по-лесно ще е - мисля, че може да е еди-какво-си, виж това или онова.

шОшОн, впечатлен съм от проницателността ти, но не подхождай с идеята, че всички около теб са овце.
Можеше да видиш какви данни съм пуснал, а че също така съм правил du на всички директории в руута, както съм и написал, както и после отново постнах, но хайде да да ти изпълня заръката:

Цитат
du -sh .*
du: `./media/cdrom': No medium found
391G    .
Цитат
du -sh *
47G     DATA
0       abas-wine
1.7G    backup
103G    backupimap
6.7M    bin
11M     boot
393K    dev
87M     etc
253M    home
89M     lib
0       lost+found
du: `media/cdrom': No medium found
0       media
179G    mnt
193M    opt
907M    proc
73M     root
21M     sbin
4.0K    secrets.tdb
197K    share
465M    srv
0       sys
210M    tftpboot
335K    tmp
5.3G    usr
3.4G    var
Цитат
df
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda1              28G   28G  619M  98% /
tmpfs                1013M   16K 1013M   1% /dev/shm
/dev/sda3              70G   47G   24G  67% /DATA
/dev/sdb1             151G  1.7G  149G   2% /backup
/dev/sdb2             148G   47G   95G  33% /mnt/usb2
/dev/mapper/system-LogicalVolume01
                      500G  133G  368G  27% /mnt/usbbig
/mnt/usbbig/src       500G  133G  368G  27% /usr/src
/dev/mapper/system-backupimap
                      150G  103G   48G  69% /backupimap

Колкото до троловете, виждал съм доста хелпдеск вампири, които в реален проблем обясняват нещата със "срив" "бъг" и т.н. И изкарват в прадакшън обркъжение точно 3 месеца. Лични наблюдения.
Активен

Topper

  • Напреднали
  • *****
  • Публикации: 109
  • Distribution: Slackware, SLES
  • Window Manager: KDE
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #12 -: Feb 07, 2012, 11:16 »
изпразни ли Recycle Bin?
Ей не, не се бях сетил - аз там си държа като в архив файлове...  >:D
Активен

laskov

  • Напреднали
  • *****
  • Публикации: 3166
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #13 -: Feb 07, 2012, 12:20 »
изпразни ли Recycle Bin?
Ей не, не се бях сетил - аз там си държа като в архив файлове...  >:D
bop_bop_mara в една тема преди доста време беше попитала кои файлове, къде е най-добре да съхраняваме, понеже някой се беше изказал, че в home не било надеждно.
Ето къде трябва да се съхраняват архивите - в кошчето :)
Активен

Не си мислете, че понеже Вие мислите правилно, всички мислят като Вас! Затова, когато има избори, идете и гласувайте, за да не сте изненадани после от резултата, и за да не твърди всяка партия, че тя е спечелила, а Б.Б. (С.С., ...) е загубил, а трети да управлява.  Наздраве!  [_]3

solarflux

  • Напреднали
  • *****
  • Публикации: 100
    • Профил
Re: Free space leakage ?? Изчезнаха 70% от руут дяла!
« Отговор #14 -: Feb 07, 2012, 12:41 »
ок, идеята на лсоф-а е да намериш отворени файлове с брой на линковете към тях по-малък от 1, т.е. отворени и ънлинкнати. Ако не разбираш как би ти помогнало това, ти предлагам да направиш
touch /forcefsck
и да рестартираш, или да рестартираш в сингъл юзер и да пуснеш fsck на / и след това да репортнеш резултатите
Активен

Подобни теми
Заглавие Започната от Отговора Прегледи Последна публикация
Free space seems wrong
Настройка на програми
OptimusS 1 2091 Последна публикация Aug 29, 2004, 01:02
от JohnDoe
need for space
Настройка на програми
stevebradata 4 2898 Последна публикация Dec 19, 2005, 15:02
от zeridon
Human space invaders
Хумор
BULFON 2 2694 Последна публикация Jul 27, 2006, 14:14
от Xpucmo
gOS 2.9 Space
Хардуерни и софтуерни проблеми
alkor 2 2419 Последна публикация Jan 28, 2009, 19:12
от tyuio
[Resolved]Пренасочване на изходящ SMTP трафик през определено IP[Closed]
Системна Сигурност
Topper 25 10618 Последна публикация Feb 09, 2009, 16:16
от Topper