Rychlost zápisu do síťového uložiště

[kaklik]

Prošel jsem různé metody, kterými by šlo přenést data přes ethernet na uložiště v Omnii. Vypadá to, že běžně užívané protokoly pro síťová uložiště jako NFS, nebo Samba nejsou vůbec vhodné. V případě že si nechceme realizovat i vlastní server, tak úvahu tak připadá HTTP, nebo FTP.
Obě řešení by měly být z hlediska rychlosti přenosu přibližně srovnatelné. S tím že HTTP je vhodnější pro velké množství převážně malých souborů. FTP by mělo mít převahu na větších souborech.

U FTP ještě záleží na konkrétní implementaci. Obecně je ale potřeba snížit fragmentaci do malých packetů. Pro použití v lokální síti je tak zřejmě výhodné použít jednodušší TFTP. Viz:

• http://slacksite.com/other/ftp.html
• https://mohammadthalif.wordpress.com/2010/03/05/installing-and-testing-tftpd-in-ubuntudebian/

I u TFTP je tak potřeba nastavit větší blocksize

Alternativně ke standardním protokolům lze použít i přímé kompírování pomocí kombinace netcat, pv a tar. U tohoto přístupu se ale obávám, že nebude dlouhodobě udržovatelný. Neboť je velmi nestandardní.

[kaklik]

Kromě samotného přenosu přes ethernet ještě řeším rychlost zápisu na SSD disk. Zápis na USB3.0 Sandisk SSD je velmi rychlý, viz tento test.

V případě Omnie byl použít jiný typ testu. Rychlost čtení je ale pro velké soubory obdobná a konzistentní pro různé pokusy.

root@omnia:~# hdparm -Tt /dev/sda

/dev/sda:
 Timing cached reads:   1172 MB in  2.00 seconds = 585.77 MB/sec
SG_IO: bad/missing sense data, sb[]:  70 00 05 00 00 00 00 0a 00 00 00 00 20 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
 Timing buffered disk reads: 1050 MB in  3.00 seconds = 349.44 MB/sec
root@omnia:~# hdparm -Tt /dev/sda

/dev/sda:
 Timing cached reads:   1182 MB in  2.00 seconds = 590.88 MB/sec
SG_IO: bad/missing sense data, sb[]:  70 00 05 00 00 00 00 0a 00 00 00 00 20 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
 Timing buffered disk reads: 1058 MB in  3.00 seconds = 352.44 MB/sec
root@omnia:~# hdparm -Tt /dev/sda

/dev/sda:
 Timing cached reads:   1140 MB in  2.00 seconds = 569.67 MB/sec
SG_IO: bad/missing sense data, sb[]:  70 00 05 00 00 00 00 0a 00 00 00 00 20 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
 Timing buffered disk reads: 1044 MB in  3.00 seconds = 347.70 MB/sec
root@omnia:~#

Test zápisu se mi nedaří realizovat:

root@omnia:~# fio --filename=/data/test --size=5GB --direct=1 --rw=randrw --bs=64k --ioengine=libaio --iodepth=64 --runtime=120 --numjobs=4 --time_based --group_reporting --name=throughput-test-job --eta
-newline=1 
throughput-test-job: (g=0): rw=randrw, bs=(R) 64.0KiB-64.0KiB, (W) 64.0KiB-64.0KiB, (T) 64.0KiB-64.0KiB, ioengine=libaio, iodepth=64
...
fio-3.14
Starting 4 processes
throughput-test-job: Laying out IO file (1 file / 5120MiB)
fio: pid=12505, err=38/file:engines/libaio.c:406, func=io_queue_init, error=Function not implemented
fio: pid=12507, err=38/file:engines/libaio.c:406, func=io_queue_init, error=Function not implemented
fio: pid=12506, err=38/file:engines/libaio.c:406, func=io_queue_init, error=Function not implemented
fio: pid=12508, err=38/file:engines/libaio.c:406, func=io_queue_init, error=Function not implemented


Run status group 0 (all jobs):
root@omnia:~# 

root@omnia:~# bonnie++ -n 0 -u 0 -s 3028 -f -b -d /data
Large File Support not present, can't do 3028M.
usage:
bonnie++ [-d scratch-dir] [-c concurrency] [-s size(MiB)[:chunk-size(b)]]
      [-n number-to-stat[:max-size[:min-size][:num-directories[:chunk-size]]]]
      [-m machine-name] [-r ram-size-in-MiB]
      [-x number-of-tests] [-u uid-to-use:gid-to-use] [-g gid-to-use]
      [-q] [-f] [-b] [-p processes | -y] [-z seed | -Z random-file]
      [-D]

Version: 1.98
root@omnia:~#

[kaklik]

Otestoval jsem přímo rychost přenosu dat po síti.. Testoval jsem přenos z notebooku na Omnii tímto postupem:

Na notebooku jsem spustil tento příkaz

sudo tar cf - ThunderFly_ATMON.zip | pv | nc 192.168.1.1 7000

Soubor ThunderFly_ATMON.zip je zde použit pro simulaci payloadu a je to přibližně 1GB soubor.

Na omnii jsem v OpenWrt spustil

netcat -l -p 7000 | pv | tar x

Tím vznikl tento tok přenosu přes síť.

Je tak vidět že rychlost přenosu po síti je zhruba 32 MB/s což je přibližně třikrát lepší, než současný zápis na SDkartu v Paralelle. 1GB soubor se tak přenese za 32 s. Zápis aktuálního cca 200 MB bloku dat by tak měl trvat 6.5s.