タイトルの通りですが、ThinkPad 25 で Fedora28 を使っていたら、まさかの BIOS アップデートが降ってきました。
これは、知らなかった。アップデート実行は止めておきましたが。。。
2018年9月26日水曜日
Fedora で ThinkPad の BIOS アップデートが降ってきた
タイトルの通りですが、ThinkPad 25 で Fedora28 を使っていたら、まさかの BIOS アップデートが降ってきました。
これは、知らなかった。アップデート実行は止めておきましたが。。。
2018年8月18日土曜日
Linux 上でメモリ帯域幅をベンチマーク
Linux でメモリ帯域幅の確認（計測）を行いたいと思って調べてみると、stream というベンチマークツールが在ることを知りました。
http://www.cs.virginia.edu/stream/
ダウンロードして、gcc でコンパイルするだけで利用できます。計測結果は次のような感じ。
いろいろなマシンで計ることを考えると、標準のツールで代用できるといいので、dd を使ってページキャッシュから読み出す方法を試してみました。
この方法だと、read システムコールの延長のカーネル内コードで、ページキャッシュ上のデータが、ユーザ空間にコピーされる動きになるはずです。/dev/null への write システムコールが余計ですが、カーネル内では何もせず（コピー処理などはなし）にリターンするので、ほぼ無視できるかと思います。/dev/null に対応するコードは、drivers/char/mem.c の中です。
別のやり方（/dev/zero を読み出す方法）だと、次のように stream と乖離した値が見えます。
なお、MB/s の MB は、stream も dd も 1000*1000 単位で計算されています。GB/s も同様。1024*1024単位ではないか？と迷うことがあるので、備忘録。
http://www.cs.virginia.edu/stream/
ダウンロードして、gcc でコンパイルするだけで利用できます。計測結果は次のような感じ。
[root@hoge Downloads]# ./stream_c.exe ------------------------------------------------------------- STREAM version $Revision: 5.10 $ ------------------------------------------------------------- This system uses 8 bytes per array element. ------------------------------------------------------------- Array size = 10000000 (elements), Offset = 0 (elements) Memory per array = 76.3 MiB (= 0.1 GiB). Total memory required = 228.9 MiB (= 0.2 GiB). Each kernel will be executed 10 times. The *best* time for each kernel (excluding the first iteration) will be used to compute the reported bandwidth. ------------------------------------------------------------- Your clock granularity/precision appears to be 1 microseconds. Each test below will take on the order of 43741 microseconds. (= 43741 clock ticks) Increase the size of the arrays if this shows that you are not getting at least 20 clock ticks per test. ------------------------------------------------------------- WARNING -- The above is only a rough guideline. For best results, please be sure you know the precision of your system timer. ------------------------------------------------------------- Function Best Rate MB/s Avg time Min time Max time Copy: 2966.1 0.054175 0.053943 0.054633 Scale: 2920.8 0.054945 0.054779 0.055157 Add: 3518.2 0.068352 0.068217 0.068576 Triad: 3520.2 0.072915 0.068177 0.105948 ------------------------------------------------------------- Solution Validates: avg error less than 1.000000e-13 on all three arrays -------------------------------------------------------------実行環境は ThinkPad X301 + CentOS6 x86_64 です。DIMM の種類は DDR3-800 です。
いろいろなマシンで計ることを考えると、標準のツールで代用できるといいので、dd を使ってページキャッシュから読み出す方法を試してみました。
[root@hoge ~]# ls -l test.file -rw-r--r-- 1 root root 1024000000 Aug 18 19:05 test.file ※予め用意しておいたテスト用ファイル [root@hoge ~]# ls -lh test.file -rw-r--r-- 1 root root 977M Aug 18 19:05 test.file [root@hoge ~]# dd if=test.file of=/dev/null bs=4k 250000+0 records in 250000+0 records out 1024000000 bytes (1.0 GB) copied, 3.89807 s, 263 MB/s ※１回目はキャッシュに載ってないのでSSDの計測になる [root@hoge ~]# dd if=test.file of=/dev/null bs=4k 250000+0 records in 250000+0 records out 1024000000 bytes (1.0 GB) copied, 0.558606 s, 1.8 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=4k 250000+0 records in 250000+0 records out 1024000000 bytes (1.0 GB) copied, 0.492317 s, 2.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=4k 250000+0 records in 250000+0 records out 1024000000 bytes (1.0 GB) copied, 0.488601 s, 2.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=8k ※以降、ブロックサイズを２倍にして、３回づつ計測 125000+0 records in 125000+0 records out 1024000000 bytes (1.0 GB) copied, 0.39059 s, 2.6 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=8k 125000+0 records in 125000+0 records out 1024000000 bytes (1.0 GB) copied, 0.387988 s, 2.6 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=8k 125000+0 records in 125000+0 records out 1024000000 bytes (1.0 GB) copied, 0.387874 s, 2.6 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=16k 62500+0 records in 62500+0 records out 1024000000 bytes (1.0 GB) copied, 0.3597 s, 2.8 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=16k 62500+0 records in 62500+0 records out 1024000000 bytes (1.0 GB) copied, 0.359784 s, 2.8 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=16k 62500+0 records in 62500+0 records out 1024000000 bytes (1.0 GB) copied, 0.358306 s, 2.9 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=32k 31250+0 records in 31250+0 records out 1024000000 bytes (1.0 GB) copied, 0.343135 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=32k 31250+0 records in 31250+0 records out 1024000000 bytes (1.0 GB) copied, 0.342479 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=32k 31250+0 records in 31250+0 records out 1024000000 bytes (1.0 GB) copied, 0.342495 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=64k 15625+0 records in 15625+0 records out 1024000000 bytes (1.0 GB) copied, 0.32722 s, 3.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=64k 15625+0 records in 15625+0 records out 1024000000 bytes (1.0 GB) copied, 0.327119 s, 3.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=64k 15625+0 records in 15625+0 records out 1024000000 bytes (1.0 GB) copied, 0.328853 s, 3.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=128k 7812+1 records in 7812+1 records out 1024000000 bytes (1.0 GB) copied, 0.319119 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=128k 7812+1 records in 7812+1 records out 1024000000 bytes (1.0 GB) copied, 0.320496 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=128k 7812+1 records in 7812+1 records out 1024000000 bytes (1.0 GB) copied, 0.325546 s, 3.1 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=256k 3906+1 records in 3906+1 records out 1024000000 bytes (1.0 GB) copied, 0.314302 s, 3.3 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=256k 3906+1 records in 3906+1 records out 1024000000 bytes (1.0 GB) copied, 0.315943 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=256k 3906+1 records in 3906+1 records out 1024000000 bytes (1.0 GB) copied, 0.316061 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=512k 1953+1 records in 1953+1 records out 1024000000 bytes (1.0 GB) copied, 0.313515 s, 3.3 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=512k 1953+1 records in 1953+1 records out 1024000000 bytes (1.0 GB) copied, 0.315126 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=512k 1953+1 records in 1953+1 records out 1024000000 bytes (1.0 GB) copied, 0.316339 s, 3.2 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=1024k 976+1 records in 976+1 records out 1024000000 bytes (1.0 GB) copied, 0.343852 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=1024k 976+1 records in 976+1 records out 1024000000 bytes (1.0 GB) copied, 0.338554 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=1024k 976+1 records in 976+1 records out 1024000000 bytes (1.0 GB) copied, 0.342826 s, 3.0 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=2048k 488+1 records in 488+1 records out 1024000000 bytes (1.0 GB) copied, 0.674414 s, 1.5 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=2048k 488+1 records in 488+1 records out 1024000000 bytes (1.0 GB) copied, 0.68936 s, 1.5 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=2048k 488+1 records in 488+1 records out 1024000000 bytes (1.0 GB) copied, 0.677181 s, 1.5 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=4096k 244+1 records in 244+1 records out 1024000000 bytes (1.0 GB) copied, 0.773668 s, 1.3 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=4096k 244+1 records in 244+1 records out 1024000000 bytes (1.0 GB) copied, 0.76228 s, 1.3 GB/s [root@hoge ~]# dd if=test.file of=/dev/null bs=4096k 244+1 records in 244+1 records out 1024000000 bytes (1.0 GB) copied, 0.754367 s, 1.4 GB/s [root@hoge ~]#このように、ブロックサイズ (bs) が小さすぎてはダメですが、かと言って、大きすぎてもダメでした。実験は大事ですね。CPU のキャッシュの影響かな? おそらくは
この方法だと、read システムコールの延長のカーネル内コードで、ページキャッシュ上のデータが、ユーザ空間にコピーされる動きになるはずです。/dev/null への write システムコールが余計ですが、カーネル内では何もせず（コピー処理などはなし）にリターンするので、ほぼ無視できるかと思います。/dev/null に対応するコードは、drivers/char/mem.c の中です。
別のやり方（/dev/zero を読み出す方法）だと、次のように stream と乖離した値が見えます。
[root@hoge ~]# dd if=/dev/zero of=/dev/null bs=512k count=10000 10000+0 records in 10000+0 records out 5242880000 bytes (5.2 GB) copied, 0.738394 s, 7.1 GB/s [root@hoge ~]#/dev/zero を read する際のカーネル内コードは、次のとおりです。メモリ間のコピーではなく、レジスタ上の値（ゼロ）をメモリへ転送（ストア）する繰り返し処理になってます。
677 static ssize_t read_zero(struct file * file, char __user * buf,
678 size_t count, loff_t *ppos)
679 {
680 size_t written;
681
682 if (!count)
683 return 0;
684
685 if (!access_ok(VERIFY_WRITE, buf, count))
686 return -EFAULT;
687
688 written = 0;
689 while (count) {
690 unsigned long unwritten;
691 size_t chunk = count;
692
693 if (chunk > PAGE_SIZE)
694 chunk = PAGE_SIZE; /* Just for latency reasons */
695 unwritten = __clear_user(buf, chunk);
696 written += chunk - unwritten;
697 if (unwritten)
698 break;
699 if (signal_pending(current))
700 return written ? written : -ERESTARTSYS;
701 buf += chunk;
702 count -= chunk;
703 cond_resched();
704 }
705 return written ? written : -EFAULT;
706 }
"drivers/char/mem.c"
60 /*
61 * Zero Userspace
62 */
63
64 unsigned long __clear_user(void __user *addr, unsigned long size)
65 {
66 long __d0;
67 might_fault();
68 /* no memory constraint because it doesn't change any memory gcc knows
69 about */
70 asm volatile(
71 " testq %[size8],%[size8]\n"
72 " jz 4f\n"
73 "0: movq %[zero],(%[dst])\n"
74 " addq %[eight],%[dst]\n"
75 " decl %%ecx ; jnz 0b\n"
76 "4: movq %[size1],%%rcx\n"
77 " testl %%ecx,%%ecx\n"
78 " jz 2f\n"
79 "1: movb %b[zero],(%[dst])\n"
80 " incq %[dst]\n"
81 " decl %%ecx ; jnz 1b\n"
82 "2:\n"
83 ".section .fixup,\"ax\"\n"
84 "3: lea 0(%[size1],%[size8],8),%[size8]\n"
85 " jmp 2b\n"
86 ".previous\n"
87 _ASM_EXTABLE(0b,3b)
88 _ASM_EXTABLE(1b,2b)
89 : [size8] "=&c"(size), [dst] "=&D" (__d0)
90 : [size1] "r"(size & 7), "[size8]" (size / 8), "[dst]"(addr),
91 [zero] "r" (0UL), [eight] "r" (8UL));
92 return size;
93 }
94 EXPORT_SYMBOL(__clear_user);
"arch/x86/lib/usercopy_64.c"
なお、MB/s の MB は、stream も dd も 1000*1000 単位で計算されています。GB/s も同様。1024*1024単位ではないか？と迷うことがあるので、備忘録。
2018年8月4日土曜日
7z で .lzh を解凍する
姫野ベンチ を使おうとして、ソースをダウンロードしたのですが、どういう意図なのか zip の中に lzh ファイルが入っているという二重包装状態でした。
[root@hoge tmp]# ls -l *.zip -rw-r--r--. 1 root root 2729 8月 3 00:01 cc_himenobmtxp_m.zip [root@hoge tmp]# unzip cc_himenobmtxp_m.zip Archive: cc_himenobmtxp_m.zip extracting: cc_himenobmtxp_m.lzh [root@hoge tmp]# ls -l cc_hime* -rw-r--r--. 1 root root 2555 6月 10 2015 cc_himenobmtxp_m.lzh -rw-r--r--. 1 root root 2729 8月 3 00:01 cc_himenobmtxp_m.ziplzh なんて久しぶりに見ました。解凍は lha でできるとは思いましたが、いまどき lha なんて収録されてませんでした。環境は Fedora です。
[root@hoge tmp]# dnf install lha メタデータの期限切れの確認は、0:52:24 時間前の 2018年08月04日 07時58分59秒 に実施しました。 一致した引数がありません: lha エラー: 一致するものが見つかりません他に頭に浮かんだのは 7z コマンド。しかし、man を見ても lzh の記述はなく、ダメ元で試してみたのですが、解凍できました。
[root@hoge tmp]# 7z x cc_himenobmtxp_m.lzh 7-Zip [64] 16.02 : Copyright (c) 1999-2016 Igor Pavlov : 2016-05-21 p7zip Version 16.02 (locale=ja_JP.UTF-8,Utf16=on,HugeFiles=on,64 bits,4 CPUs Intel(R) Core(TM) i7-7500U CPU @ 2.70GHz (806E9),ASM,AES-NI) Scanning the drive for archives: 1 file, 2555 bytes (3 KiB) Extracting archive: cc_himenobmtxp_m.lzh -- Path = cc_himenobmtxp_m.lzh Type = Lzh Physical Size = 2555 Everything is Ok Files: 2 Size: 7237 Compressed: 2555 [root@hoge tmp]# ls -l *.[ch] Makefile -rw-r--r--. 1 root root 237 2月 21 2002 Makefile -rw-r--r--. 1 root root 7000 2月 21 2002 himenoBMTxps.c以上、自分と誰かのために備忘録でした。
登録:
投稿 (Atom)
