awkについて
awk †
awkはawkで何ページも書けちゃう内容なんだろうけど、とりあえず今日使ったやつだけ。
こんなテキストファイルがあります。このテキストファイルの名前が「Address.txt」だとします。
まあ、アドレス帳だと思ってください。
firstName lastName address phoneNo Shogo Miyazaki Tokyo 090-xxxx-yyyy Tatsuya Akasaka Osaka 080-aaaa-bbbb Mayuko Kobayashi Osaka 080-aaaa-bbbb Hana Takahashi Nagoya 070-cccc-dddd Tarou Omori Nagoya 070-cccc-dddd ・・・・
このアドレスの、苗字だけほしい場合、こんな感じにawkです。
[root@server tmp]# awk '{print $2}' Address.txt lastName Miyazaki Akasaka Kobayashi Takahashi Omori
へー、2列目だけ取れた。
じゃあ、このアドレス帳のなかで、Address(住所)が「Osaka」の人のlastName(苗字)がほしいとき、こんな感じでawkします。
[root@server tmp]# awk '$3=="Osaka" {print $2}' Address.txt Akasaka Kobayashi
へー、大阪の人だけ取れた。
ちなみに、|をつかってつなげることも出来ます。つなげるイメージはこんな感じ。
[root@server tmp]# cat Address.txt | awk '$3=="Osaka" {print $2}' Akasaka Kobayashi
ちなみに、こうやっても同じ
[root@server tmp]# cat Address.txt | grep Osaka | awk '{print $2}' Akasaka Kobayashi
最初の一人だけほしい場合
[root@server tmp]# cat Address.txt | grep Osaka | head -1 | awk '{print $2}' Akasaka
ずいぶん色々出てきた。
awkは正規表現とかも使えるみたいだけど、今日はもうつかれた。リンクを参照。見れば多分出来ます。
最後の要素だけ取り出したい。 †
頭から順番に値を取り出す方法はわかった。しかし、最後の要素だけ取り出したい場合ってどうすればいいの???
それはこんな感じです。
awk '{print $NF}' test.log
これで、test.logの行の最後の要素だけ取れます。
後ろからn番目の要素を出力する †
こんな感じです。
awk '/rows=[^0]/ {print $NF, $(NF-1)}' test.log
こんな感じで
- rows=「0」でない行の場合
- 最後の要素と後ろから2番目の要素をprint
できます。
ちなみに、manではこんな感じの解説があります。
The variable NF is set to the total number of fields in the input record.
まあ、「NFは要素の合計数が入ります」ってかいてあるので、後ろから2番目は「NF-1」とかきます。
区切り文字にタブを指定する †
awk -F"\t" ~
指定行のみ出力 †
こんな感じです。
awk 'NR >= 100000 && NR < 101000 {print $0}' ファイル名
10万行~10万1000行目までを抽出し、出力します。
jmeterのXML形式で出力された結果からレスポンスタイムだけ抽出 †
元のデータ形式は以下の通り(複数繰り返す)
<?xml version="1.0" encoding="UTF-8"?> <testResults version="1.2"> <httpSample t="368" lt="367" ts="1318934276264" s="true" lb="SimpleSearch" rc="200" rm="OK" tn="簡易検索スレッド 1-5" dt="text" by="73238"> <assertionResult> <name>アサーション</name> <failure>false</failure> <error>false</error> </assertionResult> </httpSample> <httpSample t="101" lt="99" ts="1318934276664" s="true" lb="SimpleSearch" rc="200" rm="OK" tn="簡易検索スレッド 1-7" dt="text" by="44589"> <assertionResult> <name>アサーション</name> <failure>false</failure> <error>false</error> </assertionResult> </httpSample> ・・・
「t="XXX"」がレスポンスタイム。
以下でここだけ抽出。
awk '/^<http/ { print $2}' jmeter_out.log | sed -e 's/t="\(.*\)"/\1/p' > out.txt
パターンマッチした行に含まれる数値を集計 †
「Query_time」っていうキーワードが含まれる行の3カラム目を集計する
awk '/Query_time/ { total += $3 } END { print total }' trace.txt
あるカラムの数値が一定数よりも小さい場合 †
ls -l の結果、ファイルサイズが1000byteよりも少ないファイル名とファイルサイズを抽出するawk
ls -l | awk ' $5 < 1000 { print $5,$10 }'
8カラム目がADM*の行の3カラムを出力する †
ちなみに、元のファイルはgeonamesってところから日本のデータダンプをダウンロードしてます。
awk '$8 ~ /ADM.*/ {print $3}' JP.txt > cityname.txt
先頭に現在日時を追加する。 †
こんな感じでできます。
echo aaaa | awk '{ ct = strftime("%Y%m%d%H%M%S");print ct,$0}'
ls -lの出力のファイルサイズを合計する。 †
こんな感じです。
ls -l | awk '/^-r.*/ { size+=$5 } END { print size }'