awk
awkスクリプト内部で、他のファイルに記述した設定を呼び出したい場合ってありますよね。 この場合、標準拡張のreadfileかrwarryを使うと良いです。 実際のところ readfile 単純にファイルを読み出すだけなら、以下のような感じでいけます。 一本の文字列と…
たまにawkでtac……つまり逆読み的な事をやる例題がありますね。 ああいった事をやる場合、実は標準添付ライブラリの「revoutput」を使うと苦労もなくいけます。 $ gawk '@load "revoutput"; BEGIN { REVOUT=1; print "sample string" > "/dev/stdout"}' gnirt…
Ruby等々の軽量言語でもお馴染み、時刻を返すstrftime関数、AWKにもちゃんとあります。 使い方に一手間かかりますが、あとの使い勝手はなんら変わりません。 実際のところ strftime関数を呼び出すだけなら、ライブラリ不要です。 ただし、そのまんま呼び出し…
AWKでUNIXコマンドの結果を内部的に使いたい場合「|」でつないでやるだけで大丈夫です。 実際のところ 単純に結果が欲しいだけなら、以下のようにつなぐだけです。 $ gawk 'BEGIN {"date" | getline result; print result}' 2015年 10月12日 月曜日 23時47分…
awk組み込みのinplaceは置換後のバックアップファイルを取るときに非常に便利です。 公式では、 The inplace extension emulates GNU sed’s -i option, which performs “in-place” editing of each input file. It uses the bundled inplace.awk include fil…
AWKには予め拡張ライブラリがいくつか用意されています。 これらは@loadで読み出す事で利用可能です。 実際のところ 呼び出し方 数値をascii文字に拡張するライブラリordchrを使ってみます。 これを読み出し、97(='a')を変換するには以下のようにします。 $ …
Besides the /dev/stdin, /dev/stdout, and /dev/stderr special file names mentionedearlier, gawk provides syntax for accessing any other inherited open file: /dev/fd/Nとあるように、awkでは通常のstdin、stdout、stderrの３人組に加えて 自分で指…
以前の記事で書いた、以下のようなgetlineを使うバッドパターンを考えます。 三行目にマッチし、その二行あとを捕獲して表示する例です。 $ seq 1 10 | gawk '/3/{getline; getline; print}' これは、getlineを使わない形で以下のように書き換わります。 $ s…
行数を示す変数NRについては、何度か記事にしてきました。shuzo-kino.hateblo.jp shuzo-kino.hateblo.jp実は、この変数……処理中に値を上書きできます。 実際のところ ２行目になったら、NRを42になるようにしてみます。 NRは行を送る毎に一加算されていくの…
getlineは、大雑把にいうと……条件にあった行を取得しに行く組み込み関数です。 たとえば、３行目から２個先の行を取る場合、こんな風に。 $ seq 1 10 | gawk '/3/{getline; getline; print}' 5 あるいは、入力を既存ファイルの内容で割り込みさせるとか $ se…
awkのデータ型は自由です。 数値と文字列が混在していても、よろしくやってくれます。 これらを連結したい場合、余計な事を考えずスペース区切りで並べてあげるだけです。 実際のところ 既存の変数に数値を足した変数を生成したい場合、単に並べてあげるだけ…
よく使う関数はawkスクリプトとして保存して適時読み出すと楽になるケースがあります。 awkスクリプトは-fオプションで読み込みます。 その後で、ワンライナーやら何やらが使えるので使いどころによっては重宝します。 実際のところ 参考もとのモノをベース…
導入 $ wget http://lawker.googlecode.com/svn/fridge/lib/awk/myrss.awk 使い方 $ gawk -f myrss.awk --source 'BEGIN { print "<ul>"; print myrss("rss;lawker.bl ogspot.com/feeds/posts/default?alt=rss;5","<li>\n"); print "</ul>" }' <ul> <a href="">Mar 01</a>Michael Sanders dem</ul>…
AWKでも連続して変数を代入することができます。 同じ値を複数のフィールドに突っ込む場合に特に有効です。 実際のところ １、２、最終のフィールドを"nil"としたい場合を考えます。 この場合、以下のように=で変数を結んであげるだけで連続して指定できます…
人様の書いたawkスクリプトをみてると、時折END部分で変数に+0をつけるものがあったりします。 たとえば、こんな感じ。 $ cat data.csv | awk '/Saitama/{tot++} END{print tot+0}' 2これは、awkの変数がjavascriptと同様かなり自由度が高いことと関係してい…
非POSIX環境の場合、改行ルールが違ったりパスの記法が異なったりで若干使い勝手が変わるケースがあります。 こういう場合、gawkやmawk、cygwinのawkに実装されているBINMODEオプションを使うと挙動をPOSIX準拠にすることができます。 If BINMODE is `"r"', …
NRとFNRのちがいは、 NRが通し番号なのに対して、FNRがファイル毎に振られる番号であるという点があります。 実際のところ 以下のようなファイルがあったとします。 $ tail 111.txt 000.txt ==> 111.txt <== abc withdrawal def payment xyz deposit xxx bal…
カラムの大半が必要だけど、 アタマの通し番号が邪魔だな…… 末尾の注釈が要らないなぁ…… 等々、特定のカラム”だけ”不要という場合、あえてその部分だけ空白文字化してしまう手もあります。 実際のところ 前回扱った日本の都市情報のうち、最初と最後のカラム…
特殊変数のNFと$NFは、それぞれ明らかに異なった動きをします。 前者は項目数、後者は最後の項目の内容を格納しています。 実際のところ 以下のようなファイルがあったとします。 $ cat sample.txt foo vivit 42 bar 10 buzz 34 piyo 11これについて、NFと$N…
AWKでもwc的なことができます。 その上、そのままprintfにつなげたり、正規表現を使うことができたりで便利です。 実際のところ List of Japanese cities by population - Wikipedia, the free encyclopediaから作成した 日本の都市名リストを使い、検証して…
ORS変数は出力レコードを特定の文字で結合できるものです。 実際のところ $ seq 20 30 | awk 'ORS=NR%5?", ":"\n"' 20, 21, 22, 23, 24 25, 26, 27, 28, 29一部の資料では"ORS=%NR%5"とかNRの前に入ってますが、誤植です。他のスクリプトで似た事やるのはち…
AWKの要素間の区切り文字はデフォでは空白文字です。 これを設定するのがOFS変数です。 実際のところ 各要素を"***¥n"で区切りたい場合を考えてみましょう。 前回のものをベースにする場合、OFSの部分を以下のように追加します。 BEGIN {OFS="***\n"; FS="</item>\n…
Yahoo!ニュース・トピックス - サイエンス から、RSSのファイルを取得してきます。 $ curl http://news.yahoo.co.jp/pickup/science/rss.xml > rss.xml $ cat rss.xml | nl 1 2 <rss xmlns:blogChannel="http://backend.userland.com/blogChannelModule" version="2.0"> 3 <channel> 4 <title>Yahoo!ニュース・トピックス - サイ…</channel></rss>
BEGINとENDを使えば、特定条件に一致した行をカウントするのも比較的楽にできます。 BEGIN { count = 0 } $1 % 3 == 0 && $1 % 5 == 0 { count = count+1 } END { print "I found " count " fizzbuzz numbers. :)" }てなファイルを用意した上で $ seq 1 100 …
AWKでは、ANDやORを使った条件指定ができます。 これと行番号を意味するNRを組み合わせることで行範囲を指定することができます。 実際のところ たとえば……４行目から７行目までを表示したいなんてケースがあった場合、 $ seq 1 100 | awk '( NR < 3 ) && (N…
awkはカラム番号を指定すると、その番号分を出力してくれます。 $ printf "as you like\n" | awk '{ print $(1) }' as 0なら、全部出力。 $ printf "as you like\n" | awk '{ print $(0) }' as you like で、この変数ですが番号を与えればいいだけなので……内…
前回の続きっぽい記事です。手当たり次第ブランチを切りまくっていると、問題になってくるのが不要ブランチの処分。 実験用のお砂場として弄り回した果てに存在すら忘れていたのがチラホラ... 以前も似たような事をやりましたが、あのバージョンだと日付以降…
以前のCLI_YAMLパーサ解析の続きです。 local fs=$(echo @|tr @ '\034') sed -ne "s|^\($s\)\($w\)$s:$s\"\(.*\)\"$s\$|\1$fs\2$fs\3|p" \ -e "s|^\($s\)\($w\)$s:$s\(.*\)$s\$|\1$fs\2$fs\3|p" $1 | awk -F$fs '{ .... }色々調べた所、どうもsedは\034... …
