Bye Bye Moore

猫マンション建築の野望を胸に零細事業主として資本主義の荒波に漕ぎ出したアラサー男の技術メモ

awk

awkの正規表現でSHELL変数は使えない……なんて事はなかった!

awk

shuzo-kino.hateblo.jp に、こんなコメントを頂きました。 ilex echo "12 hoge fuge" | awk '$1 ~ /^'"$SHELL_VAR"'/{print "アルヨ〜"}' または echo "12 hoge fuge" | awk 'BEGIN{var="^"'"$SHELL_VAR"'}$1~var{print "アルヨ〜"}' でいけるようです。 早…

awkのgsub/sub関数でマッチした文字の前後に細工をしたい場合

awk

awkのgsub/sub関数でマッチした文字の前後に細工をしたい場合、 マッチした文字をキャプチャしてくれるのは"&"です。 実際のところ たとえばgsubなら $ echo 12345678 | awk 'gsub(/[0-9][0-9]/, "&-")' 12-34-56-78- $ echo abc | awk ' gsub(/あ*/, " // &…

AWKの関数呼び出しは入れ子構造にできる

awk

AWKの関数呼び出しはrubyのように入れ子にできます。 実際のところ shuzo-kino.hateblo.jp でやった日付呼び出しの例を考えてみます。これが $ awk 'BEGIN {the_time = strftime("%y%m%d%H%M%S"); print the_time}'こうなります $ awk "BEGIN {print strftim…

awkのprint文は出力先としてファイルを指定できる

awk

awkのprint文はファイルを出力先として指定できます。 一個のawkファイルで出力先を複数指定できます。 実際のところ 以下の様なファイルがあっとします。 $ cat sample0719.txt cat cat dog person catこれを、以下の様なawkファイルに掛けると…… BEGIN { c…

awkにおいて、演算子"~"は特定の文字列を含んでいる場合"1"を返す

awk

一致すると、"1"を返します。 $ printf "foo bar buzz" | awk '{print $0 ~ /ba/}' 1否定版もあります。 $ printf "foo bar buzz" | awk '{print $0 !~ /bar/}' 0条件式に組み込むこともできるので、知ってると少し短く書けるかも $ printf "foo bar buzz" |…

Gitでコミット数を知るワンライナー

Gitでコミットした量を知るワンライナーです。 git logは各種ログがでてきますが、awkでこれの”Date”分を抽出し、"uniq -c"で出てきた個数を数えると……コミット回数をリストアップできます。 $ git log | awk '/Date/{print " : " $4 " " $3 " " $6}' | uniq…

awkにおける変数設定オプションとファイルの順番について

awk

awkにおける変数設定オプションとファイルの順番は「変数設定オプション」=>「ファイル」の順です。 実際のところ $ tail sample.txt sample2.txt ==> sample.txt <== a b c d e f 89 01 23 45 61 31 94 ==> sample2.txt <== GNU EMACS PYTHON RUBY $ gawk '…

Javascriptでawkが動く。魔界ライブラリWebAWK

awk

WebAWKは、Javascript実装のAWKです。 オンラインでもは此方。 WebAWK - client-side awk in Javascript導入は簡単です。 gitからコードを導入し…… $ git clone git://github.com/agordon/webawk.git $ cd webawk/仮ビルド=>必要な形態にビルド。 まずは試し…

awkで標準出力に表示された数値を数値型で扱う3つの方法

awk

ゼロ加算 awk界隈ではよく見かける方法です。 printf記法、print記法共に16進数は予定通り動いてくれないので注意が必要です。 $ echo 123 0x123 | gawk '{print $1+0, $2+0}' 123 0 $ echo 123 0x123 | gawk '{printf "%d %d\n", $1+0, $2+0}' 123 0 strton…

awkプログラムを単独実行可能な状態にしておく

awk

ある程度スクリプトの内容が熟れてきたら、 awkスクリプトの単独実行を検討してみるのもいいでしょう。 実際のところ 標準出力から数字列を受け取り、fizzbuzzの個数を受け取る以下のようなスクリプトがあったとします。 BEGIN { count = 0 } $1 % 3 == 0 &&…

awkでredisやXML、PostgreSQLを使う魔界拡張

awk

gawkには、「gawkextlib」という外部拡張群が用意されています。 公式から文言を引用すると The gawkextlib project provides a number of gawk extensions, including one for processing XML files. XML読み込みを主目的に開発された事がわかります。実際…

awkの文字列系便利関数

awk

awkの文字列系便利関数はデフォルトでいくつかついてます。 RubyやPythonに慣れていれば大体挙動は同じです。 メソッドチェインみたいな事は不得手ですが。 文字列系便利関数 index 先頭からの文字数をカウントする関数です。 1文字以上の文字列に一致、そ…

awkにもsplit関数がある

awk

配列といえば、おなじみsplit関数。 awkにもあります。 ちょっと便利な機能がついて。 実際のところ 普通に使うだけなら、変数は2個です。 分割する文字列、格納先の配列という順。 $ gawk 'BEGIN{a ="Hello World, yo"; split(a, ary); print ary[1]}' Hel…

配列の内容を消すときにはdelete

awk

awkで配列のカラムを消す時は delete ary[index] です 実際のところ BEGIN { PROCINFO["sorted_in"] = "@ind_str_asc" ary[3] = "j" ary[1] = "t" ary[2] = "a" ary[0] = "b" delete ary[2] for (i in ary) print i, ary[i] } #>> 0 b #>> 1 t #>> 3 j 参考…

配列の格納順を決める変数PROCINFO["sorted_in"]

awk

AWKで配列の格納順を決める変数として、PROCINFO["sorted_in"]があります。 実際のところ 以下のようなスクリプトがあったとします。 BEGIN { PROCINFO["sorted_in"] = val ary[3] = "j" ary[1] = "t" ary[2] = "a" ary[0] = "b" for (i in ary) print i, ar…

awkの配列をfor文で順繰りに読む

awk

awkの配列をfor文で順繰りに読む場合、 eachのような気の利いた関数はないので、 シェルなどと同様 for ( NUM in ARY )てな書き方になります。 実際のところ BEGIN { a["here"] = "here" a["is"] = "is" a["a"] = "a" a["loop"] = "loop" for (i in a) { j++…

awkでARGV系変数を扱う

awk

awkにも、引数を取得するARGV系変数があります。 引数の総数を見るARGCという便利変数もついてるので、やりようによっては色々応用が効く可能性があります。 実際のところ 引数で変数A、Bを定義し、awkスクリプト内で参照するようなスクリプトの場合、 もっ…

awkの-vオプションで初期値を与える

awk

awkの-vオプションは初期値を与えるオプションです。 似た処理を変数変えてやりたい時に有効ですね。 実際のところ $ gawk -v A=2 'END{ printf "A:%d + B:%d\n", A, B}' B=4 /dev/null A:2 + B:4最後にある/dev/nullがミソです。 これがないと、無限参照で…

awkスクリプト内部で、他のファイルに記述した設定を呼び出したい場合

awk

awkスクリプト内部で、他のファイルに記述した設定を呼び出したい場合ってありますよね。 この場合、標準拡張のreadfileかrwarryを使うと良いです。 実際のところ readfile 単純にファイルを読み出すだけなら、以下のような感じでいけます。 一本の文字列と…

tac的な事をやるライブラリ「revoutput」

awk

たまにawkでtac……つまり逆読み的な事をやる例題がありますね。 ああいった事をやる場合、実は標準添付ライブラリの「revoutput」を使うと苦労もなくいけます。 $ gawk '@load "revoutput"; BEGIN { REVOUT=1; print "sample string" > "/dev/stdout"}' gnirt…

AWKにもstrtime関数がある。ただし、timeライブラリと合わせてつかう。

awk

Ruby等々の軽量言語でもお馴染み、時刻を返すstrftime関数、AWKにもちゃんとあります。 使い方に一手間かかりますが、あとの使い勝手はなんら変わりません。 実際のところ strftime関数を呼び出すだけなら、ライブラリ不要です。 ただし、そのまんま呼び出し…

AWKでUNIXコマンドの結果を内部的に使いたい場合「|」でつないでやる

awk

AWKでUNIXコマンドの結果を内部的に使いたい場合「|」でつないでやるだけで大丈夫です。 実際のところ 単純に結果が欲しいだけなら、以下のようにつなぐだけです。 $ gawk 'BEGIN {"date" | getline result; print result}' 2015年 10月12日 月曜日 23時47分…

AWKで置換後のバックアップファイルを残しておきたい場合、「inplace」ライブラリが使える。 

awk

awk組み込みのinplaceは置換後のバックアップファイルを取るときに非常に便利です。 公式では、 The inplace extension emulates GNU sed’s -i option, which performs “in-place” editing of each input file. It uses the bundled inplace.awk include fil…

awkの組み込み拡張機能を使うときは「@load」を使う

awk

AWKには予め拡張ライブラリがいくつか用意されています。 これらは@loadで読み出す事で利用可能です。 実際のところ 呼び出し方 数値をascii文字に拡張するライブラリordchrを使ってみます。 これを読み出し、97(='a')を変換するには以下のようにします。 $ …

awkの出力先はfdも指定可能

awk

Besides the /dev/stdin, /dev/stdout, and /dev/stderr special file names mentionedearlier, gawk provides syntax for accessing any other inherited open file: /dev/fd/Nとあるように、awkでは通常のstdin、stdout、stderrの3人組に加えて 自分で指…

awkにおけるgetlineのバッドノウハウを消し去る構文「c&&!--c;」についてちゃんと理解する

awk

以前の記事で書いた、以下のようなgetlineを使うバッドパターンを考えます。 三行目にマッチし、その二行あとを捕獲して表示する例です。 $ seq 1 10 | gawk '/3/{getline; getline; print}' これは、getlineを使わない形で以下のように書き換わります。 $ s…

変数NRは上書きできる

awk

行数を示す変数NRについては、何度か記事にしてきました。shuzo-kino.hateblo.jp shuzo-kino.hateblo.jp実は、この変数……処理中に値を上書きできます。 実際のところ 2行目になったら、NRを42になるようにしてみます。 NRは行を送る毎に一加算されていくの…

AWKにおけるバッドパターン、getlineの多用について

awk

getlineは、大雑把にいうと……条件にあった行を取得しに行く組み込み関数です。 たとえば、3行目から2個先の行を取る場合、こんな風に。 $ seq 1 10 | gawk '/3/{getline; getline; print}' 5 あるいは、入力を既存ファイルの内容で割り込みさせるとか $ se…

AWKで変数を含んだ文字列を生成したい場合、余計な事を考えずに並べるだけでいい

awk

awkのデータ型は自由です。 数値と文字列が混在していても、よろしくやってくれます。 これらを連結したい場合、余計な事を考えずスペース区切りで並べてあげるだけです。 実際のところ 既存の変数に数値を足した変数を生成したい場合、単に並べてあげるだけ…

よく使う関数はawkスクリプトとして保存して適時読み出すと楽

awk

よく使う関数はawkスクリプトとして保存して適時読み出すと楽になるケースがあります。 awkスクリプトは-fオプションで読み込みます。 その後で、ワンライナーやら何やらが使えるので使いどころによっては重宝します。 実際のところ 参考もとのモノをベース…