secondlifeさんのご指摘の通り、
この方法ではうまくいかない事がわかりました。

代案を探してみたところ、
とりあえず以下のようにすることで目的を果たせるようです。

1. 空ディレクトリとしたいディレクトリ（例えばtmp/）の中に.gitignoreファイルを置く
2. tmp/をROOTの.gitignoreファイルの中でignoreする
   pre>>
   tmp
   <<--
3. git add tmp/.gitignoreをする。

.gitignoreファイル自体は含まれてしまいますが、
実用上は問題なさそうですね。
しかし、完全な方法は無いものか･･･。

See Also

• 空ディレクトリに.gitignoreを

log/やtmp/ディレクトリの中身はignoreしたいけれど、ディレクトリそのものの存在はリポジトリに含めたい場合は、以下のように.gitignoreを書けば良いみたいです。

.gitignore

pre>>
log//
tmp//
<<--

Zshで特定のディレクトリ以下のrbファイルを全部開きたい時などに、

sh>>
vim **/*.rb
<<--

などとやりますが、そんな感じですね。