Tabキーを押すと、Window上に配置されているNSViewのnextKeyViewの間を移動しますが、これを無効にするには、

1. NSWindowのinitialFirstResponderを適当なView(contentViewなど)に設定する
2. subviewsのnextKeyViewをself（view自身）にする

これでひとまず目的を実現できるようです。
きっともっと簡単な方法がありそうな気がするのですが、とりあえず。