WiredTigerが非常に素晴らしいのですが、設定ファイルが

1. /etc/mongod.conf
2. /var/lib/mongodb/WiredTiger.basecfg
3. /var/lib/mongodb/WiredTiger.config

のように沢山あって結構ややこしいです。

基本的には 1. はmongodbの初回起動時だけ有効で、3. が次回以降の再起動で反映されるものになります。
さらに、mongodbを動かしたままWiredTigerの設定だけ変更したい場合は、
mongoのコンソールから

js>>
db.adminCommand({setParameter:1, wiredTigerEngineRuntimeConfig:"c
ache_size=8G"})
<<--

のように修正できるようです。パラメータ名は 2. のファイルの中身が参考になります。
これによって内部的にはWT_CONNECTION::reconfigureが実行される模様。

修正したら、次回来起動した場合に備えて 3. も書き換えておくと良いでしょう。