Powiniens miec gdzies jeszcze jail.local
Co masz w filter.d/ ?
Jeżeli nie masz zadnego pliku .local to utwórz jail.local i tam dodajesz jail'a np [vmware] wraz z całą konfiguracja.
Do katalogu filter.d dodajesz vmware.conf gdzie umieszczasz pythonowego regexa odnośnie wprawdzania loga, który umieciłeś w jail.local. Jak to zrobić i jak to ma wyglądać, to już znajdziesz w manualu f2b