Ловлю ип который открывает более 20 соединений за секунду.Далее записываю в лог.Далее скриптом баню.Каждые 15 секунд чищу правила.Спасибо челу который описал данный метод на habr