Yo utilizo en mis servers el fail2ban....pones un limite de intentos por cada ip y te banea por x tiempo es super sencillo de configurar para servicios como el ssh apache ftp mail servers y asterisk entre otros