primero en principal para esto hay una posible solucion, que es instalar herramientas para el AntiDDOS que hay por internet, el problema es que esas herramientas son algo inutiles ya que si te atacan usando proxy las IP varian durante el ataque y el antiddos no te las va a eliminar ya que el antiddos solo detiene un ataque de una IP mandando varios sockets, ejemplo si una ip te manda mas de 1 paquete .. ya tendrias que estar alerta ... si tenes un servidor de algun juego online ... y nada mas abierto en el vps... entonces revisa las conexiones que usen el puerto de ese juego.
Ejemplo en el caso de Mu Online .. cada conexion entrante usa el puerto 55960 y 44405 y de vez en cuando el 55999 que es del MHPServer.
Otro ejemplo que te puedo dar es con MINECRAFT ... cada usuario que entra usa el puerto 25565 y ya sabiendo esto tendrias que darte cuenta cuales son las IP que estan atacando y cuales son las que tienen usuarios.
En mis servidores siempre corrijo el REGEDIT para modificar las conexiones de Windows, luego instalo la aplicacion de Wiljor para el Antiddos.
Por lo general la mayoria usa esta aplicacion pero a mi no me gusta porque tiene un filtro de una ip que no corresponde con la aplicacion y se me hace que es un troyano que quiere revisar las conexiones.

EL que uso es este: no recuerdo cual era la descarga pero fijate :P



Creo que eran esos dos .. revisalos porque la verdad que ahora no estoy en casa, pero sino luego te subo el AntiDDS que uso actualmente.
Cualquier cosa comenta que te ayudo .... lo primero que tenes que hacer para que los ataques paren ... yo pondria el VPS apagado por unas cuantas HORAS que seguro el ataque deja de suceder ... sino pedile a tu proveedor que te cambie la IP de tu VPS y listo.
Luego del cambio de IP deberias instalar todo esto que te pase y seguro no tendras problemas.