Whatsapp no utiliza nombres de usuarios en su sistema y ya que los contactos están asociados directamente al número de teléfono que se encuentra almacenado en el directorio, no es posible quitar un contacto de esta sección sin que se borre en la agenda del móvil.
De igual manera no existe ninguna aplicación externa ni mucho menos una función nativa que te permita eliminar un contacto solamente de whatsapp, solo puedes realizar un bloqueo a un usuario determinado o eliminarlo definitivamente de tu directorio telefónico.
Si vas a eliminarlo debes recordar que aunque borres un contacto de tu teléfono esto no significa que esa persona no podrá enviarte mensajes o comunicarse contigo, ya que eres tú quien la ha eliminado y no ella a ti.
Por tu pregunta creo que la opción que más te conviene es bloquearlo en whatsapp ya que es la única manera en que esa persona no te envié mensajes ni mucho menos te haga llamadas por esta plataforma.
Además que al usar la opción de bloque en whatsapp, conservaras el número de la persona en la agenda de contactos, por lo que podrás en un futuro si así lo deseas desbloquearla y seguir comunicándote con ella por Whatsapp.