Hum, en effet c'est plus compliqué.
Le mob-damage ne fonctionne que sur les mobs agressifs.
Le PvP que sur les joueurs.
Autre solution, faire un enclos pour tes mobs, et empêcher les joueurs d'y accéder.
Sinon, et bien plus simple, demande à tes joueurs de ne pas les buter

Et sanctionne ceux qui le font.