Buenas
Vamos por partes:
- ¿Necesitaría una licencia de sistema operativo para equipo y para el servidor de Windows y de VMWare independientemente?
Según el producto que montes y los roles que quieras darle al servidor (hierro)
Puedes virtualizar todo el servidor y convertirlo en un host de virtualización ESXi (con lo que puedes poner en la misma máquina varias máquinas virtuales paralelas) o bien instalar apoyarte en el para crear máquinas a través de vmware player/workstation (no es el mismo rendimiento que en ESXi)
Ten en cuenta que si ese equipo tiene una licencia OEM, no es virtualizable a ojos de microsoft y si es un DC, bueno, yo me quedaría físico y sin tocarlo ya que en principio no dices de tener otro de contingencia.
- ¿Qué ventajas tendría respecto a la actual red?
Depende de lo que quieras hacer y de los servicios que tengas que dar con ese servidor.
- ¿Cuánto podría suponer aproximadamente el coste económico?
ESXi para 1 cpu física (1 solo procesador de x cores) y player son gratuitos, pero deberías echarle un vistazo a la licencia.
Workstation y ESXi completo tiene un coste que varía desde los 200$ a los 3000$ según la modalidad (estos precios son de 2011, pueden haber cambiado)
Saludos