Si requieres crear una máquina virtual para instalar algún sistema operativo, puedes utilizar distintos software, como Virtual Box, VMware, Parallels, etc., para muchos, lo más sencillo es Virtual Box, de Oracle. Lo puedes descargar en su página oficial.
Una vez instalado, podremos ver una interfaz como la siguiente:
Damos clic en Nueva y aparecerá una ventana donde podremos elegir el sistema operativo que vamos a instalar, escribimos el nombre de la máquina y damos clic en siguiente.
Después elegimos la memoria RAM que queremos para la máquina virtual. Es muy importante que elijas una capacidad menor a la memoria que tienes en tu computadora, por ejemplo, si tienes 4 GB, lo recomendable sería utilizar 2 GB para la máquina virtual.
Al dar clic en siguiente, elegiremos la configuración del disco duro. Podemos elegir la capacidad recomendada, y dejamos marcada la opción de crear disco duro virtual ahora.
Damos clic en siguiente y elegimos la opción de disco duro de virtualbox, luego confirmamos la capacidad de memoria RAM y finalizamos.
Ya podemos ver la máquina virtual apagada, si queremos configurar más opciones como audio, agregar discos duros, cargar unidades, etc. Damos clic en configuración.
En dicho menú de configuración, puedes elegir cuántos procesadores utilizar (también depende de los recursos de tu computadora), agregar puertos USB, tarjetas de red, etcétera.
Ahora, si quieres instalar un sistema operativo, solo da clic secundario a tu máquina virtual y elige encender. Puedes elegir iniciar en ventana normal, se abrirá una ventana de consola y te pedirá cargar la imagen ISO, la seleccionas en tu equipo y das clic en aceptar, entonces la máquina virtual iniciará con esa imagen de disco.