Hola, tenemos la respuesta a tu búsqueda, continúa leyendo y la obtendrás un poco más abajo.
Solución:
IIS respetará ambos límites.
Si establece un límite de bytes privados de 500 MB, tan pronto como un proceso de trabajo intente comprometer 501 MB, IIS activará un nuevo proceso de trabajo y eliminará el anterior.
Si establece un límite de memoria virtual de 3 GB, tan pronto como un proceso de trabajo intente reservar 3,001 GB, IIS activará un nuevo proceso de trabajo y eliminará el anterior.
Si está en una plataforma de 64 bits, debe tener en cuenta que la aplicación ASP.NET reserva agresivamente la memoria virtual. Como ejemplo, tengo una aplicación en una granja que usa solo 88 MB de bytes privados, pero ahora tiene un tamaño virtual de 5,4 GB. Creo que la reserva de memoria virtual es una función de la memoria RAM física en el servidor. También es importante comprender que en una plataforma de 64 bits, reservar grandes porciones de memoria virtual tiene un impacto nulo en el rendimiento.
Básicamente, si tiene problemas de consumo de memoria en un servidor IIS, la configuración que desea limitar es Memoria privada/Bytes, esto es lo que corresponde al uso real de la memoria.