Solución:
No puede hacerlo usando variables de entorno directamente. Debe utilizar el conjunto de opciones “no estándar” que se pasan al comando java. Ejecute: java -X para obtener más detalles. Las opciones que está buscando son -Xmx y -Xms (este es el tamaño de pila “inicial”, así que probablemente sea lo que está buscando).
Algunos productos como Ant o Tomcat pueden venir con un script por lotes que busca la variable de entorno JAVA_OPTS, pero no es parte del tiempo de ejecución de Java. Si está utilizando uno de esos productos, es posible que pueda establecer la variable como:
set JAVA_OPTS="-Xms128m -Xmx256m"
También puede adoptar este enfoque con su propia línea de comando como:
set JAVA_OPTS="-Xms128m -Xmx256m"
java ${JAVA_OPTS} MyClass
Si quieres alguno java proceso, no solo ant o Tomcat, para elegir opciones como -Xmx usa la variable de entorno _JAVA_OPTIONS.
En bash: export _JAVA_OPTIONS="-Xmx1g"
En realidad, existe una forma de establecer valores predeterminados globales para la JVM de Sun a través de variables de entorno.
Consulte Cómo configurar una propiedad del sistema Java para que sea efectiva siempre que inicie JVM sin agregarla a los argumentos de la línea de comandos.