Я знаю, что для каждого объекта требуется память кучи, и для каждого примитива/ссылки в стеке требуется память стека.
Когда я пытаюсь создать объект в куче, и для этого недостаточно памяти, JVM создает java.lang.OutOfMemoryError в куче и бросает его мне.
Таким образом, неявно это означает, что при запуске имеется резервная копия JVM.
Что происходит, когда эта зарезервированная память используется (она определенно будет использована, прочтите обсуждение ниже), и JVM не хватает памяти в куче, чтобы создать экземпляр java.lang.OutOfMemoryError?
Это просто повесить? Или он меня бросил бы null, так как нет памяти для new экземпляра OOM?
try {
    Object o = new Object();
    // and operations which require memory (well.. that like everything)
} catch (java.lang.OutOfMemoryError e) {
    // JVM had insufficient memory to create an instance of java.lang.OutOfMemoryError to throw to us
    // what next? hangs here, stuck forever?
    // or would the machine decide to throw us a "null" ? (since it doesn't have memory to throw us anything more useful than a null)
    e.printStackTrace(); // e.printStackTrace() requires memory too.. =X
}
==
Почему JVM не может зарезервировать достаточную память?
Независимо от того, сколько памяти зарезервировано, по-прежнему возможно, что эта память будет использована, если JVM не имеет возможности "вернуть" эту память:
try {
    Object o = new Object();
} catch (java.lang.OutOfMemoryError e) {
    // JVM had 100 units of "spare memory". 1 is used to create this OOM.
    try {
        e.printStackTrace();
    } catch (java.lang.OutOfMemoryError e2) {
        // JVM had 99 units of "spare memory". 1 is used to create this OOM.
        try {
            e.printStackTrace();
        } catch (java.lang.OutOfMemoryError e3) {
            // JVM had 98 units of "spare memory". 1 is used to create this OOM.
            try {
                e.printStackTrace();
            } catch (java.lang.OutOfMemoryError e4) {
                // JVM had 97 units of "spare memory". 1 is used to create this OOM.
                try {
                    e.printStackTrace();
                } catch (java.lang.OutOfMemoryError e5) {
                    // JVM had 96 units of "spare memory". 1 is used to create this OOM.
                    try {
                        e.printStackTrace();
                    } catch (java.lang.OutOfMemoryError e6) {
                        // JVM had 95 units of "spare memory". 1 is used to create this OOM.
                        e.printStackTrace();
                        //........the JVM can't have infinite reserved memory, he going to run out in the end
                    }
                }
            }
        }
    }
}
Или более кратко:
private void OnOOM(java.lang.OutOfMemoryError e) {
    try {
        e.printStackTrace();
    } catch (java.lang.OutOfMemoryError e2) {
        OnOOM(e2);
    }
}
