Потому что он в основном спрашивает, наследует ли Object.prototype объект Object.prototype: это не так.
a instanceof b эквивалентен b.prototype.isPrototypeOf(a) - он проверяет, находится ли b.prototype в цепочке прототипов a. В вашем случае это не в цепочке, потому что это начало самой цепи. isPrototypeOf не является рефлексивным.