Если вы имеете в виду версию Windows, просто скачайте 32-битный zip файл из здесь
и запустите startup.bat. Он должен быть достаточно переносимым, так как он не требовал установки каких-либо сервисов/записи в реестр. Для этого требуется установить JAVA_HOME в JDK (насколько я слышал, JDK также может быть переносимым).