Я думал, что система будет отбрасывать анимацию в backstack, когда нажата кнопка "Назад" при использовании фрагментов, используя следующий код:
FragmentManager fm = getFragmentManager();
FragmentTransaction ft = fm.beginTransaction();
ft.setCustomAnimations(R.anim.slide_in, R.anim.hyperspace_out);
ft.replace(R.id.viewContainer, new class(), "layout").addToBackStack(null).commit();