теоретически, у 4.2 и 5.2 есть "общее место" - вин сервер 2003 Р2. имхо правильнее ставить сервер на серверную ось.
почему виснет инсталляция - можно же в логах посмотреть. правда, информация там не всегда поддается осмыслению.
практически можно поступить как рекомендует ТС - экспортировать на живой висте company directory, system diectory, carrier, тарификацию. развернуть на новой оси 5.2 и импортировать туда.
в практике что-то не припомню, менял когда-либо ось при апгрейде омнивисты. может и было, но раз не помниться, то как-то решилось без проблем.