Проблема в том, что не работает восстановление пароля и не приходят сообщения на адрес, указанный клиентами при регистрации
Если не приходят только 2 типа письма, если приходит хоть одно письмо от ИМ - ищите ошибку в шаблонах писем или коде (возможно в коде отключена отправка сообщений).
Мне на сервере нужно создавать почтовый ящик (типа webmaster@vbabylone.ru)
Нет.
или можно любую по умолчанию?
Можно.
Подскажите как настроить почту?
Если письма не отправляются через mail() настройте отправку через SMTP: создайте почту на вашем сервере и укажите настройки подключения на странице
Панель управления > Настройки > Почта.