Здравствуйте! Дело в том, что подстановка переменных происходит в параметрах конфигурации. Из каталога dovecot поднимает уже ГОТОВЫЕ ЗНАЧЕНИЯ. которые в дальнейшем сами используются для подстановки в параметры конфигурации. То есть я хочу сказать, что в каталоге лежат не параметры конфигурации dovecot, а обычные строковые значения, и подстановка в них переменных вполне логично не осуществляется.
Если сильно нужно хранить почтовую домашнюю директорию в каталоге (на самом деле я не вижу в этом смысла, т.к. скорее всего, для почты в одном домене у всех почтовых пользователей будет аналогичная директория), то надо указывать её явно:
mailMessageStore: /var/vmail/mycompany.ru/user1/
Егор