Bon en suivant la procédure d'installation pour Ubuntu ça marche bien :
Donc tu as juste à créer une VM avec VMM (tu as des tutos Synology assez bien faits sur le site officiel).
Une fois ta VM crée tu suis toutes les étapes à ce lien : https://docs.mattermost.com/install/installing-ubuntu-1804-LTS.html#install-mattermost-server soit en te connectant en SSH à ta VM depuis Putty, soit directement via le guest agent si tu as installé un Linux avec interface graphique.
Pour accéder au site via une URL sécurisée, tu dois utiliser un proxy inversé, celui du NAS fera l'affaire (voir tutoriel https://www.nas-forum.com/forum/topic/59108-tuto-reverse-proxy/), il te suffira de mettre l'url (Siteurl) que tu as choisi dans le JSON de Mattermost (c'est expliqué dans le tutoriel) comme adresse pour Mattermost :
https://mattermost.ndd.tld -> http://IP_DE_LA_VM:8065
Et normalement tout devrait rouler.
N'hésite pas si tu as des questions.