Il y aurait peut être une piste (un peu tordue je reconnais) mais, attention, je n'ai pas testé.
Bien que l'interface DSM permet de mettre des quotas uniquement au niveau de l'utilisateur, la commande "setquota" (/sbin/setquota) supporte les quotas de groupes (cf setquota --help)
Par conséquent, en créant un groupe dédié à cet usage, il devrait être possible, en forcant le groupe pour les dossiers/fichiers créés dans le dossier (chgrp le groupe le_dossier ; chmod g+rxxs le_dossier), en limitant l’accès au dossier aux membres du groupe (chmod "o=" le_dossier) et en ajoutant au groupe les utilisateurs autorisés à accéder au dossier, de positionner un quota sur le groupe (avec la commande setquota) et aboutir à l'effet souhaité.
Mais je le répète, ce ne sont que des hypothèses à tester!