Bizarre! Si le dossier est bien spécifié, ça devrait fonctionner. Essaie de créer un autre dossier (temp par ex) à la place.
Sinon, si toutes tes captures commencent par vlcsnap-, tu peux faire une recherche de ces fichiers. Ça te permettra peut être de comprendre l'origine du problème.
Tu peux aussi regarder directement dans le fichier de configuration de vlc si le chemin à ton dossier est bien le bon (cf. ligne 3171). Sous windows, c'est le fichier texte C:\Users\ton_login\AppData\Roaming\vlc\vlcrc. Sous linux, il est dans ton home dans le répertoire .vlc ou .config/vlc.
Good luck!