Bord ou ligne de démarcation d'un masque — définit où le sujet finit et le fond commence. Peut être dur ou doux; nécessite souvent un travail manuel final.
La ligne de masque détermine si un masque présente des bords nets ou flous dans l'image finale. Il s'agit du bord précis entre le sujet isolé et l'arrière-plan — et ce bord n'est presque jamais parfait dès la première passe. Vous découpez votre sujet, que ce soit par rotoscopie, par incrustation (keying) ou par masquage automatique, et ensuite la ligne est là : parfois dure et tranchante, parfois floue, parfois avec des franges de pixels ou des débordements de couleurs involontaires. C'est la ligne de masque — et vous y travaillerez jusqu'à ce que le défaut ne soit plus visible.
La dureté et la douceur du bord sont deux pôles extrêmes. Une ligne de masque dure fonctionne pour les objets géométriques, pour les bâtiments ou les véhicules sous une lumière parallèle. Mais pour les cheveux humains, le feu ou les objets transparents, un bord trop net devient immédiatement un défaut — là, vous avez besoin d'une zone de transition douce et graduée qui fusionne avec l'arrière-plan. Dans le compositing, cela peut être ajusté via le flou (blur), la chute (falloff) ou l'expansion du bord (edge expansion). Un piège classique pour les débutants : laisser la ligne trop sombre ou trop claire parce que vous n'investissez pas assez de temps dans le contrôle des couleurs du bord.
Sur le plateau, vous ne remarquez les problèmes de ligne de masque que plus tard — au montage ou lors de la supervision VFX. Une prise de vue sur fond bleu avec un mauvais éclairage crée un bord flou, laissant des franges de couleurs vertes ou bleues. Un projet de rotoscopie réalisé sous la pression du temps laisse des lignes tremblantes là où l'artiste de rotoscopie n'a pas été précis image par image. Les artefacts numériques lors de l'incrustation — halos, débordements de couleur (colour spill) — sont également des problèmes de ligne de masque. Vous les voyez clairement lorsque vous regardez la couche isolée sur un fond noir ou blanc.
Les praticiens réduisent le travail sur la ligne de masque par une préparation intelligente : un masquage propre, un éclairage calibré sur le plateau, ou par un flux de travail de rotoscopie avec un adoucissement (feather) et un raffinement du bord (edge refinement) dès le masquage. Dans DaVinci ou Nuke, la ligne peut encore être corrigée à la dernière minute — avec érosion/dilatation (erode/dilate), réglage de la plage de couleurs (color range tuning) ou corrections manuelles du bord (edge fixes). Mais cela coûte du temps. Mieux vaut que la ligne soit correcte dès la première passe. Alors, la ligne de masque est invisible, et c'est le seul objectif.