Niestety to jest przypadłość wszystkich vegasów. Jedyne, co możesz zrobić stosując taką maskę to przerobić ją tak, aby wszystkie punkty w niej miały pozycje całkowitoliczbowe (w praktyce pozostaje tylko prostokąt).
Domyślam się, że ścieżka tła jest pod ścieżką z obmaskowanym materiałem, możesz jeszcze spróbować poniższych metod:
- zmienić tryb compositingu ścieżki nakładanej (tej nad tłem - czyli tu z kaczką) z source alpha na inny screen/overlay
- dodać ścieżkę, która będzie robiła za generator maski i w niej wycinać dokładnie takie same punkty co wcześniej (zrobisz to poprzez kopiuj/wklej punktów kluczowych). Tą ścieżkę stwórz nad tą z wyciętym ptakiem, i w niej zaaplikuj generator solid color (biały) i do tegoż białego tła dodaj wspomnianą wyżej maskę. Następnie zmień tryb compositingu z source alpha na multiply(mask) i nałóż na całą ścieżkę lekkiego blura.
Możliwe, że za jakiś czas napiszę tutoriala na ten temat