Вобщем, есть решение. Насколько я понимаю, оригинальные декали Valve, такие как кровь например, делаются следующим образом. Бэкграунд изображения заливается серым фоном. У меня наилучший результат даёт RGB 127 127 127, но бэкграунды у Valve залиты 126 124 126 (Вот
здесь об этом говорится, но я не очень понимаю, что конкретно). Далее изображение сохраняется в vtf без альфа-канала (его вообще не нужно создавать), и затем в vmt прописывается шейдер DecalModulate. Всё. Теперь мы получаем декаль, которая имеет правильный эскиз и в то же время правильно выглядит в 3D.
Единственная проблема, которая остаётся, по крайней мере у меня, следующая. Если сохранять vtf с компрессией, то прозрачная часть декали (серый цвет на эскизе) имеет странный зеленоватый оттенок, что довольно заметно. Но если сохранять vtf без компрессии, то оттенка нет. Насколько можно судить по размеру файлов декалей Valve, они с компрессией (256х256 весит 42,9 кб), но вот никаких зелённых оттенков у них нет. Можно конечно довольствоваться декалью без компрессии, но уж больно много она весит в сравнении с декалью с компрессией.
Такие дела.