Если коротко:
MSAA хорошо работает с forward rendering и сохраняет резкость геометрии, но слабее решает шейдерный алиасинг. TAA и TSR используют историю кадров и лучше стабилизируют детали, однако способны размывать изображение и оставлять ghosting. Выбор делают по renderer, платформе и тесту в гарнитуре.
Сглаживание VR в Unreal Engine должно убирать ступени и мерцание, не превращая изображение в размытую картинку. Линзы усиливают оба дефекта, поэтому универсального лучшего метода нет.
MSAA
Multisample Anti-Aliasing берёт несколько образцов покрытия на границе геометрии. В forward renderer он даёт резкие края и не зависит от истории кадра. Метод хуже борется с мерцанием внутри материала, тонкими текстурами и specular aliasing.
Повышение числа samples увеличивает стоимость и память. На мобильном VR MSAA часто является практичным выбором, но его всё равно профилируют на устройстве.
TAA
Temporal AA объединяет информацию нескольких кадров. Он стабилизирует мелкие детали и шейдерный шум, но при движении головы может размазывать контрастный объект или оставлять след. Качество зависит от motion vectors и настроек.
TSR
Temporal Super Resolution одновременно сглаживает и восстанавливает изображение из меньшего разрешения. Это может освободить GPU-бюджет, но стоимость алгоритма и поддержка платформы различаются. Для автономного mobile renderer TSR не следует считать автоматической заменой MSAA.
Как сравнивать
Создайте сцену с тонкими решётками, текстом, блестящими материалами и движущимися объектами. Поворачивайте голову с типичной скоростью. Сравнивайте резкость, мерцание, ghosting и время GPU при одинаковом масштабе рендеринга.
Выбор
Для forward-rendered PC или мобильного VR часто начинают с MSAA. Для сцены с сильным шейдерным мерцанием проверяют temporal-метод. TSR рассматривают вместе с масштабированием и общей производительностью.
Название метода не гарантирует качество. Рабочее сглаживание — то, которое удерживает стабильный кадр и остаётся чистым именно в движении внутри гарнитуры.