1. 为什么我要从“一个三角形”重写整套图形教学框架1.1 传统图形学教学的断层在哪里我教图形学断断续续也有几年了带过刚入行的新人也帮过工作两三年想转渲染方向的开发者。一个特别普遍的现象是很多人能照着教程把一整套渲染管线跑起来能调通模型加载、能贴图、能打光但你让他从零写一个只画三角形的程序他反而卡住了。问题出在哪出在传统教学框架的起点选错了。绝大多数教材和课程的第一课是“窗口创建”第二课是“画一个三角形”第三课就开始上MVP矩阵、纹理、光照。这个顺序看起来合理实际上把最核心的东西——顶点如何从三维空间一步步变成屏幕上的像素——压缩成了一堆公式推导。学生背下了矩阵乘法却不知道光栅化阶段到底发生了什么不知道一个像素的颜色是怎么被插值出来的更不知道硬件光追介入之后这套流程被改写了多少。我自己的经历就很典型。当年学OpenGL的时候画三角形那章我两天就过了觉得“不就是三个顶点加一个draw call吗”。结果后面做阴影贴图、做延迟渲染每次遇到问题都往回翻才发现自己对三角形在管线里的生命周期理解得一塌糊涂。后来接触Vulkan被迫从零管理内存、同步、管线状态反而把很多以前模糊的概念逼清楚了。再后来硬件光追出来我发现一个更有意思的事光追的入门门槛恰恰可以用“一个三角形”来打通。1.2 为什么选硬件光追Vulkan版作为起点你可能会问光追不是应该先学光栅化再学吗怎么反过来用光追当起点我的逻辑是这样的光栅化和光追在“画一个三角形”这件事上复杂度其实差不多但光追的思维模型更接近人的直觉。光栅化是“把三角形投影到屏幕然后判断哪些像素被覆盖”光追是“从相机发射光线问它有没有打到三角形”。后者你不需要先理解投影矩阵、视口变换、光栅化规则只需要理解射线和三角形的求交。而Vulkan这个API虽然以“啰嗦”著称但它的显式特性反而让教学更清晰。OpenGL帮你隐藏了太多东西你写glDrawArrays的时候根本不知道驱动在背后做了什么。Vulkan逼着你把每一块都摆到台面上描述符集、管线布局、命令缓冲、同步屏障。这些东西在光栅化管线里显得繁琐但在光追管线里它们的存在感反而更自然——因为光追本来就是一个“你告诉硬件怎么遍历、怎么求交、怎么着色”的过程。至于GLSL它是贯穿始终的着色器语言。光栅化阶段你写顶点着色器和片段着色器光追阶段你写射线生成、最近命中、未命中、任何命中等着色器。语言本身没变变的是执行模型。用同一套语言串起两种管线学生能更清楚地看到“着色器”这个概念的本质。1.3 这套框架适合谁能解决什么问题这套教学框架不是给零基础的人看的。如果你连C的指针和内存管理都不熟连线性代数里的向量点乘叉乘都要查资料那建议先补基础。它适合的是已经能跑通一个Vulkan光栅化三角形但对管线内部机制仍然模糊的人或者有OpenGL/DirectX经验想系统理解硬件光追的人再或者是那些被各种“光追教程”里一堆rayPayload、hitAttribute、shaderBindingTable搞晕想找个最小可运行例子把概念落地的人。我把它叫做“重构教学框架”是因为它不是简单地教你“怎么画一个三角形”而是以这个三角形为锚点把整个图形管线的知识体系重新组织一遍。从顶点数据怎么进显存到加速结构怎么构建到着色器怎么绑定到最终像素怎么写出——每一步都围绕这个三角形展开每一步都能独立验证。学完之后你得到的不是一个孤立的demo而是一张可以往外扩展的知识地图。2. 核心概念拆解三角形在光追管线里到底经历了什么2.1 从顶点缓冲到BLAS几何数据的第一段旅程在光栅化管线里你把顶点数据传到显存写个顶点着色器然后vkCmdDraw就完事了。光追管线不一样它多了一个前置步骤构建加速结构。这个加速结构分两层底层叫BLASBottom-Level Acceleration Structure顶层叫TLASTop-Level Acceleration Structure。对于“一个三角形”这个最小案例我们只需要一个BLAS。BLAS的构建需要你提供几何描述。在Vulkan里这通过VkAccelerationStructureGeometryKHR结构体来指定。你要告诉它几何类型是三角形VK_GEOMETRY_TYPE_TRIANGLES_KHR顶点数据在哪个缓冲里顶点格式是什么有没有索引缓冲三角形数量是多少。对于单个三角形顶点数3索引数3或者不用索引直接3个顶点。这里有个容易踩的坑顶点数据的步长和对齐。Vulkan对加速结构构建时的顶点缓冲有对齐要求通常要求顶点起始地址按minAccelerationStructureScratchOffsetAlignment对齐。这个值在不同硬件上可能不同你得用vkGetPhysicalDeviceProperties查。我一开始没注意直接拿了个普通缓冲就往里塞结果验证层报了一堆对齐错误。后来养成习惯凡是给加速结构用的缓冲创建时都加上VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT和VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_BUILD_INPUT_READ_ONLY_BIT_KHR然后用vkGetBufferDeviceAddress拿地址这样最稳。BLAS构建本身分两步先查需要多大空间vkGetAccelerationStructureBuildSizesKHR然后分配一个加速结构缓冲和一个scratch缓冲。scratch缓冲是构建时的临时工作区构建完就可以释放。这里有个经验scratch缓冲的大小和对齐也要查不同驱动实现差异很大。我试过在某个驱动上scratch只要几KB换一个驱动就要几MB。所以别硬编码老老实实查。2.2 TLAS与实例为什么一个三角形也要走这套流程你可能会想我就画一个三角形能不能跳过TLAS直接打BLAS技术上可以但教学上不建议。因为TLAS才是光追管线里“场景组织”的核心。TLAS里放的是实例instance每个实例引用一个BLAS并带一个变换矩阵。对于单个三角形我们创建一个实例变换矩阵设为单位矩阵引用刚才构建的BLAS。这样做的好处是你从一开始就建立了正确的思维模型光追遍历的是实例实例指向几何。后面你要加第二个三角形、加模型、加多个物体只需要往TLAS里加实例BLAS可以复用。如果一开始就跳过TLAS后面扩展时还得回头补课。TLAS的构建和BLAS类似也要查大小、分配缓冲、记录构建命令。区别在于TLAS的输入是实例数组每个实例需要指定BLAS的设备地址、变换矩阵、实例ID、掩码等。这里有个细节实例的变换矩阵是3x4的不是4x4。Vulkan用VkTransformMatrixKHR三行四列省掉最后一行0,0,0,1。我第一次写的时候直接塞了个4x4矩阵编译过了但运行结果完全不对排查了半天才发现是矩阵维度问题。2.3 着色器绑定表光追的“接线板”光栅化管线里你绑定管线、绑定描述符集、绑定顶点缓冲然后draw。光追管线里多了一个着色器绑定表Shader Binding TableSBT。你可以把它理解成一个“接线板”光追硬件在遍历场景时会根据命中情况去SBT里查对应的着色器记录然后调用。SBT里至少要有四类记录射线生成raygen、未命中miss、最近命中closest hit、任何命中any hit。对于“一个三角形”这个案例我们只需要raygen、miss、closest hit三类。any hit可以留空或者写个空实现。SBT的构建是新手最容易翻车的地方。它要求你把着色器组shader group的句柄、根参数、以及可能的本地数据按特定对齐规则打包成一个缓冲。对齐规则包括shaderGroupHandleSize、shaderGroupBaseAlignment等都要从物理设备属性里查。我见过太多人在这里卡住要么是句柄大小写错要么是偏移算错要么是忘了给SBT缓冲加VK_BUFFER_USAGE_SHADER_BINDING_TABLE_BIT_KHR。我的建议是先写一个最简SBT只包含raygen、miss、hit三个记录每个记录只放句柄不放额外数据。跑通之后再往里加根参数和本地数据。这样出问题的时候排查范围小很多。2.4 GLSL光追着色器从main函数到payloadGLSL在光追管线里的写法和光栅化差别很大。光栅化的顶点着色器有gl_Position片段着色器有out颜色。光追的raygen着色器没有这些它通过traceRayEXT发起射线通过rayPayloadEXT传递数据。一个最小的raygen着色器大概长这样#version 460 #extension GL_EXT_ray_tracing : require layout(set 0, binding 0) uniform accelerationStructureEXT topLevelAS; layout(location 0) rayPayloadEXT vec3 payload; void main() { vec3 origin vec3(0.0, 0.0, -2.0); vec3 direction vec3(0.0, 0.0, 1.0); uint rayFlags gl_RayFlagsOpaqueEXT; uint cullMask 0xFF; uint sbtRecordOffset 0; uint sbtRecordStride 1; uint missIndex 0; float tmin 0.001; float tmax 100.0; traceRayEXT(topLevelAS, rayFlags, cullMask, sbtRecordOffset, sbtRecordStride, missIndex, origin, tmin, direction, tmax, 0); // payload现在包含了命中颜色或未命中颜色 // 写出到存储图像 }closest hit着色器负责在命中时填充payload#version 460 #extension GL_EXT_ray_tracing : require layout(location 0) rayPayloadInEXT vec3 payload; void main() { payload vec3(1.0, 0.5, 0.2); // 橙色 }miss着色器负责在未命中时填充payload#version 460 #extension GL_EXT_ray_tracing : require layout(location 0) rayPayloadInEXT vec3 payload; void main() { payload vec3(0.1, 0.1, 0.15); // 深灰背景 }这三个着色器加起来不到三十行但它们完整地展示了光追的核心循环发射射线、求交、着色、写回。对比光栅化管线里顶点着色器加片段着色器加各种插值这个模型是不是更直观3. 实操全流程从零跑通一个硬件光追三角形3.1 环境准备与最小依赖先说环境。你需要一块支持VK_KHR_ray_tracing_pipeline扩展的显卡。NVIDIA的RTX系列、AMD的RX 6000系列及以上、Intel的Arc系列都支持。驱动要更新到比较新的版本。操作系统我用的Linux但Windows上流程一样。依赖库方面我建议用Volk来加载Vulkan函数用VMA来管理内存用GLFW来创建窗口虽然光追可以离屏渲染但有个窗口方便看结果。数学库用glm。这些库都是头文件为主或者编译简单不会引入太多复杂度。验证层一定要开。光追相关的错误如果不开验证层经常是黑屏或者崩溃开了验证层至少能告诉你哪一步错了。我习惯在调试阶段把VK_LAYER_KHRONOS_validation的所有特性都打开包括同步验证、最佳实践警告。3.2 实例创建与设备选择创建Vulkan实例时除了常规的VK_KHR_surface和平台表面扩展还要加上VK_KHR_get_physical_device_properties2为了查光追属性。设备扩展列表里必须有VK_KHR_acceleration_structureVK_KHR_ray_tracing_pipelineVK_KHR_deferred_host_operations构建加速结构时可能用到VK_KHR_buffer_device_addressVK_KHR_spirv_1_4VK_KHR_shader_float_controls选物理设备时除了查队列族还要查VkPhysicalDeviceRayTracingPipelinePropertiesKHR和VkPhysicalDeviceAccelerationStructurePropertiesKHR。前者给你shaderGroupHandleSize、shaderGroupBaseAlignment、maxRayRecursionDepth等后者给你minAccelerationStructureScratchOffsetAlignment等。这些值后面构建SBT和加速结构时都要用。队列方面光追管线需要支持VK_QUEUE_COMPUTE_BIT的队列。图形队列通常也支持计算所以一般用同一个队列就行。但要注意加速结构构建命令是记录在计算队列上的如果你用图形队列提交要确保队列族支持计算操作。3.3 加速结构构建的完整代码路径我把加速结构构建的代码路径拆成几步方便你对照自己的实现。第一步创建顶点缓冲。三个顶点每个顶点是vec3位置。缓冲用途加上VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_BUILD_INPUT_READ_ONLY_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。用VMA分配内存属性选VK_MEMORY_PROPERTY_DEVICE_LOCAL_BIT。第二步填VkAccelerationStructureGeometryKHR。几何类型设为三角形顶点数据指向顶点缓冲的设备地址顶点步长设为sizeof(float) * 3顶点格式设为VK_FORMAT_R32G32B32_SFLOAT三角形数量设为1。第三步填VkAccelerationStructureBuildGeometryInfoKHR。类型设为VK_ACCELERATION_STRUCTURE_TYPE_BOTTOM_LEVEL_KHR标志设为VK_BUILD_ACCELERATION_STRUCTURE_PREFER_FAST_TRACE_BIT_KHR几何数组指向第二步的结构体。第四步查构建大小。调用vkGetAccelerationStructureBuildSizesKHR传入上面的构建信息和一个uint32_t数组每个几何的图元数量这里是1。得到accelerationStructureSize和buildScratchSize。第五步分配加速结构缓冲和scratch缓冲。加速结构缓冲用途加VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_STORAGE_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。scratch缓冲用途加VK_BUFFER_USAGE_STORAGE_BUFFER_BIT和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。第六步创建加速结构对象。填VkAccelerationStructureCreateInfoKHR类型设为BLAS缓冲指向加速结构缓冲大小设为查到的accelerationStructureSize。调用vkCreateAccelerationStructureKHR。第七步记录构建命令。填VkAccelerationStructureBuildGeometryInfoKHR的dstAccelerationStructure、scratchData设备地址然后调用vkCmdBuildAccelerationStructuresKHR。注意这个命令要记录在计算队列上并且构建完成后要加一个屏障确保后续使用前构建已完成。第八步对TLAS重复类似流程。TLAS的几何类型是实例实例数组里每个实例填BLAS设备地址、变换矩阵、实例ID、掩码。TLAS的构建大小查询和构建命令调用与BLAS类似只是类型换成TOP_LEVEL_KHR。这里有个实操心得BLAS和TLAS的构建可以放在同一个命令缓冲里但中间要加屏障。我一开始没加屏障结果TLAS构建时读到的BLAS还是未初始化状态渲染出来全是黑的。后来在BLAS构建和TLAS构建之间加了VK_PIPELINE_STAGE_ACCELERATION_STRUCTURE_BUILD_BIT_KHR到VK_PIPELINE_STAGE_ACCELERATION_STRUCTURE_BUILD_BIT_KHR的屏障问题解决。3.4 光追管线和SBT的创建细节光追管线的创建和图形管线类似但用的是VkRayTracingPipelineCreateInfoKHR。你需要提供着色器阶段数组raygen、miss、closest hit、着色器组数组、以及最大递归深度。着色器组是光追管线特有的概念。每个组包含一个或多个着色器阶段并指定组类型general、triangles hit group、procedural hit group。对于我们的案例raygen和miss用general组closest hit用triangles hit group。创建管线后调用vkGetRayTracingShaderGroupHandlesKHR拿到每个组的句柄。句柄的大小是shaderGroupHandleSize从物理设备属性里查。SBT的构建分三步。第一步计算每个记录的大小。记录大小要对齐到shaderGroupBaseAlignment。第二步分配SBT缓冲用途加VK_BUFFER_USAGE_SHADER_BINDING_TABLE_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。第三步把句柄拷贝到缓冲的对应偏移处。raygen记录放在偏移0miss记录放在偏移shaderGroupBaseAlignmenthit记录放在偏移2 * shaderGroupBaseAlignment。这里有个坑SBT缓冲的起始地址也要对齐到shaderGroupBaseAlignment。VMA分配的时候可以指定对齐或者你手动分配一个稍大的缓冲然后取对齐后的地址。我一开始没对齐验证层直接报错。3.5 描述符集与命令缓冲的绑定描述符集里需要放TLAS。Vulkan里TLAS的描述符类型是VK_DESCRIPTOR_TYPE_ACCELERATION_STRUCTURE_KHR。创建描述符集布局时绑定0设为这个类型阶段设为VK_SHADER_STAGE_RAYGEN_BIT_KHR。更新描述符集时用VkWriteDescriptorSetAccelerationStructureKHR结构体把TLAS写进去。命令缓冲的录制流程绑定光追管线绑定描述符集调用vkCmdTraceRaysKHR。这个函数的参数包括raygenSBT、missSBT、hitSBT、callableSBT的设备地址和大小以及射线维度宽度、高度、深度。对于我们的案例宽度和高度设为输出图像的尺寸深度设为1。输出图像我建议用一个存储图像在raygen着色器里用imageStore写出。这样不需要framebuffer和render pass流程更简单。图像格式用VK_FORMAT_R8G8B8A8_UNORM用途加VK_IMAGE_USAGE_STORAGE_BIT和VK_IMAGE_USAGE_TRANSFER_SRC_BIT方便拷贝到交换链。3.6 同步与呈现的注意事项光追命令提交后需要同步才能呈现。我的做法是提交光追命令后加一个屏障把存储图像从VK_IMAGE_LAYOUT_GENERAL转到VK_IMAGE_LAYOUT_TRANSFER_SRC_OPTIMAL然后拷贝到交换链图像再把交换链图像转到VK_IMAGE_LAYOUT_PRESENT_SRC_KHR。同步原语方面我用信号量来协调光追命令和呈现。因为光追命令是提交到计算队列的呈现用的是图形队列如果两个队列不同还需要队列族所有权转移。为了简化我尽量让计算队列和图形队列是同一个队列族这样就不需要转移了。这里有个经验光追命令的执行时间可能比光栅化长很多尤其是场景复杂的时候。对于单个三角形执行时间很短但如果你发现帧率异常低可能是SBT或者加速结构有问题导致硬件在做无效遍历。用VK_KHR_pipeline_executable_properties或者厂商的profiler工具可以查。4. 常见问题与排查技巧实录4.1 黑屏问题速查表黑屏是光追入门最常见的症状。我整理了一个排查表按可能性从高到低排列。症状可能原因排查方法全黑无任何颜色raygen着色器没写出或输出图像没拷贝到交换链检查raygen里是否有imageStore检查拷贝命令是否录制全黑但验证层无错误TLAS为空或实例掩码为0检查TLAS实例数组检查cullMask是否非零全黑验证层报加速结构错误BLAS构建失败或scratch缓冲对齐错误检查minAccelerationStructureScratchOffsetAlignment检查构建命令是否提交全黑验证层报SBT错误SBT句柄大小或偏移错误检查shaderGroupHandleSize和shaderGroupBaseAlignment检查句柄拷贝偏移全黑验证层报描述符错误TLAS描述符未正确更新检查VkWriteDescriptorSetAccelerationStructureKHR的accelerationStructureCount和pAccelerationStructures我遇到最诡异的一次黑屏是raygen着色器里traceRayEXT的tmax设成了0。射线长度为零自然什么都打不到。这个错误验证层不报只能靠逐行检查着色器。4.2 验证层报错解读与修复光追相关的验证层报错有几个高频的。第一个是VUID-vkCmdBuildAccelerationStructuresKHR-scratchData-03706意思是scratch缓冲的地址没有按minAccelerationStructureScratchOffsetAlignment对齐。修复方法是分配scratch缓冲时指定对齐或者手动取对齐后的地址。第二个是VUID-vkCmdTraceRaysKHR-pRayGenShaderBindingTable-03683意思是SBT的地址或大小不合法。检查SBT缓冲的设备地址是否按shaderGroupBaseAlignment对齐检查大小是否至少为shaderGroupBaseAlignment。第三个是VUID-vkCreateRayTracingPipelinesKHR-flags-03421意思是创建管线时用了不支持的标志。光追管线创建时flags必须为0不能像图形管线那样用VK_PIPELINE_CREATE_DERIVATIVE_BIT。第四个是VUID-VkAccelerationStructureBuildGeometryInfoKHR-type-03654意思是BLAS和TLAS的类型搞混了。BLAS的几何类型必须是三角形或AABBTLAS的几何类型必须是实例。4.3 性能与兼容性踩坑记录性能方面单个三角形的光追渲染理论上应该很快但如果你发现帧率只有个位数可能是以下原因。一是加速结构构建放在了每帧。BLAS和TLAS对于静态场景只需要构建一次。如果你每帧都重建开销会很大。我的做法是初始化时构建一次后面只更新TLAS的实例变换如果实例动了。二是SBT太大或对齐过度。SBT的每个记录如果放了很多本地数据会占用大量显存而且硬件读取时可能效率降低。对于简单场景SBT记录只放句柄就够了。三是射线递归深度设得太大。maxRayRecursionDepth如果设成31硬件会预留大量栈空间。对于单个三角形设成1就够了。兼容性方面不同厂商的驱动对光追扩展的支持程度不同。NVIDIA的支持最成熟AMD的驱动在早期版本有一些对齐相关的bugIntel的Arc系列对某些格式的支持有限。我的建议是尽量用最保守的格式和最小的特性集比如顶点格式用R32G32B32_SFLOAT加速结构标志用PREFER_FAST_TRACESBT记录只放句柄。这样在大多数硬件上都能跑。还有一个坑是SPIR-V版本。光追着色器需要SPIR-V 1.4及以上。编译GLSL时用glslangValidator要加--target-env vulkan1.2或更高。如果你用shaderc要确保target_env设对。我一开始用默认的vulkan1.0编译结果光追扩展的指令全被拒绝。4.4 从三角形扩展到凸多边形三角剖分的思路标题里提到了“凸n边形三角剖分”和“内部三角形判断”这其实是这个教学框架的自然延伸。当你跑通了单个三角形下一步很自然就是如何用多个三角形表示一个凸多边形。凸多边形的三角剖分有个简单性质任选一个顶点把它和所有不相邻的顶点连起来就得到n-2个三角形。对于凸多边形这些三角形一定都在多边形内部不需要做内部判断。但如果你要处理凹多边形就需要判断三角形是否在多边形内部这就涉及到叉积符号判断或者射线法。在光追管线里你可以把剖分后的三角形都放进同一个BLAS或者每个三角形一个BLAS然后放进TLAS。前者构建快但更新慢后者更新灵活但构建开销大。对于教学我建议先用同一个BLAS放多个三角形让学生理解“一个BLAS可以包含多个几何”。然后再引入多个BLAS和多个实例理解“实例化”的概念。内部三角形判断在光追里其实有更直接的用途你可以用any hit着色器来实现透明或裁剪。当射线打到三角形时any hit着色器被调用你可以在里面判断命中点是否在有效区域内如果不在就调用ignoreIntersectionEXT忽略这次命中。这比光栅化里的alpha test更灵活因为你可以做任意复杂的判断逻辑。5. 教学框架的扩展方向与个人体会5.1 从三角形到完整场景的渐进路径跑通单个三角形之后我建议按这个顺序扩展先加第二个三角形理解多个几何在BLAS里的组织然后加第二个BLAS和第二个实例理解TLAS的实例化然后给实例加变换矩阵理解光追里的坐标变换然后加多个射线理解raygen里的循环和payload数组然后加递归理解反射和折射最后加any hit和callable着色器理解高级特性。每一步都只加一个变量每一步都能独立验证。这样出问题的时候你立刻知道是哪个环节引入的。我见过太多人一上来就写完整的光追渲染器结果一个黑屏排查三天最后发现是SBT偏移算错了。如果按渐进路径走SBT的问题在第一步就会暴露。5.2 我踩过的三个印象最深的坑第一个坑是加速结构构建命令的队列类型。我一开始把构建命令记录在图形队列上提交后验证层报错说队列族不支持。后来查规范才知道加速结构构建需要计算队列。虽然很多图形队列族也支持计算但必须显式选择支持VK_QUEUE_COMPUTE_BIT的队列。第二个坑是SBT的句柄拷贝顺序。我以为句柄是按着色器组数组的顺序排列的结果发现vkGetRayTracingShaderGroupHandlesKHR返回的句柄顺序和组数组顺序一致但SBT里的记录顺序必须和traceRayEXT里的sbtRecordOffset对应。我一开始把raygen、miss、hit的句柄按组顺序拷贝但traceRayEXT里sbtRecordOffset设成了0结果射线打到三角形后调用了raygen着色器直接死循环。第三个坑是输出图像的布局转换。光追命令写出到存储图像时图像布局必须是VK_IMAGE_LAYOUT_GENERAL。我一开始设成了VK_IMAGE_LAYOUT_COLOR_ATTACHMENT_OPTIMAL结果imageStore写不进去验证层报布局不匹配。后来改成GENERAL就好了。5.3 给后来者的几点实在建议如果你打算按这个框架学我的建议是先把光栅化三角形跑通再跑光追三角形。虽然我说光追的思维模型更直观但Vulkan的初始化流程、内存管理、同步机制这些基础设施在光栅化管线里更简单。你先用光栅化把Vulkan的骨架搭起来然后换光追管线只需要替换管线创建、SBT、命令录制这几块其他都能复用。另外不要跳过验证层。光追的验证层信息比光栅化丰富得多很多错误只有验证层能告诉你。我习惯在开发阶段把验证层的VK_LAYER_KHRONOS_validation所有特性打开包括VK_VALIDATION_FEATURE_ENABLE_SYNCHRONIZATION_VALIDATION_EXT。虽然会慢一点但能省下大量排查时间。最后多写注释多画图。光追管线里的对象关系比光栅化复杂BLAS、TLAS、实例、SBT、描述符集、管线布局这些东西的依赖关系如果不在纸上画清楚代码写到后面自己都会乱。我现在的习惯是每加一个新对象就在注释里画一个简单的依赖图标明谁引用谁、谁在哪个阶段被使用。这个习惯帮我省了很多返工的时间。这个框架我还在持续完善后面打算加上多射线、递归、以及和光栅化混合渲染的章节。但核心思路不会变用一个三角形把光追管线的每个环节都串起来让学习者每一步都能看到结果每一步都能独立验证。这比一上来就讲一堆公式和架构图要实在得多。
从零构建硬件光追Vulkan三角形：重构图形学教学框架
1. 为什么我要从“一个三角形”重写整套图形教学框架1.1 传统图形学教学的断层在哪里我教图形学断断续续也有几年了带过刚入行的新人也帮过工作两三年想转渲染方向的开发者。一个特别普遍的现象是很多人能照着教程把一整套渲染管线跑起来能调通模型加载、能贴图、能打光但你让他从零写一个只画三角形的程序他反而卡住了。问题出在哪出在传统教学框架的起点选错了。绝大多数教材和课程的第一课是“窗口创建”第二课是“画一个三角形”第三课就开始上MVP矩阵、纹理、光照。这个顺序看起来合理实际上把最核心的东西——顶点如何从三维空间一步步变成屏幕上的像素——压缩成了一堆公式推导。学生背下了矩阵乘法却不知道光栅化阶段到底发生了什么不知道一个像素的颜色是怎么被插值出来的更不知道硬件光追介入之后这套流程被改写了多少。我自己的经历就很典型。当年学OpenGL的时候画三角形那章我两天就过了觉得“不就是三个顶点加一个draw call吗”。结果后面做阴影贴图、做延迟渲染每次遇到问题都往回翻才发现自己对三角形在管线里的生命周期理解得一塌糊涂。后来接触Vulkan被迫从零管理内存、同步、管线状态反而把很多以前模糊的概念逼清楚了。再后来硬件光追出来我发现一个更有意思的事光追的入门门槛恰恰可以用“一个三角形”来打通。1.2 为什么选硬件光追Vulkan版作为起点你可能会问光追不是应该先学光栅化再学吗怎么反过来用光追当起点我的逻辑是这样的光栅化和光追在“画一个三角形”这件事上复杂度其实差不多但光追的思维模型更接近人的直觉。光栅化是“把三角形投影到屏幕然后判断哪些像素被覆盖”光追是“从相机发射光线问它有没有打到三角形”。后者你不需要先理解投影矩阵、视口变换、光栅化规则只需要理解射线和三角形的求交。而Vulkan这个API虽然以“啰嗦”著称但它的显式特性反而让教学更清晰。OpenGL帮你隐藏了太多东西你写glDrawArrays的时候根本不知道驱动在背后做了什么。Vulkan逼着你把每一块都摆到台面上描述符集、管线布局、命令缓冲、同步屏障。这些东西在光栅化管线里显得繁琐但在光追管线里它们的存在感反而更自然——因为光追本来就是一个“你告诉硬件怎么遍历、怎么求交、怎么着色”的过程。至于GLSL它是贯穿始终的着色器语言。光栅化阶段你写顶点着色器和片段着色器光追阶段你写射线生成、最近命中、未命中、任何命中等着色器。语言本身没变变的是执行模型。用同一套语言串起两种管线学生能更清楚地看到“着色器”这个概念的本质。1.3 这套框架适合谁能解决什么问题这套教学框架不是给零基础的人看的。如果你连C的指针和内存管理都不熟连线性代数里的向量点乘叉乘都要查资料那建议先补基础。它适合的是已经能跑通一个Vulkan光栅化三角形但对管线内部机制仍然模糊的人或者有OpenGL/DirectX经验想系统理解硬件光追的人再或者是那些被各种“光追教程”里一堆rayPayload、hitAttribute、shaderBindingTable搞晕想找个最小可运行例子把概念落地的人。我把它叫做“重构教学框架”是因为它不是简单地教你“怎么画一个三角形”而是以这个三角形为锚点把整个图形管线的知识体系重新组织一遍。从顶点数据怎么进显存到加速结构怎么构建到着色器怎么绑定到最终像素怎么写出——每一步都围绕这个三角形展开每一步都能独立验证。学完之后你得到的不是一个孤立的demo而是一张可以往外扩展的知识地图。2. 核心概念拆解三角形在光追管线里到底经历了什么2.1 从顶点缓冲到BLAS几何数据的第一段旅程在光栅化管线里你把顶点数据传到显存写个顶点着色器然后vkCmdDraw就完事了。光追管线不一样它多了一个前置步骤构建加速结构。这个加速结构分两层底层叫BLASBottom-Level Acceleration Structure顶层叫TLASTop-Level Acceleration Structure。对于“一个三角形”这个最小案例我们只需要一个BLAS。BLAS的构建需要你提供几何描述。在Vulkan里这通过VkAccelerationStructureGeometryKHR结构体来指定。你要告诉它几何类型是三角形VK_GEOMETRY_TYPE_TRIANGLES_KHR顶点数据在哪个缓冲里顶点格式是什么有没有索引缓冲三角形数量是多少。对于单个三角形顶点数3索引数3或者不用索引直接3个顶点。这里有个容易踩的坑顶点数据的步长和对齐。Vulkan对加速结构构建时的顶点缓冲有对齐要求通常要求顶点起始地址按minAccelerationStructureScratchOffsetAlignment对齐。这个值在不同硬件上可能不同你得用vkGetPhysicalDeviceProperties查。我一开始没注意直接拿了个普通缓冲就往里塞结果验证层报了一堆对齐错误。后来养成习惯凡是给加速结构用的缓冲创建时都加上VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT和VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_BUILD_INPUT_READ_ONLY_BIT_KHR然后用vkGetBufferDeviceAddress拿地址这样最稳。BLAS构建本身分两步先查需要多大空间vkGetAccelerationStructureBuildSizesKHR然后分配一个加速结构缓冲和一个scratch缓冲。scratch缓冲是构建时的临时工作区构建完就可以释放。这里有个经验scratch缓冲的大小和对齐也要查不同驱动实现差异很大。我试过在某个驱动上scratch只要几KB换一个驱动就要几MB。所以别硬编码老老实实查。2.2 TLAS与实例为什么一个三角形也要走这套流程你可能会想我就画一个三角形能不能跳过TLAS直接打BLAS技术上可以但教学上不建议。因为TLAS才是光追管线里“场景组织”的核心。TLAS里放的是实例instance每个实例引用一个BLAS并带一个变换矩阵。对于单个三角形我们创建一个实例变换矩阵设为单位矩阵引用刚才构建的BLAS。这样做的好处是你从一开始就建立了正确的思维模型光追遍历的是实例实例指向几何。后面你要加第二个三角形、加模型、加多个物体只需要往TLAS里加实例BLAS可以复用。如果一开始就跳过TLAS后面扩展时还得回头补课。TLAS的构建和BLAS类似也要查大小、分配缓冲、记录构建命令。区别在于TLAS的输入是实例数组每个实例需要指定BLAS的设备地址、变换矩阵、实例ID、掩码等。这里有个细节实例的变换矩阵是3x4的不是4x4。Vulkan用VkTransformMatrixKHR三行四列省掉最后一行0,0,0,1。我第一次写的时候直接塞了个4x4矩阵编译过了但运行结果完全不对排查了半天才发现是矩阵维度问题。2.3 着色器绑定表光追的“接线板”光栅化管线里你绑定管线、绑定描述符集、绑定顶点缓冲然后draw。光追管线里多了一个着色器绑定表Shader Binding TableSBT。你可以把它理解成一个“接线板”光追硬件在遍历场景时会根据命中情况去SBT里查对应的着色器记录然后调用。SBT里至少要有四类记录射线生成raygen、未命中miss、最近命中closest hit、任何命中any hit。对于“一个三角形”这个案例我们只需要raygen、miss、closest hit三类。any hit可以留空或者写个空实现。SBT的构建是新手最容易翻车的地方。它要求你把着色器组shader group的句柄、根参数、以及可能的本地数据按特定对齐规则打包成一个缓冲。对齐规则包括shaderGroupHandleSize、shaderGroupBaseAlignment等都要从物理设备属性里查。我见过太多人在这里卡住要么是句柄大小写错要么是偏移算错要么是忘了给SBT缓冲加VK_BUFFER_USAGE_SHADER_BINDING_TABLE_BIT_KHR。我的建议是先写一个最简SBT只包含raygen、miss、hit三个记录每个记录只放句柄不放额外数据。跑通之后再往里加根参数和本地数据。这样出问题的时候排查范围小很多。2.4 GLSL光追着色器从main函数到payloadGLSL在光追管线里的写法和光栅化差别很大。光栅化的顶点着色器有gl_Position片段着色器有out颜色。光追的raygen着色器没有这些它通过traceRayEXT发起射线通过rayPayloadEXT传递数据。一个最小的raygen着色器大概长这样#version 460 #extension GL_EXT_ray_tracing : require layout(set 0, binding 0) uniform accelerationStructureEXT topLevelAS; layout(location 0) rayPayloadEXT vec3 payload; void main() { vec3 origin vec3(0.0, 0.0, -2.0); vec3 direction vec3(0.0, 0.0, 1.0); uint rayFlags gl_RayFlagsOpaqueEXT; uint cullMask 0xFF; uint sbtRecordOffset 0; uint sbtRecordStride 1; uint missIndex 0; float tmin 0.001; float tmax 100.0; traceRayEXT(topLevelAS, rayFlags, cullMask, sbtRecordOffset, sbtRecordStride, missIndex, origin, tmin, direction, tmax, 0); // payload现在包含了命中颜色或未命中颜色 // 写出到存储图像 }closest hit着色器负责在命中时填充payload#version 460 #extension GL_EXT_ray_tracing : require layout(location 0) rayPayloadInEXT vec3 payload; void main() { payload vec3(1.0, 0.5, 0.2); // 橙色 }miss着色器负责在未命中时填充payload#version 460 #extension GL_EXT_ray_tracing : require layout(location 0) rayPayloadInEXT vec3 payload; void main() { payload vec3(0.1, 0.1, 0.15); // 深灰背景 }这三个着色器加起来不到三十行但它们完整地展示了光追的核心循环发射射线、求交、着色、写回。对比光栅化管线里顶点着色器加片段着色器加各种插值这个模型是不是更直观3. 实操全流程从零跑通一个硬件光追三角形3.1 环境准备与最小依赖先说环境。你需要一块支持VK_KHR_ray_tracing_pipeline扩展的显卡。NVIDIA的RTX系列、AMD的RX 6000系列及以上、Intel的Arc系列都支持。驱动要更新到比较新的版本。操作系统我用的Linux但Windows上流程一样。依赖库方面我建议用Volk来加载Vulkan函数用VMA来管理内存用GLFW来创建窗口虽然光追可以离屏渲染但有个窗口方便看结果。数学库用glm。这些库都是头文件为主或者编译简单不会引入太多复杂度。验证层一定要开。光追相关的错误如果不开验证层经常是黑屏或者崩溃开了验证层至少能告诉你哪一步错了。我习惯在调试阶段把VK_LAYER_KHRONOS_validation的所有特性都打开包括同步验证、最佳实践警告。3.2 实例创建与设备选择创建Vulkan实例时除了常规的VK_KHR_surface和平台表面扩展还要加上VK_KHR_get_physical_device_properties2为了查光追属性。设备扩展列表里必须有VK_KHR_acceleration_structureVK_KHR_ray_tracing_pipelineVK_KHR_deferred_host_operations构建加速结构时可能用到VK_KHR_buffer_device_addressVK_KHR_spirv_1_4VK_KHR_shader_float_controls选物理设备时除了查队列族还要查VkPhysicalDeviceRayTracingPipelinePropertiesKHR和VkPhysicalDeviceAccelerationStructurePropertiesKHR。前者给你shaderGroupHandleSize、shaderGroupBaseAlignment、maxRayRecursionDepth等后者给你minAccelerationStructureScratchOffsetAlignment等。这些值后面构建SBT和加速结构时都要用。队列方面光追管线需要支持VK_QUEUE_COMPUTE_BIT的队列。图形队列通常也支持计算所以一般用同一个队列就行。但要注意加速结构构建命令是记录在计算队列上的如果你用图形队列提交要确保队列族支持计算操作。3.3 加速结构构建的完整代码路径我把加速结构构建的代码路径拆成几步方便你对照自己的实现。第一步创建顶点缓冲。三个顶点每个顶点是vec3位置。缓冲用途加上VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_BUILD_INPUT_READ_ONLY_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。用VMA分配内存属性选VK_MEMORY_PROPERTY_DEVICE_LOCAL_BIT。第二步填VkAccelerationStructureGeometryKHR。几何类型设为三角形顶点数据指向顶点缓冲的设备地址顶点步长设为sizeof(float) * 3顶点格式设为VK_FORMAT_R32G32B32_SFLOAT三角形数量设为1。第三步填VkAccelerationStructureBuildGeometryInfoKHR。类型设为VK_ACCELERATION_STRUCTURE_TYPE_BOTTOM_LEVEL_KHR标志设为VK_BUILD_ACCELERATION_STRUCTURE_PREFER_FAST_TRACE_BIT_KHR几何数组指向第二步的结构体。第四步查构建大小。调用vkGetAccelerationStructureBuildSizesKHR传入上面的构建信息和一个uint32_t数组每个几何的图元数量这里是1。得到accelerationStructureSize和buildScratchSize。第五步分配加速结构缓冲和scratch缓冲。加速结构缓冲用途加VK_BUFFER_USAGE_ACCELERATION_STRUCTURE_STORAGE_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。scratch缓冲用途加VK_BUFFER_USAGE_STORAGE_BUFFER_BIT和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。第六步创建加速结构对象。填VkAccelerationStructureCreateInfoKHR类型设为BLAS缓冲指向加速结构缓冲大小设为查到的accelerationStructureSize。调用vkCreateAccelerationStructureKHR。第七步记录构建命令。填VkAccelerationStructureBuildGeometryInfoKHR的dstAccelerationStructure、scratchData设备地址然后调用vkCmdBuildAccelerationStructuresKHR。注意这个命令要记录在计算队列上并且构建完成后要加一个屏障确保后续使用前构建已完成。第八步对TLAS重复类似流程。TLAS的几何类型是实例实例数组里每个实例填BLAS设备地址、变换矩阵、实例ID、掩码。TLAS的构建大小查询和构建命令调用与BLAS类似只是类型换成TOP_LEVEL_KHR。这里有个实操心得BLAS和TLAS的构建可以放在同一个命令缓冲里但中间要加屏障。我一开始没加屏障结果TLAS构建时读到的BLAS还是未初始化状态渲染出来全是黑的。后来在BLAS构建和TLAS构建之间加了VK_PIPELINE_STAGE_ACCELERATION_STRUCTURE_BUILD_BIT_KHR到VK_PIPELINE_STAGE_ACCELERATION_STRUCTURE_BUILD_BIT_KHR的屏障问题解决。3.4 光追管线和SBT的创建细节光追管线的创建和图形管线类似但用的是VkRayTracingPipelineCreateInfoKHR。你需要提供着色器阶段数组raygen、miss、closest hit、着色器组数组、以及最大递归深度。着色器组是光追管线特有的概念。每个组包含一个或多个着色器阶段并指定组类型general、triangles hit group、procedural hit group。对于我们的案例raygen和miss用general组closest hit用triangles hit group。创建管线后调用vkGetRayTracingShaderGroupHandlesKHR拿到每个组的句柄。句柄的大小是shaderGroupHandleSize从物理设备属性里查。SBT的构建分三步。第一步计算每个记录的大小。记录大小要对齐到shaderGroupBaseAlignment。第二步分配SBT缓冲用途加VK_BUFFER_USAGE_SHADER_BINDING_TABLE_BIT_KHR和VK_BUFFER_USAGE_SHADER_DEVICE_ADDRESS_BIT。第三步把句柄拷贝到缓冲的对应偏移处。raygen记录放在偏移0miss记录放在偏移shaderGroupBaseAlignmenthit记录放在偏移2 * shaderGroupBaseAlignment。这里有个坑SBT缓冲的起始地址也要对齐到shaderGroupBaseAlignment。VMA分配的时候可以指定对齐或者你手动分配一个稍大的缓冲然后取对齐后的地址。我一开始没对齐验证层直接报错。3.5 描述符集与命令缓冲的绑定描述符集里需要放TLAS。Vulkan里TLAS的描述符类型是VK_DESCRIPTOR_TYPE_ACCELERATION_STRUCTURE_KHR。创建描述符集布局时绑定0设为这个类型阶段设为VK_SHADER_STAGE_RAYGEN_BIT_KHR。更新描述符集时用VkWriteDescriptorSetAccelerationStructureKHR结构体把TLAS写进去。命令缓冲的录制流程绑定光追管线绑定描述符集调用vkCmdTraceRaysKHR。这个函数的参数包括raygenSBT、missSBT、hitSBT、callableSBT的设备地址和大小以及射线维度宽度、高度、深度。对于我们的案例宽度和高度设为输出图像的尺寸深度设为1。输出图像我建议用一个存储图像在raygen着色器里用imageStore写出。这样不需要framebuffer和render pass流程更简单。图像格式用VK_FORMAT_R8G8B8A8_UNORM用途加VK_IMAGE_USAGE_STORAGE_BIT和VK_IMAGE_USAGE_TRANSFER_SRC_BIT方便拷贝到交换链。3.6 同步与呈现的注意事项光追命令提交后需要同步才能呈现。我的做法是提交光追命令后加一个屏障把存储图像从VK_IMAGE_LAYOUT_GENERAL转到VK_IMAGE_LAYOUT_TRANSFER_SRC_OPTIMAL然后拷贝到交换链图像再把交换链图像转到VK_IMAGE_LAYOUT_PRESENT_SRC_KHR。同步原语方面我用信号量来协调光追命令和呈现。因为光追命令是提交到计算队列的呈现用的是图形队列如果两个队列不同还需要队列族所有权转移。为了简化我尽量让计算队列和图形队列是同一个队列族这样就不需要转移了。这里有个经验光追命令的执行时间可能比光栅化长很多尤其是场景复杂的时候。对于单个三角形执行时间很短但如果你发现帧率异常低可能是SBT或者加速结构有问题导致硬件在做无效遍历。用VK_KHR_pipeline_executable_properties或者厂商的profiler工具可以查。4. 常见问题与排查技巧实录4.1 黑屏问题速查表黑屏是光追入门最常见的症状。我整理了一个排查表按可能性从高到低排列。症状可能原因排查方法全黑无任何颜色raygen着色器没写出或输出图像没拷贝到交换链检查raygen里是否有imageStore检查拷贝命令是否录制全黑但验证层无错误TLAS为空或实例掩码为0检查TLAS实例数组检查cullMask是否非零全黑验证层报加速结构错误BLAS构建失败或scratch缓冲对齐错误检查minAccelerationStructureScratchOffsetAlignment检查构建命令是否提交全黑验证层报SBT错误SBT句柄大小或偏移错误检查shaderGroupHandleSize和shaderGroupBaseAlignment检查句柄拷贝偏移全黑验证层报描述符错误TLAS描述符未正确更新检查VkWriteDescriptorSetAccelerationStructureKHR的accelerationStructureCount和pAccelerationStructures我遇到最诡异的一次黑屏是raygen着色器里traceRayEXT的tmax设成了0。射线长度为零自然什么都打不到。这个错误验证层不报只能靠逐行检查着色器。4.2 验证层报错解读与修复光追相关的验证层报错有几个高频的。第一个是VUID-vkCmdBuildAccelerationStructuresKHR-scratchData-03706意思是scratch缓冲的地址没有按minAccelerationStructureScratchOffsetAlignment对齐。修复方法是分配scratch缓冲时指定对齐或者手动取对齐后的地址。第二个是VUID-vkCmdTraceRaysKHR-pRayGenShaderBindingTable-03683意思是SBT的地址或大小不合法。检查SBT缓冲的设备地址是否按shaderGroupBaseAlignment对齐检查大小是否至少为shaderGroupBaseAlignment。第三个是VUID-vkCreateRayTracingPipelinesKHR-flags-03421意思是创建管线时用了不支持的标志。光追管线创建时flags必须为0不能像图形管线那样用VK_PIPELINE_CREATE_DERIVATIVE_BIT。第四个是VUID-VkAccelerationStructureBuildGeometryInfoKHR-type-03654意思是BLAS和TLAS的类型搞混了。BLAS的几何类型必须是三角形或AABBTLAS的几何类型必须是实例。4.3 性能与兼容性踩坑记录性能方面单个三角形的光追渲染理论上应该很快但如果你发现帧率只有个位数可能是以下原因。一是加速结构构建放在了每帧。BLAS和TLAS对于静态场景只需要构建一次。如果你每帧都重建开销会很大。我的做法是初始化时构建一次后面只更新TLAS的实例变换如果实例动了。二是SBT太大或对齐过度。SBT的每个记录如果放了很多本地数据会占用大量显存而且硬件读取时可能效率降低。对于简单场景SBT记录只放句柄就够了。三是射线递归深度设得太大。maxRayRecursionDepth如果设成31硬件会预留大量栈空间。对于单个三角形设成1就够了。兼容性方面不同厂商的驱动对光追扩展的支持程度不同。NVIDIA的支持最成熟AMD的驱动在早期版本有一些对齐相关的bugIntel的Arc系列对某些格式的支持有限。我的建议是尽量用最保守的格式和最小的特性集比如顶点格式用R32G32B32_SFLOAT加速结构标志用PREFER_FAST_TRACESBT记录只放句柄。这样在大多数硬件上都能跑。还有一个坑是SPIR-V版本。光追着色器需要SPIR-V 1.4及以上。编译GLSL时用glslangValidator要加--target-env vulkan1.2或更高。如果你用shaderc要确保target_env设对。我一开始用默认的vulkan1.0编译结果光追扩展的指令全被拒绝。4.4 从三角形扩展到凸多边形三角剖分的思路标题里提到了“凸n边形三角剖分”和“内部三角形判断”这其实是这个教学框架的自然延伸。当你跑通了单个三角形下一步很自然就是如何用多个三角形表示一个凸多边形。凸多边形的三角剖分有个简单性质任选一个顶点把它和所有不相邻的顶点连起来就得到n-2个三角形。对于凸多边形这些三角形一定都在多边形内部不需要做内部判断。但如果你要处理凹多边形就需要判断三角形是否在多边形内部这就涉及到叉积符号判断或者射线法。在光追管线里你可以把剖分后的三角形都放进同一个BLAS或者每个三角形一个BLAS然后放进TLAS。前者构建快但更新慢后者更新灵活但构建开销大。对于教学我建议先用同一个BLAS放多个三角形让学生理解“一个BLAS可以包含多个几何”。然后再引入多个BLAS和多个实例理解“实例化”的概念。内部三角形判断在光追里其实有更直接的用途你可以用any hit着色器来实现透明或裁剪。当射线打到三角形时any hit着色器被调用你可以在里面判断命中点是否在有效区域内如果不在就调用ignoreIntersectionEXT忽略这次命中。这比光栅化里的alpha test更灵活因为你可以做任意复杂的判断逻辑。5. 教学框架的扩展方向与个人体会5.1 从三角形到完整场景的渐进路径跑通单个三角形之后我建议按这个顺序扩展先加第二个三角形理解多个几何在BLAS里的组织然后加第二个BLAS和第二个实例理解TLAS的实例化然后给实例加变换矩阵理解光追里的坐标变换然后加多个射线理解raygen里的循环和payload数组然后加递归理解反射和折射最后加any hit和callable着色器理解高级特性。每一步都只加一个变量每一步都能独立验证。这样出问题的时候你立刻知道是哪个环节引入的。我见过太多人一上来就写完整的光追渲染器结果一个黑屏排查三天最后发现是SBT偏移算错了。如果按渐进路径走SBT的问题在第一步就会暴露。5.2 我踩过的三个印象最深的坑第一个坑是加速结构构建命令的队列类型。我一开始把构建命令记录在图形队列上提交后验证层报错说队列族不支持。后来查规范才知道加速结构构建需要计算队列。虽然很多图形队列族也支持计算但必须显式选择支持VK_QUEUE_COMPUTE_BIT的队列。第二个坑是SBT的句柄拷贝顺序。我以为句柄是按着色器组数组的顺序排列的结果发现vkGetRayTracingShaderGroupHandlesKHR返回的句柄顺序和组数组顺序一致但SBT里的记录顺序必须和traceRayEXT里的sbtRecordOffset对应。我一开始把raygen、miss、hit的句柄按组顺序拷贝但traceRayEXT里sbtRecordOffset设成了0结果射线打到三角形后调用了raygen着色器直接死循环。第三个坑是输出图像的布局转换。光追命令写出到存储图像时图像布局必须是VK_IMAGE_LAYOUT_GENERAL。我一开始设成了VK_IMAGE_LAYOUT_COLOR_ATTACHMENT_OPTIMAL结果imageStore写不进去验证层报布局不匹配。后来改成GENERAL就好了。5.3 给后来者的几点实在建议如果你打算按这个框架学我的建议是先把光栅化三角形跑通再跑光追三角形。虽然我说光追的思维模型更直观但Vulkan的初始化流程、内存管理、同步机制这些基础设施在光栅化管线里更简单。你先用光栅化把Vulkan的骨架搭起来然后换光追管线只需要替换管线创建、SBT、命令录制这几块其他都能复用。另外不要跳过验证层。光追的验证层信息比光栅化丰富得多很多错误只有验证层能告诉你。我习惯在开发阶段把验证层的VK_LAYER_KHRONOS_validation所有特性打开包括VK_VALIDATION_FEATURE_ENABLE_SYNCHRONIZATION_VALIDATION_EXT。虽然会慢一点但能省下大量排查时间。最后多写注释多画图。光追管线里的对象关系比光栅化复杂BLAS、TLAS、实例、SBT、描述符集、管线布局这些东西的依赖关系如果不在纸上画清楚代码写到后面自己都会乱。我现在的习惯是每加一个新对象就在注释里画一个简单的依赖图标明谁引用谁、谁在哪个阶段被使用。这个习惯帮我省了很多返工的时间。这个框架我还在持续完善后面打算加上多射线、递归、以及和光栅化混合渲染的章节。但核心思路不会变用一个三角形把光追管线的每个环节都串起来让学习者每一步都能看到结果每一步都能独立验证。这比一上来就讲一堆公式和架构图要实在得多。
