Comments 17
ivec2 cell = ivec2( fract(outTexCoord) * 4.0 );segment &= 0xF;
Результат не будет эквивалентен clamp(). При outTexCoord.x == 1.0 и outTexCoord.y == 0.0: clamp(): cell = (3, 0), segment = 15. & 0xF: cell = (4, 0), segment = 16 -> после маски — 0.
Я правильно понял? Ошибка в GPU-шейдере привела к повисанию CPU-процессов? Фрагментный шейдер как то зациклился?
Да, в целом правильно :) Но сам фрагментный шейдер, скорее всего, не зацикливался, ошибка приводила к обращению к массиву по недопустимому индексу, что вызывало неопределённое поведение. Могу только предположить, из-за этого зависало выполнение команд на GPU или возникала проблема в драйвере, а CPU ложился в ожидании glfwSwapBuffers.
Честно говоря, именно это и было интересно узнать - как обращение шейдера мимо GPU-памяти вызывает повисание CPU-процессов. Как исправить адрес (поставив clamp ) - это и так понятно (статья получилась именно про это). А вот какие процессы вызывает Memory violation, как это найти, отладить и обезопасить код от зависания в будущем, вот это я бы почитал.
Согласен, это действительно интересная тема, хотелось бы и самому разобраться в механизме такого зависания :) К сожалению, мне не удалось установить, что именно происходило внутри GPU и драйвера. После этого я задумался о более плотном использовании GL_KHR_debug в своем движке. Хотя, конечно, не факт, что он помог бы обнаружить именно эту ошибку. А так я пользуюсь RenderDoc, иногда полезно исследовать отдельные кадры.
Хотелось бы услышать мнение более опытных специалистов в этом деле :)
Меня это собственно почему заинтересовало - я считал что обращение к массивам как и по координатам к текстурам wrap/clamp исключает промахи по определению (промахнуться мимо памяти не возможно в принципе). Я впервые слышу что бы у GLSL по памяти можно было бы промахнуться и упасть. На CUDA, OpenCL, DirectCompute такое возможно, там вроде бывают какие то cudaMalloc и cudaErrorIllegalAddress .
В GLSL выход за границы - неопределенное поведение. Нейроперевод спецификации:
"В описанных выше подразделах, касающихся доступа к массивам, векторам, матрицам и структурам, указано, что любой выход за границы допустимого диапазона приводит к неопределенному поведению. Однако, если через API OpenGL включен режим безопасного доступа к буферам (robust buffer access), такие операции будут ограничены пределами области памяти, выделенной для активной программы. Доступ к памяти, принадлежащей другим программам, станет невозможным, а выход за границы не приведет к аварийному завершению работы программы. При чтении за пределами допустимого диапазона возвращаются неопределенные значения — это могут быть как данные других переменных текущей программы, так и нули. При записи за пределами диапазона данные могут быть либо проигнорированы, либо записаны поверх других переменных программы — в зависимости от вычисленного индекса и его соотношения с границами памяти, доступной программе. В приложениях, где требуется предсказуемое поведение при выходе за границы массива, перед обращением к элементам массива необходимо выполнять проверку всех вычисляемых индексов. "
Вот это "выход за границы не приведет к аварийному завершению работы программы", обещает что ни GPU не CPU вроде как не упадёт. Да, в соседних шейдерах может подпортить данные, но не упасть и не повиснуть. Но видимо на практике чудеса всё же возможны...
Да, я и писал выше
шибка приводила к обращению к массиву по недопустимому индексу, что вызывало неопределённое поведение.
Замечу, что это произошло только на одной видеокарте с обновленными драйверами. Игру тестировал на достаточно большой выборке различных конфигураций ПК и нигде эта проблема не вылазила наружу.
int segment = (3 - int(min(3, outTexCoord.y * 4.0))) * 4 + int(min(3, outTexCoord.x * 4.0));
Я правильно же понял, что такой чудной расчёт - это заместо if?
Как две строки GLSL едва не свели меня с ума