Непонятна постановка задачи.
1) Определение пересечения прямой и треугольника на плоскости?
2) Определение пересечения прямой и треугольника в (трехмерном) пространстве?
В статье есть и постановка и решение. Что тут может быть непонятно?
Второй алгоритм лучше не использовать вообще.
Он использует acos(), что куда медленнее, чем предложенный чисто векторный алгоритм.
И что более важно
a kitten is sacrificed somewhere every time there's trigonometry involved down there
Трассировка лучей на GPU в Unity — Часть 3