Давайте забудем всё про скалярное и векторное. Есть способ гораздо лучше

А квадрат длины вектора суммы мы знаем из школы по теореме косинусов:

Спасибо, очень интересно! Может, кто раньше заметил, но в теореме косинусов же минус 2|a||b|cos(θ). Но это вроде ни на что дальше не влияет.