Что за бред. Тут же просто перемножение матриц 3х3 по модулю 7. Первые 9 чисел — первая матрица, вторые 9 — вторая. После перемножения матриц должна получиться единичная, поэтому для создания ключа надо взять две обратные матрицы или просто единичные.
Тоже кейгенил. Пошел другим путем — нагенировал брутом заранее матриц, которые при перемножении дают единичную.
И большой камень в огород разработчиков кегенми — нахрена компилировать с такими настройками, что под хр оно запускается только после длительных танцев с бубном? Зависимости от рантайма самого кода почти нет, а вот стаб компилятора тянет за собой.
Сломай меня полностью (ZeroNights 2013)