Решить расширенную матрицу