Пояснение задачи. «Инвертировать матрицу» обычно означает найти обратную матрицу A^{-1} такую, что A * A^{-1} = I. Для этого матрица должна быть квадратной и невырожденной (детерминант не равен нулю). В C++ стандартная библиотека не содержит встроенной функции для обращения матриц, поэтому обычно пользуются готовыми библиотеками (Eigen, Armadillo, OpenCV, Boost.uBLAS и др.). Я объясню пошагово, как это сделать с библиотекой Eigen (она удобна и header-only — не требует линковки).

1. Проверка условий. Убедитесь, что исходная матрица A — квадратная (n × n). Если матрица прямоугольная, можно говорить о псевдообратной (например, через SVD).
2. Проверка вырожденности. Перед вычислением обратной полезно проверить, что детерминант не близок к нулю. В численных вычислениях лучше использовать LU-разложение с частичным выбором опорного элемента для устойчивости.
3. Выбор библиотеки. Рекомендую Eigen. Подключение простое: достаточно скачать Eigen и указать путь к include. Пример использования приведён ниже.
4. Код (пример для Eigen).

   Пример программы, вычисляющей обратную матрицу 3×3:

   #include <iostream>
   #include <Eigen/Dense>
   
   int main() {
     Eigen::Matrix3d A;
     A << 1, 2, 3,
          0, 1, 4,
          5, 6, 0;
   
     // Проверим детерминант
     double det = A.determinant();
     if (std::abs(det) < 1e-12) {
       std::cout << "Матрица вырождена, обратной не существует\\n";
       return 0;
     }
   
     // Более устойчивая версия: LU с частичным выбором опорного элемента
     Eigen::Matrix3d Ainv = A.partialPivLu().inverse();
   
     std::cout << "A^-1 =\\n" << Ainv << std::endl;
     return 0;
   }

   Здесь метод partialPivLu().inverse() даёт обратную матрицу, используя LU-разложение и частичное pivoting — более численно устойчиво, чем простое вычисление через adjoint/determinant.

5. Обработка вырожденных и почти вырожденных случаев. Если детерминант близок к нулю, обратную матрицу вычислить невозможно (или результат будет численно нестабилен). В таких случаях можно:
   • Использовать SVD и вычислить псевдообратную (pseudo-inverse) для прямоугольных/почти-вырожденных матриц.
   • Улучшить масштабирование данных (нормировка строк/столбцов) перед вычислениями.
6. Альтернативы. Если нельзя подключать сторонние библиотеки, реализуйте собственную функцию обращения матрицы методом Гаусса–Жордана (прямой и обратный ход). Для 11 класса важно понимать алгоритм: прикрепить справа единичную матрицу и методом элементарных строк привести левую часть к единичной — правая станет обратной.

Краткий итог. В C++ нет «встроенной» в стандарт функции для обращения матриц, поэтому используйте библиотеку Eigen и её метод matrix.partialPivLu().inverse() (или matrix.inverse() для простых случаев). Перед вычислением проверьте, что матрица квадратная и невырожденная; при численной нестабильности применяйте LU с pivoting или SVD для псевдообратной.