Кто нибудь знает как это решить?

Подскажите пожалуйста, как это решается?

Кто нибудь знает как это решить? Аналитическая геометрия, Линейная алгебра