A Βασικά μαθηματικά εργαλεία A.1 Διανύσματα A.3 Πιθανότητες

A.2 Γραμμική Άλγεβρα – Ιδιοτιμές και Ιδιοδιανύσματα Πινάκων

Παρακάτω δίνουμε μια συνοπτική παρουσίαση βασικών εννοιών της γραμμικής άλγεβρας [34].

A.2.1 Το πρόβλημα των ιδιοτιμών

Θεωρούμε πίνακα $\bm{A}$ ο οποίος είναι $n\times n$ . Θα μελετήσουμε την εξίσωση

\bm{A}\bm{x}=\lambda\bm{x},\qquad\lambda\in\mathbb{R}

(A.5)

η οποία γράφεται επίσης

(\bm{A}-\lambda\bm{I})\bm{x}=0,

(A.6)

και είναι ισοδύναμη με ένα σύστημα ομογενών εξισώσεων. Αν $\det(\bm{A}-\lambda\bm{I})\neq 0$ τότε το σύστημα έχει μοναδική λύση $\bm{x}=0$ .

Παρατήρηση A.4.

Το σύστημα (A.6) έχει μη-μηδενικές λύσεις αν και μόνο αν $|\bm{A}-\lambda\bm{I}|=0$ . Η εξίσωση $|\bm{A}-\lambda\bm{I}|=0$ λέγεται χαρακτηριστική εξίσωση για τον $\bm{A}$ .

Ορισμός.

Οι αριθμοί $\lambda$ λέγονται ιδιοτιμές του πίνακα.

Παράδειγμα A.3.

Βρείτε τις ιδιοτιμές του πίνακα

\bm{A}=\begin{bmatrix}4&1\\ -3&0\end{bmatrix}.

Οι ιδιοτιμές $\lambda$ ικανοποιούν την

\det(\bm{A}-\lambda\bm{I})=\begin{vmatrix}4-\lambda&1\\ -3&-\lambda\end{vmatrix}=0\Rightarrow(4-\lambda)(-\lambda)+3=0\Rightarrow% \lambda^{2}-4\lambda+3=0\Rightarrow\lambda=1,\;\hbox{και}\;3.

A.2.2 Ιδιοδιανύσματα

Για κάθε ιδιοτιμή $\lambda_{k}$ έχουμε μία εξίσωση

\bm{A}\bm{v}_{k}=\lambda_{k}\bm{v}_{k}.

(A.7)

Ορισμός.

Τα $\bm{v}_{k}$ τα οποία αντιστοιχούν στις ιδιοτιμές $\lambda_{k}$ λέγονται ιδιοδιανύσματα του πίνακα.

Παράδειγμα A.4.

Βρείτε τα ιδιοδιανύσματα του πίνακα του προηγουμένου παραδείγματος.

Επίλυση.

(\bm{A}-\lambda\bm{I})\bm{x}=0\Rightarrow\begin{cases}(4-\lambda)x_{1}+x_{2}&=% 0\\ -3x_{1}-\lambda x_{2}&=0\end{cases}

Πρέπει να λύσουμε το σύστημα που προκύπτει για κάθε ιδιοτιμή $\lambda$ .

Έστω $\lambda=1$ :

\begin{cases}3x_{1}+x_{2}&=0\\ -3x_{1}-x_{2}&=0\end{cases}\Rightarrow 3x_{1}+x_{2}=0\Rightarrow x_{2}=-3x_{1}.

Έστω $\lambda=3$ :

\begin{cases}x_{1}+x_{2}&=0\\ -3x_{1}-3x_{2}&=0\end{cases}\Rightarrow x_{1}+x_{2}=0\Rightarrow x_{2}=-x_{1}.

Τα δύο ιδιοδιανύσματα είναι

\bm{v}_{1}=\begin{bmatrix}1\\ -3\end{bmatrix},\qquad\bm{v}_{2}=\begin{bmatrix}1\\ -1\end{bmatrix}.

Στο παράδειγμα παρατηρούμε ότι:

•

Το σύστημα εξισώσεων για τα ιδιοδιανύσματα έχει άπειρες λύσεις.
•

Ως ιδιοδιάνυσμα, για κάθε ιδιοτιμή, μπορούμε να πάρουμε οποιοδήποτε από τα παράλληλα διανύσματα που προκύπτουν.
•

Τα δύο ιδιοδιανύσματα για τις δύο διαφορετικές ιδιοτιμές δεν είναι παράλληλα (είναι γραμμικά ανεξάρτητα).

Λήμμα.

Όταν έχουμε $n$ διακριτές ιδιοτιμές τότε έχουμε $n$ αντίστοιχα γραμμικά ανεξάρτητα ιδιοδιανύσματα.

Παράδειγμα A.5.

(Πολλαπλές ιδιοτιμές) Βρείτε ιδιοτιμές και ιδιοδιανύσματα του πίνακα

\bm{A}=\begin{bmatrix}3&2&4\\ 2&0&2\\ 4&2&3\end{bmatrix}

Επίλυση.

Χαρακτηριστική εξίσωση

|\bm{A}-\lambda\bm{I}|=0\Rightarrow\begin{vmatrix}3-\lambda&2&4\\ 2&-\lambda&2\\ 4&2&3-\lambda\end{vmatrix}=0\Rightarrow(\lambda+1)^{2}(\lambda-8)=0.

Οι τρεις ιδιοτιμές $\lambda=\lambda_{1},\lambda_{2},\lambda_{3}$ είναι (μία διπλή και μία απλή):

\lambda_{1}=\lambda_{2}=-1,\qquad\lambda_{3}=8.

Τα ιδιοδιανύσματα γιά $\lambda=\lambda_{1},\lambda_{2}$ προκύπτουν από το σύστημα $\bm{A}-\lambda\bm{I}=0$ . Ο πίνακας $\bm{A}-\lambda\bm{I}$ γίνεται τριγωνικός, π.χ., με τη μέθοδο απαλοιφής Gauss:

\bm{A}-\lambda\bm{I}=\begin{bmatrix}4&2&4\\ 2&1&2\\ 4&2&4\end{bmatrix}\rightarrow\begin{bmatrix}4&2&4\\ 0&0&0\\ 0&0&0\end{bmatrix}

Λύσεις του συστήματος $x_{1}=-(1/2)x_{2}-x_{3}$ . Αν θέσουμε $x_{2}=\kappa,x_{3}=\mu$ τότε έχουμε ιδιοδιανύσματα

\begin{bmatrix}{}^{-\kappa}\!/_{2}-\mu\\ \kappa\\ \mu\end{bmatrix}=\kappa\begin{bmatrix}{}^{-1}\!/_{2}\\ 1\\ 0\end{bmatrix}+\mu\begin{bmatrix}-1\\ 0\\ 1\end{bmatrix},\qquad\kappa,\mu\in\mathbb{R}.

Στη διπλή ιδιοτιμή αντιστοιχούν δύο γραμμικά ανεξάρτητα ιδιοδιανύσματα

\bm{v}_{1}=\kappa\begin{bmatrix}{}^{-1}\!/_{2}\\ 1\\ 0\end{bmatrix},\qquad\bm{v}_{2}=\mu\begin{bmatrix}-1\\ 0\\ 1\end{bmatrix}.

Το ιδιοδιάνυσμα γιά $\lambda=\lambda_{3}$ προκύπτει από το σύστημα $\bm{A}-\lambda\bm{I}=0$ για το οποίο

\bm{A}-\lambda\bm{I}=\begin{bmatrix}-5&2&4\\ 2&-8&2\\ 4&2&-5\end{bmatrix}\rightarrow\begin{bmatrix}1&0&-1\\ 0&1&{}^{-1}\!/_{2}\\ 0&0&0\end{bmatrix}.

Λύσεις του συστήματος $x_{1}=x_{3},\;x_{2}=(1/2)x_{3}$ . Αν θέσουμε $x_{3}=\mu$ τότε έχουμε ιδιοδιάνυσμα

\bm{v}_{3}=\nu\begin{bmatrix}1\\ {}^{1}\!/_{2}\\ 1\end{bmatrix},\qquad\nu\in\mathbb{R}.

Σύντομο πρόβλημα A.2.

(α) Βρείτε τις ιδιοτιμές και τα ιδιοδιανύσματα του πίνακα

\bm{A}=\begin{bmatrix}3&1\\ 1&3\end{bmatrix}

(β) Δείξτε ότι τα ιδιοδιανύσματα είναι ορθογώνια μεταξύ τους. (γ) Γράψτε τον πίνακα των ιδιοδιανυσμάτων $\bm{X}$ , τον $\bm{X}^{-1}$ και τον $\bm{D}$ και δείξτε (με υπολογισμό) ότι $\bm{X}^{-1}\bm{A}\bm{X}=\bm{D}$ .

A.2.3 Ιδιότητες ιδιοτιμών και ιδιοδιανυσμάτων

•

Αν ιδιοδιάνυσμα $\bm{x}$ αντιστοιχεί σε ιδιοτιμή $\lambda$ τότε κάθε διάνυσμα $\bm{y}=\kappa\bm{x},\;\kappa\in\mathbb{R}$ επίσης αντιστοιχεί στην ίδια ιδιοτιμή $\lambda$ :

$\bm{A}\bm{x}=\lambda\bm{x}\Rightarrow\bm{A}\bm{y}=\bm{A}(\kappa\bm{x})=\kappa(% \bm{A}\bm{x})=\kappa(\lambda\bm{x})=\lambda\bm{y}.$ (A.8)
•

Το άθροισμα των ιδιοτιμών πίνακα $\bm{A}$ ισούται με το άθροισμα των στοιχείων της διαγωνίου του (δηλαδή του ίχνους του πίνακα ${\rm Tr}\bm{A}$ ).
•

Το γινόμενο των ιδιοτιμών πίνακα ισούται με την ορίζουσά του $\det\bm{A}$ .
•

Οι ιδιοτιμές ενός άνω ή κάτω τριγωνικού πίνακα είναι τα στοιχεία της διαγωνίου του.
•

Αν ο $\bm{A}$ είναι συμμετρικός ( $\bm{A}=\bm{A}^{T}$ ) τότε τα ιδιοδιανύσματα που αντιστοιχούν σε διαφορετικές ιδιοτιμές είναι ορθογώνια. Αυτά που αντιστοιχούν στην ίδια ιδιοτιμή είτε είναι ορθογώνια είναι μπορούμε να τα κάνουμε ορθογώνια.

A.2.4 Διαγωνιοποίηση πινάκων

Έστω $\bm{A}$ πίνακας $n\times n$ με ιδιοτιμές $\lambda_{k}$ και ιδιοδιανύσματα $\bm{x}_{k}$ . Φτιάχνουμε τον πίνακα με στήλες τα ιδιοδιανύσματα

\bm{X}=(\bm{x}_{1},\bm{x}_{2},\ldots,\bm{x}_{n})=\begin{bmatrix}x_{11}&x_{12}&% \ldots&x_{1n}\\ x_{21}&x_{22}&\ldots&x_{2n}\\ \vdots&\vdots&&\vdots\\ x_{n1}&x_{n2}&\ldots&x_{nn}\end{bmatrix}

(A.9)

Ισχύει

\bm{A}\bm{X}=(\bm{A}\bm{x}_{1}\;\bm{A}\bm{x}_{2}\;\ldots\;\bm{A}\bm{x}_{n})=(% \lambda_{1}\bm{x}_{1}\;\lambda_{2}\bm{x}_{2}\;\ldots\;\lambda_{n}\bm{x}_{n})=% \bm{X}\bm{D}

(A.10)

όπου έχουμε τον διαγώνιο πίνακα

\bm{D}=\begin{bmatrix}\lambda_{1}&0&\ldots&0\\ 0&\lambda_{2}&\ldots&0\\ \vdots&\vdots&&\vdots\\ 0&0&\ldots&\lambda_{n}\end{bmatrix}.

(A.11)

Αν υπάρχει ο αντίστροφος του $\bm{X}$ τότε πολλαπλασιάζουμε από αριστερά με $\bm{X}^{-1}$ :

\bm{D}=\bm{X}^{-1}\bm{A}\bm{X},

(A.12)

ώστε ο $\bm{A}$ έρχεται σε διαγώνια μορφή.

Παράδειγμα A.6.

Να εξεταστεί αν είναι διαγωνιοποιήσιμος ο πίνακας

\bm{A}=\begin{bmatrix}4&1\\ -3&0\end{bmatrix}.

Επίλυση.

Έχουμε δει ότι οι ιδιοτιμές είναι $\lambda=1,3$ και τα αντίστοιχα ιδιοδιανύσματα

\begin{bmatrix}1\\ -3\end{bmatrix}\qquad\begin{bmatrix}1\\ -1\end{bmatrix}.

Ο $\bm{A}$ διαγωνιοποιείται από τον

\bm{X}=\begin{bmatrix}1&1\\ -3&-1\end{bmatrix}\qquad\hbox{με αντίστροφο}\quad\bm{X}^{-1}=\begin{bmatrix}-1% /2&-1/2\\ 3/2&1/2\end{bmatrix}.

Είναι

\bm{X}^{-1}\bm{A}\bm{X}=\begin{bmatrix}-1/2&-1/2\\ 3/2&1/2\end{bmatrix}\begin{bmatrix}4&1\\ -3&0\end{bmatrix}\begin{bmatrix}1&1\\ -3&-1\end{bmatrix}=\begin{bmatrix}1&0\\ 0&3\end{bmatrix}=\begin{bmatrix}\lambda_{1}&0\\ 0&\lambda_{2}\end{bmatrix}.

Παράδειγμα A.7.

Να εξεταστεί αν είναι διαγωνιοποιήσιμος ο

\bm{A}=\begin{bmatrix}2&1\\ -1&0\end{bmatrix}

Επίλυση.

Χαραστηριστική εξίσωση

|\bm{A}-\lambda\bm{I}|=0\Rightarrow\begin{vmatrix}2-\lambda&1\\ -1&-\lambda\end{vmatrix}=\lambda^{2}-2\lambda+1=0\Rightarrow(\lambda-1)^{2}=0% \Rightarrow\lambda_{1}=\lambda_{2}=1.

Ιδιοδιανύσματα

\bm{A}-\lambda\bm{I}=\begin{bmatrix}1&1\\ -1&-1\end{bmatrix}\to\begin{bmatrix}1&1\\ 0&0\end{bmatrix}\Rightarrow x_{2}=-x_{1}\quad\hbox{ιδιοδιάνυσμα}\quad\kappa% \begin{bmatrix}1\\ -1\end{bmatrix}.

Υπάρχει μόνο ένα ιδιοδιάνυσμα, άρα ο $\bm{A}$ δεν διαγωνιοποιείται.

Παράδειγμα A.8.

Να εξεταστεί αν είναι διαγωνιοποιήσιμος ο

\bm{A}=\begin{bmatrix}0&1\\ -1&0\end{bmatrix}.

Επίλυση.

Χαρακτηριστική εξίσωση

|\bm{A}-\lambda\bm{I}|=0\Rightarrow\lambda^{2}+1=0\Rightarrow\lambda_{1}=i,% \lambda_{2}=-i.

Για $\lambda=\lambda_{1}=i$

\bm{A}-\lambda_{1}\bm{I}=\begin{bmatrix}-i&1\\ -1&-i\end{bmatrix}\to\begin{bmatrix}1&i\\ 0&0\end{bmatrix}\Rightarrow x_{2}=ix_{1},\quad\hbox{ιδιοδιάνυσμα}\quad\kappa% \begin{bmatrix}1\\ i\end{bmatrix},\quad\kappa\in\mathbb{R}.

Για $\lambda=\lambda_{2}=-i$

\bm{A}-\lambda_{2}\bm{I}=\begin{bmatrix}i&1\\ -1&i\end{bmatrix}\to\begin{bmatrix}1&-i\\ 0&0\end{bmatrix}\Rightarrow x_{2}=-ix_{1},\quad\hbox{ιδιοδιάνυσμα}\quad\kappa% \begin{bmatrix}1\\ -i\end{bmatrix},\quad\kappa\in\mathbb{R}.

Έχουμε δύο γραμμικά ανεξάρτητα διανύσματα, άρα ο $\bm{A}$ είναι διαγωνιοποιήσιμος με τον πίνακα

\bm{X}=\begin{bmatrix}1&1\\ i&-i\end{bmatrix},\qquad\bm{X}^{-1}=\begin{bmatrix}1/2&-i/2\\ 1/2&i/2\end{bmatrix}

και ισχύει

\bm{X}^{-1}\bm{A}\bm{X}=\begin{bmatrix}1/2&-i/2\\ 1/2&i/2\end{bmatrix}\begin{bmatrix}0&1\\ -1&0\end{bmatrix}\begin{bmatrix}1&1\\ i&-i\end{bmatrix}=\begin{bmatrix}i&0\\ 0&-i\end{bmatrix}=\begin{bmatrix}\lambda_{1}&0\\ 0&\lambda_{2}\end{bmatrix}.

Σύντομο πρόβλημα A.3.

Βρείτε έναν τύπο για να υπολογίσετε τη δύναμη $\bm{A}^{n}$ τετραγωνικού διαγωνιοποιήσιμου πίνακα $\bm{A}$ .

A.2.5 Λύσεις συστημάτων διαφορικών εξισώσεων πρώτης τάξης με σταθερούς συντελεστές

Η γενική μορφή ομογενούς συστήματος $n$ διαφορικών εξισώσεων πρώτης τάξεως με σταθερούς συντελεστές είναι [39]:

\begin{split}\displaystyle y_{1}^{\prime}&\displaystyle=a_{11}y_{1}+a_{12}y_{2% }+\ldots+a_{1n}y_{n}\\ \displaystyle y_{2}^{\prime}&\displaystyle=a_{21}y_{1}+a_{22}y_{2}+\ldots+a_{2% n}y_{n}\\ &\displaystyle\vdots\\ \displaystyle y_{n}^{\prime}&\displaystyle=a_{n1}y_{1}+a_{n2}y_{2}+\ldots+a_{% nn}y_{n},\end{split}

(A.13)

όπου $a_{ij},\;i,j=1,\ldots,n$ είναι σταθερές και $y_{i}=y_{i}(x)$ είναι οι μεταβλητές. Το σύστημα με τη βοήθεια πινάκων ως

\bm{Y}^{\prime}=\bm{A}\bm{Y}.

(A.14)

όπου

\bm{Y}=\begin{bmatrix}y_{1}\\ \vdots\\ y_{n}\end{bmatrix},\qquad\bm{A}=\begin{bmatrix}a_{11}&\ldots&a_{1n}\\ \vdots&&\vdots\\ a_{n1}&\ldots&a_{nn}\end{bmatrix}

(A.15)

Οι λύσεις είναι της μορφής

\bm{Y}=\bm{a}e^{\lambda x}

(A.16)

όπου $\bm{a}$ είναι ένας σταθερός πίνακας στήλη. Έχουμε $\bm{Y}^{\prime}=\lambda\bm{a}\,e^{\lambda x}$ την οποία αντικαθιστούμε στην εξίσωση και παίρνουμε

\lambda\bm{a}\,e^{\lambda x}=\bm{A}\bm{a}\,e^{\lambda x}\Rightarrow\lambda\bm{% a}=\bm{A}\bm{a}.

(A.17)

Η λύση αυτή είναι μη-τετριμένη (μη-μηδενική) αν $\lambda=\lambda_{1},\ldots,\lambda_{n}$ είναι οι ιδιοτιμές και $\bm{a}_{1},\ldots,\bm{a}_{n}$ είναι τα ιδιοδιανύσματα του $\bm{A}$ .

Παρατήρηση A.5.

Η γενική λύση του συστήματος είναι ο γραμμικός συνδυασμός των λύσεων που αντιστοιχούν στις ιδιοτιμές. Αν θέσουμε $\bm{X}=\begin{bmatrix}\bm{x}_{1}&\ldots&\bm{x}_{n}\end{bmatrix}$ τον πίνακα που έχει στήλες τα ιδιοδιανύσματα τότε η γενική λύση γράφεται ως

\begin{bmatrix}y_{1}\\ \vdots\\ y_{n}\end{bmatrix}=\bm{P}\begin{bmatrix}c_{1}e^{\lambda_{1}x}\\ \vdots\\ c_{n}e^{\lambda_{n}x}\end{bmatrix}.

(A.18)

Παράδειγμα A.9.

Βρείτε τη γενική λύση του συστήματος

\begin{split}\displaystyle y_{1}^{\prime}&\displaystyle=3y_{1}+y_{2}\\ \displaystyle y_{2}^{\prime}&\displaystyle=y_{1}+3y_{2}\end{split}

Επίλυση.

Πίνακας συστήματος

\bm{A}=\begin{bmatrix}3&1\\ 1&3\end{bmatrix}\quad\hbox{με ιδιοτιμές}\quad\lambda=2,4.

Τα ιδοδιανύσματα και οι αντίστοιχες λύσεις είναι

\lambda_{1}=2,\qquad\bm{a}_{1}=c_{1}\begin{bmatrix}1\\ -1\end{bmatrix},\qquad\bm{Y}=\bm{a}_{1}\,e^{2x}\Rightarrow\begin{bmatrix}y_{1}% \\ y_{2}\end{bmatrix}=c_{1}\begin{bmatrix}e^{2x}\\ -e^{2x}\end{bmatrix}

\lambda_{2}=4,\qquad\bm{a}_{2}=c_{2}\begin{bmatrix}1\\ 1\end{bmatrix},\qquad\bm{Y}=\bm{a}_{2}\,e^{4x}\Rightarrow\begin{bmatrix}y_{1}% \\ y_{2}\end{bmatrix}=c_{2}\begin{bmatrix}e^{4x}\\ e^{4x}\end{bmatrix}

Η γενική λύση του συστήματος είναι ο γραμμικός συνδυασμός των δύο παραπάνω λύσεων

\begin{bmatrix}y_{1}\\ y_{2}\end{bmatrix}=\begin{bmatrix}c_{1}e^{2x}+c_{2}e^{4x}\\ -c_{1}e^{2x}+c_{2}e^{4x}\end{bmatrix}.