12 En Küçük Kareler Yöntemi
Lagrange interpolasyonu bölümünde verilen noktaların hepsinden tam olarak geçen bir polinom kurduk. Veriler ölçümden geliyorsa bu her zaman istediğimiz şey değildir: ölçümler hatalıdır, nokta sayısı büyüktür ve bütün noktalardan geçen yüksek dereceli polinom verinin gidişini değil gürültüsünü izler. Bu durumda noktaların hepsinden geçmeyen ama hepsine “en yakın” duran basit bir fonksiyon, çoğunlukla bir doğru, aramak daha anlamlıdır.
“En yakın” sözünü ölçülebilir kılmanın en yaygın yolu, sapmaların karelerinin toplamını en küçük yapmaktır. En küçük kareler yöntemini Legendre 1805’te yayımladı; Gauss da yöntemi 1809’da yayımladı ve 1801’de cüce gezegen Ceres’in yörüngesini bu yöntemle hesaplamıştı.
12.1 Eğri Uydurma Problemi
Önce problemin kendisini adlandıralım.
Tanım 12.1 (Eğri uydurma) Bir fonksiyonun nokta nokta verilen değerlerinden, bu değerlere en uygun düşen başka bir fonksiyonun belirlenmesi ya da uygulamada kullanılan karmaşık fonksiyonların yerine geçebilecek ve nümerik hesapları kolaylaştıracak yeni fonksiyonların araştırılması problemine eğri uydurma denir.
Yani elimizde \((x_1, y_1), \dots, (x_n, y_n)\) gibi noktalar var ve bu noktaların gidişini iyi temsil eden, hesabı kolay bir fonksiyon arıyoruz. İnterpolasyondan farkı, uydurulan fonksiyonun noktalardan geçmek zorunda olmamasıdır.
12.2 En Küçük Kareler Yöntemi
Uydurulan eğrinin “en uygun” olduğunu söylemek için gerçek değerlerin eğriden ne kadar saptığını tek bir sayıyla ölçmemiz gerekir.
Tanım 12.2 (En küçük kareler yöntemi) \(x_1, \dots, x_n\) noktalarında gerçek değerler \(y_i\), uydurulan doğru (ya da eğri) üzerindeki regresyon (tahmini) değerler \(\hat{y}_i\) ve bunların farkları \(q_i = y_i - \hat{y}_i\) olsun. Uydurulacak fonksiyonu
\[ E = \sum_{i=1}^{n} q_i^2 \tag{1} \]
toplamını minimum yapacak biçimde seçme yöntemine en küçük kareler yöntemi denir. Bu yöntemle bulunan \(\hat{y} = ax + b\) doğrusuna regresyon doğrusu denir.
Yani her noktanın uydurulan eğriden dikey uzaklığını alıp karesini topluyoruz ve bu toplamı en küçük yapan eğriyi seçiyoruz. Farkların kendileri toplansaydı pozitif ve negatif sapmalar birbirini götürürdü; kareler hem işareti ortadan kaldırır hem de \(E\)’yi türevlenebilir bir fonksiyon yapar.
12.3 Normal Denklemler
Uydurulacak fonksiyonun bir doğru olduğu en temel durumu ele alalım.
\((x_1, \hat{y}_1), \dots, (x_n, \hat{y}_n)\) noktalarından geçen doğru \(\hat{y} = ax + b\) biçiminde yazılır; yani \(\hat{y}_i = a x_i + b\)’dir. Bunu (1)’de yerine koyarsak \(E\), bilinmeyen \(a\) ve \(b\) katsayılarının bir fonksiyonu olur:
\[ E(a, b) = \sum_{i=1}^{n} q_i^2 = \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 = \sum_{i=1}^{n} (y_i - a x_i - b)^2 . \tag{2} \]
\(E\)’nin minimum olduğu noktada iki kısmi türev de sıfır olmalıdır. Sırayla \(a\)’ya ve \(b\)’ye göre türev alıp sıfıra eşitleyelim:
\[ \begin{aligned} \frac{\partial E}{\partial a} &= \sum_{i=1}^{n} -2x_i\,(y_i - a x_i - b) = 0, \\[1mm] \frac{\partial E}{\partial b} &= \sum_{i=1}^{n} -2\,(y_i - a x_i - b) = 0 . \end{aligned} \]
İki denklemi \(-2\)’ye bölüp toplamları terim terim açalım. Birincisinden
\[ \sum_{i=1}^{n} x_i y_i - a\sum_{i=1}^{n} x_i^2 - b\sum_{i=1}^{n} x_i = 0, \]
ikincisinden, \(b\) sabiti \(n\) kez toplandığı için \(\sum_{i=1}^{n} b = b \cdot n\) olduğundan,
\[ \sum_{i=1}^{n} y_i - a\sum_{i=1}^{n} x_i - b \cdot n = 0 \]
elde edilir. Bilinen toplamları sol tarafa toplarsak şu sistem çıkar.
Tanım 12.3 (Normal denklemler) \((x_1, y_1), \dots, (x_n, y_n)\) verisi için
\[ \begin{aligned} \sum_{i=1}^{n} x_i y_i &= a\left(\sum_{i=1}^{n} x_i^2\right) + b\left(\sum_{i=1}^{n} x_i\right) \\[1mm] \sum_{i=1}^{n} y_i &= a\left(\sum_{i=1}^{n} x_i\right) + b \cdot n \end{aligned} \tag{3} \]
denklemlerine \(\hat{y} = ax + b\) regresyon doğrusunun Normal Denklemleri denir.
Yani normal denklemler \(a\) ve \(b\)’ye göre iki bilinmeyenli, iki denklemli lineer bir sistemdir. Katsayıları veriden hesaplanan dört toplamdır: \(\sum x_i\), \(\sum y_i\), \(\sum x_i^2\) ve \(\sum x_i y_i\). Sistem çözülünce \(a\) ve \(b\), dolayısıyla regresyon doğrusu bulunur.
\(q_i = y_i - a x_i - b\) yazarsak kısmi türevlerin sıfır olması \(\sum q_i = 0\) ve \(\sum x_i q_i = 0\) demektir. Yani regresyon doğrusunda artıkların toplamı sıfırdır: noktaların doğrunun üstünde kalan kısmı ile altında kalan kısmı dengelenir.
Normal denklemlerin matris gösterimi
\[ \begin{bmatrix} \sum_{i=1}^{n} x_i^2 & \sum_{i=1}^{n} x_i \\[1mm] \sum_{i=1}^{n} x_i & n \end{bmatrix} \cdot \begin{bmatrix} a \\ b \end{bmatrix} = \begin{bmatrix} \sum_{i=1}^{n} x_i y_i \\[1mm] \sum_{i=1}^{n} y_i \end{bmatrix} \tag{4} \]
şeklindedir. Katsayı matrisi terslenebilirse iki tarafı soldan onun tersiyle çarparak
\[ \begin{bmatrix} a \\ b \end{bmatrix} = \begin{bmatrix} \sum_{i=1}^{n} x_i^2 & \sum_{i=1}^{n} x_i \\[1mm] \sum_{i=1}^{n} x_i & n \end{bmatrix}^{-1} \cdot \begin{bmatrix} \sum_{i=1}^{n} x_i y_i \\[1mm] \sum_{i=1}^{n} y_i \end{bmatrix} \tag{5} \]
eşitliğini yazarız. Bu matrisin ne zaman terslenebilir olduğunu ve bulunan \((a, b)\)’nin \(E\)’yi gerçekten minimum yaptığını şimdi gösterelim. Kısmi türevlerin sıfır olması tek başına minimumu garanti etmez; ama \(E\), \(a\) ve \(b\)’nin ikinci dereceden bir fonksiyonu olduğu için burada durum çok temizdir.
Önerme 12.1 (Normal denklemlerin çözümü minimumdur) \(x_i\)’lerin hepsi aynı değilse
- \(n\sum_{i=1}^{n} x_i^2 - \left(\sum_{i=1}^{n} x_i\right)^2 > 0\) olur; dolayısıyla (4)’teki katsayı matrisi terslenebilir ve normal denklemlerin tek bir \((a, b)\) çözümü vardır;
- bu \((a, b)\), (2)’deki \(E\)’yi minimum yapar: \((h, k) \neq (0, 0)\) için \(E(a + h, b + k) > E(a, b)\) olur.
Ayrıca \(E\)’nin Hessian matrisi
\[ H = \begin{bmatrix} 2\sum_{i=1}^{n} x_i^2 & 2\sum_{i=1}^{n} x_i \\[1mm] 2\sum_{i=1}^{n} x_i & 2n \end{bmatrix} \]
sabittir ve pozitif tanımlıdır.
İspat
1. \(\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i\) olsun. Kareyi açıp \(\sum x_i = n\bar{x}\) eşitliğini kullanırsak
\[ \begin{aligned} \sum_{i=1}^{n} (x_i - \bar{x})^2 &= \sum_{i=1}^{n} x_i^2 - 2\bar{x}\sum_{i=1}^{n} x_i + n\bar{x}^2\\[1mm] &= \sum_{i=1}^{n} x_i^2 - \frac{1}{n}\left(\sum_{i=1}^{n} x_i\right)^2 \end{aligned} \]
bulunur; yani
\[n\sum x_i^2 - \left(\sum x_i\right)^2 = n\sum (x_i - \bar{x})^2 .\]
Sağdaki toplam ancak her \(i\) için \(x_i = \bar{x}\) iken sıfırdır. \(x_i\)’lerin hepsi aynı olmadığından \(n\sum x_i^2 - \left(\sum x_i\right)^2 > 0\) olur. Bu sayı (4)’teki katsayı matrisinin determinantıdır. Determinant sıfırdan farklı olduğu için matris terslenebilir ve sistemin tek çözümü (5) ile verilir.
2. \((a, b)\) normal denklemlerin çözümü ve \(q_i = y_i - a x_i - b\) olsun. Normal denklemler, kısmi türevlerin \(-2\)’ye bölünmüş hâli olduğundan
\[ \sum_{i=1}^{n} x_i q_i = 0, \qquad \sum_{i=1}^{n} q_i = 0 \]
demektir. Rastgele \((h, k)\) için
\[ y_i - (a + h)x_i - (b + k) = q_i - (h x_i + k) \]
olur. Kareyi açıp terim terim toplarsak
\[ \begin{aligned} E(a + h, b + k) &= \sum_{i=1}^{n} \big(q_i - (h x_i + k)\big)^2 \\[1mm] &= \sum_{i=1}^{n} q_i^2 - 2h\sum_{i=1}^{n} x_i q_i - 2k\sum_{i=1}^{n} q_i \\[1mm] &\quad + \sum_{i=1}^{n} (h x_i + k)^2 \end{aligned} \]
bulunur. Ortadaki iki toplam sıfır olduğundan
\[ E(a + h, b + k) = E(a, b) + \sum_{i=1}^{n} (h x_i + k)^2 \]
elde edilir. Son toplam negatif değildir. Sıfır olması için her \(i\) için \(h x_i + k = 0\) olmalıdır. \(h \neq 0\) olsaydı her \(i\) için \(x_i = -k/h\) olurdu, yani \(x_i\)’lerin hepsi aynı olurdu; bu varsayıma aykırıdır. O hâlde \(h = 0\), buradan da \(k = 0\) olur. Yani \((h, k) \neq (0, 0)\) için \(E(a + h, b + k) > E(a, b)\)’dir.
Son olarak toplamı açarsak
\[ \begin{aligned} \sum_{i=1}^{n} (h x_i + k)^2 &= h^2\sum_{i=1}^{n} x_i^2 + 2hk\sum_{i=1}^{n} x_i + n k^2 \\[1mm] &= \frac{1}{2} \begin{bmatrix} h & k \end{bmatrix} H \begin{bmatrix} h \\ k \end{bmatrix} \end{aligned} \]
olur; burada \(H\), (2)’deki \(E\)’nin ikinci kısmi türevlerinden oluşan matristir: \(\frac{\partial^2 E}{\partial a^2} = 2\sum x_i^2\), \(\frac{\partial^2 E}{\partial a\,\partial b} = 2\sum x_i\), \(\frac{\partial^2 E}{\partial b^2} = 2n\). Bu türevler \(a\) ve \(b\)’ye bağlı olmadığından \(H\) sabittir. Az önce bu ifadenin \((h, k) \neq (0, 0)\) için pozitif olduğunu gösterdik; bu, \(H\)’nin pozitif tanımlı olması demektir.
\(\blacksquare\)
Yani \(x_i\)’lerin hepsi aynı değilse normal denklemlerin tek bir çözümü vardır ve bu çözüm \(E\)’nin tek minimum noktasıdır; başka bir doğru seçmek hata kareleri toplamını yalnız büyütür. \(x_i\)’lerin hepsi aynı bir \(c\) sayısına eşitse noktalar \(x = c\) dikey doğrusu üzerindedir. Bu durumda \(ac + b\) değeri \(y_i\)’lerin ortalamasına eşit olan her doğru aynı \(E\)’yi verir; tek bir regresyon doğrusu seçilemez.
12.4 Doğru Uydurma Örnekleri
Yöntemi önce yerine koyarak, sonra matris gösterimiyle uygulayalım. Hesapların hepsi aynı tablo üzerinde yürür.
- Tabloyu kur. \(i\), \(x_i\), \(y_i\), \(x_i^2\), \(x_i y_i\) sütunlu tabloyu doldur, son satıra sütun toplamlarını yaz.
- Normal denklemleri yaz. Toplamları (3)’teki iki denkleme koy.
- Sistemi çöz. Bir denklemden \(b\)’yi çekip ötekine koy ya da (5)’teki ters matrisi kullan.
- Doğruyu yaz. Bulunan \(a\) ve \(b\) ile \(\hat{y} = ax + b\) regresyon doğrusunu yaz.
Örnek 12.1 (Dört noktaya doğru uydurma) Aşağıda verilen \(x\) ve \(y\) değişkenleri için en küçük kareler yöntemini kullanarak \(y = ax + b\) şeklinde bir fonksiyon bulunuz.
| \(x_i\) | \(-1\) | \(-0{,}1\) | \(0{,}2\) | \(1\) |
|---|---|---|---|---|
| \(y_i\) | \(1\) | \(1{,}099\) | \(0{,}808\) | \(1\) |
Çözüm
\(n = 4\)’tür. Önce tabloyu kuralım:
| \(i\) | \(x_i\) | \(y_i\) | \(x_i^2\) | \(x_i y_i\) |
|---|---|---|---|---|
| \(1\) | \(-1\) | \(1\) | \(1\) | \(-1\) |
| \(2\) | \(-0{,}1\) | \(1{,}099\) | \(0{,}01\) | \(-0{,}1099\) |
| \(3\) | \(0{,}2\) | \(0{,}808\) | \(0{,}04\) | \(0{,}1616\) |
| \(4\) | \(1\) | \(1\) | \(1\) | \(1\) |
| Toplam | \(0{,}1\) | \(3{,}907\) | \(2{,}05\) | \(0{,}0517\) |
Bu toplamlarla \(y = ax + b\) regresyon doğrusunun normal denklemleri
\[ \begin{aligned} \sum_{i=1}^{4} x_i y_i = a\left(\sum_{i=1}^{4} x_i^2\right) + b\left(\sum_{i=1}^{4} x_i\right) &\implies 0{,}0517 = 2{,}05a + 0{,}1b, \\[1mm] \sum_{i=1}^{4} y_i = a\left(\sum_{i=1}^{4} x_i\right) + 4b &\implies 3{,}907 = 0{,}1a + 4b \end{aligned} \]
olur. Birinci denklemde \(b\)’nin katsayısı \(0{,}1\) olduğundan \(b\)’yi oradan çekmek kolaydır. Birinci denklemi \(0{,}1\)’e bölersek
\[ 0{,}517 = 20{,}5a + b \implies b = 0{,}517 - 20{,}5a \]
bulunur. Bunu ikinci denklemde yerine koyalım:
\[ \begin{aligned} 3{,}907 &= 0{,}1a + 4\,(0{,}517 - 20{,}5a) \\[1mm] &= 0{,}1a + 2{,}068 - 82a = -81{,}9a + 2{,}068 . \end{aligned} \]
Buradan \(81{,}9a = 2{,}068 - 3{,}907 = -1{,}839\) ve
\[ a = \frac{-1{,}839}{81{,}9} = -\frac{613}{27300} = -0{,}022454212 \]
elde edilir. \(b\) için ilk bağıntıya dönüp \(a\)’nın yuvarlanmamış değerini kullanırsak
\[ \begin{aligned} b &= 0{,}517 - 20{,}5 \cdot \left(-\frac{613}{27300}\right) \\[1mm] &= 0{,}517 + 0{,}460311355 = 0{,}977311355 \end{aligned} \]
olur. Aranan fonksiyon
\[ y = -0{,}022454212\,x + 0{,}977311355 \]
bulunur. Doğru neredeyse yataydır: veriler \(1\) civarında küçük salınımlar yapar. \(x = 0{,}2\)’deki nokta doğrunun belirgin biçimde altında, öteki üçü üstünde kalır; \(x = -1\)’deki nokta ise neredeyse doğrunun üzerindedir.
\(\blacksquare\)
İkinci örnekte sistemi doğrudan (5)’teki ters matrisle çözeceğiz. Bunun için \(2 \times 2\) bir matrisin tersini hatırlayalım: \(\alpha\delta - \beta\gamma \neq 0\) ise
\[ \begin{bmatrix} \alpha & \beta \\ \gamma & \delta \end{bmatrix}^{-1} = \frac{1}{\alpha\delta - \beta\gamma} \cdot \begin{bmatrix} \delta & -\beta \\ -\gamma & \alpha \end{bmatrix} \]
olur; paydadaki \(\alpha\delta - \beta\gamma\) sayısı matrisin determinantıdır.
Yani köşegendeki iki eleman yer değiştirir, öteki ikisinin işareti değişir ve matris determinanta bölünür.
Örnek 12.2 (Matris gösterimiyle doğru uydurma) Aşağıdaki tabloda verilen değerleri kullanarak en küçük kareler yöntemi ile \(f(x) = ax + b\) fonksiyonunu matris gösterimini kullanarak elde ediniz.
| \(x_i\) | \(-2\) | \(0\) | \(1\) | \(2\) | \(4\) |
|---|---|---|---|---|---|
| \(y_i\) | \(-3\) | \(1\) | \(3\) | \(5\) | \(9\) |
Çözüm
\(n = 5\)’tir. Tabloyu kuralım:
| \(i\) | \(x_i\) | \(y_i\) | \(x_i^2\) | \(x_i y_i\) |
|---|---|---|---|---|
| \(1\) | \(-2\) | \(-3\) | \(4\) | \(6\) |
| \(2\) | \(0\) | \(1\) | \(0\) | \(0\) |
| \(3\) | \(1\) | \(3\) | \(1\) | \(3\) |
| \(4\) | \(2\) | \(5\) | \(4\) | \(10\) |
| \(5\) | \(4\) | \(9\) | \(16\) | \(36\) |
| Toplam | \(5\) | \(15\) | \(25\) | \(55\) |
\(f(x) = ax + b\) regresyon doğrusunun normal denklemleri (5) biçiminde yazılırsa
\[ \begin{aligned} \begin{bmatrix} a \\ b \end{bmatrix} &= \begin{bmatrix} \sum x_i^2 & \sum x_i \\ \sum x_i & n \end{bmatrix}^{-1} \cdot \begin{bmatrix} \sum x_i y_i \\ \sum y_i \end{bmatrix} \\[1mm] &= \begin{bmatrix} 25 & 5 \\ 5 & 5 \end{bmatrix}^{-1} \cdot \begin{bmatrix} 55 \\ 15 \end{bmatrix} \end{aligned} \]
olur. Katsayı matrisinin determinantı
\[ \begin{vmatrix} 25 & 5 \\ 5 & 5 \end{vmatrix} = 25 \cdot 5 - 5 \cdot 5 = 125 - 25 = 100 \neq 0 \]
olduğundan matris terslenebilir. Ters matris formülüyle
\[ \begin{aligned} \begin{bmatrix} a \\ b \end{bmatrix} &= \frac{1}{100} \begin{bmatrix} 5 & -5 \\ -5 & 25 \end{bmatrix} \cdot \begin{bmatrix} 55 \\ 15 \end{bmatrix} = \frac{1}{100} \begin{bmatrix} 5 \cdot 55 - 5 \cdot 15 \\ -5 \cdot 55 + 25 \cdot 15 \end{bmatrix} \\[1mm] &= \frac{1}{100} \begin{bmatrix} 275 - 75 \\ -275 + 375 \end{bmatrix} = \frac{1}{100} \begin{bmatrix} 200 \\ 100 \end{bmatrix} = \begin{bmatrix} 2 \\ 1 \end{bmatrix} \end{aligned} \]
bulunur. Yani \(a = 2\), \(b = 1\) ve
\[ f(x) = 2x + 1 \]
elde edilir. Bu veride beş noktanın beşi de \(y = 2x + 1\) doğrusu üzerindedir; örneğin \(x = 4\) için \(2 \cdot 4 + 1 = 9\)’dur. Bu yüzden bütün artıklar sıfırdır ve \(E\)’nin minimum değeri \(0\)’dır.
\(E\)’yi \(a\) ve \(b\)’nin fonksiyonu olarak açıkça yazmak, Önerme 12.1’un söylediğini gözle görmeyi sağlar. (2)’deki kareleri açıp toplamları yerine koyarsak (\(\sum y_i^2 = 125\))
\[ \begin{aligned} E(a, b) &= a^2\sum x_i^2 + 2ab\sum x_i + n b^2 \\[1mm] &\quad - 2a\sum x_i y_i - 2b\sum y_i + \sum y_i^2 \\[1mm] &= 25a^2 + 10ab + 5b^2 - 110a - 30b + 125 \end{aligned} \]
olur. Bu, yukarı açılan bir paraboloittir; seviye eğrileri \((2, 1)\) merkezli iç içe elipslerdir ve tek minimum noktası \(E(2, 1) = 0\)’dır.
\(\blacksquare\)
12.5 Alıştırmalar
Aşağıdaki sorularda tabloyu kurup normal denklemleri yazacak, sistemi \(b\)’yi çekip yerine koyarak çözeceğiz. Sonuçlar yuvarlama yapılmadan hesaplanıp virgülden sonra dokuz basamakla gösterilmiştir.
Alıştırma 12.1 (Not verisine doğru uydurma) Bir sınıftaki öğrenciler arasından rastgele seçilmiş \(10\) öğrencinin Matematik ve Fizik derslerinden aldıkları notlar aşağıda verilmiştir.
| Matematik | \(75\) | \(80\) | \(93\) | \(65\) | \(87\) | \(71\) | \(98\) | \(68\) | \(84\) | \(77\) |
|---|---|---|---|---|---|---|---|---|---|---|
| Fizik | \(82\) | \(78\) | \(86\) | \(72\) | \(91\) | \(80\) | \(95\) | \(72\) | \(89\) | \(74\) |
Matematik notlarını bağımsız değişken (\(x\)), Fizik notlarını bağımlı değişken (\(y\)) kabul ederek tablodaki veriler için en uygun doğruyu bulunuz.
Çözüm
\(n = 10\)’dur. Tabloyu kuralım:
| \(i\) | \(x_i\) | \(y_i\) | \(x_i^2\) | \(x_i y_i\) |
|---|---|---|---|---|
| \(1\) | \(75\) | \(82\) | \(5625\) | \(6150\) |
| \(2\) | \(80\) | \(78\) | \(6400\) | \(6240\) |
| \(3\) | \(93\) | \(86\) | \(8649\) | \(7998\) |
| \(4\) | \(65\) | \(72\) | \(4225\) | \(4680\) |
| \(5\) | \(87\) | \(91\) | \(7569\) | \(7917\) |
| \(6\) | \(71\) | \(80\) | \(5041\) | \(5680\) |
| \(7\) | \(98\) | \(95\) | \(9604\) | \(9310\) |
| \(8\) | \(68\) | \(72\) | \(4624\) | \(4896\) |
| \(9\) | \(84\) | \(89\) | \(7056\) | \(7476\) |
| \(10\) | \(77\) | \(74\) | \(5929\) | \(5698\) |
| Toplam | \(798\) | \(819\) | \(64722\) | \(66045\) |
Normal denklemler
\[ \begin{aligned} \sum_{i=1}^{n} x_i y_i = a\left(\sum_{i=1}^{n} x_i^2\right) + b\left(\sum_{i=1}^{n} x_i\right) &\implies 66045 = 64722a + 798b, \\[1mm] \sum_{i=1}^{n} y_i = a\left(\sum_{i=1}^{n} x_i\right) + b \cdot n &\implies 819 = 798a + 10b \end{aligned} \]
olur. İkinci denklemi \(10\)’a bölersek \(b = 81{,}9 - 79{,}8a\) bulunur. Bunu birinci denklemde yerine koyalım:
\[ \begin{aligned} 66045 &= 64722a + 798\,(81{,}9 - 79{,}8a) \\[1mm] &= 64722a + 65356{,}2 - 63680{,}4a \\[1mm] &= 1041{,}6a + 65356{,}2 . \end{aligned} \]
Buradan \(1041{,}6a = 66045 - 65356{,}2\), yani \(1041{,}6a = 688{,}8\) ve
\[ a = \frac{688{,}8}{1041{,}6} = \frac{41}{62} = 0{,}661290323 \]
olur. Buna göre
\[ \begin{aligned} b &= 81{,}9 - 79{,}8 \cdot \frac{41}{62} = \frac{903}{31} \\[1mm] &= 29{,}129032258 \end{aligned} \]
ve aranan doğru
\[ y = 0{,}661290323\,x + 29{,}129032258 \]
bulunur. Eğim pozitiftir: Matematik notu bir puan arttıkça Fizik notunun yaklaşık \(0{,}66\) puan artması beklenir.
\(\blacksquare\)
Alıştırma 12.2 (Matematik notundan Fizik notu tahmini) Alıştırma 12.1’daki \(10\) öğrencinin not verisi için Matematik notları \(x\), Fizik notları \(y\) alınarak bulunan regresyon doğrusunu kullanınız. Matematik dersinden \(60\) alan bir öğrencinin Fizik dersinden kaç alması beklenir?
Çözüm
Alıştırma 12.1’da bulunan regresyon doğrusu şudur:
\[ y = 0{,}661290323\,x + 29{,}129032258 \]
Katsayıların tam değerleri \(a = \frac{41}{62}\) ve \(b = \frac{903}{31}\)’dir. Bağımsız değişken \(x\) olduğundan \(x = 60\) değerini doğrudan yerine koyarız:
\[ \begin{aligned} y &= \frac{41}{62} \cdot 60 + \frac{903}{31} = \frac{1230}{31} + \frac{903}{31} \\[1mm] &= 39{,}677419355 + 29{,}129032258 \\[1mm] &= \frac{2133}{31} = 68{,}806451613 \approx 69 . \end{aligned} \]
Yani Matematik dersinden \(60\) alan bir öğrencinin Fizik dersinden yaklaşık \(69\) alması beklenir.
\(\blacksquare\)
Alıştırma 12.3 (Fizik notundan Matematik notu tahmini) Alıştırma 12.1’daki \(10\) öğrencinin not verisi için Matematik notları \(x\), Fizik notları \(y\) alınarak bulunan regresyon doğrusunu kullanınız. Fizik dersinden \(90\) alan bir öğrencinin Matematik dersinden kaç alması beklenir?
Çözüm
Alıştırma 12.1’da bulunan regresyon doğrusu şudur:
\[ y = 0{,}661290323\,x + 29{,}129032258 \]
Katsayıların tam değerleri \(a = \frac{41}{62}\) ve \(b = \frac{903}{31}\)’dir. Bu kez \(y = 90\) verilmiştir; doğrunun denklemini \(x\) için çözeriz:
\[ 90 = \frac{41}{62}\,x + \frac{903}{31} \]
denkleminden
\[ \begin{aligned} x &= \frac{90 - \frac{903}{31}}{\frac{41}{62}} = \frac{1887}{31} \cdot \frac{62}{41} = \frac{3774}{41} \\[1mm] &= 92{,}048780488 \approx 92 \end{aligned} \]
bulunur. Yani Fizik dersinden \(90\) alan bir öğrencinin Matematik dersinden yaklaşık \(92\) alması beklenir.
Burada \(y\)’yi \(x\)’ten tahmin etmek için kurulan doğruyu ters çevirerek kullandık; bu, \(x\)’in \(y\)’ye göre regresyonuyla aynı şey değildir, çünkü \(x\) bağımlı değişken alınıp normal denklemler \(x\) ile \(y\)’nin yerleri değiştirilerek kurulsaydı başka bir doğru çıkardı ve \(y = 90\) için \(x \approx 89{,}12\) bulunurdu.
\(\blacksquare\)
Alıştırma 12.4 (On noktaya doğru uydurma) Aşağıdaki tabloya bir doğru uydurmak için en küçük kareler yöntemini kullanınız.
| \(x_i\) | \(1\) | \(3\) | \(5\) | \(7\) | \(10\) | \(12\) | \(13\) | \(16\) | \(18\) | \(20\) |
|---|---|---|---|---|---|---|---|---|---|---|
| \(y_i\) | \(4\) | \(5\) | \(6\) | \(5\) | \(8\) | \(7\) | \(6\) | \(9\) | \(12\) | \(11\) |
Çözüm
\(n = 10\)’dur. Tabloyu kuralım:
| \(i\) | \(x_i\) | \(y_i\) | \(x_i^2\) | \(x_i y_i\) |
|---|---|---|---|---|
| \(1\) | \(1\) | \(4\) | \(1\) | \(4\) |
| \(2\) | \(3\) | \(5\) | \(9\) | \(15\) |
| \(3\) | \(5\) | \(6\) | \(25\) | \(30\) |
| \(4\) | \(7\) | \(5\) | \(49\) | \(35\) |
| \(5\) | \(10\) | \(8\) | \(100\) | \(80\) |
| \(6\) | \(12\) | \(7\) | \(144\) | \(84\) |
| \(7\) | \(13\) | \(6\) | \(169\) | \(78\) |
| \(8\) | \(16\) | \(9\) | \(256\) | \(144\) |
| \(9\) | \(18\) | \(12\) | \(324\) | \(216\) |
| \(10\) | \(20\) | \(11\) | \(400\) | \(220\) |
| Toplam | \(105\) | \(73\) | \(1477\) | \(906\) |
Normal denklemler
\[ 906 = 1477a + 105b \quad \text{ve} \quad 73 = 105a + 10b \]
olur. İkinci denklemi \(10\)’a bölersek \(b = 7{,}3 - 10{,}5a\) bulunur. Bunu birinci denklemde yerine koyalım:
\[ \begin{aligned} 906 &= 1477a + 105\,(7{,}3 - 10{,}5a) \\[1mm] &= 1477a + 766{,}5 - 1102{,}5a \\[1mm] &= 374{,}5a + 766{,}5 . \end{aligned} \]
Buradan \(374{,}5a = 906 - 766{,}5 = 139{,}5\) ve
\[ a = \frac{139{,}5}{374{,}5} = \frac{279}{749} = 0{,}372496662 \]
olur. Buna göre
\[ \begin{aligned} b &= 7{,}3 - 10{,}5 \cdot \frac{279}{749} = 7{,}3 - 3{,}911214953 \\[1mm] &= 3{,}388785047 \end{aligned} \]
ve aranan doğru
\[ y = 0{,}372496662\,x + 3{,}388785047 \]
bulunur.
\(\blacksquare\)
Böylece kitabın yolu tamamlanıyor: hataların nereden geldiğini ve nasıl büyüdüğünü anlayarak başladık, bu bilgiyle kök bulma yöntemlerinin ne kadar hızlı yakınsadığını ölçtük. İnterpolasyonla bir fonksiyonu tablo değerlerinden yeniden kurmayı öğrendik ve aynı polinomları türev ve integral hesaplamakta kullandık. En küçük kareler yöntemi ise noktalardan geçmek yerine onlara en yakın kalan bir eğri seçerek bu araçları gürültülü ölçümlere taşıdı.