From 573c4ceb07026b76f0083cc58f2d911698485cea Mon Sep 17 00:00:00 2001
From: Jan Benda <jan.benda@uni-tuebingen.de>
Date: Mon, 26 Oct 2015 10:09:14 +0100
Subject: [PATCH] Update on likelihood exercises

---
 likelihood/lecture/likelihood.tex             |  45 ++++++++++--------
 pointprocesses/lecture/pointprocesses.tex     |  15 +++---
 .../lecture/pointprocessscetchA.eps           |   6 +--
 .../lecture/pointprocessscetchA.pdf           | Bin 2765 -> 2769 bytes
 .../lecture/pointprocessscetchB.eps           |   6 +--
 .../lecture/pointprocessscetchB.pdf           | Bin 4673 -> 4677 bytes
 scientificcomputing-script.tex                |   2 +-
 statistics/exercises/mlestd.m                 |   2 +-
 statistics/exercises/mlestd.pdf               | Bin 5166 -> 5201 bytes
 statistics/exercises/statistics04.tex         |  29 +++++------
 10 files changed, 58 insertions(+), 47 deletions(-)

diff --git a/likelihood/lecture/likelihood.tex b/likelihood/lecture/likelihood.tex
index 752d659..3166153 100644
--- a/likelihood/lecture/likelihood.tex
+++ b/likelihood/lecture/likelihood.tex
@@ -1,11 +1,11 @@
 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
-\chapter{\tr{Maximum likelihood estimation}{Maximum-Likelihood Methode}}
+\chapter{\tr{Maximum likelihood estimation}{Maximum-Likelihood-Sch\"atzer}}
 
 In vielen Situationen wollen wir einen oder mehrere Parameter $\theta$
 einer Wahrscheinlichkeitsverteilung sch\"atzen, so dass die Verteilung
-die Daten $x_1, x_2, \ldots x_n$ am besten beschreibt. Bei der
-Maximum-Likelihood-Methode w\"ahlen wir die Parameter so, dass die
+die Daten $x_1, x_2, \ldots x_n$ am besten beschreibt. 
+Maximum-Likelihood-Sch\"atzer w\"ahlen wir die Parameter so, dass die
 Wahrscheinlichkeit, dass die Daten aus der Verteilung stammen, am
 gr\"o{\ss}ten ist.
 
@@ -89,7 +89,7 @@ nach dem Parameter $\theta$ und setzen diese gleich Null:
   \Leftrightarrow \quad n \theta & = & \sum_{i=1}^n x_i \\
   \Leftrightarrow \quad \theta & = & \frac{1}{n} \sum_{i=1}^n x_i
 \end{eqnarray*}
-Der Maximum-Likelihood-Estimator ist das arithmetische Mittel der Daten. D.h.
+Der Maximum-Likelihood-Sch\"atzer ist das arithmetische Mittel der Daten. D.h.
 das arithmetische Mittel maximiert die Wahrscheinlichkeit, dass die Daten aus einer
 Normalverteilung mit diesem Mittelwert gezogen worden sind.
 
@@ -106,7 +106,7 @@ Normalverteilung mit diesem Mittelwert gezogen worden sind.
 
 
 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
-\section{Kurvenfit als Maximum Likelihood Estimation}
+\section{Kurvenfit als Maximum-Likelihood Sch\"atzung}
 Beim Kurvenfit soll eine Funktion $f(x;\theta)$ mit den Parametern
 $\theta$ an die Datenpaare $(x_i|y_i)$ durch Anpassung der Parameter
 $\theta$ gefittet werden. Wenn wir annehmen, dass die $y_i$ um die
@@ -132,18 +132,22 @@ Maximum weggelassen werden.
 Anstatt nach dem Maximum zu suchen, k\"onnen wir auch das Vorzeichen der Log-Likelihood
 umdrehen und nach dem Minimum suchen. Dabei k\"onnen wir auch den Faktor $1/2$ vor der Summe vernachl\"assigen --- auch das \"andert nichts an der Position des Minimums.
 \begin{equation}
+  \label{chisqmin}
   \theta_{mle} = \text{argmin}_{\theta} \; \sum_{i=1}^n \left( \frac{y_i-f(x_i;\theta)}{\sigma_i} \right)^2 \;\; = \;\; \text{argmin}_{\theta} \; \chi^2
 \end{equation}
-Die Summer der quadratischen Abst\"ande normiert auf die jeweiligen
+Die Summe der quadratischen Abst\"ande normiert auf die jeweiligen
 Standardabweichungen wird auch mit $\chi^2$ bezeichnet. Der Wert des
 Parameters $\theta$ welcher den quadratischen Abstand minimiert ist
 also identisch mit der Maximierung der Wahrscheinlichkeit, dass die
 Daten tats\"achlich aus der Funktion stammen k\"onnen. Minimierung des
-$\chi^2$ ist also ein Maximum-Likelihood Estimate.
+$\chi^2$ ist also eine Maximum-Likelihood Sch\"atzung. Aber nur, wenn
+die Daten normalverteilt um die Funktion streuen! Bei anderen
+Verteilungen m\"usste man die Log-Likelihood entsprechend
+\eqnref{loglikelihood} ausrechnen und maximieren.
 
 \begin{figure}[t]
   \includegraphics[width=1\textwidth]{mlepropline}
-  \caption{\label{mleproplinefig} Maximum Likelihood Estimation der
+  \caption{\label{mleproplinefig} Maximum-Likelihood Sch\"atzung der
     Steigung einer Ursprungsgeraden.}
 \end{figure}
 
@@ -186,12 +190,13 @@ Abstands an ein Histogram der Daten zu fitten. Das ist aber aus
 folgenden Gr\"unden nicht die Methode der Wahl: (i)
 Wahrscheinlichkeitsdichten k\"onnen nur positiv sein. Darum k\"onnen
 insbesondere bei kleinen Werten die Daten nicht symmetrisch streuen,
-wie es normalverteilte Daten machen sollten. (ii) Die Datenwerte sind
-nicht unabh\"angig, da das normierte Histogram sich zu Eins
-aufintegriert. Die beiden Annahmen normalverteilte und unabh\"angige Daten
-die die Minimierung des quadratischen Abstands zu einem Maximum
-Likelihood Estimator machen sind also verletzt. (iii) Das Histgramm
-h\"angt von der Wahl der Klassenbreite ab.
+wie es bei normalverteilte Daten der Fall ist. (ii) Die Datenwerte
+sind nicht unabh\"angig, da das normierte Histogram sich zu Eins
+aufintegriert. Die beiden Annahmen normalverteilte und unabh\"angige
+Daten, die die Minimierung des quadratischen Abstands
+\eqnref{chisqmin} zu einem Maximum-Likelihood Sch\"atzer machen, sind
+also verletzt. (iii) Das Histgramm h\"angt von der Wahl der
+Klassenbreite ab.
 
 Den direkten Weg, eine Wahrscheinlichkeitsdichtefunktion an ein
 Datenset zu fitten, haben wir oben schon bei dem Beispiel zur
@@ -204,9 +209,11 @@ z.B. dem Gradientenabstieg, gel\"ost wird.
 
 \begin{figure}[t]
   \includegraphics[width=1\textwidth]{mlepdf}
-  \caption{\label{mlepdffig} Maximum Likelihood Estimation einer
-    Wahrscheinlichkeitsdichtefunktion. Links: die 100 Datenpunkte, die aus der Gammaverteilung
-    2. Ordnung (rot) gezogen worden sind. Der Maximum-Likelihood-Fit ist orange dargestellt.
-    Rechts: das normierte Histogramm der Daten zusammen mit der \"uber Minimierung
-    des quadratischen Abstands zum Histogramm berechneten Fits ist potentiell schlechter.}
+  \caption{\label{mlepdffig} Maximum-Likelihood Sch\"atzung einer
+    Wahrscheinlichkeitsdichtefunktion. Links: die 100 Datenpunkte, die
+    aus der Gammaverteilung 2. Ordnung (rot) gezogen worden sind. Der
+    Maximum-Likelihood-Fit ist orange dargestellt.  Rechts: das
+    normierte Histogramm der Daten zusammen mit der \"uber Minimierung
+    des quadratischen Abstands zum Histogramm berechneten Fits ist
+    potentiell schlechter.}
 \end{figure}
diff --git a/pointprocesses/lecture/pointprocesses.tex b/pointprocesses/lecture/pointprocesses.tex
index 58f3cd1..94eea66 100644
--- a/pointprocesses/lecture/pointprocesses.tex
+++ b/pointprocesses/lecture/pointprocesses.tex
@@ -10,11 +10,14 @@
     werden kann. }
 \end{figure}
 
-Ein zeitlicher Punktprozess ist ein stochastischer Prozess der eine Abfolge von Ereignissen zu den Zeiten $\{t_i\}$, $t_i \in \reZ$ generiert.
-
-Jeder Punktprozess wird durch einen sich in der Zeit kontinuierlichen
-entwickelnden Prozess generiert. Wann immer dieser Prozess eine Schwelle \"uberschreitet
-wird ein Ereigniss des Punktprozesses erzeugt. Zum Beispiel:
+Ein zeitlicher Punktprozess ist ein stochastischer Prozess, der eine
+Abfolge von Ereignissen zu den Zeiten $\{t_i\}$, $t_i \in \reZ$,
+generiert.
+
+Jeder Punktprozess wird durch einen sich in der Zeit kontinuierlich
+entwickelnden Prozess generiert. Wann immer dieser Prozess eine
+Schwelle \"uberschreitet wird ein Ereigniss des Punktprozesses
+erzeugt. Zum Beispiel:
 \begin{itemize}
 \item Aktionspotentiale/Herzschlag: wird durch die Dynamik des
   Membranpotentials eines Neurons/Herzzelle erzeugt.
@@ -22,7 +25,7 @@ wird ein Ereigniss des Punktprozesses erzeugt. Zum Beispiel:
   tektonischen Platten auf beiden Seiten einer geologischen Verwerfung
   erzeugt.
 \item Zeitpunkt eines Grillen/Frosch/Vogelgesangs: wird durch die
-  Dynamic des Nervensystems und des Muskelapparates erzeugt.
+  Dynamik des Nervensystems und des Muskelapparates erzeugt.
 \end{itemize}
 
 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% 
diff --git a/pointprocesses/lecture/pointprocessscetchA.eps b/pointprocesses/lecture/pointprocessscetchA.eps
index 83dc344..e799c6c 100644
--- a/pointprocesses/lecture/pointprocessscetchA.eps
+++ b/pointprocesses/lecture/pointprocessscetchA.eps
@@ -1,7 +1,7 @@
 %!PS-Adobe-2.0 EPSF-2.0
 %%Title: pointprocessscetchA.tex
 %%Creator: gnuplot 4.6 patchlevel 4
-%%CreationDate: Sun Oct 25 21:47:09 2015
+%%CreationDate: Mon Oct 26 09:31:15 2015
 %%DocumentFonts: 
 %%BoundingBox: 50 50 373 135
 %%EndComments
@@ -430,10 +430,10 @@ SDict begin [
   /Title (pointprocessscetchA.tex)
   /Subject (gnuplot plot)
   /Creator (gnuplot 4.6 patchlevel 4)
-  /Author (jan)
+  /Author (benda)
 %  /Producer (gnuplot)
 %  /Keywords ()
-  /CreationDate (Sun Oct 25 21:47:09 2015)
+  /CreationDate (Mon Oct 26 09:31:15 2015)
   /DOCINFO pdfmark
 end
 } ifelse
diff --git a/pointprocesses/lecture/pointprocessscetchA.pdf b/pointprocesses/lecture/pointprocessscetchA.pdf
index 145657e0e5209c6af815f746b030223f1ebdb5a1..83c76bce7f1fc4865ae5d537d1e8306962d43cc0 100644
GIT binary patch
delta 341
zcmX>rdQo&kI}@YP<_;!XMqYDELyKesb0gg(;}na@0c`S<KQd=w5p8F&;W7&`u(UEZ
zv@$fCe3nH+!Z$xpLDxT7w?rYt$jnN?zzQsBWjdLcwF!#}yIJiqL?tH6v#DT+K4wiy
z%}Yt#Y{uTrXbiH&Ke<G~$V>rhyQzYafuX4;m%eX)ic4Zis)madNWjp*$jrdf*bwNt
zFC5trBPJ(tx-yziUcq@H*45d-)x^@s+0oI(+`!z~z|zs#*v;9*)!EU|)Y8Jx*v^Ka
fidZf?JFeoA#G;alqSQ1lBNIb2E>%@me>W}w%N|*Q

delta 337
zcmca8dRBBpI}@Y9<_;!XMqb0D)MO(=lVsf_V{@~~0c`S<KQd=w5p8F&;W7;|GPE)=
zw=%Gte3nH+BDge9LDxT7w?rYt$ka-~$O<fJWjUFbwF!#}yIJiqL?tH6v#DT+K4#8J
z%-d|i-pyzXvco^QM8U{Z0cN*?k%6J9CYQc%eu_(CNvej66-dC)z{nKn4|AZ~zHwxO
z449n8>B?w2c@5`@SZ8w!H#cV^V<#6^V*>*>Gh<5w0~1RZ11C#2XD4SDQ#%`iDq^|p
b?6`_c5{pVIic-_Kj7$uTxKveL{oS|#(1cmX

diff --git a/pointprocesses/lecture/pointprocessscetchB.eps b/pointprocesses/lecture/pointprocessscetchB.eps
index a1e7442..0e1a2c1 100644
--- a/pointprocesses/lecture/pointprocessscetchB.eps
+++ b/pointprocesses/lecture/pointprocessscetchB.eps
@@ -1,7 +1,7 @@
 %!PS-Adobe-2.0 EPSF-2.0
 %%Title: pointprocessscetchB.tex
 %%Creator: gnuplot 4.6 patchlevel 4
-%%CreationDate: Sun Oct 25 21:47:09 2015
+%%CreationDate: Mon Oct 26 09:31:16 2015
 %%DocumentFonts: 
 %%BoundingBox: 50 50 373 237
 %%EndComments
@@ -430,10 +430,10 @@ SDict begin [
   /Title (pointprocessscetchB.tex)
   /Subject (gnuplot plot)
   /Creator (gnuplot 4.6 patchlevel 4)
-  /Author (jan)
+  /Author (benda)
 %  /Producer (gnuplot)
 %  /Keywords ()
-  /CreationDate (Sun Oct 25 21:47:09 2015)
+  /CreationDate (Mon Oct 26 09:31:16 2015)
   /DOCINFO pdfmark
 end
 } ifelse
diff --git a/pointprocesses/lecture/pointprocessscetchB.pdf b/pointprocesses/lecture/pointprocessscetchB.pdf
index ce8a1f1c16c0af87f4fb3dcc65b4fde642f7a9e9..09d11f8ef328525114a2d4b9628f33591df8348a 100644
GIT binary patch
delta 341
zcmX@8a#Ur*Z%#&|&3`y;8F|eu4K0!l%#C!Dj8iNo3-HQMPUX(R5LKA`hufOVEX2Ul
z%Gl7#&}_0JkA{SAex8D^f3j|gLWq%>m4bm4SklUDawAU@h6!;PA`+7)^QvHo%1?gG
zdxSM9H7_M`^D4e>Mq`jI{>dc@MrH~y+ZBuq3{5q;^nLSFToOxCHC(Jf0)_@gW(JnV
zhCtV42xLQyn0!sZmC<yvjNpk_b5}!iV`ozXBV!{+V>eR+7gtMXV>3rbV-s^XBSQm2
iI~#&3V!7<>xQa^>i%KerQq#ChjEzjVR8?L5-M9cZd08|7

delta 337
zcmX@Aa!_T%Z%#&o&3`y;8F>wpQj?7gO_Ft!jLpp^3-HQMPUX(R5LKA`hufOVG{nfz
z%Ea8tz;d!9kA_5WX`X_vf3j|gLWq&6m4cBKSklUJawAU@h6!;PA`+7)^QvHo%1?gG
zdxSYFF>mu4zHUZikRATXB??BS3NX7Bj0_A-HM#VC^HW?BOHwsltUv;W21cepf0zT^
zmL-r4GGOv80ar%j$qIreV$F<9-CRx0Ees9J49v_8oQ#c~O%2>EP0byRT#a3wjO=U(
gs)*&Xv*Ri*Nh~U<C`wJ^GBGwX;8Im}^>^a}066|xYybcN

diff --git a/scientificcomputing-script.tex b/scientificcomputing-script.tex
index 8cbde10..ad9487d 100644
--- a/scientificcomputing-script.tex
+++ b/scientificcomputing-script.tex
@@ -236,6 +236,6 @@
 
 \renewcommand{\codepath}{pointprocesses/code/}
 \renewcommand{\texinputpath}{pointprocesses/lecture/}
-\include{pointprocesses/lecture/pointprocesses}
+%\include{pointprocesses/lecture/pointprocesses}
 
 \end{document}
diff --git a/statistics/exercises/mlestd.m b/statistics/exercises/mlestd.m
index 61f4b22..de37a56 100644
--- a/statistics/exercises/mlestd.m
+++ b/statistics/exercises/mlestd.m
@@ -27,4 +27,4 @@ subplot(1, 2, 2);
 plot(psigs, loglm);
 xlabel('standard deviation')
 ylabel('log likelihood')
-savefigpdf(gcf, 'mlestd.pdf', 12, 5);
+savefigpdf(gcf, 'mlestd.pdf', 15, 5);
diff --git a/statistics/exercises/mlestd.pdf b/statistics/exercises/mlestd.pdf
index dad420c487808522a054f48ea53c5b43afd38afb..f01f927a1b4986963e18a2c0edbf6a17d65c629b 100644
GIT binary patch
delta 3145
zcma)+S5y;P7KUjGglec#G$1_}NkS45nhK$#D8)#J0O8V05JL@Jlwu?Zq1$MRK?Fhv
z1%hx<5k(?hiZn&wg7h-nS@Sf`TH|@x=U?CdpR@Kp4~M4IuS7N?+4Tmy*YS;QVn>T9
zDzzr$FK*wSWHRaN>{f$BSo)0eIhCF{&KcI15l!|&CV7v2v(LWLpCYqx3ocF21Jmur
z59cR}3N0oMuGLwP@`<}lW&gHr(nOJI&)l_PQON^cHSR0u>_(je+(J;~7<s;|^l4b(
zrOnbn!ojzyO{^xVC}6&sB*NT%y6vpR#D+!LOk*z>IA5E{z!WL^7F}v9n1T<NkfOuK
zTO$NJ_+~a%*0|}Z_9k=hfqvWhui*lHr2$jUr=rpOOOxvz%3XGS&CYp%%yb0PKhNcE
znCe||&csGVy_D`=Iz&Z`K4kw*+8t12ZyEvX=^2GswU9!G?KADkwgP2L;1q1@z37^p
z5Uo29=*J0D7^2uJovAizxo7S__m|jNw@AAsu{^g7ouWjTZp487c1_4E&+CRDmql#)
z&bzRIt6Bqjej+0|M6|^@g4t+Y=#P)(rz|G+>}Mq$-7=7~AfQiX^QTE7`qFzxn)7PQ
z;T<1AFzIkLqJdQ+O%g;8&0>es5|Y3&2|<&uFa3Ed2h1U)R2m}HAoG9>dJt2>rsVzp
z{yd8$&@W^AhOsd;Xg)8l{7Q+w`q!b(eVL2vU0J?y6)^x&Th{!0s46x~8$N>#(Anb#
zgC`rGQ5FO9y+3Pe4rPxTdcvOgh3xQODeC?1??Sr!CbnRyqEk4=B+Mixr^(0)7}TEo
z#N_j;!hu}~FTK8)wNsp0@A}a)cfa;*i`NF$DO?>=134*P5PvgVO0Dcmm15#`Ps^Nr
z6Upj6U+Uu4m)5R#`|ebwSE2dYc$AFd`i=G12&vX=&)1pmTTV1zD(_~mPbDEgsV^+;
z_D9myoDja8m}DN-WwWTaY@FtPUU32?jfNiMmQ_5Ocz*k-7>flHA6QTerm19oYTbP(
zujXoMqM!17I^KaWFcuvK94>3Xx^GRa^bhGB;(AteRCMDyYU-u9KK2HMAA_oKLz*Eg
zx_|MoFF!gG=S|I++R>S!1=@p#J{l+s62~*IlgWsLSSruVLX7aIEQgZ)ui?4R8os{`
z5TOmHJXkqz=b1hkD=a!e6Hk4;9|I0ZSCY}6!mC|?S{cP|GQOG|8^4(%Od#VNeD0nR
zY+8PaatdF&ryV}JCx54qkz`bPmcBA?-we>3acU>mx0u@S)?>%({*bl<$1X3)lSCtZ
z{Wh^ZSqZ9)Wv3Hkka(hiuQRT6UXf-Lxg;lSjniV@Qj_n2tdI+NT`QV)z=K2ThP0?f
zDH~j*mSk6saK~0fc&l-rf8~{tcfR9E!j2Xr5y1iByj`1cWv`bDQ5)`cZd8@zPd`|(
zAd$_C7%p?scWe(&sbaa3+q|SniRXnVgJ@oEYBS{v;18r)Twq)WN9UK+N8;BiCyOcl
z&ZAL!ta#}((56gflZ>&{?DdZ04b$RtvdJBp(wCJo$BuKARh$tIIyN{1zQxs6yEA&F
zBjA0l0bd(974t#3UX?p;3m|tw>^}Na<{PsYmG`Ai#4%Ki8w5#ygqsN>B$r(&Tba-S
zw+o`47K+<c+x!IUivhS}?NjvDJzVYHJe8}J95_xyr7;hlI#=?QZ#WitZJZ`WZ~a{D
zSiUnd{hAbgurfEN)|TEG#<Dy!0g8rL28Pu`4$`3(MTe`a3u_Z?kzo#%7sJk(g^J~8
zZT)a?pg#Dzd8f4KP&4HeiSvCmQU`p=VWV<deuZ(WYh+kWp+zEuG_V%=Z0?{<u&FJ7
z9YJXBp7v1H*!|fOU3J{AwK54BoNT$cB#|`pipX7YkBTWLMl6+?jXP<Q2Npy5rWraK
z5=KJbegEbMwjVyEzE~8);wK*ojf0*rJG1~|a^=S2Q0c@JtsXon9dp$L2OMIa$?Vn>
zzq=`{n%b>mH)`TfntAcp2}*CP=mQ7Q_WI^h7gvX7mmo##VPaIMQGCGZ@q$NXQR7!C
z0(UELi~>w`cK%mVsAO2|g?9?$J3$J{)6cVNgtYl$W!9l;0w7(uk;Hu9(5}9ZUhN<m
zr)SzonYj;qrkhMkP?P^I4&Q!1&^eUCE?c!Vl8Q^i0z0fdhIw(T9t!0~CK|kwwdt3U
z0R;)}mUa@g2KUG4SmGiPPbOb79odLCW~CGL9@b@p`twW%d{tgr#$#+*bFETdg6Ke8
z{AW|Hh4D87hC&U6@F-OVODok|-2NgWnc#Pvm8si{B;l17-O4`^OCb?yZh&egR|zWO
z<V1CEvYe$@nJI_Ys^I6=5_j^^?{_=MWHC95QJl#)m7v{ExRkXZGE!{oLIo;%j$g}9
z33IFRGo4NQ9ztGTSj}f60<`jIT+eNcYT|PLFlxGP_M%Z%GNs~r8^j0n!TNMh3Dl=w
z&3)`H$(Kg;+aGd(vb!9KRoidTGEH`>`-#3OeRex*shS>Z4ENl(k`y0gfH}(>fJ<;~
z8B60kTQ+lAV7N>JeIe1#&s4jBY%ak0lT9zcT201^(a%zn_EysK7$z6++^*!Y5Foik
zy?p!8)1O8+hbT*94;VmhtAn#u7iQB=+<r?Ei3b~kxLn1|4Mi$`ybv4zyBT{c<?$Bb
z)8ERLY8)TR1o1lFAE@~RXRrDLQQ*?H0<f#{%*Gp8YiW(a&GeesvUH{TgQ1BP*_;~B
z9z$qZyoiMhhRvLAbXw$dv9KY}z7wRFO-)%#=i@hT2lDpi@*2T4jCG~BWlm|uqU{+{
zrn8SN`z-tOK?dML?M5+2oh=WNlg606W1~_}l=QU>9IHzZl{N1*lW%ujlaR3)XqO0m
z_>h0_$ud5%vUXMi?CpB-k%*0TdwAd=;+WTtZa2lTkm=u{Qf^XOeBS?7tFH~?=gx44
z3XLgtc)Pc1q!6cZ!zTPmS<-b!fxYJ>CW9~fbGC)emTLe~vE6?&oNBzXx0x%Ac&sv(
za!R(}4S!OwmKgK_6RiDg08ShErq6*&*?7uR%fazxBqQ{js(h^QSkFB?D5LLBs17Gw
z?W~(OgGCoZ(CTFI{-hUIMH}qv`oN~SYneCRDLPShopH@t_?D|VK_ICrEc`ObyjFVQ
zrjkX0HY+*6sqOHx#cqvWZgcO2vO63@!NQB8gQ`_`<uH|Qy@?o{xRnbUPoUf78vqSk
z?0}1QI<Mf2LYJL5?N=cx;8&P67(3r9775Kb59%PD<KvG#my;!lO)M4z-)()M;GwQ%
zJZJ3JL(wk-kN7k8!BY!=+fH8Y%MxZ%0{0{+OFI(=59+Qylhb_5+y+0rI=z4Hz>}j#
zuCZmds5Nrf-<lSU+UM-P%@*k4?@kB__HgwB9H{`DHvkEOfd1KGaHIxhk{iqphasv3
z05EnrcRWHJ3PV9vaq8|kRVWk>QH2~WRRju$($GMlTp<WIiU(iN?*(`GFsw+*Iey8b
zYR`Y;_YQ6F>-}EPK>+l7!TSQSa&CB6Bn0XPch+!&pq=3;6x!KU0}XXXXux1Nm^xa+
z!yR93AZW}gi-e#N2z8_~K<#3HJH|D{LkXh^gFq2b2<$%=rSe48Z(T@90IKVvA)tSr
z5CZZC0sbu@a5w_}-wdXq4*i84HAndgRM17hez8yp#4qfq?_U@Sjif+@gp_}A)FJBs
zgQ3+a_k^?^kthxQqhVoCeF(x3g+M}(NH_+juaD5Xpr@`6L+EP%--IJTR~JACaSaY3
T27BNEa19g+ATMuVVF>saViJ0B

delta 3151
zcma)+c{J4BAIDRPMhVH1M2w7mw(o4!h#9+xWT%EPW9hLq#DtLt8D!7CWDAdVkV1&D
zggj*Dp|WR7<)=va={diDeow!1e%*8Kxu5g?yzcvRKlh$<Uqi|uF<K0ZZdWpzcXGsR
z!r^?Ng22WbUOsZhsA^x>g$#og<mby2ysBU)VUkYEo+y4a>CW_uA~FSaUN^Z-i9Chw
zjjc)CIPvy-U(E@|*{&~5go%Kuy|?1>8}_=@ZJE)mFRNZUVN0x<)j7VR`}T$-;C6a#
z^1|FlA8xaSrdhmg$rgj|(9=;*^M9Va_omi$$?JBTSfLTVs!4{4Hyp*E2~Z`%#wkq!
zev`Y~t)a`26PW?HLZungcGj(}<ORB6`Tg=~MrHukZ=1Hc3k`Q>ReLa<X6#2OI*F*S
z&hYmlxHWRYv06AflGK$hMs+KDs&G<H;;+tT@W@<vN`L+U!*<|V$jO(JC|xait5-Q%
z&-!xnd`e{Lmn%o?vx(7{W`Cp4;tl5q%^vBx&8%okjuls4&FMP(8FihGOGIeZdJ_5{
z)HmEtbV?VWebCPI-}Tg*vI6{TCGKzbu1^*3trOSNu!O9Wd@PR5Zj`^G7RRMoZ+6eF
zIKSc39rhhR#@Js*-gs(iQj@_-I{dI^RJb|cXyX;I`XlrC^oy>NF?^Omx<<lcrQz`g
zfkxk|jT25Sa7Su)NFC%0I>wa?T#h95LC(aAplWLA$4Eic11>m0>&T+cLB$y9F#h5W
zzJfcE9H9_?!XdS<q6F4XC9whqhI7lwY@Pv+P6<&MOh0s&JF`N|GA1wY(fL!%7<vcJ
zH{gB#cn0;}Rk|@x7*S5`sD^&uxaE_C(uYqdvDX}{4_uc+sVP~lx_puUXz7l+@&XtO
zYv!**-AiP>w0Y6CGT3eU+0t~f9K7S{SP>C%u{CFGMJ29?=*r25-_z+@4%<QoCuFob
zUlB-Q?84+_lrIbFo_2}DG#8b74MtqE0vj7^Kq*Wg3;D{7m-V_%J;|-ICs)BB*$`@I
zd1*(<$D6WZRe?^=PD!f}CL5%L&V9@uiEX*FWEwicSq>_9X_I%=a9FJkw=%LwMh#^@
zm%O6m%VlJ2smGMPX88wAW;H5DfjQht(5}{Iu(j({8)^l69)lNJU+ZwKOHYY?f`zx_
zLOy6O*InV|G#j3dZ<iz@KxIdYUlP#R*k-RU;E&I~hi%5SvV`LO+T)(sqQckGD>om8
z;?L?#*ig(|D#%49k%8haw<PpBo%b7sxT5+u@id7ZZj`b6jrurft+3?Q&4ToreqY8>
z%k`pQiDPxO_#s!DCv0x>biL)!wozJi0O$Ats!l?#LH{9<zIrafHZ{$Hh2d3H8GG$@
zgyTSt*4$>~N+$VEP1?Hh+EQLtE6?>7wSxu|tD*YBY0_-V#>F!dtriK?*AGCA0L{yW
z>Qg}*j>sN)qnH71;+~Xp{Cr__Ih}D~4j48p8ZQ|Vq0<FUS5CZe{e)HVR}!6Dl9e$!
zw>|luGN#UxofWP%s;q1~OQBV%+4!Ute-k}cUpTai*tC5bEPigeCiGOOg{D6#3cEo+
zFUlVRt3I2zIn_z7*w74ZyZ_Lc9sj9f+D1MGn+_1wAIfm@P_3;dTjUEa6*FSpL!>e_
z2<2DxA;pU3w~tg{KbA!Fbmb0=uOVb8xTfN72~AHc=MO>tV#nls>uq|o^X2=8=!Mm-
zowpKicQ!r^xK$Zs7IN(#jhy>eDeyJ8$?yBdPIpI^sz2RUMLR(7_T`a-uaJLebgL9a
z?fNh_7hM(|(%H62t;;u^EfcI6v76q#3(XwXDSJWNKCJoWhk(Rd|Hdb~-TH;P{E^jD
zs?n8P+YfhYXS?a5>)A$>>)xdq&74|eF4BZTso(SO^S*rpNP6eJOfOc76hj4`rlQ8I
z7I_k;>bn--(ND~z`u2xZ*<P!)xu~}Gp-4Xy1v~pJ?s=bs7vxcQqYj4+!y7U%r)Md8
zEotbb&%2f_^^BqXK-{(_=ipejeujz@mFOEGo_*ZLdH+jXT>pA^0lPXqw|kyY8rpuS
zDcTkLXOon-uUU{v`EZAkZlQ152FW=nNiMla!CWG+(lq44J-pPNU=p`j(t$ug-rSB`
zn0UG5cC&yBWCc8I6w{T(=&q>PF1fj;TtRFmnRn%H&0Z1>>euf+d<1UNIYr~vyr(HD
zn32tmCvfT|9pbtk?u9wR``G+<`%SFL%;sYSjNZXG*9N)V?e<g{4mBLv=Px^nX^iEK
zg5yLQg@<Bf8dJ_8ZpzZj6a!O%Kz<se;cRlj5jMKeCU;7#y2OY9>0@bLCAaCmAmr)>
zp&!UQ*^IbX14R)bk3lm2b|Fi+4AUU%5wYw#P0=%E@?u<E*Lk$dOgTCMInB>il_PeL
zvWNzuQa7-``jhGLS3)Z*h)(Ky&vZEQork2&yD}mdAv#y=;&xD#m<XKLUgYBTFqg<d
zN40mOUOX@Cn}ry!I^Z>v2fy7N^{&c%1n~RbN)NuC_Vw_oo8ry0%K{>e%J-(0&&$NB
zq(u_VM?6C}gbTo8T1~y5$Ao+4Q)eTD)(sXjKDtl8K022@B|Th~ES6Jl7Q*3D0}8dM
z0-%0orSC%6S;x=%>2z}pCl2|wP?N{Ya`@ecV@?mbTcFP{eA#35VHZsx%2tD`^DJlI
zHy%u%jZb~!Q9k(|A&)nh4Jkgaf@`+x7V8J7eTQvkEY)wA4K0f%>Kpg?$Quv3n-nW&
zPu<$E(AgIBdKw-&CL~Op@y!*d#HD@}Wg<0z31q*wW3j=xOB?gi=BYib`3A|e;VNEv
z`U*Gen>?Ht-cxm_305>~jxp_Q-_rJ!vZTqYQ*`b;r!usv)--Zt+fsYYT`R7Ccm~yC
zY<l;tbjit>(&+c|1Bvq}$I=|uZ;CEPL+#&FHP}m|t9h1aiMlX$={%k%!S3$B_aM~-
zeI~e&^*tQJK2BEZ&%=I$N6gp4hCSRf#q7CW^t3SM47F(iBXP61iNRo#`{<+j@0*)H
zxP~j#fM>BM44I0Td=m7?i|4k|6F*d1zX`Tp_=Gt(=|DBF8`#W>S#cjcTFc9bA~E^>
zvND(XzQiry4wvmi-NPxefAktD86s7Az&OJd9f6F;JHbS%KT7DphYlI$pFFX_M6P1l
zJO-}ZH7*ZV9xC7|E?*dIvY=slT2{lHm+D}}OU<{{EL(SmT9vKSVbWtxKuYZ5^8-DJ
zD_2>R**cj6oOFtwm#r{W&&w3E5WMsj=!NVh&E}c(iV7wrtP8U{)9m)Vbv(Z63Yw~i
zuzEG!R{eWE?A~&i7~4%{sFUtY=Zg3!EjRgntFUqU-Jh|^Wt_^b=-^7eP4jdh{RY~P
z-0Yk|C`qW~j}?wYz~c{t6b>Pf&?-0xeh5smcR-Tu9AHXz2slg$2BScgp!-9KLPC%n
z9PAJ<3>Fn1cHHCFKyhB8I3O$OLvqIv_UqFei2L)BEF200lweRLI1nGed*|1zL{F&y
z8pt>y`D-Bi#62*8BHLkM2+|EZ44HHT2}Ri7z>=`!8yGSMppaoO1c1R*Ir3?9NC7Yy
z5{?AqKq^<<$UoYE5OF{HfI;E^NyYc`vwq1izCZwh2LQ<*7Ymhil?44AK#}|Y|J2|p
z?EYK*HwOn0=y;Kn=NT~cPbmx>`jdwJ9~uS)`-#I~f7*-qaln6+M?eA0-&%abNwkfI
z8WD~Kuxcm_3V~2ZV$m8zEKv=>AW&#P4NZjNFaBS`2873hZqrDfG#^g~3J8e?5Fi;D
J4MR=PzX2vsi0A+S

diff --git a/statistics/exercises/statistics04.tex b/statistics/exercises/statistics04.tex
index 276f7ea..1c3dcdf 100644
--- a/statistics/exercises/statistics04.tex
+++ b/statistics/exercises/statistics04.tex
@@ -113,8 +113,10 @@ Absch\"atzung der Standardabweichung verdeutlichen.
 \continue
 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
 \question \qt{Maximum-Likelihood-Sch\"atzer einer Ursprungsgeraden} 
-In der Vorlesung haben wir eine Gleichung f\"ur die Maximum-Likelihood
-Absch\"atzung der Steigung einer Ursprungsgeraden hergeleitet.
+In der Vorlesung haben wir folgende Formel f\"ur die Maximum-Likelihood
+Absch\"atzung der Steigung $\theta$ einer Ursprungsgeraden durch $n$ Datenpunkte $(x_i|y_i)$ mit Standardabweichung $\sigma_i$ hergeleitet:
+\[\theta = \frac{\sum_{i=1}^n \frac{x_iy_i}{\sigma_i^2}}{ \sum_{i=1}^n
+  \frac{x_i^2}{\sigma_i^2}} \]
 \begin{parts}
   \part \label{mleslopefunc} Schreibe eine Funktion, die in einem $x$ und einem
   $y$ Vektor die Datenpaare \"uberreicht bekommt und die Steigung der
@@ -146,13 +148,12 @@ nicht so einfach wie der Mittelwert und die Standardabweichung einer
 Normalverteilung direkt aus den Daten berechnet werden k\"onnen. Solche Parameter
 m\"ussen dann aus den Daten mit der Maximum-Likelihood-Methode gefittet werden.
 
-Um dies zu veranschaulichen ziehen wir uns diesmal Zufallszahlen, die nicht einer
-Normalverteilung entstammen, sonder aus der Gamma-Verteilung.
+Um dies zu veranschaulichen ziehen wir uns diesmal nicht normalverteilte Zufallszahlen, sondern Zufallszahlen aus der Gamma-Verteilung.
 \begin{parts}
   \part
-  Finde heraus welche Funktion die Wahrscheinlichkeitsdichtefunktion
-  (probability density function) der Gamma-Verteilung in \code{matlab}
-  berechnet.
+  Finde heraus welche \code{matlab} Funktion die
+  Wahrscheinlichkeitsdichtefunktion (probability density function) der
+  Gamma-Verteilung berechnet.
 
   \part
   Plotte mit Hilfe dieser Funktion die  Wahrscheinlichkeitsdichtefunktion
@@ -169,17 +170,17 @@ Normalverteilung entstammen, sonder aus der Gamma-Verteilung.
 
   \part
   Finde heraus mit welcher \code{matlab}-Funktion eine beliebige
-  Verteilung (``distribution'') und die Gammaverteilung an die
-  Zufallszahlen nach der Maximum-Likelihood Methode gefittet werden
-  kann.
+  Verteilung (``distribution'') an die Zufallszahlen nach der
+  Maximum-Likelihood Methode gefittet werden kann. Wie wird diese
+  Funktion benutzt, um die Gammaverteilung an die Daten zu fitten?
 
   \part
-  Bestimme mit dieser Funktion die Parameter der
-  Gammaverteilung aus den Zufallszahlen. 
+  Bestimme mit dieser Funktion die Parameter der Gammaverteilung aus
+  den Zufallszahlen.
 
   \part
-  Plotte anschlie{\ss}end
-  die Gammaverteilung mit den gefitteten Parametern.
+  Plotte anschlie{\ss}end die Gammaverteilung mit den gefitteten
+  Parametern.
 \end{parts}
 \begin{solution}
   \lstinputlisting{mlepdffit.m}