Fundamentals of Probability Theory

1. Fundamentals of Probability Theory

In the present section, we define the basic terms of probability theory and statistics. Moreover, we state the most common examples of discrete and continuous probability distributions.

The content follows the textbooks

“Statistik für Ingenieure - Wahrscheinlichkeitsrechnung und Datenauswertung endlich verständlich”

by Aeneas Rooch [3] and

“Grundlagen der Wahrscheinlichkeitsrechnung und Statistik - Eine Einführung für Studierende der Informatik, der Ingenieur- und Wirtschaftswissenschaften”

by Erhard Cramer and Udo Kamps [1].

The goal is to avoid unnecessarily complex mathematical backround, but to provide the required framework to understand the subsequent machine learning methods. Nevertheless, for the the sake of completeness, additional references are given from time to time. A more profound mathematical theory can for example be found in “Wahrscheinlichkeitstheorie” by Achim Klenke [2].

Note

All three books are available free of charge via DigiBib.

1

E. Cramer and U. Kamps. Grundlagen der Wahrscheinlichkeitsrechnung und Statistik - Eine Einführung für Studierende der Informatik, der Ingenieur- und Wirtschaftswissenschaften. Springer-Lehrbuch. Springer Spektrum, 4th edition, 2017. doi:10.1007/978-3-662-54161-6.

2

A. Klenke. Wahrscheinlichkeitstheorie. Masterclass. Springer Spektrum, 3rd edition, 2013. doi:10.1007/978-3-642-36018-3.

3

A. Rooch. Statistik für Ingenieure - Wahrscheinlichkeitsrechnung und Datenauswertung endlich verständlich. Springer-Lehrbuch. Springer Spektrum, 1st edition, 2014. doi:10.1007/978-3-642-54857-4.