% !TeX spellcheck = de_DE
\subsection{Parallelisierungstechniken}
\begin{itemize}
	\item inhärent parallele Probleme (\enquote{\begriff{peinlich}}):\begin{itemize}
		\item Beispiele:\begin{itemize}
			\item Parameterstudien
			\item Monte-Carlo-Simulation
			\item Datenauswertung
			\item Brute-Force-Programme
		\end{itemize}
		\item gleichmäßige Lastverteilung dominiert Kommunikation
		\item abschließendes Einsammeln der Teilergebnisse
		\item \begriff{geometrische Zerlegung} in disjunkte Problemintervalle auf $d$-dimensionale Gitter
		\item bei Gebietszerlegung (\begriff{Partitionierung}) kann auch Kommunikation zwischen verschiedenen (benachbarten) Gebieten notwendig sein
		\item Überlappung von Kommunikation und Berechnungen oft hilfreich:\begin{itemize}
			\item \begriff{Geisterpunkte} als Punkte, die für die Berechnung verschiedener Bereiche wichtig sind, in \begriff{Schattenspeicher} ablegen
			\item Kommunikation sollte aber durch möglichst geringe Überlappungen und wenige Nachbarn gering gehalten werden
			\item bei $k$ Geisterpunkten pro Seite (mit $\lambda$ Latenz und $\beta$ Bandbreite): zusätzlich $\frac{k\cdot \left(k - 1\right)}{2}$ Berechnungen mit Dauer $\chi$ führen zu Overhead pro Prozess und Iteration\\
			\begin{equation*}
			\frac{2\lambda}{k} + \frac{2}{\beta} + \frac{\chi \cdot \left(k - 1\right)}{2}
			\end{equation*}
		\end{itemize}
	\end{itemize}
\end{itemize}