Neue (unvollendete) Serie "Messung, Intuition, Vertrauen, Komplexität"

In unserer neuen Serie betrachtet die tiny-Redaktion die guten und schlechten Dinge, die mit der immer weitergehenden Durchdringung aller Lebensbereiche durch Sensoren, Messfühler, Quantifizierung, Algorithmen, Kompetenzverlust usw. einhergehen.

Redakteur StefanL fasst die Diskussionen und Überlegungen des tiny-Stabes zusammen und versucht, sie in 8 halbwegs verständlichen Kapiteln auf den Punkt zu bringen.

• Messen und Fortschritt
• Sozial-, Markt- und Meinungsforschung
• Messung und Intuition
• Messen und Vertrauen
• Messung und Komplexität
• Sensoren und Effektoren
• Das Internet der Dinge
• Was kann man noch tun?

Messung und Komplexität

Messung, Intuition, Vertrauen, Komplexität, Teil 5

Was Menschen glauben möchten, das werden sie auch glauben. Und was die Menschen glauben möchten und können, das hängt davon ab, ob es für sie einen Sinn ergibt und wenigsten irgendwie mit ihrer persönlichen Erfahrung zusammenpasst. Davon abweichende Erkenntnisse sind stabil nur in engen Expertenfeldern möglich, wo das Wissen und Vertrauen in komplexe Methoden und Modelle durch deren wiederholte Anwendung groß genug werden kann, dass Alltagserfahrung und Sinn-Sehnsucht durchbrochen werden. Darüber können die Expertinnen sich aber nur untereinander austauschen. Nach außen ist es so, dass sich nur dann, wenn alle oder ausreichend qualifizierte Mehrheiten unter ihnen die gleichen, an das Verständnis des Publikums angepassten, Aussagen machen, eine neue und schwierige Vorstellung, die sich aus der wissenschaftlichen Forschung ergibt, durchsetzen kann.

Oft nur oberflächlich, wie zum Beispiel die Heisenberg'sche Unschärferelation oder das Orbitalmodell des Atoms. Wer kann sich schon vorstellen, wie eine stationäre Lösung der quantenmechanischen Schrödingergleichung aussieht oder gar wie sie sich anfühlt. Das bewiesenermaßen falsche Planetenmodell des Atoms dagegen, das können alle begreifen und sich vorstellen. Hier stehen wir nun mit unserem Vertrauen in Zahlen und Rechnen und müssen begreifen, dass wir gar nicht anders können. Immer noch kann Sicherheit in der Einschätzung nur durch Übereinkunft hergestellt werden.

Außer vielleicht im engsten Bereich der eigenen Expertise und häufig geübten Praxis ist das Verständnis komplexer Systeme durch die beschränkte Vorstellungskraft und das unmittelbare Reflexionsvermögen begrenzt. Metriken und Messungen können Komplexität ordnen und vielleicht reduzieren und haben gleichzeitig das Potential, sie über den Bereich hinaus, in dem Intuition und direktes Vertrauen in die Fakten und sich selbst noch möglich sind, auszudehnen.

Das impliziert, dass wir heute jede Menge Messsysteme für die Kontrolle, der komplexen Systeme, die wir geschaffen haben, unabdingbar brauchen und parallel dazu die Sachlage dauernd verschlimmern.

Durch die dynamische Erzeugung von Mess- und Steuerungsdaten verändern Mess- und Regelwerke die Systeme für deren Messung, Bewertung und nicht selten Kontrolle sie geschaffen wurden. Das Verhalten menschlicher Organisationen wie z.B. Unternehmen ist eine Funktion des reziproken Verhältnisses zwischen den Strukturen und Regeln der Organisation und den Handlungen der Personen in und außerhalb der Organisation. Und gar nichts davon ist statisch und bleibt, wie es ist.

Vereinfachung durch Messung

Jede Metrik ist eine Art Summen- oder Zusammenfassungsstatistik. Eine Zusammenfassung ersetzt kein Buch und ihre Verwendung ohne genaue Kenntnis des Ganzen kann das Verständnis erheblich reduzieren.

Mehr noch, Vereinfachungen führen oft zu schlechten Informationen und verzerrten Steuerungsentscheidungen innerhalb des Systems. Das ist der Kern dessen, was Goodhart's Law bedeutet. Die Anwendung der Messergebnisse verändert das gemessene System. Möglicherweise wird dadurch die Anwendung inadäquat.

Wenn man beginnt, nach den Effekten dieses Prinzips zu suchen, findet man sie in allen modernen System. Messergebnisse sind zu teuer und zu wertvoll, um nicht angewendet zu werden und zu bedeutend, um das gemessene System nicht zu verändern. Jeder weiß, dass die Quotenmessung die Medien verändert hat und weiter verändert. Und aus der Teilchenphysik wissen wir, wie die Einwirkung der Beobachtung auf die Messung ganz grundlegend beschränkend sein kann.

Komplexität ruiniert alles

Komplexe System haben komplexe Probleme, die gelöst werden müssen. Messergebnisse können die Vorstellung von Vereinfachung erzeugen, aber die zugrunde liegende Komplexität nicht reduzieren.

Das führt oft dazu, dass Messergebnisse die Tendenz haben, Probleme zu verbergen anstatt zu ihrer Lösung beizutragen. Und das wiederum steht in engem Zusammenhang mit der geforderten Lesbarkeit der Messung.

Das Versagen von Steuerung mittels Messergebnissen wird besonders wahrscheinlich, wenn die Dimensionalität reduziert wird, wenn die Kausalität nicht klar ist, d.h. es nichts weiter als eine statistische Koinzidenz gibt und wenn die Verwandlung von Metriken in Zielvorgaben Missverständnisse schafft.

"Lesbarkeit" als Rezept für das Scheitern

James Scott hat in "Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed", dieses Muster des Scheiterns historisch untersucht: "The more I examined these efforts at sedentarization, the more I came to see them as a state’s attempt to make a society legible, to arrange the population in ways that simplified the classic state functions of taxation, conscription, and prevention of rebellion."

Die meisten Staaten betrieben übrigens die Vermessung ihrer Menschen und Landschaften primär in der genuinen Überzeugung, damit das Los ihrer Bevölkerungen nachhaltig verbessern zu können und nur selten und sekundär aus den ihren Funktionären oft unterstellten Motiven der Herrschaftsfantasie, Machtgier und Unterdrückungswut. Das trifft genauso auf die großen Internet- und Einzelhandelskonzerne zu, die derzeit gerade die Vermessung ihrer Kunden, ihrer Mitglieder und der Welt auf ein Niveau bringen, von dem der schlimmste Überwachungsstaat nicht einmal zu träumen wagte.

Der fundamentale Denkfehler der daten- und abstraktionbasierten Vorstellung von der "Lesbarkeit" der Welt liegt in der Annahme dass dynamische, erfolgreiche, lebendige Systeme bezüglich ihrer umfassenden Struktur, Funktionen und Kausalität verständlich und lesbar sein müssen. Oder zumindest, dass sie für das alles sehende wissenschaftlich-statistische, über den Dingen schwebende "Auge" les- und verstehbarer sind als für die in den Prozess eingebundenen Ohren, Augen und Nasen auf dem Boden.

Komplexe Realitäten strafen diese Auffassung Lügen. Die Gesamtheit eines Waldes versteht man durch das Gehen und Liegen unter den Bäumen, durch das "Absorbieren" seiner "Gestalt" und durch Interaktion als holografisch-fraktales Element seiner Prozesse besser und richtiger als aus den luftigen Höhen noch so vieler Tabellen und Satellitenaufnahmen, ohne die einem aber auch am Boden nicht so wenig, vielleicht Wichtiges, entgehen wird.

Das heißt nicht, dass ein statistisch lesbar gestalteter Wald und das wissenschaftliche Verständnis seines Funktionieren nicht gewisse Nutzungen für den Menschen sehr befördern kann. Es heißt auch nicht, dass "wissenschaftlich" gemanagte Unternehmungen, gemessen an den definierten Zielen, nicht sehr erfolgreich sein können. Die längerfristigen Folgen solchen Handelns können aber oft nicht oder nur schwer abgeschätzt werden.

Reduktion der Dimensionen

Alle Metriken reduzieren Dimensionalität und Wertbandbreite. Die einzelne Zahl repräsentiert nie alle Aspekte eines Zustands. Die Ökonomie versteht sich selbst gerne als die Wissenschaft der Verteilung von knappen Gütern. Vereinfachen wir jetzt einmal die Lehrveranstaltungen einiger Semester lassen dabei die ganz schweren mathematischen Teile aus.

Nehmen wir an, wir reden von n Menschen und x verschiedenen Arten von Gütern. Das hat zur Folge, dass jede Verteilung einen Punkt in einem Koordinatensystem mit (n-1)*g Dimensionen darstellt. Jede von den n Personen kann jede der x verschiedenen Güter anders bewerten. Die Werte, die von den Menschen in die Distribution eingebracht werden, sind Punkte in einem n-dimensionalen Raum. Das ist komplex und kaum vorstellbar. Ökonomen einigen sich meist auf vereinfachende Annahmen über menschliche Präferenzen, vereinbaren Aggregationen und gelangen am Ende zu ein- oder zweidimensionalen Skalen für die Bewertung der Nützlichkeit und Begehrenswertigkeit von Gütern. Am Ende erklären sie uns dann, wie ihre Algorithmen Begehren, Nutzen und Verteilung optimal miteinander verbinden können.

Die ökonomische Wissenschaft kann sehr wohl kritisch sein. So hat der späteren Nobelpreisträgers Kenneth Arrow bereits 1951 das nach ihm benannte Arrow-Theorem publiziert, dessen Gegenstand das Verhältnis zwischen dem Wollen von Individuen und der gesellschaftlichen Entscheidung ist. Das Theorem stellt die Möglichkeit einer eindeutigen Bestimmung eines „Gemeinwohls“ mit Hilfe abstrakter Regeln, in moderner Redeweise die algorithmische Bestimmung eines optimalen Vorteilszustands für möglichst viele, in Frage.

Obwohl das Arrow-Parodoxon und seine Erweiterungen also zeigen, dass es keinen Algorithmus für die Herstellung von allgemeinem Wohl geben kann, werden solche Erkenntnisse im Rest der Sozial- und Wirtschaftswissenschaften weitgehend ignoriert. Das erhält die gut bezahlten Jobs und die Illusion der deterministischen Machbarkeit freien Wirtschaftens und fairer Politik aufrecht. Auf dieser Illusion aber beruhen alle Fantasien über die schöne neue Welt, die uns Software, Silikon und ihre Vernetzung durch Kapitalgesellschaften mit "Do no Evil"-Ethiken bescheren können.

Die Kausalität ist ein "Hund"

Die philosophische und wissenschaftliche Definition von Kausalität ist heute strittiger denn je. Halten wir es trotzdem einfach. A verursacht B, dann, wenn im Fall einer (magischen) Manipulation von A und nichts anderem, bei B eine Veränderung eintritt.

In der Praxis ist das Verständnis der Kausalität im angewendeten Modell immer schwer, weil monokausale Analysen außer in den aller-einfachsten Experimenten stets problematische Logiken erzeugen.

Die Komplexität eines Sachverhaltes spiegelt sich in der Wahrnehmung mit einer Fülle von Details, für die es auf den ersten Blick keine Abstraktion gibt, die Menge und Dichte der relevanten Einzelheiten verkleinern könnte.

Komplexität in biologischen Systemen mit autonomen Einheiten, z.B. Gesellschaften, ist ein Resultat nicht determinierten Verhaltens dieser Einheiten, z.B. der Menschen. Wieder erkennbare und sich wiederholende parallele Muster in den Daten nennt man Korrelation. Für die Hypothesen- und Theoriebildung wird für so eine Korrelation eine Hypothese zu einer dahinter liegenden Ursache gebildet. Diese Hypothese ist ohne Nachweis aber wenig wert und kann leicht zu Modellfehlern führen.

All das führt in den entsprechenden Wissenschaften Ökonomie, Soziologie, Politologie etc. zu vielen diachron und synchron konkurrierenden Theorien und allerhöchsten zu partialen Einigkeit verschiedener "Schulen". Diese Theorien wählen jeweils aus dem sich dynamisch verändernden Datenbestand ganz unterschiedliche Pakete aus und setzen diese auch in stets unterschiedlich gebaute Beziehungssysteme ein.

Konsequenzen unsicherer Kausalität

Zur Risiko-Einschätzung sowohl für komplexe Naturphänomäne (z.B. Erderwärmung) als auch für große von Menschen konstruierte Systeme (z.B. Kernkraftwerke, Luftverkehrsleitsysteme, autonome Fabriken oder Handelssysteme) gibt es weder zwischen einzelnen Menschen noch zwischen Staaten viel Einigkeit. Zur Sinnhaftigkeit und Effizienz der bereits eingesetzten Steuerungsmechanismen und denen, die in Zukunft zum Einsatz kommen sollen, noch viel weniger.

Viele Untersuchungen zeigen weiterhin, dass auf Sensoren und Messwerten basierende Maßnahmen und Mechanismen, die darauf zielen, Risiken durch ihren Einbau oder ihre Nachrüstung zu reduzieren oder zu beherrschen, nicht selten zu einer weiteren Steigerung der Komplexität und zu noch mehr unkontrollierbaren Interaktionen führen.

Kausalität wissenschaftlich modellieren

Um Kausalität für wissenschaftliche und technische Systeme darstellen und verwenden zu können, braucht man einen Formalismus. In der klassischen Physik waren das die heute berühmten und in höheren Schulen und den ersten Studienabschnitten vieler Fächer unterrichteten und damit eigentlich zur Allgemeinbildung gehörenden Gleichungen und Gleichungssysteme.

Aktuell werden für die Darstellung von Kausalitätsbeziehungen gerne grafische Formalismen eingesetzt. Manche haben wahrscheinlich schon in einem ambitionierteren Artikel zum Thema Big Data die Abkürzung DAG (Directed Acyclic Graph) gelesen bzw. überlesen.

Mehr aus der Serie "Intuition, Messung, Vertrauen, Kompexität":

• Messen und Fortschritt
• Markt- und Meinungsforschung
• Messung und Intuition
• Messen und Vertrauen