Joseph Weizenbaum- computer scientist


"You can speak about a certain formality in all modalities of expression."
(links for Joseph Weizenbaum)

Was spielen Bilder für eine Rolle in Ihrem Umfeld als Informatiker?

images behave like a message - the meaning depends on the interpretation of the receiver

In den letzten fünf Jahren habe ich entdeckt – wie viel andere auch – wie vergleichbar Bilder mit Sprache sind. Bilder sind wie eine Nachricht. Zu fragen, wieviel Information nun die Nachricht enthält – diese Frage halte ich für einen Kategoriefehler. Die Nachricht enthält keine Information, sondern es ist der Receiver, der Empfänger, der die Nachricht interpretiert und dieser Bedeutung zukommen läßt.
Ich war gestern mit zwei weiteren Leuten zu einer Podiumsdiskussion eingeladen. Einer von denen hat von einer Reihe von Bildern gesprochen, die in Ausschwitz aufgenommen worden sind. Die ersten drei wurden von Gefangenen heimlich aufgenommen und zeigen Leichen usw. . Das letzte war ein Winterbild mit dem Krematorium, kahlen Bäumen und einer öden Landschaft. Da meinten die beiden auf dem Bild sei nichts da. Ich finde es einen interessanten Fall, daß solche Leute so naiv sein können. Ich kann mir vorstellen, daß jemand dieses angeblich leere Bild in der Zeitung sieht und und zu weinen anfängt. Für ihn hat es eine riesige Bedeutung hat und weckt Erinnerungen, da er da war. Jemand anders hingegen mag sich fragen, ob da doch nichts sei.

Sie haben viel zur Formalisierung von Sprache gearbeitet.

Der Dichter Ionesco hat einmal gesagt: ”Everything is sayable in words except the living truth”. Es ist aber so, daß wir vielmehr wissen, als wir sagen können. So wie ich Ionnesco verstanden habe, so würde ich “in words” fast auslassen und sagen “everything is sayable except the living truth”. Ich meine, daß ein Computerprogramm auch ein sprachlicher Text ist. So auch ein mathematisches Modell.

Mathematische Modelle operieren gerne mit unendlich. Wie gehen Sie als Informatiker mit dem Faktor Unendlichkeit um?

There are things which are not computable.

Wenn wir jetzt davon sprechen, „what a computer can do“ – dann sind das mathematische Probleme, die in diesem Sinne zu groß sind, die jedenfalls nicht numerisch gelöst werden können. Man kann sich doch vorstellen, daß man ein Programm schreibt, das jedes mögliche Schachspiel zu Ende spielt. Das ist einfach unmöglich, da es einfach zu groß ist. Es gibt Sachen, die auch in diesem Sinne nicht „computable“ sind. Nicht aus theoretischen Gründen sondern eher aufgrund dieses Tradeoffs von Zeit und Speicherkapazität.
Ich denke mitunter an einen Frosch in ungefähr 20 Metern Entfernung von einem See. Wenn er nun in den See möchte, muß erst einmal die Hälfte des Wegs zurücklegen, also 10 Meter und dann 5 usw.. Wenn er immer wieder die Hälfte des Weges zurücklegt, kommt er dem See zwar immer näher, aber nie rein – in Wirklichkeit fällt er aber irgendwann rein.

Wie unterscheiden sich die Formalisierung von Sprache und Bild?

Art is based on axioms too - or better to say on paradigms.

You can speak about a certain formality in all modalities of expression.

Formalisieren ist zentral. Es gibt formale Sprachen, wie Mathematik und die symbolische Logik, wo wir auch Dinge beweisen. Natürlich ruht der Beweis auf Sachen, die wir als selbstverständlich sehen oder wo wir sagen, die gegeben sind - die Axiome. Ich glaube auch, daß in der Kunst – und das ist die Erweiterung in einem bestimmten Sinne – viele Dinge ausgedrückt werden können, aber auch nicht völlig. Ich denke, diese sind auch in der Kunst nicht total sagbar. Die Kunst beruht auch auf Axiomen, die vielleicht eher als Paradigma bezeichnet werden. So spricht man in der bildenen Kunst z.B. von Impressionismus, Dada, und in der Musik von Barock oder Romantik. Man kann von einer gewissen Formalität in allen Ausdruckmodalitäten sprechen.

Ein klassisches Beispiel für eine Formalisierung sind Partituren in der Musik. Wie sehen Sie das Zusammenspiel von Notation und musikalischer Aufführung?

music as interpretation of a notation

Ich komme zurück zu meinem vorigen Statement, daß die Information einer Nachricht davon abhängt, wie dieser ein Zuhörer versteht, also welche Bedeutung er dieser beimißt. Es ist ja Routine zu sagen, daß der berühmte Sologeiger Heifetz der Interpret der Musik ist. Wenn er spielt, dann interpretiert er also die Noten. Ich habe kürzlich eine DVD mit einer herrlichen Cellomusik gekauft. Ich kann sie aber nicht so oft hören. Wenn ich diese nämlich zu oft spiele, ist die Musik verdorben, weil ich dann ganz genau weiß, was dann in der nächsten Sekunde passiert. Aber ich kann zehn mal zum Konzert gehen mit dem selben Künstler und er wird nicht zweimal dasselbe spielen.

Der analytische Philosoph Nelson Goodmann versteht die Notation dahingehend, daß die Partitur dazu dient, ein Stück zu identifizieren. Dies läßt ihn zu dem Schluß kommen, daß, wenn nur eine Note in einem Stück falsch gespielt würde, die Aufführung kein Fall von dem betreffenden Stück mehr wäre.

what you have on your tape is a reproduction of our discussion, but it is not our discussion

Ja was heißt falsch - dann ist das eine Interpretation. Ich glaube wirklich, daß das Unsinn ist, außer in einem ganz formalen Sinn. Ein alter Grieche hat gesagt, man kann nicht zweimal den Fuß in den selben Fluß stellen. Der Musiker kann also gar nicht zweimal dasselbe spielen. Hinter ihrer Frage steht die hochinteressante Frage, ist Reproduktion möglich? Ist Copying überhaupt möglich? Was Sie auf Ihrem Tape nun haben, ist eine Reproduktion unseres Gesprächs, aber es nicht unser Gespräch. Aber es ist wie bei dem Frosch, daß wir dem so nahe kommen, daß wir rein fallen.

Wenn man sich heute die Bildherstellung anschaut, dann hat sich diese zu einer komplexen Ketteprozeßkette entwickelt. Bei diesem arbeitsteiligen Vorgang überblicken die einzelnen Disziplinen nur noch einen Teilbereich diese Prozesses. Der Informatiker der Computer Vision betreibt, weiß nicht unbedingt wie ein Chip funktioniert.

The computer excutes that what you told him but not that what you intended.

The large programs are incomprehensible.


Mars Climate Orbiter was lost on the arrival maneuvers September 23, 1999, because the engineers interchanged English and metric units

Ja und nein. Es gibt verschiedene Ebenen der Erklärung. Auf einer gewissen Ebene der Erklärung weiß der Informatiker ganz genau, wie es funktioniert.
Es gibt ja auch sehr viele Leute, die eine sehr gute Erklärung dafür geben können, was der Unterschied zwischen einem Benzin- und Dieselmotor ist. Aber das gilt nur bis zu einer bestimmten Ebene. Das ist dann eine Frage der Chemie usw. .
Ich denke, Sie haben da etwas wichtiges gesagt. Was mich dabei besonders beeindruckt ist die Analogie. Sei müssen verstehen: Eine Analogie „bricht down“ an einer gewissen Stelle, ansonsten wäre es keine Analogie. Jedes Modell ist anders, weniger als die Realität, die es modelliert, ansonsten wäre es kein Modell.
Es gibt eine große Analogie mit der Informatik und der Programmierung überhaupt. Es gibt den weit verbreiteten, schablonenhaften Glauben, der Computer täte nur das, was man ihm sagt. Ich würde dazu sagen: aber nicht besonders das, was man meinte.
Die Sache ist die, daß so viele Menschen involviert sind, den Computer zu gestalten, also die Elektronik, Logik usw., daß alles fehlerempfindlich ist. Dann gibt es so viele Programmierer, die sich gar nicht kennen und weit voneinander entfernt sind, auch im zeitlichen Sinne, daß alte Programme in einem neuen Kontext benutzt werden. Die Upgrading Systems und die mehr oder weniger großen Programme sind in der Tat undurchschaubar. So ist es einfach. Es gibt niemanden, der sie völlig durchschaut.
So kam es auch zum Scheitern der ersten Marsmission der NASA, da auf die unterschiedlichen Maßeinheiten nicht geachtet wurde und so Inches mit Zentimetern vertauscht wurden.
In der Bildproduktion gibt es viele, die gar nicht wissen, was der Endnutzen ihrer Arbeit ist. Ein Chemiker oder ein Informatiker entwickelt ein Teilchen für die Architektur, aber es mag aber genauso nützlich sein für einen photographischen Prozeß. Das wird alles zusammengesteckt – das ist genau wie ein großes Computersystem.

Wird da nicht die Macht des Programmierers und damit die Verantwortung relativiert, da man zum einen den ganzen Prozeß nicht mehr durchschauen kann oder sich gar die Frage stellt, ob die Verantwortung nicht mehr dem Kollektiv zukommt?

military: a clear chain of command, but a diluted locus of responsibility

Ja, das Ganze wird dann so „diluted“- es löst sich auf. Ich denke beim Prinzip der Verantwortung überhaupt an unsere hochorganisierte Gesellschaft, insbesondere an das Militär mit ihrer Befehlskette. Diese chain of command ist vollkommen klar, aber der Lokus der Verantwortung - man braucht nur an die Vorfälle in den irakischen Gefängnissen zu denken - ist in vielen Fällen nicht zu finden.

Liegt das nicht vielleicht auch daran, daß die Aufgaben nicht linear verteilt sind sonder eher netzwerkartig miteinander verbunden sind?



Dr. Strange Love: assuming aspects out of perception changed the meaning of an image 

The dimension of interpretation: The meaning of images is created in the heads of people who have made certain experiences.

Auch das Netzwerk erzeugt ein Bild von Knoten, die identifiziert werden können und die deutlich sind. Tatsächlich ist das aber so ein Nebel. In Wirklichkeit ist alles gar nicht so hierarchisch. Im Ernstfall wird es nebulös.
Ich weiß nicht, ob Sie den Film „Dr. Strange Love“ kennen.
Er spielt im Kontrollraum des North American Air Defence Command in Colorado und handelt von einem echten Vorfall. Auf dem Großbildschirm des Kontrollraums war nun zu sehen, daß sich sowjetische Atom-U-Boote in der Nähe der beiden Küsten der US versammelt haben und Interkontinentalraketen von verschiedenen Orten der Sowjetunion in Richtung Amerika abgehoben haben. Es war klar, das bedeutete das Aus für Amerika. Es lag nun in der Entscheidung des beaufsichtigenden Generals, sofort den Präsidenten Bescheid zu geben und ihm mitzuteilen „the Russians are coming“. Es blieben von dem Moment an lediglich drei Minuten Zeit, um einen atomaren Gegenschlag starten.
Wenn man nun von dem System aus Hierarchien und Pflichten ausgeht, dann hätte der General keine Wahl gehabt. Er hat aber nicht den Hörer aufgehoben, um den Präsidenten zu informieren. Warum nicht? Weil die Wahrscheinlichkeit, daß dieser Schlag autorisiert war, außerordentlich gering war, da Chrustschew gerade zu Besuch in Amerika war und den Atomkoffer bei sich trug. Schließlich stellte sich heraus, daß jemand fälschlischerweise ein Tape mit einem Übungsprogramm eingelegt hatte.
Der General nahm also etwas in Kauf, das nicht im Rahmen der Wirklichkeit bzw. der Wahrnehmung gelegen hatte und dadurch hat er die Bedeutung des ganzen Bilds verändert. Die beiden Leute von der Podiumsdiskussion gestern Abend hätten gesagt „the Russians are coming“, die haben nämlich die Dimension der Interpretation gar nicht erwähnt. Wenn ein Bild etwas bedeutet, dann eben in den Köpfen der Leute, die gewisse Erfahrung gemacht haben.

In den Naturwissenschaften habe ich es z.B. bei einem Teilchenbeschleunigerkomplex auch mit Netzwerken zu tun, wo aus dem Organigramm ziemlich klar hervorgeht, was jeder so macht. Die Frage ist, aber wie sich das einzelne Individuum noch in so einem Netzwerk definiert? Peter Galison zitiert in seinem Werk „Image and Logic“ einen Teilchenphysiker vom BNL, der den Experimenter als ein Composite, ein Kompositum begreift.

There is no author in large programs.



radar image at USS Vincennes, 1988

Der Laie reagiert auf das, was ich eben mit den großen Programmen geschildert habe, mit der Frage, „aber der Autor kennt doch das Programm!?“. Ja, aber den gibt es nicht. Der Autor ist eben, das was sie gerade mit Composite bezeichnet haben. Dann ist es auch nicht mehr klar, wer ein Mitglied dieses Kompositums ist und wer nicht.
Für mich stellt sich dabei auch die Frage der Verantwortung. Z.B. hatte ein Schiff der US Navy, die USS Vincennes, fälschlicherweise ein Passagierflugzeug der Iran Air über dem persischen Golf abgeschossen. Die Besatzung hatte damals das Radarbild fehlinterpretiert und das Passagierflugzeug als zwei Kampfflugzeuge in einer engen Formation angesehen. Nun kommt die Frage nach dem Composite und wer ein Mitglied dieses Systems ist. Wo liegen nun die Grenzen des Systems? Haben z.B. der Hersteller des Computers, die Programmierer oder vielleicht die Leute in Washington, die das Schiff dahin beordert haben, das alles gemacht? Es ist nicht nur derjenige, der den Knopf gedrückt hat.

Ich nehme mit dem Begriff der Imachination noch eine weitere Differenzierung vor. Es geht darum klarer zu fassen, wie menschliche Imagination und Maschine miteinander wechselwirken und zu einer Art Amalgam werden. Wobei ich glaube, daß es eher um die Wechselwirkung eines menschlichen Kollektivs mit der Maschine geht. Da würde ich auch ein Zäsur machen zu der Situation auf dem Schiff. Leute, die für mich an der Imachination beteiligt sind, die sind aktiv und produktiv an diesem Prozeß beteiligt und verändern diesen auch mit. Somit sind die Beteiligten ein Teil dieser Maschine. Auf denjenigen, der in ihrem Beispiel am Radarschirm sitzt trifft dies aber nicht mehr zu. Er ist ja nur noch ein Ausführender in diesem Prozeß. Er stellt das Bild auf dem Radarschirm ja nicht her, sonder reagiert nur noch auf der Anwendungsebene.

artificial intelligence - a reaction on human failure

Eine Reaktion darauf, wenn Menschen in dieser Funktion unzuverlässig sind, ist, diese mit Maschinen zu ersetzen. Statt einem Menschen wird dann ein Computer mit Artificial Intelligence die Signale des Radars interpretieren.

Was ist Ihr Lieblingsbild?

Wir sprachen ja davon, daß wir "composed" sind – also auch unsere Lebenserfahrung. Ich kann deshalb gar nicht so richtig sagen, daß das eine wichtiger wäre als das andere.
Das war übrigens ein seltenes Gespräch, da Sie nicht viel gelacht haben – ich habe eigentlich eine großen Sinn für Humor.

interview by Tim Otto Roth from 16 February 2005 at Berlin

Links for Joseph Weizenbaum:
Joseph Weizenbaum/Wikipedia
ELIZA A Computer Program For the Study of Natural Language Communication Between Man and Machine
Weizenbaum - Rebel at work. A film by Peter Haas, Silvia Holzinger, 80 min., GER/USA/AUT

Publications: