Technik soll zum Fortschritt führen. Nur was, wenn sich der Mensch zu sehr auf die Maschine verlässt? Corinna Cerruti sprach mit Olivier Berthod über folgenschwere Kommunikationsprobleme.

Olivier Berthod sieht an neuer Technik auch gefährliche Seiten. Foto: Freie Universität Berlin

Im Juni 2009 stürzte die Air France Maschine 447 mitten im Atlantik ab und riss 228 Menschen mit in den Tod. Die Ursache, so kam drei Jahre später heraus, lag schlicht an zugefrorenen Sensoren des Flugzeugs, die den Piloten fälschlicherweise anzeigten, das Flugzeug befinde sich in einem starken Sinkflug. Die Piloten verließen sich auf die Information und lenkten abrupt mit einem Steigflug dagegen – eine folgenschwere Entscheidung. Nun haben Gordon Müller-Seitz von der TU Kaiserslautern und Olivier Berthod von der FU Berlin eine Studie veröffentlicht, die anhand dieses Flugzeugabsturzes das Zusammenspiel von Mensch und Maschine problematisiert.

FURIOS: In Ihrem Essay gehen Sie den Gründen für den Flugzeugabsturz nach. Wer hat Schuld – Mensch oder Maschine?

Olivier Berthod: So einfach lässt sich das nicht sagen – es gibt nicht nur auf der einen Seite die Maschine und auf der anderen Menschen. Im Grunde genommen sind es Pilot und Maschine, die in einer Interaktion das Problem verursachen. Je mehr wir die Maschine nutzen, desto mehr Möglichkeiten eröffnen sich uns. Wir gewöhnen uns daran, wir entwickeln eine Beziehung dazu. Ein bisschen so wie wenn man sich mit dem Computer streitet, weil irgendwas nicht funktioniert.

Oder mit dem Drucker!

(lacht) Ja genau! Manchmal geht es ins Irrationale über. Diese ganze Diskussion wollten wir in dem Essay mit einem extremen Beispiel aufgreifen: Plötzlich fehlt eine Messung. Es verursacht enormen Stress bei den Piloten. Ab dem Punkt, an dem der Copilot die Maschine nach oben zieht, entsteht eine Eskalation zwischen dem, was der Mensch macht und dem, was die Maschine macht. Unsere These ist, dass je mehr Vorgänge automatisiert werden und je mehr diese Automatisierung Teil des eigenen Berufs und Alltags wird, desto mehr entsteht eine Art Gewohnheit an der Technologie und an ihrer Leistung. Wenn dann die Technologie versagt, ist das oft schwer zu tolerieren. Auf einer Organisationsebene ist dann die Frage, wie kann man durch Führung und Teamdynamiken eben diesen Prozess unter Kontrolle behalten.

Haben Sie noch Beispiele aus anderen Bereichen?

Man könnte sich fragen, was zum Beispiel aus dem autonomen Fahren wird. Können junge unerfahrene Fahrer, die sich in einem autonomen Auto fahren lassen, die gleiche Reaktionsfähigkeit entwickeln? Sie werden lernen, sich auf das Auto zu verlassen. Wenn plötzlich eine herausfordernde Situation entsteht, werden sie nicht das gleiche Reaktionsvermögen und die gleiche Erfahrung besitzen wie Fahrer, die schon immer manuell gefahren sind.

Es fängt ja schon im Alltag an. Heute hat jeder von uns ein Smartphone, das er jederzeit nutzen kann. Wenn der Akku leer ist, haben wir ein Problem.

Ja, man denke an das Navigationssystem im Auto. Mittlerweile ist Kartenlesen und in der eigenen Stadt auskennen nicht mehr so relevant. Viele Taxifahrer fahren nur noch mit Navi. Das muss nicht unbedingt ein Problem sein. Aber was ist, wenn mal etwas schiefgeht und dann plötzlich Improvisation nötig ist? Im Alltag ist das nicht so schlimm, aber in solchen Situationen wie beim Flug AF 447 hat das ja katastrophale Konsequenzen.

Haben Sie aus der Untersuchung des Flugzeugabsturzes heraus eine Empfehlung formuliert, was geändert werden sollte?

Eine Empfehlung ist schwer. Wir mutmaßen, dass sich nach dem Ausfall des Autopiloten beide Copiloten jeweils nur auf die Maschine konzentrierten und nicht mehr als Team funktioniert haben. Man kann trainieren, als Team auch während solcher Situationen zu bestehen. Piloten sollten lernen, so einen Prozess besser anzupacken und zu organisieren.