Lehrer und Schüler des Q3-MatheLKs

Macht der Maschinen

Maschinen, die in Gerichtsverhandlungen Entscheidungen treffen - Computerprogramme, die besser Zocken als jeder menschliche Spieler - Software, die Musik komponiert als wäre sie von Johann Sebastian Bach, Algorithmen, die unsere Persönlichkeit besser einschätzen können als unsere Freunde oder Familie. Düstere Science-Fiction oder schon längst Realität?

Diese Fragen und andere mehr untersuchte der Leistungskurs Mathematik Q3 von Herrn Müller nach dem Besuch mehrerer Vorträge an der Goethe-Uni. Erstaunlicherweise steckt hinter der künstlichen Intelligenz lernender Maschinen ein einfacher mathematischer Ansatz. Die entscheidenden Fragen liegen aber jenseits der Mathematik, die Fragen, welche Macht wir den Computern über unser Leben geben wollen. 

 

Frankfurt am Main, nahe Zukunft. Thomas soll sich endlich entscheiden. In ein paar Wochen hat er (hoffentlich) sein Abi in der Tasche. Danach fängt das richtige Leben an. Angeblich. Was soll er mit seinem „richtigen“ Leben anfangen. Was soll er studieren? Soll er überhaupt studieren?
Sein Opa arbeitet seit 30 Jahren bei der Fraport. Dort hat Thomas sich schon nach einer Ausbildungsstelle umgeschaut. Er hat sogar angerufen. Das erste Jobgespräch hat er direkt am Telefon geführt, mit einer künstlichen Intelligenz, wie er später erfahren hat. Keine Ahnung, ob das erfolgreich war.
Seine LKs, Englisch und Kunst,  helfen ihm bei der Studienwahl auch nicht weiter. Übersetzen können Computer viel billiger und besser als Menschen, kein Beruf mit Zukunft. Und vor ein paar Wochen wurde für 10000 Dollar ein Bild Dollar versteigert, das sich ein Computeralgorithmus ausgedacht hatte. Thomas hatte das Bild gesehen. So gut bekomme ich das nie hin, hat er dabei gedacht.
Keine Ahnung, was er mit seinem Leben anfangen soll. Leben rückwärts buchstabiert heißt Nebel. So sieht es gerade aus. Nebel im Nebel.
Wenigstens die Untersuchung seiner Mutter gestern war gut. Eine künstliche Intelligenz hat sich Fotos von Mamas Haut angeschaut. Kein Hautkrebs. Bei Oma konnten die Computer das noch nicht und die Ärzte haben es erst bemerkt als es schon zu spät war.
Heute ist kein Tag für eine Entscheidung. Erstmal Kopfhörer auf. Doch da steht schon wieder eine Entscheidung an. Stücke aus den Charts oder die Musik, die die Maschine nach seinem Musikgeschmack speziell für Thomas komponiert hat,. Na, die Entscheidung ist einfach…

Die beschriebene Situation ist Science-Fiction. Nicht alles, was die Maschinen hier können ist tatsächlich Realität. Aber fast alles. Nur an einem Punkt ist die technische Entwicklung noch nicht so weit wie beschrieben. Welcher das ist klären wir ganz am Ende des Textes.

Der LK Mathematik Q3 von Herrn Müller besuchte einige Vorträge zum Thema „Algorithmen - Maschinelles Lernen – Quantencomputing“ an der Goethe-Universität. Wir fanden das Thema so spannend, dass wir anschließend noch ein paar weitere Artikel dazu gelesen haben. Dadurch wurde das Thema noch spannender. Ein paar unserer Erkenntnisse stellen wir hier vor und deuten an, wieso plötzlich Computer Aufgaben lösen können, die bisher nur Menschen angehen konnten. Dies hat bereits unseren Alltag verändert und wird es wahrscheinlich in naher Zukunft noch weitaus  dramatischer tun.

Bereits heute analysieren Algorithmen unser Verhalten im Internet und geben uns passend dazu Kaufempfehlungen. Computerprogramme werten Fotos von Überwachungskameras aus und geben nur anhand des Aussehens Warnungen, wer ein Terrorist sein könnte. In vielen Spielen (Brettspiele wie auch Computerspiele) sind Maschinen längst unschlagbar.
Wie geht das? Ist das ein Problem oder könnte es eins werden? Um das zu klären, beschrieben wir an zwei unterschiedlichen Beispielen wie Computer Menschen besiegt haben.

Vor über 20 Jahren besiegte die Maschine „Deep Blue“ den damaligen Schach-Weltmeister Garri Kasparow.  Dies galt damals als Meilenstein in der Entwicklung künstlicher Intelligenz.
Ingenieure und Mathematiker von IBM hatten einer Maschine beigebracht Schach zu spielen. Dazu hatten sie nicht nur die Regeln des Spiels programmiert, sondern auch, wie menschliche Schachspieler eine Partie bewerten. Das Programm konnte so die Auswirkung möglicher Züge berechnen und so entscheiden, was der beste Zug war. Die Rechenpower war dabei so hoch, dass die Maschine unglaublich viele solcher „Was-wäre-wenn“-Überlegungen machen konnte. Die einzelnen Entscheidungsregeln hatten sich die Programmierer dabei aber vorher sehr genau (unter Verwendung mathematischer Verfahren) überlegt.
Das war vor 20 Jahren. Heute ist es nicht mehr nötig einem Programm die Regeln eines Spiels beizubringen. Computer können Regeln selbst durch Beobachtung erlernen und unschlagbare Spielstrategien gleich dazu.

Im März 2016 siegte das Computerprogramm „Alpha Go“ im Brettspiel Go gegen Lee Sedol, einem der besten menschlichen Go-Spieler der Welt. Dies obwohl Go unglaublich viel komplexer ist als Schach. Und dies obwohl niemand dem Programm Alpha Go jemals beigebracht hatte, wie man Go spielt. Das Programm hatte sich das Spiel selbst beigebracht – es hatte das Spiel gelernt. So gut, dass es besser ist als jeder Mensch.

Wie können Computer lernen? Meistens werden hierzu künstliche neuronale Netze verwendet. Dies ist ein Konzept, das ursprünglich versuchte die Arbeitsweise des menschlichen Gehirns nachzubilden. In unserem Gehirn sind unzählige Nervenzellen (sogenannten Neuronen) miteinander verknüpft. Diese Neuronen in unserem Gehirn setzen auf elementarste Ebene um, was wir als Denken und Fühlen empfinden.
In einem künstlichen neuronalen Netz gibt es ebenfalls Neuronen. Diese sind allerdings keine Nervenzellen sondern kleine Teile eines Programms. Diese Neuronen sind in mehreren Schichten angeordnet. Die unterste Schicht nennen wir Eingabeschicht, die oberste Ausgabeschicht. Zwischen Eingabe- und Ausgabeschicht gibt es weitere, innere Schichten.
Die Neuronen sind miteinander verbunden und können sich gegenseitig beeinflussen. Ein Neuron das von einem anderen Neuron Information erhält, reagiert auf diese Information und gibt andere Information an seine Nachbarn weiter. Die Eingabeschicht erhält so zu Beginn Eingaben, dann passiert in den inneren Schichten irgendwas und am Ende gibt es eine Ausgabe an der Ausgabeschicht. Was zwischendrin in den inneren Schichten passiert muss nicht genau festgelegt werden (tatsächlich darf es dar gar nicht). Dies ist ein entscheidender Unterschied zu dem Programm, das vor 20 Jahren Schachweltmeister wurde. Das Netz ist in wesentlichen Teilen nicht durch einen menschlichen Programmierer festgelegt worden.
Neuronale Netze werden zunächst in einer Trainingsphase trainiert etwas zu lernen. Wie sie dabei genau lernen ist meistens völlig unklar, es bleibt von außen betrachtet in der Komplexität des künstlichen neuronalen Netzes verborgen. Umso verblüffender ist es, dass viele Netze nach einer passenden Trainingsphase Erstaunliches leisten können.
Dem Programm „Alpha Go“ wurden zum Beispiel viele Go-Partien vorgelegt, die zuvor Menschen gespielt hatten. Dabei passten sich die Neuronen des Netzes nach und nach so an, dass sie zu den von den Menschen gemachte Zügen passten. Dies ist die Lern- oder Trainingsphase des Netzes. Das Programm lernte Go-Spielen indem es von Menschen gespielte Spiele beobachtete.
Nach dieser Trainingsphase konnte das Programm Go-Spielen. Es hatte nicht nur die Spielregeln gelernt sondern auch neue, völlig innovative Spielstrategien entwickelt, gegen die kein menschlicher Gegner eine Chance hat.

Wie genau das Programm dies schafft ist unklar. Die Zahl der Neuronen und deren Zusammenarbeit untereinander ist vollkommen unübersichtlich. Es bleibt unklar, welche Rolle ein einzelnes Neuron hat und wie das Programm vorgeht. Tatsache ist, dass der Algorithmus erstaunliches leistet.
Die Arbeitsweise neuronaler Netze unterscheidet sich dabei an entscheidender Stelle maßgeblich von „klassischen“ Programmen, wie DeepBlue, das Schachweltmeister wurde.

Bei DeepBlue haben die Programmierer dem Programm beigebracht, wie Schach funktioniert, wann ein Zug gut oder schlecht ist. Im Gegensatz dazu hat Alpha-Go sich nur Spiele „angeschaut“ und so selbst das Spiel und Gewinnstrategien erlernt. Kein Mensch hat einprogrammiert, wie das Programm entscheiden soll. Und kein Mensch versteht die Strategien des Programms.

Ähnlich arbeiten auch andere lernende Maschinen. Im Vortrag von Dr.  Gehler zeigte er uns Fotos von 100 Prominenten – schöne und erfolgreiche Schauspieler, Musiker und andere Berühmtheiten. Diese hatte man in der Trainingsphase einem neuronalen Netz gezeigt. Es hatte so gelernt, wie schöne Gesichter aussehen (können).
Anschließend hat das Netz die Aufgabe bekommen, selbst das Gesicht einer Person zu erzeugen. Es konnte nun Bilder von Gesichtern erzeugen. Gesichter, die die meisten Menschen als schön empfinden. Gesichter, die allerdings nicht zu lebenden Menschen gehören, sondern völlig neu erfunden wurden. Niemand kann genau sagen, nach welchen Kriterien das Programm die Gesichter entwickelt hat. Die Kriterien hat das Programm selbst erlernt.

Diese beiden Beispiele mag man vielleicht erstaunt zur Kenntnis nehmen. Aber hat das (außer für Leute die Go-Weltmeister werden wollen) praktische Relevanz? Müssen wir darüber nachdenken oder können wir das den Nerds überlassen? Nun, ganz ähnliche neuronale Netze werden auch in vollkommen anderen Bereichen sehr erfolgreich eingesetzt. In Bereichen, die durchaus Einfluss auf unser Leben haben.

Die Firma Randstad (eine große Personalvermittlung) setzt seit mehreren Jahren eine neuronales Netz ein, um Bewerber für die FraPort AG zu bewerten (s. Artikel von Frank Luerweg). Hier hat das Neuronale Netz gelernt, die Sprechweise von Menschen mit bestimmten Charaktereigenschaften zu verbinden. Angeblich ist das Programm genauso gut wie menschliche Beobachter, allerdings wesentlich billiger.

Ein anderes neuronales Netz wurde mit Fotos von Menschen trainiert, die an einer schwer erkennbaren Form von Hautkrebs erkrankt sind. Nach der Trainingsphase kann das Programm nun nur anhand der Fotos von Hautpartien der Patienten erkennen, ob diese Art von Krebs vorliegt. Dabei ist das Programm bei der Erkennung  besser als menschliche Ärzte (vgl. Artikel bei Spiegel-Online).

Das Programm DeepBach wurde mit Chorälen von Johann Sebastian Bach trainiert und kann nun nach der Eingabe einer Melodie drei Begleitstimmen und eine Harmonie dazu komponieren. So wie es vielleicht auch der große Meister der Barockmusik getan hätte. Allerdings deutlich schneller.

Programme die selbstfahrende Autos steuern, haben gelernt aus der Beobachtung von Menschen zu erkennen, welche Bewegung die Menschen wahrscheinlich zwei Sekunden später machen werden.  So können sie erahnen, ob ein Kind gleich auf die Straße springen wird und so rechtzeitig bremsen.

In China ist bereits seit einiger Zeit im Fernsehen ein Nachrichtensprecher zu sehen, den es gar nicht gibt. Eine künstliche Intelligenz hat die Figur erschaffen und lässt sie die Nachrichten vorlesen.

Alles toll. Maschinen können dank maschinellem Lernen und künstlicher Intelligenz plötzlich viele Aufgaben, die vor zehn Jahren noch undenkbar gewesen wären. In vielen Bereichen können sie es sogar besser als Menschen. Oder ist das doch eher beängstigend?

Zwei wesentliche Eigenschaft der lernenden Maschinen sollten aber unbedingt kritisch hinterfragt werden.
Wie oben beschrieben lernt das neuronale Netz in der Trainingsphase. Was genau dabei im Inneren des Netzes passiert und wieso das Netz etwas kann bleibt dabei aber in der Komplexität des Netzes verborgen. Es bleibt auch unklar, wann und wieso das Netz falsche Entscheidungen trifft. Beim Go-Spielen oder Musik komponieren mag das noch vertretbar sein, aber wollen wir, dass Bewerber für einen Stelle nach völlig unklaren Kriterien von einer Maschine aussortiert werden?
Ein weiterer kritischer Punkt ist das Trainingsmaterial. Es beeinflusst, was das Programm als gut und schlecht erkennt. Wird das Programm des Personaldienstleisters zum Beispiel mit Material trainiert, bei dem die gewünschten Bewerber alle aktzentfrei Deutsch sprechen, so werden vielleicht Bewerber nur anhand ihres Akzents abgelehnt.

Die lernenden Maschinen nun zu verteufeln und ganz auf sie verzichten zu wollen ist keine Option. Selbstfahrende Autos werden die Straßen wesentlich sicherer machen als abgelenkte, müde oder überforderte menschliche Fahrer. Sie werden Leben retten.
Zahlreiche Probleme aus der Genetik, Pharmazie oder anderen Lebenswissenschaften können nur mit künstlicher Intelligenz gelöst werden. Dies kann und wird bei der Behandlung und Vorbeugung von schweren Krankheiten neue Wege ermöglichen.
Bereits heute werden wir täglich und maßgeblich von lernenden Maschinen begleitet und unterstützt (vielleicht aber auch beeinflusst). Amazon, google und Facebook setzen längst entsprechende Algorithmen ein, um unsere Kaufwünsche, Suchanfragen und Aktivitäten in sozialen Netzwerken zu  unterstützen.
Diese Programme sind gut, sehr gut sogar. Eine Arbeit amerikanischer Wissenschaftler (vgl. Youyou et al.) zeigte bereits 2015, dass ein neuronales Netz anhand der Likes von Facebook-Nutzern deren Persönlichkeit besser einschätzen konnte als es ihre Ehepartner konnten.  

Lernende Algorithmen sind also bereits längst Alltag. Umso wichtiger ist es, dass wir sie verstehen. Die Algorithmen verstehen uns nämlich von Tag zu Tag besser.

 

Zu Thomas vom Anfang. Bis auf die speziell für Thomas komponierte Musik gibt es das alles bereits und es wird eingesetzt. Die individuelle Musik, komponiert nach unserem Klicks auf YouTube, bei Spotify oder Amazon ist aber so nahe an den technischen Möglichkeiten, dass wir sie wahrscheinlich hören werden, bevor die jetzigen Fünftklässler über ihre Zeit nach dem Abi nachdenken.

Geschrieben von Axel Müller unter Mitwirkung der Schüler des LKs Mathematik Q3.

Quellen

  • „Digitale Spuren des Selbst“, Frank Luerweg, in Spektrum der Wissenschaft – Gehirn und Geist, 11/2018, S. 12. Ff
  • „Alpha go – Computer lernen Intuition“, Michael Nielsen, in Spektrum der Wissenschaft, 1/2018, S. 22 ff.
  • „Wie Maschinen lernen lernen“, Nicola Jones, 01/2014, veröffentlich auf https://www.spektrum.de/news/maschinenlernen-deep-learning-macht-kuenstliche-intelligenz-praxistauglich/1220451, abgerufen am 20.12.2018
  • „Kreativität aus der Maschine“, Tobias Landwehr, 4/2018, veröffentlicht auf https://www.spektrum.de/news/kreativitaet-aus-der-maschine/1557286, abgerufen am 20.12.2018
  • „Neuronale Netze – Revolution für die Wissenschaft“, Christoph Angerer, in Spektrum der Wissenschaft, 1/2018, S. 12 ff.
  • „Mythos ‚Künstliche Intelligenz‘ “, Vortrag von Prof. Dr. Sebastian Stiller am 6.11.2018 im Rahmen der Ringvorlesung „Algorithmen - Maschinelles Lernen - Quantencomputing“ an der Johann-Wolfgang-Goethe-Universität Frankfurt am Main
  • „Wahrscheinlichkeiten beim Maschinellen Lernen und Bildverstehen“, Vortrag von Peter Gehler am 11.12.2018 im Rahmen der Ringvorlesung „Algorithmen - Maschinelles Lernen - Quantencomputing“ an der Johann-Wolfgang-Goethe-Universität Frankfurt am Main
  • Kann man mit Daten einer Sache auf den Grund gehen?“, Vortrag von Prof. Jonas Peters am 22.01.2019 im Rahmen der Ringvorlesung „Algorithmen - Maschinelles Lernen - Quantencomputing“ an der Johann-Wolfgang-Goethe-Universität Frankfurt am Main
  • „Computer erkennt Hautkrebs besser als Ärzte“, Artikel bei Spiegel-Online vom 29.05.2018, http://www.spiegel.de/gesundheit/diagnose/hautkrebs-computer-erkennt-melanome-besser-als-aerzte-a-1210048.html, abgerufen am 12.01.2019
  • “Computer-based personality judgments are more accurate than those made by humans”, Wu Youyou, Michal Kosinski, and David Stillwell in PNAS 27.01.2015, 112 (4) 1036-1040, veröffentlicht auf https://www.pnas.org/content/112/4/1036, abgerufen am 25.01.2019

Zurück