Stuart Russell
Human Compatible
Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält
Erschienen im MITP Verlag, Frechen 2020
Veröffentlichungen von Stuart Russell interessieren mich schon länger, und nun begeisterte mich sein Buch, in dem er ein umfassendes Grundlagenwerk zu den Vor- und Nachteilen hochintelligenter Maschinen aus humaner Sicht vorlegt. Zum einen weil ich die ausgewogene Sicht des britischen Wissenschaftlers schätze, dessen Forschungsinteresse schon lange auf dem Gebiet der künstlichen Intelligenz liegt. In seinem Buch lernte ich nun auch die Art Russels zu schätzen, genau so zu schreiben, dass man an seinem breiten Fundus gesammelten Wissens seines Forschungsgebietes so teilhaben kann, als hätte man in dem in seinen Buch betrachten Zeitraum seiner Forschung gemeinsam mit ihm geforscht, und erstelle nun eine Rückschau in einem wissenschaftsournalistischen Erzählstil.
Russel ist Professor für Informatik an der University of California in Berkeley. Er studierte Physik an der University of Oxford, weitere Stationen seines akademischen Lebens brachten ihn unter anderem als Forschungsassistent an die Stanford University, an der er schließlich 1986 promovierte. Russell ist Fellow der Association for the Advancement of Artificial Intelligence (AAAI), der Association for Computing Machinery (ACM) und der American Association for the Advancement of Science (AAAS).
„Es braucht nicht viel Vorstellungskraft, um zu erkennen, dass es vielleicht keine so gute Idee ist, etwas zu erschaffen, das klüger ist als man selbst.“ Dieses Zitat wird Russell vor allem von KI-Pessimisten in den Mund gelegt. Doch Russel legt eine wesentlich ausgewogenere Analyse vor. So stellt er gleich zu Beginn er die entscheidende Frage: Werden Maschinen in naher Zukunft wirklich in den meisten Disziplinen intelligenter sein als Menschen? Viele Versprechen der KI-Forschung seien optimistisch, doch Russel will auch die Gefahren einerSuperintelligenz abwägen. Denn diese sei Chance und zugleich ernstzunehmendes Risiko. Sei diese erst einmal da, könne der Entwickler nicht einfach wieder den Ausschalter betätigen oder den Stecker ziehen. Mit ansprechenden Analogien veranschaulicht Russel im weiteren Verlauf, wie sich natürliche und künstliche Intelligenz aktuell ausdifferenzieren lassen. Er plädiert für Sicherungsmechanismen künstlicher Intelligenz -und hier wird das Buch dem seinem Titel „Human Compatible“ gerecht- zeigt durchdachte Chancen, Möglichkeiten und vor allem durchdachte Lösungsansätze für die Entwickler künstlicher Intelligenz auf, die sicherstellen könnten, dass zukünftige künstliche Intelligenzen humane Ziele verfolgen und nicht etwa eine inhumane oder eigene Agenda. So spricht sich Russell etwa dafür aus, das bisherige „Standardmodell“ im Maschinenlernen, welches Manschinen darauf trainiert, vorgegebene Ziele zu erreichen, zu hinterfragen. Denn hätten Maschinen erst einmal genügend Wissen gesammelt, könnte dies zu Problemen führen. Veranschaulicht wird dies etwa durch den Haushaltsroboter, welchen den Kindern der Familie ein Abendessen zubereiten soll, aber nicht genügend Zutaten hat. Dieser könne nach der Logik des „Standardmodell“ im Maschinenlernen etwa die Familienkatze als Zutat klassifizieren, deren Nährwert die KI abrufen könne. Zudem würde eine hochintelligente KI nach aktueller Konzeption ihre Abschaltung deaktivieren. Die menschlichen Entwickler müssten KI daher neu konzipieren. Bei all seinen Mahnungen lässt sich Russel dabei aber nicht für KI-pessimistische Positionen vereinnahmen, deren Vertreter teilweise gleich die gesamte KI-Forschung beenden wollten. Vielmehr steht er stets zu seiner Überzeugung, dass KI in einigen Jahrzehnten in den Disziplinen Medizin, der Wissenschaft allgemein, im Umweltschutz oder in Bildung enorme Fortschritte schaffen werden. Und so bleibt Russel stets auf dem Mittelweg des Befürworters einer künstlichen Intelligenz, welche dem Menschen dient. Sein Buch schafft es dabei, drei Schwerpunkten zu vereinen: Die Entwicklungsgeschichte künstlicher Intelligenz zu dokumentieren, eine Analyse zum Ist-Stand der Forschung und einen zeitgemäßen Vorschlag, wie KI human, im Sinne der menchlichen Enwickler, gestaltet werden kann.
Neueste Kommentare