Seminar: Künstliche Intelligenz und natürliche Dummheit
WS 98/99 Prof. Kornwachs, Humboldt - Zentrum, Univ. Ulm
Titel:
"Denn sie wissen nicht, was sie tun"
(GEO Wissen: Intelligenz + Bewußtsein - 1992)
Studienfach: Informatik - 2. Semester
Hausarbeit (Deckblatt) *
Inhaltsverzeichnis *
1. Einleitung *
2. Was ist Verstand? *
3. Marvin Minsky und Hans Moravec zwei Visionäre der KI *
4. Minsky und die Philosophie *
5. Vermeintliche Tiefschläge der KI *
6. Intelligenz und ihr Nachweis *
7. Hans Moravec und die Alternative zum biologischen Leben! *
8. Weitere Anregungen und Meinungen zur KI *
Verwendete Literatur *
Bevor ich das Seminar "Künstliche Intelligenz und natürliche Dummheit" besuchte, habe ich mir wenige Gedanken über die philosophischen Ansätze, die die Künstliche Intelligenz bietet, gemacht. Von den regelmäßig veröffentlichten Erfolgsmeldungen der Wissenschaft bestärkt, glaubte ich, daß irgendwann durch die Technik alles möglich und es nur eine Frage der Zeit sein wird, bis uns, dem Menschen sehr ähnliche Maschinen in allen Lebenssituationen unterstützen werden.
Tatsächlich ist die Künstliche Intelligenz nicht so jung wie die Computertechnik, die sich seit ihren Anfängen mit der Lösung dieser Probleme beschäftigt. Sie scheint dieses Ziel in greifbare Nähe gerückt zu haben, aber bis heute sind alle Versuche, eine dem Menschen ähnliche Intelligenz zu schaffen, fehlgeschlagen. Aber selbstverständlich hat sich auf diesem Gebiet sehr viel getan: Computer können heute Schrift lesen, Stimmen erkennen und den Sinngehalt von Texten in nützlicher Weise zusammenfassen.
Auf der Suche nach einem Thema für diese Hausarbeit, bin ich auf einen sehr interessanten Artikel in der Ausgabe "Intelligenz und Bewußtsein" des Magazins Geo Wissen gestoßen, der sich genau mit der im Seminar angesprochenen Problematik beschäftigt und sowohl KI-Gläubige, als auch deren Kritiker zu Wort kommen läßt.
In der nun folgenden Arbeit werde ich mich mit diesem Artikel auseinandersetzen und zu den angesprochenen Themen weitere Informationen einfließen lassen.
Da die Künstliche Intelligenz eine der interessantesten und vielschichtigsten Probleme ist, die sich die neuzeitliche Wissenschaft gestellt hat, möchte ich dem Leser etwas von ihrer Faszination mitteilen.
Der Artikel: "Denn sie wissen nicht, was sie tun" wurde von dem freien Wissenschaftsjournalisten Nick S. Martins verfaßt. Er faßt mehrere Aussagen von bekannten Wissenschaftlern zusammen und macht sich seine eigenen Gedanken.
Schon seine Eingangsaussage ist sehr provokant: "Obwohl Wissenschaftler seit Jahrzehnten Wege zu einer "Künstlichen Intelligenz" suchen, fehlt Rechnern nach wie vor jeglicher gesunde Menschenverstand. Dennoch beharren Protagonisten auf ihren kühnen Visionen." Um sich mit dieser These auseinanderzusetzen, muß man zunächst das Wort "Verstand" näher erläutern.
Es handelt sich dabei um: "allg. geistiges Erkenntnisvermögen (Ratio);" dies bedeutet: "die Fähigkeit, aus sinnlichen Wahrnehmungen geistige Gebilde zu schaffen und diese Erkenntnis von Ordnungszusammenhängen durch Abstraktion in Begriffen zu klären, die in Urteils- und Schlußverfahren miteinander verbunden werden sollen."
Es ist sehr wichtig zu wissen, daß die Antwort auf die Frage nach der Möglichkeit von Künstlicher Intelligenz davon abhängt, was wir unter Geist verstehen, was wir als intelligentes Verhalten bezeichnen und was Bewußtsein ausmacht.
Teilweise werden die Rechner der Zukunft in der Lage sein diese Anforderungen zu erfüllen; zum Beispiel wird heute schon mit Hilfe von Sensoren und deren Meßdaten versucht, die Natur nachzuempfinden. Natürlich sind alle Ergebnisse aber nur ein Abbild der Natur. Es wäre vermessen hier schon von geistigen Gebilden zu sprechen. Vielmehr sind es aneinandergereihte Daten, die der Computer nach einem vorgegebenen Schema aufarbeiten kann. Er vermag also nicht die Daten zu abstrahieren und daraus für sich selbst Erkenntnisse zu erlangen. Das ist eine der sehr wichtigen geistigen Eigenschaften des Menschen, die ein Rechner noch nicht leisten kann.
Die nun angeführten Stellungnahmen stammen von den zwei renommiertesten KI-Forschern Marvin Minsky und Hans Moravec. Diese beiden Pioniere haben die KI, mit ihren meist sehr kühnen Visionen immer weiter vorangetrieben. Marvin Minsky gründete 1959 gemeinsam mit seinem Kollegen John McCharthy das KI-Labor am MIT. 1990 erhielt er in Tokyo für seine Verdienste den "Japan-Preis". Hans Moravec ist Direktor des Mobile Robot Laboratory an der Carnegie Mellon University in Pittsburgh.
Der Artikel beginnt mit Marvin Minsky, Professor für Künstliche Intelligenz am Massachusetts Institute of Technology (MIT), der ein Klavierstück improvisiert, dieses aber nicht aufzeichnet, mit der Begründung, daß er es erniedrigend fände, ein Musikstück zweimal hören zu müssen, nur weil wir Menschen so vergeßlich seien . Er führt noch weitere Fehler an, die wir Menschen haben, u.a. seien wir "langsam, unaufmerksam, konzentrationsschwach, abergläubisch, depressiv und haben riesige Mengen nutzloser Information gespeichert". Um diese Fehler ausmerzen zu können, denkt Minsky an einen in das Gehirn verpflanzten Neuro-Chip, der den Menschen zu "Gedächtnisleistungen" eines Computers befähigt. Diese Vision beschäftigt die Menschheit seit dem Aufkommen der Computer- und Microchiptechnology. Aber hier handelt es sich ja nur um eine Verbesserung der eigenen "Denkleistung" und nicht um eine selbständig denkende Maschine mit Bewußtsein und Gefühlen. Falls sich diese Möglichkeit allerdings eines Tages realisieren läßt, sind wir der Kombination zwischen Mensch und Maschine schon ein sehr großes Stück näher gekommen.
Hans Moravec geht in seinen Vorstellungen noch erheblich weiter. Er will den menschlichen Geist völlig von seiner sterblichen Hülle trennen, und ihn auf Roboter übertragen. Seine These lautet: " Die Menschheit wird in etwa 50 Jahren überflüssig und dann möglicherweise in einem Krieg mit den superintelligenten Robotern vernichtet." Dies ist wohl die schlimmste anzunehmende Schreckensvision, die sich in den Köpfen der Menschen gegen eine Künstliche Intelligenz verankert hat. Joseph Weizenbaum, ein KI-Kritiker, bezeichnet diese Vorstellung provozierend als "die Endlösung der Menschenfrage". Ich glaube aber, das Moravec in Fachkreisen mit seiner Meinung nicht alleine steht, auch wenn seine 50 Jahre wohl etwas zu "optimistisch" klingen. " Moravec hat die Idee nur konsequent zu Ende gedacht", lautet die lapidare Antwort Minskys zu diesem Statement. Aber über diese "Endlösung" müssen wir uns wohl erst in einigen Jahrzehnten Gedanken machen, wenn die Maschinen uns langsam ähnlicher werden.
Im nächsten Abschnitt wird von Minskys wöchentlichen Seminar berichtet. Diesmal lautet das Thema Dame und Schach spielende Computer. "Dieses Dame –Programm hat Arthur Samuel 1957 vorgestellt. Es hat Landesmeister geschlagen. Natürlich hat es auch Samuel geschlagen. Das zeigt, daß man ein Programm schreiben kann, das schlauer ist als man selbst" . Letzteres finde ich eine sehr wichtige Aussage. Es mag sein, daß wir uns zwar Gedanken darüber machen können, was wir erforschen und entwickeln, aber in letzter Konsequenz sind wir immer wieder überrascht, was das Erschaffene zu Leisten vermag. Da kann es durchaus passieren, daß die Geschöpfe uns irgendwann über den Kopf wachsen. Wenn wir die modernen Schachcomputer betrachten, müssen wir feststellen, daß sie bereits Großmeisterniveau erreicht haben. Die Informatik profitierte viel von der Beschäftigung mit "Schachcomputern". Jedoch ist deutlich geworden: Schachprogramme denken nicht - obwohl sie durchaus besser spielen können als ihre Autoren. Schachprogramme entwickeln keine Intuition, d. h. sie verfügen nicht über jene unbewußten Strukturen, die dem menschlichen Durchschnittsspieler sagen, welcher Zug in einer gewissen Situation einfach vorteilhafter wäre.
Natürlich legt sich Minsky mit den Philosophen seiner Zeit an, er behauptet: "Schuld haben die Philosophen mit Ihrem Gerede von Bewußtsein. Für mich sind sie alle verrückt. Philosophen sind schlechte Denker, sie haben keine guten Ideen davon, wie das Gehirn funktioniert. Mit KI aber wird unser Geist unsterblich" . Ich denke diese Schlußfolgerung ist etwas einseitig und voreilig, denn um ein Problem lösen zu können, muß man es aus allen möglichen Perspektiven betrachten und nicht nur sein Gebiet im Auge haben. Denn der Mensch selbst ist ein so komplexes Wesen, daß sich selbst alle Wissenschaften zusammen kein Gesamtbild über die Funktion und Denkweise des Menschen machen können, geschweige denn, daß eine Disziplin diese Leistung für sich allein in Anspruch nehmen könnte. Außerdem ist es nicht möglich, einen künstlichen Geist zu erschaffen, wenn man sich vorher nicht darauf geeinigt hat, was Geist eigentlich bedeutet. Aber Minsky geht noch weiter, " wer glaubt, daß eine Seele existiert, ist einfach dumm. Aberglaube hat den Vorteil, daß er keine Beweise braucht. Niemand kann beweisen, daß der Regengott nicht existiert, und daß kein Elefant hinter dieser Tür da steht! Alle Religionen sind für mich ansteckende Geisteskrankheiten." Es ist klar, daß Minsky seine Aussagen überzieht, um sein Publikum zu unterhalten, aber sie zeugen auch von einer tiefen Frustration der KI-Gemeinde, da nach anfänglichen großartigen Erfolgen auf ihrem Gebiet, der durchschlagende Sieg bis heute ausgeblieben ist. Der Mensch sucht in einer solchen Situation immer einen Schuldigen, um sich abzureagieren und auch um neue Energien zu tanken. Aber dennoch läuft die KI in Teilgebieten schon in großen Schritten auf das gemeinsame Ziel zu, auch wenn der große gemeinsame Durchbruch noch einige Zeit, vielleicht 100 Jahre, auf sich warten lassen wird.
Sogar in der Anfangsphase gab es einige Fehlschläge. So gab es zum Beispiel in den sechziger Jahren am MIT eine Arbeitsgruppe, die versuchte Robotern beizubringen aus Bauklötzen einen Turm zu errichten. Doch da tauchten einige Probleme auf. Die Kamera-Augen konnten hinter- und übereinanderliegende Bauklötze nur schwer unterscheiden. Die Arme legten die Klötze zu ungenau ab, und der Roboter begann beim Turm mit der Spitze. Selbst Hunderte von Programmen, die am Ende zu unübersichtlich wurden, um überhaupt etwas zu bewirken, konnten das Problem nicht gänzlich lösen. Das war auch der Grund, weshalb Minsky die Leitung des Labors an Patrick Winston abgab.
Der Autor spricht Minsky auf die enttäuschenden Fortschritte der KI an und argumentiert, daß heutige Computer doch nur über brutale Rechenkraft verfügen würden, und nur geistlos wie Taschenrechner alle möglichen Züge (am Beispiel eines Schachcomputers) durchrechnen könnten. Darauf erwidert Minsky: "Gut, sie wissen nicht, was sie tun, aber sie machen das sehr gut". Das ist aber wohl das Hauptproblem der modernen KI. Ein Computer kann nur vorgegebene Schritte durchgehen und berechnen, dagegen kann der Mensch kombinieren und neue Erfahrungen in seine Denkprozesse mit einbeziehen. Den Computern geht auch heute noch, trotz aller Leistungssteigerungen, der "gesunde Menschenverstand" ab, und ohne den kommen sie dem hochfliegenden Ziel, menschliches Intelligenz -Niveau zu erreichen keinen Schritt näher. Dieser Meinung möchte ich mich anschließen, der Mensch wird zwar in der Lage sein, einen Computer intelligent aussehen zu lassen, da er ihm alle möglichen Variationen vorher zur Verfügung stellen kann. Aber zwischen dieser Simulation und wahrer Intelligenz ist ein sehr großer Unterschied. Man müßte schon das Gehirn Stück für Stück replizieren, diesem künstlich geschaffenen Gehirn müssen wir dann Intelligenz zuschreiben, da es ja nichts anderes tut, wie sein "Urbild", dem wir Intelligenz zubilligen müssen bzw. wollen.
Schon 1950 hat sich der englische Mathematiker Alan Turing über die Definition von Intelligenz Gedanken gemacht. Er entwickelte den sogenannten "Turing-Test". Dazu steht in einem Zimmer ein Computer , in einem anderen sitzt ein Mensch. Zusätzlich sitzt in einem dritten Raum ein Prüfer, der durch geschicktes Frage-und-Antwort-Spiel, über Tastatur und Monitor, herausfinden soll, in welchem der beiden Räume sich der Computer verbirgt. Gelingt ihm das nicht, dann solle die Maschine als intelligent gelten. Natürlich erheben sich auch gegen diese Definition Stimmen der nicht KI-Gläubigen, wie zum Beispiel Hans Jonas oder John Searle. Ihre Argumentation läuft darauf hinaus, daß Computer die geschriebene Sprache nur mit Hilfe rein formaler Regeln, die ihnen ein Programmierer eingespeichert hat, verstehen, zergliedern und interpretieren. Auch ihre Antworten bestehen nur aus vielen "Wenn-dann-Regeln. "Durch Kombination solcher Verknüpfungen kann der Computer auf bestimmte Fragen scheinbar intelligente Antworten geben. Doch vom Inhalt dessen, was er auf dem Monitor oder Drucker ausgibt, hat er ebensowenig eine "Ahnung", wie ein Computer, der Kontoauszüge druckt, "weiß" was Geld oder eine Bank ist." Dieser Meinung möchte ich mich völlig anschließen, denn man kann Intelligenz nicht daran messen, wie intelligent uns die Antworten scheinen, denn ein Computer ist immer so "intelligent" wie sein Programmierer. Es werden nur Antworten produziert, die intelligent wirken, aber ein echtes Verständnis ist hier natürlich keinesfalls vorhanden. John Searl hat mit seinem Gedankenexperiment vom "chinesischen Zimmer" den Turing Test karikaristisch in Frage gestellt. "Im "chinesischen Zimmer" sitzt eine englischsprachige Person, die kein Wort Chinesisch beherrscht. Sie hat Körbe voller Karten mit chinesischen Symbolen und eine englische Anleitung, wie die Symbole sinnvoll zu kombinieren sind. Schicken nun Personen von außen eine Frage in Form einer Folge chinesischer Zeichen in das Zimmer, so vermag die Person drinnen mit Hilfe ihrer Anleitung eine Antwort zu generieren." Nun glauben die Fragenden, das "chinesische Zimmer" verstehe chinesisch, obwohl die Person im Inneren nichts verstanden hat.
Da Searl argumentiert, daß KI-Programme genauso dumm sind, ist es nur zu verständlich, daß Minsky von den Philosophen nicht allzuviel hält. Auf den Einwand des Autors:" ist die Intelligenz eines regelbasierenden Systems nicht nur simulierte Intelligenz" , antwortet Minsky lapidar: "ja, aber das macht nichts. Es ist egal, woher sie kommt. Vielleicht ist alle Intelligenz nur simuliert, weil sie nichts ist als Regeln im Kopf." Dieses Argument ist nicht sehr einfach zu widerlegen, denn zum Beispiel bei Prüfungen läßt sich auch nicht unterscheiden, ob ein Prüfling den Stoff wirklich verstanden hat, oder nur alles sinnlos auswendig gelernt hat. Bei einem guten Ergebnis spricht man aber in beiden Fällen von einer intelligenten Person. Wir können also nicht mal beim Menschen Intelligenz wirklich einordnen, wie können wir dann die Intelligenz einer Maschine bestimmen?
1986 veröffentlichte Minsky sein Buch " The Society of Mind", das aber selbst von vielen seiner Kollegen nicht gelesen wurde, wie er resigniert feststellt, vielleicht wegen dessen kryptischer Botschaft. Minsky blieb nur die bittere Erkenntnis: "Sein immenser Einfluß ist verloren, er zählt heute zum alten Eisen."
Aber Minsky kritisiert auch die jungen Forscher, die seiner Meinung nach nur versuchen lächerliche Detaillösungen zu finden. "Sie verschwenden Jahre ihres Lebens damit, kleine Roboter über den Boden kriechen zu lassen". Dennoch ist der Glaube an seine Mission ungebrochen.
Wie oben bereit erwähnt, gibt es einen weiteren Pionier der KI. Hans Moravec wurde in Östereich geboren, kam mit vier Jahren nach Kanada und später in die USA.
Auf die Frage, was ihn denn am biologischen Leben stören würde, antwortet er: " Nun im Grunde überhaupt nichts. Ich finde wunderbar, daß es existiert und bis zum jetzigen Punkt gelangt ist. Aber wir haben Alternativen jenseits der Biologie. Sie ist mit ihren Eiweißstrukturen nur eine von mehreren möglichen Techniken – eine, die sich aus einfacher Chemie entwickeln konnte. Das ist das eigentlich Wunderbare am Leben. Leider aber eignet sich dieses Material nicht für die Unsterblichkeit." Er fährt weiter fort, das wir heute mit Computern völlig andere Strukturen entwerfen und bald seien wir in der Lage, unseren Geist auf Roboter zu übertragen. Sie würden dann ihre eigenen Nachfolger bauen, sich ständig selbst verbessern und so die Evolution fortsetzen. Diese Geist-Übertrgaung schildert Moravec detailliert in seinem Buch "Mind-Children". Hier versucht er ein "perverses Zerrbild unserer Konsum- und Wegwerfgesellschaft" zu zeichnen.
Der KI-Kritiker Joseph Weizenbaum findet Moravecs Weltbild unerträglich. In seinen Augen entspricht "Mind-Children", Hitlers "Mein Kampf", weil es ebenfalls einen Genozid ankündigt. "Die Frage, ob das wirklich gemacht werden kann, ist lächerlich. Das Problem ist die Weltanschauung dahinter. Ideen haben Macht, sie können gefährlich sein, auch wenn sie nicht stimmen." "Gott spielen, das ist eine starke Droge, stärker noch als Heroin." Das ist auch das Problem der Menschheit, wenn sie sich einmal ein Ziel gesetzt hat, egal wie unrealistisch es auch scheinen mag, setzen sie alles daran es zu erreichen. Egal ob die eigene Gesundheit oder die anderer Menschen dadurch in irgend einer Weise geschädigt wird. Man kann hier fast schon von einem Fanatismus sprechen, dem sich die Forschung verschrieben hat.
Vielleicht ist es ein besonderes Verdienst der KI-Forschung, daß die Frage nach dem, was Geist, was Bewußtsein, was Intelligenz ausmacht, in einer bisher unbekannten Schärfe gestellt wird. Diese Diskussion wird nicht zuletzt dadurch angefacht, daß die Möglichkeiten, die den Menschen bei der Verfolgung dieser Zielrichtung offenstehen, äußerst kontrovers beurteilt werden. Kann Geist modelliert werden? - Der Anspruch, eben das »nachzubauen«, was im allgemeinen Verständnis, den Menschen ausmacht und ihn von »plumpen Maschinen« unterscheidet, scheint an dem Grundstock unseres Menschenbildes zu rühren. Tatsächlich wird das Lager der Künstlichen Intelligenz oft kaum anders behandelt als seinerzeit Charles Darwin, als er seine Theorie von der Entstehung der Arten publizierte: mit Besorgnis, brüsker Ablehnung und sogar mit Hohn.
Heutzutage versucht man das Problem von einer anderen Seite her zu lösen. Es wird versucht Computersysteme mit Allgemeinwissen auszustatten, das sie in die Lage versetzen soll Texte sinngetreu zu übersetzen oder Datenbanken nach inhaltlichen Kriterien zu durchsuchen. Man setzt hier auf Expertensysteme. Derartige Programme stellen Fakten, Kontexte und grammatikalische Strukturen in einen logisch-funktionalen Zusammenhang. Diese können sie dann entsprechend der Situation kombinieren und neue Schlüsse ziehen. Ein gutes Beispiel für den Versuch ein solches System zu erschaffen ist "Cyc", es soll das Alltagswissen eines Durchschnittsamerikaners zur Verfügung stellen. Zu diesem Zweck wurde Cyc über mehrere Jahre hinweg mit Zeitungsartikeln, Bedeutungsstrukturen und Hinweisen gefüttert. Sein englischsprachiges Lexikon umfaßt etwa 14 000 Begriffe, die es mit Hilfe einer Wissensbasis in einen Sinnzusammenhang bringt, um so die Bedeutung von Texten selbständig zu erschließen. Ich glaube aber, daß es noch verfrüht ist zu hoffen, daß Cyc einmal in der Lage sein wird, wie ein Mensch zu denken. Aber diese Idee führt uns auf den richtigen Weg. Denn ein Computer kann nichts, was ihm nicht implementiert wurde, und allen bisherigen Versuchen den menschlichen Geist nachzubilden, fehlte es schon an den Grundlagen, die wir als Allgemeinwissen bezeichnen. Die menschlichen Entscheidungen beruhen nämlich auf jahrelanger Erfahrung, die schon im Kindesalter mit dem Erlernen von Grundfertigkeiten beginnen. Der Mensch wird durch seine Umgebung geprägt, Enttäuschungen und Freude spielen in seinem Leben eine sehr große Rolle, und wir erwarten von Computern, daß sie nur mit Hilfe eines mehr oder weniger ausgeklügelten Programmes menschenähnliche Züge annehmen werden. Es ist mir auch ein Rätsel, warum der Mensch immer wieder versucht, Dinge zu erschaffen, die ihn selbst übertreffen oder gar überflüssig machen könnten. Aber die Antwort liegt wohl in der menschlichen Natur und der damit verbundenen Neugier, wozu er fähig ist. Sei es körperlich an seine Grenzen zu gelangen, mit Hilfe von Extremsportarten oder eben geistig mit dem Versuch sich selbst nachzuahmen. Aber auch der Drang sich selbst eine Arbeitserleichterung zu schaffen, spielt seit Anbeginn der Menschheit eine große Rolle. Auf dem physischen Gebiet hat der Mensch hier schon sehr viel erreicht, zur geistigen Unterstützung stehen ihm immer noch nur bessere "Taschenrechner" zur Verfügung. Alle Entscheidungen und die damit verbundene Verantwortung muß er selbst treffen. Aber auch durch intensives Forschen wird sich dieses Manko nur sehr langsam ausräumen lassen, was ich eigentlich für sehr beruhigend halte, da der Mensch solange er sich ein Ziel gesetzt hat zur Höchstform aufläuft und immer wieder für positive Überraschungen gut ist. Nichts wäre langweiliger, als eine perfekte Welt, in der wir den ganzen Tag nichts zu tun hätten, da der Mensch nur mit seinen Herausforderungen wachsen kann. Und in einer gewissen Weise ist die Künstliche Intelligenz die größte Herausforderung unserer Zeit.
Natürlich wird es auch immer Kritiker geben, aber auch das sehe ich eher positiv, denn ohne einen Gegenstrom, den man überwinden muß, kann sich nichts vernünftiges entwickeln.
Nicht zuletzt jedoch wird die Antwort auf die Frage nach der Möglichkeit von Künstlicher Intelligenz davon abhängen, was wir unter Geist verstehen, was wir als intelligentes Verhalten bezeichnen und was Bewußtsein ausmacht. Es zeigt sich aber, daß das Thema eine unüberschaubare Vielfalt aufweist, die es erforderlich macht, sich auf einige Aspekte zu beschränken und natürlich vieles unerwähnt zu lassen.