Künstliche Intelligenz – wie weit wollen wir gehen?

Künstliche Intelligenz – wie weit wollen wir gehen?

Künstliche Intelligenz ist seit Jahren ein sehr interessantes Forschungsgebiet. Und wir sehen heute auch schon Ergebnisse, wie z. B. das autonome Fahren. Doch mit den ersten realen Anwendungen werden auch die Risiken deutlicher. Künstliche Intelligenz hat kein Gewissen und ist letztendlich "nur" ein System und damit eine neue Angriffsfläche für Hacker. Oder?

Man muss erst über den großen Parkplatz laufen, dann durch die Drehtüre und rechts am Empfang vorbei mit der Rolltreppe in den ersten Stock fahren. Mit einer 90° Drehung nach rechts folgt man der Ausstellung im Uhrzeigersinn. Erreicht man die Enigma und andere mechanische Verschlüsselungsmaschinen – oder ist gar schon bei der wohl größten Sammlung von Taschenrechnern angelangt – dann ist man vorbei gelaufen. Kein Wunder, denn das Heinz Nixdorf MuseumsForum in Paderborn hat den "ST" leider ein bisschen im Eck versteckt – die weltweit erste Maschine mit KI, also künstlicher Intelligenz.

Was beim legendären Atari ST für die inneren Werte in bit, nämlich die Breite des Datenbusses ("Sixteen") und die interne Verarbeitung im Prozessor ("Thirtytwo") steht, bezeichnet hier das, was man als Mensch tatsächlich sieht. Das "ST" steht für den "SchachTürken": Eine große Holzkiste mit einer schachspielenden Puppe in türkischen Gewändern. Das Original, 1769 erbaut, gewann Partien gegen die damals besten Schachspieler und ebenso gegen Österreichs Kaiser Franz Joseph sowie Friedrich den Großen. Was damals als Jahrmarktsensation durch die Lande zog und großes Aufsehen erregte, war jedoch niemals das, was es darstellte. Die vermeintliche künstliche Intelligenz der Holzmaschine war lediglich die hohe Intelligenz der Tochter des Erbauers, die versteckt im Bauch der Maschine im wahrsten Sinne des Wortes die Fäden zog.

Von Wenn-Dann-Entscheidungen zur ersten künstlichen Intelligenz

Zu Zeiten des Atari ST, also ab Mitte der Neunziger Jahre, begann die Annäherung an wirklich künstliche Intelligenz. Einige Computerzeitschriften druckten abtippbaren Programmcode, sogenannte Listings, die einfache Spiele starteten: Sie konnten gegen Menschen spielen – und manchmal sogar gewinnen. Tic Tac Toe, Mühle oder MasterMind waren das. Jedoch ging es hier, wenn man ehrlich ist, eigentlich nur um IF ... THEN ... ELSE-Entscheidungen. Intelligenz ist das noch lange nicht.

Mit der Schachsimulation FRITZ schien der Computer erstmals "denken" zu können

Mit der Schachsimulation FRITZ schien dann erstmals auch der Computer "denken" zu können, schließlich zählt Schach zu den komplexesten Spielen überhaupt. Es gibt etwa 10140 mögliche Stellungen, was wohl nur vom asiatischen Brettspiel Go mit 1,7*10172 Stellungen übertroffen wird. Das sind in jedem Fall mehr Stellungen, als es Atome im Universum gibt (1078). Die FRITZ-Schachengine kann sogar so etwas wie eine Strategie entwickeln, was einer reinen Wenn-Dann-Entscheidung um einiges voraus ist.

KI: Die Erkennung von Mustern – ohne Gewissen

Der Begriff der "Künstlichen Intelligenz" ist nicht klar definiert. Grob verallgemeinert geht es immer um die Erkennung von Mustern, deren Analyse und Vorhersage. Aber auch wissensbasierte Systeme, die Fragen beantworten können, zählen dazu. Die heute schon hohe "Intelligenz" und Trefferquote bei Vorhersagen von KI-Systemen basiert auf den unzähligen formalisierten Daten, die als Grundlage dienen. Big Data ist daher fast schon Grundnahrung von Artificial Intelligence.

Könnten Sie einem selbstfahrenden Auto wirklich blind vertrauen?

Nehmen wir ein autonom fahrendes Fahrzeug. Es wird gespeist von hunderten Sensoren, Kamera-, Radar, Infrarot und Laserdaten. Die Autos sind schon so "klug", dass sie uns unfallfrei von A nach B bringen können. Mit Überholen, Einscheren und auch dem Beachten von Verkehrszeichen. Das funktioniert – zumindest auf den Autobahnen – schon sehr gut. Dort fahren normalerweise ja auch alle in die gleiche Richtung. Und es springt auch nicht plötzlich ein Schulkind vor das Fahrzeug. Aber ist das Intelligenz? Gehört da nicht auch die Möglichkeit von Empathie dazu? Und auch ein "Gewissen", das ethische Gesichtspunkte moralisch analysiert und nicht nur anhand von Mustern. Immer wieder gerne zitiert wird die Frage, ob ein selbstfahrendes Auto eher die Oma oder das Schulkind über den Haufen fahren soll, wenn ein Unfall unvermeidbar, aber immer noch die Entscheidung rechts oder links geklärt werden muss.

Aber gerade weil ein Gewissen fehlt, ist künstliche Intelligenz ein interessantes Forschungsgebiet der Militärs. Kein Gewissen heißt keine Befehlsverweigerung und wie weit die Forschung in diesem Gebiet ist, wird – wen wundert's – wohl kaum in der Zeitung stehen.

Sind wir Menschen der künstlichen Intelligenz gewachsen?

Was also, wenn intelligente Roboter den Krieg an der Frontlinie führen und Ziele selbst auswählen und angreifen können? Werden sie zwischen Soldaten und Zivilisten unterscheiden (können)? Halten sie sich an die Genfer Konvention? Die EU regt tatsächlich einen Ethik-Kodex für künstliche Systeme an, den nicht EU-Staaten, andere hochmilitarisierte Länder ebenso wie Schurkenstaaten aber wohl kaum einhalten werden. Aber selbst wenn Roboter-Soldaten ein ethisches Verhaltensmuster einprogrammiert wird, so besteht immer noch die Gefahr, dass Cyber-Truppen des Gegners die Roboter "umdrehen", das ethische Verhalten löschen und sie auf uns selbst losgehen.

Der ehemalige Hacker und heutige IT-Sicherheitsberater Adrian Janotta schreibt in seinem Blog sogar, dass es einen Not-Aus-Knopf in der Firmware geben muss. Und weil die ja auch angreifbar und der Not-Aus-Knopf somit gelöscht werden kann, bleibt uns seiner Meinung nach nur die Möglichkeit, all diese Geräte zu hacken, wenn sich die künstliche Intelligenz selbständig macht oder sich unsere Maschinen gegen uns wenden.

Wir dürfen unsere Systeme also nicht zu klug machen. Wenn sie nämlich das Muster erkennen, wie ein Hackerangriff aussieht und dieser dazu führt, dass KI-Systeme abgeschaltet werden, werden sich diese KI-Systeme gegen Hackerangriffe schützen – mit weiterer künstlicher Intelligenz. Wohin das führen kann, hat man schon in der Fiktion von "2001 – Odysee im Weltraum" gesehen, als der Bordcomputer HAL sich gegen seine Abschaltung wehrte. HAL steht übrigens sinnbildlich für IBM, man muss nur jeweils einen Buchstaben im Alphabet zurückgehen.

Das, was HAL im Film tat, ist jedoch längst schon keine Fiktion mehr. Bei der diesjährigen Cyber Grand Challenge, einem Hacker-Wettbewerb für KI-gesteuerte Computerprogramme, beobachtete ein System einen Angriff auf ein anderes System. John Launchbury, Chef des Information Innovation Office der DARPA erzählte daraufhin bei einem Vortrag: "Ein drittes System hat das beobachtet, den Angriff reverse engineered, den Bug gefunden, einen Patch geschrieben und bei sich selbst installiert." Dies alles geschah in einem Bruchteil der Zeit, die Sie benötigen, um die 6.000m2 des größten Computermuseums der Welt abzulaufen, in dem auch der Schachtürke steht. Das autonome Rechnersystem benötigte für Analyse, Patch und Selbstheilung gerade mal 20 Minuten.

Unser Gastautor

Tobias Schrödel ist bekannt durch seine Fernsehbeiträge zu Stern TV und seine Live-Vorträge über die dunkle Seite der Computertechnologie. Auf der Bühne und in seinen Büchern erklärt er technische Systemlücken und Zusammenhänge für jeden verständlich und lässt dabei auch den Spaß nicht zu kurz kommen. In seinem Blog schreibt er regelmäßig über neue Technik-Themen: Verständlich und stets mit einem Augenzwinkern.

 

Bildquellen: © Sergey, peshkov, chombosan - Fotolia.com


Lesen Sie auch

Diskutieren Sie mit

Sie können diesen Artikel sofort ohne Registrierung als Gast-User kommentieren.

Registrieren Sie sich jetzt! Mit einem User Account genießen Sie Vorteile:
Ihr Kommentar wird sofort im genublog veröffentlicht und Sie werden über Reaktionen auf Ihre Kommentare informiert.

Bereits registrierte User gelangen hier zum Login.



Registrieren Sie sich jetzt! Mit einem User Account genießen Sie Vorteile:
Ihr Kommentar wird sofort im genublog veröffentlicht und Sie werden über Reaktionen auf Ihre Kommentare informiert.

Bereits registrierte User gelangen hier zum Login.