
Foto: sdecoret/Fotolia
Denkraum Technik
Mythen zur Künstlichen Intelligenz (KI)
Künstliche Intelligenz (KI) polarisiert. Die Vorstellungen über KI, die Erwartungen an sie und die Befürchtungen sind vielfältig. Welche Mythen sind wahr? Welche sind falsch? [1]

Foto: sdecoret/Fotolia
Mythos I
Künstliche Intelligenz vernichtet Arbeitsplätze, weil kognitive Systeme viele Aufgaben genauer, schneller und fehlerfrei ausführen können. Wahr oder falsch? [2]
Antwort
Teilweise. KI-Systeme werden in der Arbeitswelt immer wichtiger. Für menschliche Expert*innen ist es beispielsweise eine große Herausforderung, komplizierte Logistikketten zu planen. Bei dieser Aufgabe ist die KI mittlerweile sehr gut. Es wird zu Umwälzungen auf dem Arbeitsmarkt kommen: Viele Berufe werden in Zukunft durch KI ergänzt, andere Berufe fallen möglicherweise weg. Gleichzeitig wird die KI neue Arbeitsplätze entstehen lassen, weil Spezialist*innen gebraucht werden, die KI erstellen, bedienen und optimieren.
Mythos II
Künstliche Intelligenz entzieht sich der Kontrolle durch den Menschen und kann im schlimmsten Fall gegen den Willen ihrer Entwickler*innen agieren. Wahr oder falsch? [3]
Antwort
Falsch. KI kann aus riesigen Datenmengen Muster und Zusammenhänge erkennen und so zu unerwarteten Ergebnissen kommen. Schwache KI, die es heute schon gibt, hat jedoch keine eigenen Gedanken und verfolgt keine eigenen Ziele. Sie kann sich nicht außerhalb der menschlichen Kontrolle weiter entwickeln. Das ist Science-Fiction. Falls das überhaupt möglich werden sollte, wird es bis dahin noch sehr lange dauern.
Mythos III
KI kann kreativ sein. Die Pop-Hits und Romane der Zukunft werden wohl von Maschinen geschrieben. Wahr oder falsch? [4]
Antwort
Wahr. Programme sind heute in der Lage, Lieder und Wiederholungen zu verstehen sowie bekannte Inhalte neu zu kombinieren. KI kann Inhalt und Stil eines Bildes neu zusammenfügen, doch sie kann heute keine Kunst mit einer bewussten Aussage schaffen. Es wird also in absehbarer Zeit keine „richtige Kunst“ von einer KI geben. Aber Komponist*innen von „Fahrstuhlmusik“ sollten sich Gedanken machen.
Mythos IV
Einen medizinischen Tricorder, wie er in der Science-Fiction-Serie „Star Trek“ die Lebensfunktionen von Menschen misst, wird es nie geben. Wahr oder falsch? [5]
Antwort
Falsch. Mobile Analyse-Geräte wie aus der Science-Fiction-Serie sind in Zukunft vorstellbar. Sensoren sind die Schlüsseltechnologie dafür, und da hat sich sehr viel getan. Es gibt beispielsweise heute Sensoren, die Atemluft analysieren. Die Fortschritte im Bereich der Sensorik sind groß, außerdem werden die Sensoren immer kleiner. KI hilft bei der effizienten Auswertung der Daten, die die Sensoren sammeln. Bereits heute können Analyse-Geräte Verletzungen unter der Haut erkennen.
Mythos V
Selbst den Schöpfer*innen von KI-Algorithmen ist oft nicht mehr klar, weshalb genau die Programme welchen Lösungsweg gewählt oder welche Entscheidung getroffen hat. Wahr oder falsch? [6]
Antwort
Bis vor einigen Jahren: wahr. Die Tätigkeit komplexer KI-Systeme wie etwa neuronale Netze war nicht nachvollziehbar, man konnte diesen Systemen bei der Lösungsfindung nicht zuschauen. Sie waren „Black Boxes". In der Medizin und beim autonomen Fahren ist allerdings nicht nur die Lösung wichtig, sondern auch der Weg dahin. Forscher*innen können inzwischen Blicke in die „Black Box" werfen und erfahren, auf welcher Grundlage die KI eine Entscheidung getroffen hat. Das ist ein erster Schritt zu einer transparenten KI.
Mythos VI
Eine KI wird ihre Entscheidungen immer im Sinne ihrer Programmierer*innen oder ihrer Auftraggeber*innen treffen. Wahr oder falsch? [7]
Antwort
Falsch. KI wird mit Datensätzen trainiert. Wer den Algorithmus versteht, kann das Lernen beeinflussen. 2016 hat Microsoft einen Chatbot namens Tay ins Netz gestellt, damit er von jungen Menschen lernt, wie sie kommunizieren. User*innen haben herausgefunden, wie die KI vorgeht, und rassistische Inhalte gepostet. Der Bot hat das aufgenommen und nach einiger Zeit selbst rassistische Inhalte gepostet. Nach 16 Stunden hat Microsoft den Bot vom Netz genommen, um weiteren Schaden zu verhindern. Das ist ein Beispiel, dass eine KI nicht immer im Sinne der Schöpfer*innen handelt.
Mythos VII
Wo es um Leben und Tod geht, hat KI nichts zu suchen. Sie sollte niemals Entscheidungen fällen, die die Gesundheit betreffen. Wahr oder falsch? [8]
Antwort
Teilweise. Wo schnell richtige Entscheidungen getroffen werden müssen, kann die KI wertvolle Hilfe leisten. Gerade wenn es schnell gehen muss, macht der Mensch Fehler. Eine KI kann darauf hinweisen, dass etwas übersehen wurde, oder Informationen nach Wichtigkeit sortieren. So kann die KI die Arbeit von Ärzt*innen unterstützen und vereinfachen. Sie ist dabei ein Werkzeug unter vielen. Aber die KI ist nur hilfreich, wenn die Anwender*innen und die Betroffenen – etwa Ärzt*innen und Patient*innen – geschult sind, damit umzugehen.
Mythos IIX
In der Medizin stellt KI heute schon Diagnosen und trifft eigenständig Entscheidungen, die Menschen betreffen. Wahr oder falsch? [10]
Antwort
Falsch. KI spart Zeit, indem sie Routinearbeiten übernimmt. So kann die KI Bilddaten sichten und auf Auffälligkeiten hinweisen. Es gibt Systeme, die wahrscheinliche und weniger wahrscheinliche Diagnosen vorschlagen. Aber diese Vorschläge werden immer von Ärzt*innen geprüft, sie stellen die endgültige Diagnose. Nur Mediziner*innen können den allgemeinen Gesundheitszustand von Patient*innen und viele andere Faktoren mitberücksichtigen. Das kann die KI heute nicht.
Mythos IX
KI schafft künstliche Gehirne. Wahr oder falsch? [11]
Antwort
Falsch. Die Forscher*innen und Entwickler*innen bauen keine künstlichen Gehirne oder künstliche Menschen. Genauso wenig wie ein Flugzeugbauer künstliche Vögel baut, sondern ein Gerät, das fliegt. KI befähigt Maschinen, einfache kognitive Aufgaben zu erledigen. KI-Systeme sind bereits fester Bestandteil unseres Alltags. Unsere Handys können Sprache verstehen und simultan übersetzen, Geräte können Autos steuern. Aber auch eine sehr effiziente KI ist keine intelligente Maschine.
Was ist das?
?
Kognitive Systeme
Kognitive Systeme sind mit künstlicher Intelligenz ausgestattet und lernen auf der Basis von Deep Learning, einer Form des maschinellen Lernens, und von neuronalen Netzen. Sie können aus Fehlern und Erfolgen lernen, Muster erkennen und sich weiterentwickeln. Moderne kognitive Systeme interagieren mit dem Menschen.(https://industrie-wegweiser.de/kognitive-systeme-in-industrie-und-gesellschaft/)
?
Schwache Künstliche Intelligenz (KI)
Schwache künstliche Intelligenz löst konkrete und begrenzte Probleme mit Mitteln der Mathematik und Informatik, die speziell für die jeweilige Anforderung entwickelt und optimiert werden. Schwache KI hat die Fähigkeit zu lernen sowie mit Unsicherheit und Wahrscheinlichkeiten umzugehen. (https://jaai.de/starke-ki-schwache-ki-was-kann-kuenstliche-intelligenz-261/)
?
Sensor
Ein Sensor ist ein technisches Bauteil, das physikalische oder chemische Eigenschaften wie Temperatur, Feuchtigkeit und Druck sowie die stoffliche Beschaffenheit seiner Umgebung ermittelt. Diese Größen werden mittels physikalischer oder chemischer Effekte erfasst und in elektrische Signale umgeformt.
?
Neuronales Netz
Ein Künstliches Neuronales Netz (KNN) ist dem Aufbau des biologischen Gehirns mit seinen Nervenzellen nachempfunden. Das KNN besteht aus miteinander verbundenen Neuronen, also Einheiten zur Informationsverarbeitung. Durch die Anordnung und Verknüpfung der Neuronen lassen sich Aufgaben der Statistik, der Technik und der Wirtschaftswissenschaften computerbasiert lösen.
?
Algorithmus
Ein Algorithmus ist eine definierte Vorgehensweise, wie eine Aufgabe Schritt für Schritt gelöst werden kann. In Form von Computerprogrammen und elektronischen Schaltkreisen steuern Algorithmen Computer und andere Maschinen. (https://www.dev-insider.de/was-ist-ein-algorithmus-a-788116/)
?
Chatbot
Der Begriff Chatbot setzt sich aus den Wörtern „Chat“ und „Robot“ zusammen. Das Online-Dialogsystem nimmt Anfragen als Text oder mithilfe von Spracherkennung entgegen und antwortet, ohne dass ein Mensch direkt daran beteiligt ist. (https://industrie-wegweiser.de/kognitive-systeme-in-industrie-und-gesellschaft/)
Quellenangaben
[1] Alle Mythen und Antworten sind dem youtube-Video des Fraunhofer-Instituts entnommen: https://www.youtube.com/watch?v=C7cbzNAM6V0
[2] Quelle: Prof. Dr. Christian Bauckhage, Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, Youtube-Video ab 00:06
[3] Quelle: Prof. Dr. Christian Bauckhage, Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, Youtube-Video ab 01:15
[4] Quelle: Dr. Stefan Rüping, Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, Youtube-Video ab 02:49
[5] Dr. Hans Meine, Fraunhofer-Institut für Bildgeschützte Medizin MEVIS, Youtube-Video ab 04:51
[6] Dr. Wojciech Samek, Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut HHI, Youtube-Video ab 07:11
[7] Sebastian Roland Lapuschkin, Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut HHI, Youtube-Video ab 12:56
[8] Dr. Markus Wenzel, Fraunhofer-Institut für Bildgestützte Medizin MEVIS, Youtube-Video ab 14:14
[9] Dr. Markus Wenzel, Fraunhofer-Institut für Bildgestützte Medizin MEVIS, Youtube-Video ab 15:41
[10] Dr. Hans Meine, Fraunhofer-Institut für Bildgestützte Medizin MEVIS, Youtube-Video ab 17:13
[11] Dr. Hans Meine, Fraunhofer-Institut für Bildgeschützte Medizin MEVIS, Youtube-Video ab 18:26