Können Maschinen ein Bewusstsein entwickeln?

Forschung im Grenz- und Übergangsbereich der wissenschaftlichen Disziplinen

Was ist dran an der Idee, dass Künstliche Intelligenzen ein eigenes Bewusstsein erlangen können? Forschergruppen weltweit arbeiten aktiv darauf hin, „bewusste“ Maschinen zu bauen. Andere sind überzeugt davon, dass es niemals bewusste KI geben wird, auch wenn es uns so erscheinen könnte.

Im Projekt "KI-Bewusstsein" am Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des Karlsruher Instituts für Technologie (KIT) untersuchen und kartieren wir, welche Gruppen wissenschaftlich, wirtschaftlich und weltanschaulich zu aufsteigendem Bewusstsein in der KI arbeiten. Wir fragen danach, welche Motive, Intentionen und Verankerungen jeweils dahinterstecken und welche Zukunftsszenarien angedacht sind oder auch in Zweifel gezogen werden. Dabei klären wir technische Entwürfe ab und hinterfragen Mythen und Narrative, die in die Welt gesetzt werden und bestimmte Zuschreibungen auslösen – etwa auch in den Tagesmedien.

Vorgehensweise und Methodik im Foresight-Projekt

Das Vorgehen im Technologievorausschau-Projekt „KI-Bewusstsein“ basiert auf einem Mixed-Methods-Ansatz, in dem zu Beginn eine systematische Untersuchung laufender Diskurse in Spezialdisziplinen, Experteninterviews mit nationalen und internationalen Akteuren sowie eine bibliometrischen Medienanalyse durchgeführt und die Ergebnisse aufeinander bezogen und ausgewertet werden.

Anschließend werden Vertreterinnen und Vertreter verschiedener Positionen in einem dezentral moderierten Dialog zueinander gebracht: Hier werden Einschätzungen, Haltungen und Streitfragen zum Bewusstsein in der KI geklärt, bearbeitet und schließlich in einem gemeinsamen Symposium (Präsenzveranstaltung) zusammengeführt. Ein empirisches Monitoring tagesaktueller Berichterstattungen und Mythen zu KI-Bewusstsein begleitet das Vorhaben. Dabei wird aus dem Projekt heraus zu den Medienberichten Stellung aus wissenschaftlicher Sicht bezogen und damit eine wichtige Orientierung gegeben.

Politische Relevanz – Wie sollten wir Künstliche Intelligenz gestalten?

Aus dem Vorhaben resultiert eine fundierte und verständliche Orientierung zu „KI und Bewusstsein“. Hiermit sollen irreführende Vorstellungen und Narrative entmystifiziert und Möglichkeiten zur Gestaltung einer lebenswerten digitalen Zukunft aufgezeigt werden, in der KI einen funktionalen Charakter zugewiesen bekommt. Darüber hinaus wird der Foresight-Aufgabe zugearbeitet, für den Fall sich verdichtender Hinweise auf eine tatsächlich entstehende bewusste KI entsprechend zu reagieren und Maßnahmen im politischen Raum anzuregen.

Praktische Relevanz – KI erkennen, verstehen und gezielt einsetzen

Praktische Relevanz und gesellschaftlicher Nutzen liegen darin, die Kompetenz von Bürgerinnen und Bürgern auf allen Ebenen zu unterstützen, simuliertes Bewusstsein erkennen und zurückweisen zu können. Dies gilt auch dann, wenn es authentisch vermittelt und instrumentalisiert wird, etwa bei autonomen Robotern, vernetzten KI-Gadgets oder menschlich anmutenden digitalen sprachfähigen Assistenten. Statt einer weiteren Mystifizierung sollen KI-Bewusstseinsszenarien erkennbar und durchschaubar werden.

Partizipative Elemente, Bürgerdialog-Formate und Ergebnis-Transfer

Wichtige partizipative Elemente sind die aktive Beteiligung disziplinärer Expertinnen und Experten an der Bearbeitung der Forschungsfragen durch Hintergrundgespräche, interdisziplinäre Austauschformate und moderierte fachübergreifende Diskurse. Forschungsergebnisse werden in Dialogveranstaltungen in Schulen, Hochschulen sowie im bürgerschaftlichen Bereich in nationalen wie auch in internationalen Kontexten bearbeitet. Zur Stärkung des Transfers schon während des Projektverlaufs wird eng mit Medienpartnern kooperiert.

Podcast

#13 Das große Staffelfinale – Diskussionsrunde zu bewusster KI. Schüler*innen im Gespräch mit Expert*innen.

(16.11.2021) Details und weitere Podcasts

#12 Roboter werden bald ein Bewusstsein besitzen. Im Gespräch mit Junichi Takeno.

(9.11.2021) Details und weitere Podcasts

Projektteam


Prof. Dr. Karsten Wendland
Projektleitung KI-Bewusstsein
Kontakt


Pascal Vetter, B.Eng., M.Sc.
Wissenschaftlicher Mitarbeiter
Kontakt


Nadine Lahn M.A.
Wissenschaftliche Hilfskraft

Ehemalige


Yannick Dichiser, B.Eng.
Bachelorand


Leon Küstermann, B.Sc.
Wissenschaftliche Hilfskraft


Joshua Enrico Link, B.Sc.
Masterand


Miao Yo, B.Sc.
Wissenschaftliche Hilfskraft


Christian Wadephul, M.A.
Wissenschaftlicher Mitarbeiter

Interdisziplinärer assoziierter Reflexionskreis

Prof. Dr. Dr. Thomas Fuchs, Universität Heidelberg
Prof. Dr. Hyeongjoo Kim,
Chung-Ang University, Seoul, KOR
Jürgen Manner, 
Karlsruhe
Prof. Dr. Riccardo Manzotti,
IULM Universität Mailand, IT
Dr. Gernot Meier,
Evangelische Landeskirche in Baden, Karlsruhe
Dipl.-Phys. Michael Mörike, Integrata Stiftung, Tübingen
Prof. Munish Sharma, Marathwada Institute of Technology, Aurangabad, IN
Marisa Tschopp, scip AG, Zürich, CH
Prof. Dr. Ralf Otte, Technische Hochschule Ulm
Dr. Siegmar Otto, Universität Hohenheim