Podcasts

„Selbstbewusste KI“ – unser Podcast zum Projekt

Kann Künstliche Intelligenz ein Bewusstsein entwickeln? Wie könnte das überhaupt funktionieren, und was würde das für uns bedeuten? 12 Folgen, 12 Gespräche mit Expertinnen und Experten und eine gemeinsame Abschlussrunde.

Die Gespräche in unserem Wissenschaftspodcast führten wir mit: Andreas Bischof, Antonio Chella, Andreas Eschbach. Thomas Fuchs, Christof Koch, Janina Loh, Thomas Metzinger, Ralf Otte, Frauke Rostalski, Junichi Takeno, Christian Vater und Joachim Weinhardt.

Große Unterstützung in den einzelnen Folgen erhielten wir durch ambitionierte Fragensteller: Urs Andelfinger, Jascha Bareis, Gerard Blommestijn, Murad Futehally, Armin Grunwald, Jennifer Heier, Hyeongjoo Kim, Jürgen Manner, Michael Mörike, Munish Sharma und Hinrich Thölken.

Weitere Quellen, um die Podcast-Folgen anzuhören:

#11 Die meisten SF-Romane sind als Warnung gedacht, nicht als Gebrauchsanleitung. Im Gespräch mit Andreas Eschbach.

(24.11.2020) Feedback

Für den Autor Andreas Eschbach sind Menschen ohne Technologie gar nicht denkbar. Allerdings wird die Freiheit des Individuums durch Technologie sowohl ermöglicht wie auch bedroht, was er in seinen Erzählungen in unterschiedlichen Genres aufgreift und aufbereitet. Was wir heute zu „Bewusster KI“ diskutieren, ist in seinem Metier ein Grundmotiv mit langer Tradition. Er kann erzählen, wie mediale Vermittlung Computer und Roboter schon immer vermenschlicht hat, und weiß aus eigener Erfahrung, dass Programmcodes stets auch etwas über diejenigen spiegeln, die sie geschrieben haben.

Fragensteller in dieser Folge:
Dr. Hinrich Thölken, Botschafter und Sonderbeauftragter für Digitalisierung und digitale Transformation im Auswärtigen Amt

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Kayla Zoller

Licence: CC-BY, DOI: https://doi.org/10.5445/IR/1000126701

In dieser Folge erwähnte Quellen:

Isaac Asimov: Alle Robotergeschichten, Bastei Lübbe 2007.

Artikel über den „Astro Boy“ bei SRF.

Andreas Eschbach: NSA, Bastei Lübbe 2020.

Andreas Eschbach Out-Trilogie: Black Out 2010, Hide Out 2011, Time Out 2012, Arena Verlag.

Das von DeepMind entwickelte Computerprogramm AlphaGo, welches das Brettspiel Go spielt.

Homepage von Andreas Eschbach:
http://www.andreaseschbach.de/

#10 Die größte Hoffnung wäre, die Dystopien zu verhindern. Im Gespräch mit Joachim Weinhardt.

(17.11.2020) Feedback

Der Theologe Prof. Dr. Joachim Weinhardt, PH Karlsruhe, ordnet Fragen zu Künstlicher Intelligenz und Bewusstsein auch in naturwissenschaftliche und in ethische Kontexte ein. Aus biblischer Perspektive sei es nicht vorgesehen, dass der Mensch andere Geschöpfe erschafft. Grundsätzlich hält er es aber für möglich, dass Bewusstsein auch auf anderen materiellen Voraussetzungen basieren könnte als bei uns Menschen. Wie aber könnte man garantieren, dass ein künstlich geschaffenes Bewusstsein kein unglückliches Bewusstsein würde? Perspektivisch sollte man bereits Vorstufen von Entwicklungen verhindern, die möglicherweise in einem Take-Off enden könnten.

Fragensteller in dieser Folge:
Prof. Dr. Urs Andelfinger, Hochschule Darmstadt

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Annalena Hörth

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000126231

In dieser Folge erwähnte Quellen:

Joachim Weinhardt: Gott und die Welt. Schöpfungslehre und Eschatologie, Kohlhammer 2019.

Artikel bei Zeit online über die vom Robotikexperte Anthony Levandowski ins Leben gerufene KI-Kirche „Way of the future“ (vom 18.11.2017).

Artikel von Alan M. Turing in „Mind“: „Computing Machinery and Intelligence“.

Prof. Dr. Joachim Weinhardt auf der Website der Pädagogischen Hochschule Karlsruhe:
https://www.ph-karlsruhe.de/personen/detail/Joachim_Weinhardt_945

#09 Dass Roboter uns Emotionen vorgaukeln kann sehr wichtig sein. Im Gespräch mit Janina Loh.

(10.11.2020) Feedback

Die Philosophin Dr. Janina Loh an der Universität Wien untersucht inklusive Denkansätze, an deren Ende es nicht mehr so wichtig ist, ob sich jemand als Mensch oder als Maschine bezeichnet. Die Autorin des suhrkamp-Buchs „Roboterethik“ geht emotionalen Bindungen zwischen Mensch und Roboter in unterschiedlichsten Anwendungsfeldern auf die Spur, sowie möglichen Verhältnissen, die zueinander entstehen können. Als kritische Posthumanistin regt sie an, auch bei der Herstellung von Robotern auf Diversität zu achten und vielfältige Roboter herzustellen.
Fragensteller in dieser Folge:
Jascha Bareis, M.A., Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Matthias Gerz

Licence: CC-BY, DOI: https://doi.org/10.5445/IR/1000125862

In dieser Folge erwähnte Quellen:

Janina Loh: Roboterethik. Eine Einführung, suhrkamp taschenbuch 2019.

Artikel bei Zeit.de über die Roboterforscherin Kate Darling vom MIT und das Beispiel von Mienenrobotern.

Thomas Nagel: Aufsatz "What is it like to be a bat?" (Wie ist es, eine Fledermaus zu sein?), 1974.

Artikel bei ze.tt über eine Berlinerin, die eine Beziehung zu einem Modellflugzeug führt.

Janina Loh auf der Homepage der Universität Wien:
https://ufind.univie.ac.at/de/person.html?id=61692

 

#08 Wir müssen Maschinen bauen, die Gefühle haben. Im Gespräch mit Antonio Chella.

(3.11.2020) Feedback

Für den Robotiker Prof. Dr. Antonio Chella, Leiter des Robotic Labs und des Forschungszentrums für Wissenstechnologien an der Universität von Palermo, geht Bewusstsein deutlich über das Gehirn hinaus. Für den Herausgeber des Journal of Artificial Intelligence and Consciousness kann nur eine empathische Maschine auch eine ethische Maschine sein. Deshalb sei es erstrebenswert, Maschinen mit Gefühlen zu bauen, und aus deren Verhalten schließlich auch mehr über unser eigenes phänomenales Bewusstsein erfahren zu können. Viele KI-Leute haben seiner Beobachtung nach kein Interesse an philosophischen Debatten, weswegen er versucht, praktische Brücken zwischen den Disziplinen zu bauen und interdisziplinäre Diskurse zu unterstützen.

Fragensteller in dieser Folge:
Prof. Dr. Armin Grunwald, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)

Autor: Karsten Wendland
Redaktion und Produktion: Annalena Hörth
Aufnahmeleitung: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125589

In dieser Folge erwähnte Quellen:

Antonio Chella: Journal of Artificial Intelligence and Consciousness.

Zitat von Woody Allen: “You rely too much on brain. The brain is the most overrated organ.“

Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“), 1986.

Artikel bei Zeit.de über den rassistischen Chat-Bot Tay (vom 24.03.2020).

Das Science-Fiction-Drama Ex Machina von Alex Garland, 2015.

Der Science-Fiction-Film 2001: Odyssee im Weltraum (Originaltitel: 2001: A Space Odyssey) von Stanley Kubrick, 1968.

Der Schwarzweißfilm Frankenstein von Mary Shelley, 1931.

Der Stummfilm Der Golem von Paul Wegener und Heinrich Galeen, 1914.

Antonio Chella auf der Homepage der University of Palermo:
https://www.icar.cnr.it/en/associati-di-ricerca/esterno-1/

#07 Bewusstsein ist eine kausale Kraft und kein cleverer Programmier-Hack. Im Gespräch mit Christof Koch.

(27.10.2020) Feedback

Für den Neuwissenschaftler Prof. Dr. Christoph Koch, Chefwissenschaftler am Allen Institute für Gehirnforschung in Seattle, gibt es eine sehr enge Verbindung zwischen Gehirn und Bewusstsein. Er hält es nicht für möglich, die Strukturen des menschlichen Gehirns digital zu simulieren, wohl aber, dass man es irgendwann aus technischen Materialien wird nachbauen können. Bewusstsein sind für ihn jegliche Erfahrungen, Gefühle und Empfindungen, die letztlich immer mit dem Gehirn zu tun haben. So lieben wir auch nicht mit dem Herzen, sondern in Wirklichkeit mit dem Kopf.

Fragensteller in dieser Folge:
Prof. Dr.-Ing. Ralf Otte, Technische Hochschule Ulm

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Tobias Windmüller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125298

In dieser Folge erwähnte Quellen:

Christof Koch: The feeling of life itself. Why consciousness is widespread but can’t be computed, MIT Press 2020.

Aristoteles: Über die Seele. De Anima, Felix Meiner Verlag Hamburg 2017.

Artikel über Floatation tanks bei Faz.net (vom 17.04.2017).

Informationen über die Integrated Information Theory.

Begriffserklärungen zu „CPU“ und „ALU“ bei ITWissen.info.

Homepage von Christof Koch:
https://christofkoch.com/

Christof Koch auf der Homepgae des Allen Institute for Brain Science Seattle:
https://alleninstitute.org/what-we-do/brain-science/about/team/staff-profiles/christof-koch/

 

 

#06 Wir müssen auf Weitsicht fahren und fragen: Was wäre, wenn? Im Gespräch mit Frauke Rostalski.

(20.10.2020) Feedback

Für die Juristin Prof. Dr. Dr. Frauke Rostalski, Universität Köln und Mitglied des Deutschen Ethikrats, kann man KI-Robotern weder Schuld noch Verantwortung zuschreiben – zumindest nicht nach den heutigen Maßstäben und technischen Realisierungen. KI-Systeme können nur Teile unseres Denkens abbilden, und umgekehrt funktioniert der Mensch nicht nach Algorithmen. Allerdings wissen wir nicht, was noch kommt, und sollten verschiedene Zukünfte rechtzeitig vorausdenken. Zukünftige Gesellschaften etwa mit e-Personen sind schon heute debattierte Szenarien.

Fragensteller in dieser Folge:
Dr. Gerard Blommestijn, Physiker und Philosoph

Autor: Karsten Wendland
Redaktion: Kayla Zoller
Aufnahmeleitung vor Ort im schönen Köln: Karsten Wendland
Produktion: Kayla Zoller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124841

In dieser Folge erwähnte Quellen:

Frauke Rostalski ist Mitglied im Deutschen Ethikrat.

Artikel auf Welt.de: Ingenieur „heiratet“ seine selbstgebaute Robo-Freundin (vom 07.04.2017).

Zitat des britischen Evolutionsbiologen Clinton Richard Dawkins:
“We are survival machines – robot vehicles blindly programmed to preserve the selfish molecules known as genes. This is a truth which still fills me with astonishment.” (Aus seinem Buch „The Selfish Gene“, Oxford University Press: 1976).

Artikel über das Libet-Experiment bei Planet Wissen.

Der hippokratische Eid.

Das Szenario des schwarzen Schwans nach dem Publizisten und Börsenhändler Nassim Nicholas Taleb. (Artikel bei Risknet.de vom 20.07.2020).

Prof. Dr. Dr. Frauke Rostalski auf der Homepage der Universität zu Köln:
https://rostalski.jura.uni-koeln.de/prof-dr-dr-frauke-rostalski

 

 

#05 Von Kühlschranklichtern, KI-Pubertät und Turnschuhen. Im Gespräch mit Thomas Metzinger.

(13.10.2020) Feedback

Für den Philosophen Prof. Dr. Thomas Metzinger von der Universität Mainz ist es keineswegs ausgeschlossen, dass Künstliche Intelligenz irgendwann Bewusstsein haben könnte. Schon jetzt sollten wir uns Gedanken über unsere Verantwortung und zur Ethik machen, etwa in Form einer globalen Charta mit KI-Regeln, die auch das Bewusstseinsthema umfassen. KI-Systeme lernen viel über uns Menschen lernen, müssen aber nicht immer an das Gemeinwohl gekoppelt sein. Es hängt von uns ab, unsere Digitale Souveränität wiederzuerlangen.

Fragensteller in dieser Folge:
Dipl.-Phys. Michael Mörike, Integrata-Stiftung für humane Nutzung der Informationstechnologie

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Robert Sinitsyn

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124512

In dieser Folge erwähnte Quellen:

René Descartes: Die Leidenschaft der Seele (Les passions de l’âme), L. Heimann 1870.

The Minimal Phenomenal Experience (MPE) Project unter Leitung von Thomas Metzinger.

Artikel von Thomas Metzinger bei Spektrum.de zu maschinellem Bewusstsein mit Bezug auf den amerikanischen Philosophen Hilary Putnam und seine Einstellungen zu Rechten von Robotern.

Europäische High-Level Expert Group on Artificial Intelligence.

Thomas Metzinger: Der Ego-Tunnel: eine neue Philosophie des Selbst. Von der Hirnforschung zur Bewusstseinsethik, Piper Verlag 2014.

Digitalisierung und der Green Deal der EU-Kommission.

Univ.-Prof. Dr. Thomas Metzinger auf der Homepage der Johannes Gutenberg-Universität Mainz:
https://www.philosophie.fb05.uni-mainz.de/arbeitsbereiche/theoretische/thmetzinger/

#04 Die Gründerväter der KI machten sich über Bewusstsein keine Gedanken. Im Gespräch mit Christian Vater.

(6.10.2020) Feedback

Für den Technikhistoriker Christian Vater, der in Heidelberg und Karlsruhe forscht, hat Forschung zu KI archäologische Qualitäten. Er gräbt Fundstücken aus, die unser heutiges Verständnis von KI prägen, auch wenn sie zu ihrer Zeit anders gemeint waren. Er erklärt, aus welchem Blickwinkel heraus man das menschliche Bewusstsein als eine „Turing-Zwiebel“ mit leerem Kern auffassen konnte, und welche Rolle Forscherinnen in den frühen KI-Zeiten hatten.

Fragensteller in dieser Folge:
Jennifer Heier, Head of UX-driven AI, SIEMENS

Autor: Karsten Wendland
Redaktion und Aufnahmeleitung im Außeneinsatz: Konstantin Kleefoot
Produktion: Tobias Windmüller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124235

In dieser Folge erwähnte Quellen:

Eintrag über Zombies in der Stanford Encyclopedia of Philosophy.

Hubert L. Dreyfus: What Computers Still Can’t Do. A Critique of Artificial Reason, MIT Press 1992.

Nick Bostrom: Are you living in a computer simulation?, Philosophical Quaterly 2003.

Artikel von Alan M. Turing in „Mind“: „Computing Machinery and Intelligence“.

Alan M. Turing: On countable numbers.

Die dramatisierte Filmbiografie über Alan M. Turing: The Imitation Game.

Artikel über den Mathematiker und Kryptologie Irving John „Jack“ Good und seiner Idee der Superintelligenz bei Spektrum.de.

Sein Aufsatz Speculations Concerning the First Ultraintelligent Machine von 1966.

Isaac Asimov: Alle Robotergeschichten, Bastei Lübbe 2007.

Jennifer S. Light: When Computers Were Women, Technology and Culture 1999.

Artikel über den „Astro Boy“ bei SRF.

Gilles Deleuze, Félix Guattari: Rhizom, Merve Verlag 1977.

Christian Vater auf der Homepage des Karlsruher Instituts für Technologie: https://www.geschichte.kit.edu/mitarbeiter_1906.php

 

#03 In der heutigen KI ist kein Geist. Im Gespräch mit Ralf Otte.

(29.09.2020) Feedback

Prof. Dr.-Ing Ralf Otte, Technische Hochschule Ulm, forscht und entwickelt seit Jahrzehnten zu KI und Algorithmen rund um das Gehirn. Für den Experten für neuromorphe Systeme ist der Geist nicht algorithmisch beschreibbar. Auch wenn KI mitunter unterstellt wird, dass sie „denken“ könne, sind heutige KI-Systeme hochgradig trivial – und enthalten noch lange keinen Geist. Sein Buch „Künstliche Intelligenz für Dummies“ ist kürzlich im Wiley-VCH -Verlag erschienen.

Fragensteller in dieser Folge:
Prof. Dr. phil. Hyeongjoo Kim, Chung-Ang University Seoul

Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Produktion: Robert Sinitsyn

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124010

In dieser Folge erwähnte Quellen:

Ralf Otte: Vorschlag einer Systemtheorie des Geistes. Nicht-energetische Wellenfunktionen und Vorschlag zur Lösung des Geist-Körper-Problems, Cuvillier Verlag Göttingen 2016

Am „Princeton Engineering Anomalies Research (PEAR) Institut“ der Princeton University untersuchten Forschende, wie zufällige bzw. maschinengesteuerte Prozesse vom menschlichen Bewusstsein beeinflusst werden könnten. Nach dessen Schließung 2007 wurde ähnliche Forschung im Global Consciousness Project fortgeführt. Im Mittelpunkt steht dabei, mithilfe von Zufallsgeneratoren die Existenz eines globalen Bewusstseins zu beweisen.

Der österreichische Mathematiker, Philosoph und Logiker Kurt Gödel legte die Grundsteine der Prädikatenlogik. Zusammenfassender Artikel auf Spektrum.de (vom 01.09.1999)

Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“) von 1986 handelt von einem Kampfroboter, der durch einen Blitzeinschlag plötzlich selbstständig wird.

Der deutsche Physiker Thomas Görnitz forscht unter anderem an der Quantentheorie und ihrer philosophischen Interpretation

Der englische Mathematiker und theoretische Physiker Roger Penrose forscht an mathematisch-physikalischen Problemen des Bewusstseins und der KI

Google baut Quantencomputer: ein zusammenfassender Artikel von Zeit Online (vom 28.09.2019) und vom Stern (vom 23.10.2019)

Forschung zu neuromorpher Hardware am Fraunhofer-Institut für Integrierte Schaltungen (IIS)

Artikel des britischen Logikers, Mathematikers, Kryptoanalytikers und Informatikers Alan M. Turing in der britischen philosophischen Fachzeitschrift „Mind“: „Computing Machinery and Intelligence

Ralf Otte: Künstliche Intelligenz für Dummies, John Wiley & Sons 2019

Gutachten der Datenethikkommission der Bundesregierung (Kurzfassung) von 2019, herausgegeben vom Bundesministerium des Innern, für Bau und Heimat und des Bundesministeriums der Justiz und für Verbraucherschutz. Seite 19: im Podcast angesprochene Pyramide, welche die Gefahrenpotentiale algorithmischer Systeme einordnet.

Seite von Ralf Otte an der Technischen Hochschule Ulm: https://studium.hs-ulm.de/de/users/578627

#02 Roboter bekommen eine menschliche Aura. Im Gespräch mit Andreas Bischof.

(22.09.2020) Feedback

Dr. Andreas Bischof, Universität Chemnitz, denkt Technik- und Sozialwissenschaften gemeinsam. Er erklärt, wie das feine Zusammenspiel zwischen Mensch und Technik abläuft und wie wechselseitiges "Verstehen" möglich werden kann. Sein aktuelles Buch "Soziale Maschinen bauen" ist im transcript Verlag erschienen.

Zitat vom Anfang der Folge:
„Wenn aus der Rekonstruktion der Entwicklungspraxis interaktiver Technik eine Methode für ebenjene Praxis werden soll, muss sie sich mit den Kompliziertheiten und Komplexitäten des Entwickelns von Technik für soziale Alltagswelten einlassen und kompromittieren.“ (Andreas Bischof)

Fragensteller in dieser Folge: Prof. Dr. Munish Sharma,
MIT Maharastra Institute of Technology, Aurangabad, India

Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot
Aufnahmeleitung und Produktion: Johanna Müller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000123896

In dieser Folge erwähnte Quellen:

Andreas Bischof: Soziale Maschinen bauen. Epistemische Praktiken der Sozialrobotik, transcript Verlag 2017. https://www.transcript-verlag.de/978-3-8376-3881-3/soziale-maschinen-bauen/

„ReThiCare“: Interdisziplinäres Forschungsprojekt zu den Herausforderungen und Chancen technischer Assistenzsysteme im Pflegekontext. http://www.rethicare.info/

Sherry Turkle: Verloren unter 100 Freunden. Englische Originalfassung: Sherry Turkle: Alone Together. Why We Expect More from Technology and Less From Each Other, Basic Books 2011. https://www.basicbooks.com/titles/sherry-turkle/alone-together/9780465093663/

Homepage von Andreas Bischof: https://andreasbischof.net/

 

#01 Ohne Leben kein Bewusstsein. Im Gespräch mit Thomas Fuchs.

(15.09.2020) Feedback

Bewusstsein im Computer ist eine Simulation, sagt Prof. Dr. Dr. Thomas Fuchs, Inhaber der Karl-Jaspers-Professur für Philosophische Grundlagen der Psychiatrie und Psychotherapie an der Universität Heidelberg, in der ersten Folge unseres Podcasts Selbstbewusste KI. Sein aktuelles Buch “Verteidigung des Menschen“ ist kürzlich bei suhrkamp erschienen.

Fragensteller in dieser Folge: Murad Futehally, Mumbai/Ettlingen

Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Aufnahmeleitung und Produktion: Konstantin Kleefoot

Licence: CC-BY, DIO: http://doi.org/10.5445/IR/1000123619

In dieser Folge erwähnte Quellen:

Der japanische Robotiker Hiroshi Ishiguro forscht an menschenähnlichen Robotern, die aussehen wie er. http://www.geminoid.jp/en/index.html

"Ceci nest pas une pipe" ist ein Ölgemälde des belgischen Malers René Magrid

Der humanoide Roboter Sophia des Honkonger KI- und Robotik-Unternehmens Henson Robotics: https://www.hansonrobotics.com/sophia/

Angela Merkel unterhält sich mit Sophia (Artikel aus der FAZ vom 28.06.2018)

Sophia erhält in Saudi-Arabien die Staatsbürgerschaft. (Artikel in der WELT vom 27.10.2017)

Das US-amerikanische romantische Science-Fiction-Filmdrama „Her“ von Spike Jonze von 2013: https://www.warnerbros.com/movies/her#content

Thomas Fuchs auf der Homepage der Universität Heidelberg: https://www.uni-heidelberg.de/fakultaeten/philosophie/philsem/phaenomenologie/

Trailer zu unserer Podcast Serie Selbstbewusste KI.
Vorgeschmack mit Ausblick.
Autor: Karsten Wendland
Produktion: Matthias Gerz / Tobias Windmüller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000122828