Podcast
„Selbstbewusste KI“ – Wissenschaftspodcast an der Grenze zwischen Mensch und Maschine
Die Gespräche in unserem Wissenschaftspodcast führten wir mit: Florian Arnold, Andreas Bischof, Antonio Chella, Andreas Eschbach, Sascha Benjamin Fink, Thomas Fuchs, Christian Hugo Hoffmann, Joachim Keppler, Christof Koch, Janina Loh, Thomas Metzinger, Klaus Mainzer, Vincent C. Müller, Karl Olsberg, Ralf Otte, Helen Piel, Sebastian Rosengrün, Frauke Rostalski, Rudolf Seising, Junichi Takeno, Christian Vater und Joachim Weinhardt.
Große Unterstützung in den einzelnen Folgen erhielten wir durch ambitionierte Fragensteller: Urs Andelfinger, Jascha Bareis, Gerard Blommestijn, Murad Futehally, Armin Grunwald, Jennifer Heier, Hyeongjoo Kim, Jürgen Manner, Michael Mörike, Munish Sharma und Hinrich Thölken.
Kann Künstliche Intelligenz ein Bewusstsein entwickeln? Wie könnte das überhaupt funktionieren, und was würde das für uns bedeuten?
#23 Christian Hugo Hoffmann: Verantwortung aufteilen in Mensch-Maschine-Teams
(27.11.2023) Feedback
Der Unternehmer, Philosoph, Ökonom und Publizist Christian Hugo Hoffmann sieht blinde Flecken in der KI-Entwicklung. Gemeinsam sprechen wir über Unterschiede der Intelligenz von Menschen, Tieren und Maschinen und wie diese Differenzen ihn zu seinem neuen Buch motiviert haben. Weiter geht es darum, inwiefern sich die Intelligenzforschung auf falschen Pfaden befindet, um Alleinstellungsmerkmale menschlicher Intelligenz sowie über die Simulationstheorie. Für die Zukunft sieht Christian Hugo Hoffmann die Zuschreibung von Verantwortung nicht nur beim Menschen oder nur der Maschine, sondern auch in Mensch-Maschine-Teams.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Episode genannte Quellen:
Website von Christian Hugo Hoffmann: https://www.christian-hugo-hoffmann.com
The Quest for a Universal Theory of Intelligence: https://www.degruyter.com/document/doi/10.1515/9783110756166/html
Human Intelligence and Exceptionalism Revisited by a Philosopher: 100 Years After 'Intelligence and its Measurement': https://www.ingentaconnect.com/content/imp/jcs/2022/00000029/f0020011/art00003
Judea Pearl: http://bayes.cs.ucla.edu/jp_home.html
Causality von Judea Pearl: http://bayes.cs.ucla.edu/BOOK-2K/
The Book of Why von Judea Pearl: http://bayes.cs.ucla.edu/WHY/
Yuval Noah Harari: https://www.ynharari.com/de/
Reality Plus von David Chalmers: https://www.suhrkamp.de/buch/david-j-chalmers-realitaet-t-9783518588000
Alpha Go: https://deepmind.google/technologies/alphago/
Technological Brave New World? Eschatological Narratives on Digitization and Their Flaws von Christian Hugo Hoffmann: https://scholarlypublishingcollective.org/psup/posthuman-studies/article-abstract/6/1/53/343530/Technological-Brave-New-World-Eschatological?redirectedFrom=fulltext
#22 Sebastian Rosengrün: Wiederverzauberung der Welt statt zauberhafter Technik?
(14.11.2023) Feedback
Der Philosoph und Linguist Sebastian Rosengrün arbeitet zu Chancen und Gefahren Künstlicher Intelligenz im Wechselspiel mit der Gesellschaft. Er warnt davor, Chatbots als moralische Instanzen anzuerkennen und pocht darauf, der Gesellschaft mögliche Konsequenzen solcher Zuschreibungen aufzuzeigen. Statt uns magischer Science-Fiction-Geschichten hinzugeben sollten wir uns mit realen Fehlentwicklungen konfrontieren – um sie abzuwenden. Gemeinsam sprechen wir über Essays, die von Chatbots geschrieben wurden, welche Irrtümer man in KI-Entwicklung hineinprojizieren kann, und warum man den Podcast Selbstbewusste KI hören sollte.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Episode genannte Quellen:
Sebastian Rosengrün (2021): Künstliche Intelligenz zur Einführung. Junius Verlag.
Sebastian Rosengrün bei der CODE University Berlin.
Max Tegmark (2017): Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz.
John R. Searle (1980): Minds, brains, and programs.
Joseph Weizenbaum (1966): ELIZA – A Computer Programm For the Study of Natural Language Communication Between Man And Machine.
Joseph Weizenbaum (1978): Die macht der Computer und die Ohnmacht der Vernunft. Suhrkamp Verlag.
F. Geier, S. Rosengrün (2023): Die 101 wichtigsten Fragen – Digitalisierung.
Hilary Putnam (1960): Minds and Machines.
Raymond „Ray“ Kurzweil, der US-amerikanische Autor, Erfinder, Futurist und Leiter der technischen Entwicklung bei Google.
#21 Karl Olsberg: Unkontrollierte bösartige KIs erwarte ich eher als die Lösung des Alignment-Problems
(8.11.2023) Feedback
In seinen Romanen beschreibt der Science-Fiction-Autor Karl von Wendt (Pseudonym Karl Olsberg) zukünftige Welten, in den Menschen mit moderner Technik konfrontiert sind. Er zeigt, wie ihnen die Kontrolle über diese Technik entgleitet - bis hin zur Gefahr der völligen Vernichtung unserer Spezies. Anders als in seinen Romanen lässt sich in unsere realen Welt jedoch kein Held hineintexten, der die Menschheit vor dem Untergang retten kann. Karl von Wendt blickt mit Sorge auf zukünftige KI-Entwicklungen, insbesondere auf die Herausforderungen des Alignments von KI an verschiedenartige Wertekonzepte unterschiedlicher Menschengruppen. Seine Romane sollen die Leser zwar unterhalten, aber auch mahnen. So erzählt er auch, warum er das Moratorium zum 6-monatigen KI-Entwicklungsstopp des Future of Life Institutes mitunterzeichnet hat.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Episode genannte Quellen:
Aktuelles Buch von Karl Olsberg: Virtua
Website von Karl Olsberg (aka Karl von Wendt.
Das Moratorium zum 6-monatigen Stopp der KI-Entwicklung des Future of Life Institute.
Der kanadische Informatiker und KI-Forscher Yoshua Bengio.
8 Schreibregeln des US-amerikanischen Science-Fiction-Schriftstellers Kurt Vonnegut.
Wie ist es, eine Fledermaus zu sein? Vom US-amerikanischen Philosophen Thomas Nagel.
Der Film Matrix in der International Movie Database IMDb.
Das Jugendbuch Infernia von Karl Olsberg, in welchem die Figuren im Videospiel ein Bewusstsein haben.
Der Open-AI Gründer Sam Altman.
Die KI AlphaFold, die die Faltungsstruktur von Proteinen vorhersagen kann.
#20 Helen Piel & Rudolf Seising: In der deutschen KI-Geschichte ging es viel um „Geist" und wenig um Bewusstsein
(1.11.2023) Feedback
Helen Piel und Rudolf Seising sind Wissenschaftshistoriker am Deutschen Museum in München. Gemeinsam sprechen wir darüber, wie sich Forschung im Bereich der Künstlichen Intelligenz über die vergangenen Jahrzehnte verändert hat. Wir sprechen über die Entstehung des Begriffs Künstliche Intelligenz auf der Dartmouth-Konferenz 1956, den KI-Winter Anfang der 1970er und Versuche der Etablierung von „Intellektik“ als verbindende Fachwissenschaft zwischen Informatik und Kognitionswissenschaften. Es geht um blinde Flecken in der Wissenschaft, warum oft Jahrzehnte in falsche Richtungen geforscht wurde und wird, und wie alte Ideen wieder neu ins Zentrum der Relevanz rücken können.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Anmeldung zur Abschlussveranstaltung des IGGI-Forschungsprojekts in München: https://forms.gle/Lu38A9YZTTPi9xS7A
Helen Piel: https://www.deutsches-museum.de/forschung/person/helen-piel-2
Rudolf Seising: https://www.deutsches-museum.de/forschung/person/rudolf-seising-2
IGGI – Ingenieursgeist und Geistesingenieure: Eine Geschichte der Künstlichen Intelligenz in der Bundesrepublik Deutschland: https://www.deutsches-museum.de/forschung/forschungsinstitut/projekte/detailseite/iggi-ingenieur-geist-und-geistes-ingenieure
IGGI-Teilprojekt: Verarbeitung von Bildern von Dinah Pfau: https://www.deutsches-museum.de/forschung/person/dinah-pfau-2
Dartmouth Conference 1956: https://aitoolsexplorer.com/ai-history/the-dartmouth-conference-the-event-that-shaped-ai-research/
René Descartes „Theorie der zwei Welten“ (Dualismus): https://www.dasgehirn.info/entdecken/meilensteine/rene-descartes-vater-der-leib-seele-theorie
Wolfgang Bibel: http://www.intellektik.de/index/WolfgangBibel.htm
Studienführer KI (Bibel/Eisinger/Schneeberger/Siekmann): https://link.springer.com/chapter/10.1007/978-3-642-72963-8_1
Perceptron von Frank Rosenblatt: https://blog.hnf.de/frank-rosenblatt-und-das-perceptron/
Mythos Golem: https://www.nzz.ch/nzzas/nzz-am-sonntag/kultur-mythos-golem-ld.120179
Josef „Sepp“ Hochreiter: https://www.jku.at/institut-fuer-machine-learning/ueber-uns/team/sepp-hochreiter/
H. Piel, R. Seising (2023): Perspectives on Artificial Intelligence in Europe. IEEE Annals of the History of Computing. https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=10197444
#19 Joachim Keppler: Nicht das Gehirn ist Sitz des Bewusstseins – seine Kopplung an das Bewusstseinsfeld generiert bewusste Zustände.
(23.10.2023) Feedback
Der theoretische Physiker Joachim Keppler forscht zu Bewusstsein mit strengen naturwissenschaftlichen Ansprüchen. Der Direktor des DIWISS-Instituts erläutert im Podcast, wie Bewusstsein in die Physik passt, dass Bewusstsein seinen exklusiven Ort gar nicht im Gehirn hat, und warum es sich vielmehr lohnt, das Hirn als Koppler an ein physikalisch beschreibbares Bewusstseinsfeld zu betrachten. Wir diskutieren die Frage, inwiefern man ein solcherart verstandenes Bewusstsein manipulieren oder gar hacken könnte, und natürlich, inwiefern Künstliches Bewusstsein auf diese Art möglich wäre.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung im Außeneinsatz und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Forschungsinstitut DIWISS: https://www.diwiss.de
Wissenschaftliche Konferenz "The Science of Consciousness 2023": https://tsc2023-taormina.it/
Keppler, Joachim (2023): Scrutinizing the Feasibility of Macroscopic Quantum Coherence in the Brain: A Field-Theoretical Model of Cortical Dynamics. Frontiers in Physics 11:1181416. doi: 10.3389/fphy.2023.1181416 (June 2023).
https://www.frontiersin.org/articles/10.3389/fphy.2023.1181416/full
Keppler, Joachim (2021): Building Blocks for the Development of a Self-Consistent Electromagnetic Field Theory of Consciousness. Frontiers in Human Neuroscience 15:723415. doi: 10.3389/fnhum.2021.723415 (September 2021).
https://www.frontiersin.org/articles/10.3389/fnhum.2021.723415/full
Keppler, Joachim (2020): The Common Basis of Memory and Consciousness: Understanding the Brain as a Write-Read Head Interacting With an Omnipresent Background Field. Frontiers in Psychology 10:2968. doi: 10.3389/fpsyg.2019.02968 (January 2020).
https://www.frontiersin.org/articles/10.3389/fpsyg.2019.02968/full
Originalarbeit zum Sender-Empfänger-Modell von Shannon und Weaver: A Mathematical Theory of Communication. By C. E. SHANNON (1949).
https://web.archive.org/web/19980715013250/http://cm.bell-labs.com/cm/ms/what/shannonday/shannon1948.pdf
Zero-Point-Field:
https://www.scientificamerican.com/article/follow-up-what-is-the-zer/#
#18 Florian Arnold: KI-Segnungsroboter für verlorene Schäfchen - delegiertes Genießen, Mediengag oder Dehumanisierung?
(17.10.2023) Feedback
Der Philosoph und Designtheoretiker Florian Arnold positioniert sich kritisch gegenüber modernen Segensrobotern oder KI-Religionen wie Way of the Future. Gemeinsam sprechen wir darüber, was Menschen dazu bewegt, solche Angebote anzunehmen, wie eine Gottheit funktioniert, die aus einem Quellcode besteht, wie diese Strukturen entstehen, sowie über die Zukunft der Kirche. Außerdem sprechen wir über Interpassivität, wie GPT einen Gottesdienst geschaffen hat und warum man einem KI-Gott nicht einfach den Stecker ziehen kann.
Redaktion, Aufnahmeleitung und Produktion: Annelie Hirth, Robin Herrmann
Herausgeber: Karsten Wendland
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Way of the Future church: https://techcrunch.com/2021/02/18/anthony-levandowski-closes-his-church-of-ai/
BlessU-2-Segensroboter: https://www.ekhn.de/aktuell/gluecksegen/ueber-den-segen/segensroboter-blessu-2.html
K Allado-McDowell: https://www.kalladomcdowell.com
KI-generierte Predigt auf Evangelischem Kirchentag 2023: https://www.businessinsider.de/leben/ki-gottesdienst-diese-predigt-wurde-von-chat-gpt-geschrieben/
Bruno Latour: http://www.bruno-latour.fr
#17 Sascha Benjamin Fink: Mitleid könnte eine sinnvolle technische Funktion für Maschinen sein
(10.10.2023) Feedback
Sascha Benjamin Fink kennt sich aus mit Schmerzerleben, Bewusstsein und Psychedelika. Der Professor für Neurophilosophie an der Universität Magdeburg forscht zu Neurophänomenalem Strukturalismus und kann verstehen, warum man darunter leiden kann, niemals einen Ferrari zu besitzen. Wir sprechen über die Möglichkeit leidensfähiger Maschinen und das „harte Problem“ des Bewusstseins. Außerdem berichtet er aus seinem neuen Forschungsprojekt PsychedELSI, das erste beeindruckende Ergebnisse in kontrollierter Therapie mit Psychedelika hervorbringt. Gemeinsam überlegen wir, inwiefern dies perspektivisch auch etwas für bewusste KI-Systeme sein könnte – High AI.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Website von Sascha Benjamin Fink: http://finks.de
Neurophänomenaler Strukturalismus: https://philosophymindscience.org/index.php/phimisci/article/download/9154/8692
Sein-Sollen-Differenz: https://www.spektrum.de/lexikon/philosophie/sein-sollen-differenz/1840
Ebbinghaus-Illusion: https://www.newworldencyclopedia.org/entry/Ebbinghaus_illusion
Müller-Lyer-Täuschung: https://www.spektrum.de/lexikon/neurowissenschaft/mueller-lyer-taeuschung/7991
EROWID Datenbank: https://www.erowid.org
Projekt COGITATE Accelerating Research on Consciousness: https://www.arc-cogitate.com
Bernstein Center for Computational Neuroscience Berlin: https://www.bccn-berlin.de
#16 Wir sollten Technik schaffen, die rückholbar ist. Im Gespräch mit Vincent C. Müller.
(3.10.2023) Feedback
„Humane KI“ steht im Leitbild von Vincent C. Müller, dem Direktor des Centre for Philosophy and AI Research (PAIR) an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU). Technik müssen wir so gestalten, dass wir sie ggf. auch wieder zurückholen können, wenn unvorhergesehene Technikfolgen eintreten oder Werte und Ziele sich ändern, so dass die Technik nicht mehr passt. Für den Humboldt-Professor gehört ethische Reflexion zum professionellen Handeln aller, die Technik entwerfen und in die Welt setzen. KI und Digitale Systeme sollten wir einsetzen, um die grundsätzlichen Herausforderungen der Menschheit aktiv anzugehen.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Centre for Philosophy and AI Research (PAIR) an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU): https://www.pair.fau.eu
Alan Turing Institute: https://www.turing.ac.uk
MÜLLER, Vincent C.; AYESH, Aladdin. Revisiting Turing and His Test: Comprehensiveness, Qualia, and the Real World. 2012. https://philpapers.org/archive/MLLRTA.pdf
Zum Ford Pinto Skandal: https://www.encyclopedia.com/science/encyclopedias-almanacs-transcripts-and-maps/ford-pinto-case
#15 Die Entwicklung bewusster Systeme ist nicht besonders sinnvoll. Im Gespräch mit Klaus Mainzer.
(26.09.2023) Feedback
Der Mathematiker, Physiker und Philosoph Klaus Mainzer hält es nicht für besonders sinnvoll, Maschinen zu bauen, die über ein Ich-Bewusstsein verfügen. Ihm ist es hingegen wichtig, dass in der Bevölkerung ein stärkeres Bewusstsein für Technik entsteht, dass Funktionsprinzipien besser verstanden und auch Grenzen besser eingeschätzt werden können. So könnte es gelingen, die breite Technikskepsis zu überwinden. Bezugspunkte im Gespräch sind u.a. Leibniz, Hilbert, Gödel, Penrose und natürlich aktuelle technische KI-Entwicklungen.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Klaus Mainzer, Reinhard Kahle: Grenzen der KI – theoretisch, praktisch, ethisch. Springer 2022.
Alan Turing: On computable numbers, with an application to the Entscheidungsproblem, Proceedings of the London Mathematical Society, 2, 42 (1937), S. 230–265. Online-Fassung
Gottfried Wilhelm Leibniz: Theodizee (Originaltitel: Essais de Théodicée). Amsterdam 1710.
Chat GPT: https://chat.openai.com
Grundrechte: https://www.bundestag.de/gg/grundrechte
Kurt Gödel: Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I. In: Monatshefte für Mathematik und Physik. 38, 1931, S. 173–198, doi:10.1007/BF01700692.
Ungelöste Probleme der Mathematik: https://mathworld.wolfram.com/topics/UnsolvedProblems.html
Pause Giant AI Experiments: An Open Letter, https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Roger Penrose: Computerdenken: die Debatte um künstliche Intelligenz, Bewußtsein und die Gesetze der Physik: Die Debatte um Künstliche Intelligenz, Bewusstsein und die Gesetze der Physik. Spektrum 2009.
Staffel 1: Die ersten Folgen
(2020-21)
#13 Das große Staffelfinale – Diskussionsrunde zu bewusster KI. Schüler*innen im Gespräch mit Expert*innen.
(16.11.2021) Feedback
Pflegeroboter, autonom fahrende Autos und beseelte Wesen – dies sind nur wenige von vielen spannenden Themen, die Schülerinnen und Schüler gemeinsam mit Experten in der letzten Folge der ersten Podcast-Staffel „Selbstbewusste KI“ diskutiert haben. Dabei kamen einige der Podcast-Gäste aus den vergangenen Folgen noch einmal zusammen, um mit den Schülerinnen und Schülern in einen Dialog auf Augenhöhe zu treten.
Gesprächsgäste: Andreas Eschbach, Thomas Fuchs, Janina Loh, Thomas Metzinger, Ralf Otte, Christian Vater und Joachim Weinhardt
Herausgeber: Karsten Wendland
Redaktionelles Konzept: Tannaz Afshari Bakhsh, Franka Bockrath, Laura Müller, Anna Pallakst, Lea Riemann, Emma Rönnebeck, Eva Russow, Tamás Svajda und Renée Weisbach
Moderation: Lara Wolf und Luis Tillmann
Aufnahmeleitung: Karsten Wendland
Produktion: Tobias Windmüller
Licence: CC-BY
In dieser Folge erwähnte Quellen:
Michael Chrichton: Prey, Harper Collins New York 2002. Leseprobe
Fraunhofer Care-O-bot: Mobile Roboterassistenten zur aktiven Unter-stützung des Menschen im häuslichen Umfeld.
TED-Talk von Kate Darling (MIT): Why we have an emotional connection to robots.
TA-Swiss: Robotik in Betreuung und Gesundheitsversorgung, vdf Hochschulverlag 2013, S. 192.
JürgenHabermas(1981): Theorie des kommunikativen Handelns. Band 2 Zur Kritik der funktionalistischen Vernunft. 8. Aufl. Frankfurt/a.M 1981.
Martin Krammer: "Unser Schreibzeug arbeitet mit an unseren Gedanken". Beitrag der Universität Wien über Friedrich Nietzsche.
Stefan Krempl: Ethikrat: Erosion von Verantwortung bei Robotereinsatz in der Pflege verhindern (Artikel bei Heise vom 11.03.2020).
Thomas Fuchs: Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie, Suhrkamp 2020.
#12 Roboter werden bald ein Bewusstsein besitzen. Im Gespräch mit Junichi Takeno.
(9.11.2021) Feedback
Von der Idee, dass bald bewusste Roboter gebaut werden, ist der japanische Robotik-Experte Prof. Junichi Takeno von der Meiji University in Tokio überzeugt. Er selbst hat bereits Roboter konstruiert, die ihr Spiegelbild erkennen können. In der letzten offiziellen Folge unseres Podcasts Selbstbewusste KI erklärt er, welche beeindruckenden Experimente er bereits mit seinen Robotern durchgeführt hat.
Fragensteller in dieser Folge:
Jürgen Manner, Karlsruhe
Autor: Karsten Wendland
Redaktion: Robert Sinitsyn, Matthias Gerz
Aufnahmeleitung: Karsten Wendland
Produktion: Matthias Gerz
Synchronsprecher: Konstantin Kleefoot
Licence: CC-BY, DOI: https://doi.org/10.5445/IR/1000139706
In dieser Folge erwähnte Quellen:
Buch von Junichi Takeno: Creation of a Conscious Robot. Mirror Image Cognition and Self-Awareness: https://www.taylorfrancis.com/books/mono/10.1201/b12780/creation-conscious-robot-junichi-takeno.
Zusammenfassender Artikel über die Forschung von Junichi Takeno auf der Website der Meiji University: https://english-meiji.net/articles/132/.
Artikel über den „Astro Boy“ bei SRF.
Das Verständnis von Bewusstsein nach dem Philosoph und Mathematiker Edmund Husserl: Beitrag von Prof. Dr. Christian Beyer, Georg-August-Universität Göttingen
Buch des Physikers Michio Kaku: Future of the mind: https://www.researchgate.net/publication/295829741_Michio_Kaku_Future_of_the_mind.
Experimente von Junichi Takeno im International Journal on Smart Sensing and Intelligent Systems 1(4) 2008: https://www.researchgate.net/publication/228740023_A_Robot_Succeeds_in_100_Mirror_Image_Cognition.
Homepage von Junichi Takeno:
http://www.rs.cs.meiji.ac.jp/en/member/takeno.html
#11 Die meisten SF-Romane sind als Warnung gedacht, nicht als Gebrauchsanleitung. Im Gespräch mit Andreas Eschbach.
(24.11.2020) Feedback
Für den Autor Andreas Eschbach sind Menschen ohne Technologie gar nicht denkbar. Allerdings wird die Freiheit des Individuums durch Technologie sowohl ermöglicht wie auch bedroht, was er in seinen Erzählungen in unterschiedlichen Genres aufgreift und aufbereitet. Was wir heute zu „Bewusster KI“ diskutieren, ist in seinem Metier ein Grundmotiv mit langer Tradition. Er kann erzählen, wie mediale Vermittlung Computer und Roboter schon immer vermenschlicht hat, und weiß aus eigener Erfahrung, dass Programmcodes stets auch etwas über diejenigen spiegeln, die sie geschrieben haben.
Fragensteller in dieser Folge:
Dr. Hinrich Thölken, Botschafter und Sonderbeauftragter für Digitalisierung und digitale Transformation im Auswärtigen Amt
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Kayla Zoller
Licence: CC-BY, DOI: https://doi.org/10.5445/IR/1000126701
In dieser Folge erwähnte Quellen:
Isaac Asimov: Alle Robotergeschichten, Bastei Lübbe 2007.
Artikel über den „Astro Boy“ bei SRF.
Andreas Eschbach: NSA, Bastei Lübbe 2020.
Andreas Eschbach Out-Trilogie: Black Out 2010, Hide Out 2011, Time Out 2012, Arena Verlag.
Das von DeepMind entwickelte Computerprogramm AlphaGo, welches das Brettspiel Go spielt.
Homepage von Andreas Eschbach:
http://www.andreaseschbach.de/
#10 Die größte Hoffnung wäre, die Dystopien zu verhindern. Im Gespräch mit Joachim Weinhardt.
(17.11.2020) Feedback
Der Theologe Prof. Dr. Joachim Weinhardt, PH Karlsruhe, ordnet Fragen zu Künstlicher Intelligenz und Bewusstsein auch in naturwissenschaftliche und in ethische Kontexte ein. Aus biblischer Perspektive sei es nicht vorgesehen, dass der Mensch andere Geschöpfe erschafft. Grundsätzlich hält er es aber für möglich, dass Bewusstsein auch auf anderen materiellen Voraussetzungen basieren könnte als bei uns Menschen. Wie aber könnte man garantieren, dass ein künstlich geschaffenes Bewusstsein kein unglückliches Bewusstsein würde? Perspektivisch sollte man bereits Vorstufen von Entwicklungen verhindern, die möglicherweise in einem Take-Off enden könnten.
Fragensteller in dieser Folge:
Prof. Dr. Urs Andelfinger, Hochschule Darmstadt
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Annalena Hörth
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000126231
In dieser Folge erwähnte Quellen:
Joachim Weinhardt: Gott und die Welt. Schöpfungslehre und Eschatologie, Kohlhammer 2019.
Artikel bei Zeit online über die vom Robotikexperte Anthony Levandowski ins Leben gerufene KI-Kirche „Way of the future“ (vom 18.11.2017).
Artikel von Alan M. Turing in „Mind“: „Computing Machinery and Intelligence“.
Prof. Dr. Joachim Weinhardt auf der Website der Pädagogischen Hochschule Karlsruhe:
https://www.ph-karlsruhe.de/personen/detail/Joachim_Weinhardt_945
#09 Dass Roboter uns Emotionen vorgaukeln kann sehr wichtig sein. Im Gespräch mit Janina Loh.
(10.11.2020) Feedback
Die Philosophin Dr. Janina Loh an der Universität Wien untersucht inklusive Denkansätze, an deren Ende es nicht mehr so wichtig ist, ob sich jemand als Mensch oder als Maschine bezeichnet. Die Autorin des suhrkamp-Buchs „Roboterethik“ geht emotionalen Bindungen zwischen Mensch und Roboter in unterschiedlichsten Anwendungsfeldern auf die Spur, sowie möglichen Verhältnissen, die zueinander entstehen können. Als kritische Posthumanistin regt sie an, auch bei der Herstellung von Robotern auf Diversität zu achten und vielfältige Roboter herzustellen.
Fragensteller in dieser Folge:
Jascha Bareis, M.A., Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Matthias Gerz
Licence: CC-BY, DOI: https://doi.org/10.5445/IR/1000125862
In dieser Folge erwähnte Quellen:
Janina Loh: Roboterethik. Eine Einführung, suhrkamp taschenbuch 2019.
Artikel bei Zeit.de über die Roboterforscherin Kate Darling vom MIT und das Beispiel von Mienenrobotern.
Thomas Nagel: Aufsatz "What is it like to be a bat?" (Wie ist es, eine Fledermaus zu sein?), 1974.
Artikel bei ze.tt über eine Berlinerin, die eine Beziehung zu einem Modellflugzeug führt.
Janina Loh auf der Homepage der Universität Wien:
https://ufind.univie.ac.at/de/person.html?id=61692
#08 Wir müssen Maschinen bauen, die Gefühle haben. Im Gespräch mit Antonio Chella.
(3.11.2020) Feedback
Für den Robotiker Prof. Dr. Antonio Chella, Leiter des Robotic Labs und des Forschungszentrums für Wissenstechnologien an der Universität von Palermo, geht Bewusstsein deutlich über das Gehirn hinaus. Für den Herausgeber des Journal of Artificial Intelligence and Consciousness kann nur eine empathische Maschine auch eine ethische Maschine sein. Deshalb sei es erstrebenswert, Maschinen mit Gefühlen zu bauen, und aus deren Verhalten schließlich auch mehr über unser eigenes phänomenales Bewusstsein erfahren zu können. Viele KI-Leute haben seiner Beobachtung nach kein Interesse an philosophischen Debatten, weswegen er versucht, praktische Brücken zwischen den Disziplinen zu bauen und interdisziplinäre Diskurse zu unterstützen.
Fragensteller in dieser Folge:
Prof. Dr. Armin Grunwald, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)
Autor: Karsten Wendland
Redaktion und Produktion: Annalena Hörth
Aufnahmeleitung: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125589
In dieser Folge erwähnte Quellen:
Antonio Chella: Journal of Artificial Intelligence and Consciousness.
Zitat von Woody Allen: “You rely too much on brain. The brain is the most overrated organ.“
Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“), 1986.
Artikel bei Zeit.de über den rassistischen Chat-Bot Tay (vom 24.03.2020).
Das Science-Fiction-Drama Ex Machina von Alex Garland, 2015.
Der Science-Fiction-Film 2001: Odyssee im Weltraum (Originaltitel: 2001: A Space Odyssey) von Stanley Kubrick, 1968.
Der Schwarzweißfilm Frankenstein von Mary Shelley, 1931.
Der Stummfilm Der Golem von Paul Wegener und Heinrich Galeen, 1914.
Antonio Chella auf der Homepage der University of Palermo:
https://www.icar.cnr.it/en/associati-di-ricerca/esterno-1/
#07 Bewusstsein ist eine kausale Kraft und kein cleverer Programmier-Hack. Im Gespräch mit Christof Koch.
(27.10.2020) Feedback
Für den Neuwissenschaftler Prof. Dr. Christoph Koch, Chefwissenschaftler am Allen Institute für Gehirnforschung in Seattle, gibt es eine sehr enge Verbindung zwischen Gehirn und Bewusstsein. Er hält es nicht für möglich, die Strukturen des menschlichen Gehirns digital zu simulieren, wohl aber, dass man es irgendwann aus technischen Materialien wird nachbauen können. Bewusstsein sind für ihn jegliche Erfahrungen, Gefühle und Empfindungen, die letztlich immer mit dem Gehirn zu tun haben. So lieben wir auch nicht mit dem Herzen, sondern in Wirklichkeit mit dem Kopf.
Fragensteller in dieser Folge:
Prof. Dr.-Ing. Ralf Otte, Technische Hochschule Ulm
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Tobias Windmüller
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125298
In dieser Folge erwähnte Quellen:
Christof Koch: The feeling of life itself. Why consciousness is widespread but can’t be computed, MIT Press 2020.
Aristoteles: Über die Seele. De Anima, Felix Meiner Verlag Hamburg 2017.
Artikel über Floatation tanks bei Faz.net (vom 17.04.2017).
Informationen über die Integrated Information Theory.
Begriffserklärungen zu „CPU“ und „ALU“ bei ITWissen.info.
Homepage von Christof Koch:
https://christofkoch.com/
Christof Koch auf der Homepgae des Allen Institute for Brain Science Seattle:
https://alleninstitute.org/what-we-do/brain-science/about/team/staff-profiles/christof-koch/
#06 Wir müssen auf Weitsicht fahren und fragen: Was wäre, wenn? Im Gespräch mit Frauke Rostalski.
(20.10.2020) Feedback
Für die Juristin Prof. Dr. Dr. Frauke Rostalski, Universität Köln und Mitglied des Deutschen Ethikrats, kann man KI-Robotern weder Schuld noch Verantwortung zuschreiben – zumindest nicht nach den heutigen Maßstäben und technischen Realisierungen. KI-Systeme können nur Teile unseres Denkens abbilden, und umgekehrt funktioniert der Mensch nicht nach Algorithmen. Allerdings wissen wir nicht, was noch kommt, und sollten verschiedene Zukünfte rechtzeitig vorausdenken. Zukünftige Gesellschaften etwa mit e-Personen sind schon heute debattierte Szenarien.
Fragensteller in dieser Folge:
Dr. Gerard Blommestijn, Physiker und Philosoph
Autor: Karsten Wendland
Redaktion: Kayla Zoller
Aufnahmeleitung vor Ort im schönen Köln: Karsten Wendland
Produktion: Kayla Zoller
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124841
In dieser Folge erwähnte Quellen:
Frauke Rostalski ist Mitglied im Deutschen Ethikrat.
Artikel auf Welt.de: Ingenieur „heiratet“ seine selbstgebaute Robo-Freundin (vom 07.04.2017).
Zitat des britischen Evolutionsbiologen Clinton Richard Dawkins:
“We are survival machines – robot vehicles blindly programmed to preserve the selfish molecules known as genes. This is a truth which still fills me with astonishment.” (Aus seinem Buch „The Selfish Gene“, Oxford University Press: 1976).
Artikel über das Libet-Experiment bei Planet Wissen.
Das Szenario des schwarzen Schwans nach dem Publizisten und Börsenhändler Nassim Nicholas Taleb. (Artikel bei Risknet.de vom 20.07.2020).
Prof. Dr. Dr. Frauke Rostalski auf der Homepage der Universität zu Köln:
https://rostalski.jura.uni-koeln.de/prof-dr-dr-frauke-rostalski
#05 Von Kühlschranklichtern, KI-Pubertät und Turnschuhen. Im Gespräch mit Thomas Metzinger.
(13.10.2020) Feedback
Für den Philosophen Prof. Dr. Thomas Metzinger von der Universität Mainz ist es keineswegs ausgeschlossen, dass Künstliche Intelligenz irgendwann Bewusstsein haben könnte. Schon jetzt sollten wir uns Gedanken über unsere Verantwortung und zur Ethik machen, etwa in Form einer globalen Charta mit KI-Regeln, die auch das Bewusstseinsthema umfassen. KI-Systeme lernen viel über uns Menschen lernen, müssen aber nicht immer an das Gemeinwohl gekoppelt sein. Es hängt von uns ab, unsere Digitale Souveränität wiederzuerlangen.
Fragensteller in dieser Folge:
Dipl.-Phys. Michael Mörike, Integrata-Stiftung für humane Nutzung der Informationstechnologie
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Robert Sinitsyn
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124512
In dieser Folge erwähnte Quellen:
René Descartes: Die Leidenschaft der Seele (Les passions de l’âme), L. Heimann 1870.
The Minimal Phenomenal Experience (MPE) Project unter Leitung von Thomas Metzinger.
Artikel von Thomas Metzinger bei Spektrum.de zu maschinellem Bewusstsein mit Bezug auf den amerikanischen Philosophen Hilary Putnam und seine Einstellungen zu Rechten von Robotern.
Europäische High-Level Expert Group on Artificial Intelligence.
Thomas Metzinger: Der Ego-Tunnel: eine neue Philosophie des Selbst. Von der Hirnforschung zur Bewusstseinsethik, Piper Verlag 2014.
Digitalisierung und der Green Deal der EU-Kommission.
Univ.-Prof. Dr. Thomas Metzinger auf der Homepage der Johannes Gutenberg-Universität Mainz:
https://www.philosophie.fb05.uni-mainz.de/arbeitsbereiche/theoretische/thmetzinger/
#04 Die Gründerväter der KI machten sich über Bewusstsein keine Gedanken. Im Gespräch mit Christian Vater.
(6.10.2020) Feedback
Für den Technikhistoriker Christian Vater, der in Heidelberg und Karlsruhe forscht, hat Forschung zu KI archäologische Qualitäten. Er gräbt Fundstücken aus, die unser heutiges Verständnis von KI prägen, auch wenn sie zu ihrer Zeit anders gemeint waren. Er erklärt, aus welchem Blickwinkel heraus man das menschliche Bewusstsein als eine „Turing-Zwiebel“ mit leerem Kern auffassen konnte, und welche Rolle Forscherinnen in den frühen KI-Zeiten hatten.
Fragensteller in dieser Folge:
Jennifer Heier, Head of UX-driven AI, SIEMENS
Autor: Karsten Wendland
Redaktion und Aufnahmeleitung im Außeneinsatz: Konstantin Kleefoot
Produktion: Tobias Windmüller
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124235
In dieser Folge erwähnte Quellen:
Eintrag über Zombies in der Stanford Encyclopedia of Philosophy.
Hubert L. Dreyfus: What Computers Still Can’t Do. A Critique of Artificial Reason, MIT Press 1992.
Nick Bostrom: Are you living in a computer simulation?, Philosophical Quaterly 2003.
Artikel von Alan M. Turing in „Mind“: „Computing Machinery and Intelligence“.
Alan M. Turing: On computable numbers.
Die dramatisierte Filmbiografie über Alan M. Turing: The Imitation Game.
Artikel über den Mathematiker und Kryptologie Irving John „Jack“ Good und seiner Idee der Superintelligenz bei Spektrum.de.
Sein Aufsatz Speculations Concerning the First Ultraintelligent Machine von 1966.
Isaac Asimov: Alle Robotergeschichten, Bastei Lübbe 2007.
Jennifer S. Light: When Computers Were Women, Technology and Culture 1999.
Artikel über den „Astro Boy“ bei SRF.
Gilles Deleuze, Félix Guattari: Rhizom, Merve Verlag 1977.
Christian Vater auf der Homepage des Karlsruher Instituts für Technologie: https://www.geschichte.kit.edu/mitarbeiter_1906.php
#03 In der heutigen KI ist kein Geist. Im Gespräch mit Ralf Otte.
(29.09.2020) Feedback
Prof. Dr.-Ing Ralf Otte, Technische Hochschule Ulm, forscht und entwickelt seit Jahrzehnten zu KI und Algorithmen rund um das Gehirn. Für den Experten für neuromorphe Systeme ist der Geist nicht algorithmisch beschreibbar. Auch wenn KI mitunter unterstellt wird, dass sie „denken“ könne, sind heutige KI-Systeme hochgradig trivial – und enthalten noch lange keinen Geist. Sein Buch „Künstliche Intelligenz für Dummies“ ist kürzlich im Wiley-VCH -Verlag erschienen.
Fragensteller in dieser Folge:
Prof. Dr. phil. Hyeongjoo Kim, Chung-Ang University Seoul
Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Produktion: Robert Sinitsyn
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124010
In dieser Folge erwähnte Quellen:
Ralf Otte: Vorschlag einer Systemtheorie des Geistes. Nicht-energetische Wellenfunktionen und Vorschlag zur Lösung des Geist-Körper-Problems, Cuvillier Verlag Göttingen 2016
Am „Princeton Engineering Anomalies Research (PEAR) Institut“ der Princeton University untersuchten Forschende, wie zufällige bzw. maschinengesteuerte Prozesse vom menschlichen Bewusstsein beeinflusst werden könnten. Nach dessen Schließung 2007 wurde ähnliche Forschung im Global Consciousness Project fortgeführt. Im Mittelpunkt steht dabei, mithilfe von Zufallsgeneratoren die Existenz eines globalen Bewusstseins zu beweisen.
Der österreichische Mathematiker, Philosoph und Logiker Kurt Gödel legte die Grundsteine der Prädikatenlogik. Zusammenfassender Artikel auf Spektrum.de (vom 01.09.1999)
Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“) von 1986 handelt von einem Kampfroboter, der durch einen Blitzeinschlag plötzlich selbstständig wird.
Der deutsche Physiker Thomas Görnitz forscht unter anderem an der Quantentheorie und ihrer philosophischen Interpretation
Der englische Mathematiker und theoretische Physiker Roger Penrose forscht an mathematisch-physikalischen Problemen des Bewusstseins und der KI
Google baut Quantencomputer: ein zusammenfassender Artikel von Zeit Online (vom 28.09.2019) und vom Stern (vom 23.10.2019)
Forschung zu neuromorpher Hardware am Fraunhofer-Institut für Integrierte Schaltungen (IIS)
Artikel des britischen Logikers, Mathematikers, Kryptoanalytikers und Informatikers Alan M. Turing in der britischen philosophischen Fachzeitschrift „Mind“: „Computing Machinery and Intelligence“
Ralf Otte: Künstliche Intelligenz für Dummies, John Wiley & Sons 2019
Gutachten der Datenethikkommission der Bundesregierung (Kurzfassung) von 2019, herausgegeben vom Bundesministerium des Innern, für Bau und Heimat und des Bundesministeriums der Justiz und für Verbraucherschutz. Seite 19: im Podcast angesprochene Pyramide, welche die Gefahrenpotentiale algorithmischer Systeme einordnet.
Seite von Ralf Otte an der Technischen Hochschule Ulm: https://studium.hs-ulm.de/de/users/578627
#02 Roboter bekommen eine menschliche Aura. Im Gespräch mit Andreas Bischof.
(22.09.2020) Feedback
Dr. Andreas Bischof, Universität Chemnitz, denkt Technik- und Sozialwissenschaften gemeinsam. Er erklärt, wie das feine Zusammenspiel zwischen Mensch und Technik abläuft und wie wechselseitiges "Verstehen" möglich werden kann. Sein aktuelles Buch "Soziale Maschinen bauen" ist im transcript Verlag erschienen.
Zitat vom Anfang der Folge:
„Wenn aus der Rekonstruktion der Entwicklungspraxis interaktiver Technik eine Methode für ebenjene Praxis werden soll, muss sie sich mit den Kompliziertheiten und Komplexitäten des Entwickelns von Technik für soziale Alltagswelten einlassen und kompromittieren.“ (Andreas Bischof)
Fragensteller in dieser Folge: Prof. Dr. Munish Sharma,
MIT Maharastra Institute of Technology, Aurangabad, India
Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot
Aufnahmeleitung und Produktion: Johanna Müller
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000123896
In dieser Folge erwähnte Quellen:
Andreas Bischof: Soziale Maschinen bauen. Epistemische Praktiken der Sozialrobotik, transcript Verlag 2017. https://www.transcript-verlag.de/978-3-8376-3881-3/soziale-maschinen-bauen/
„ReThiCare“: Interdisziplinäres Forschungsprojekt zu den Herausforderungen und Chancen technischer Assistenzsysteme im Pflegekontext. http://www.rethicare.info/
Sherry Turkle: Verloren unter 100 Freunden. Englische Originalfassung: Sherry Turkle: Alone Together. Why We Expect More from Technology and Less From Each Other, Basic Books 2011. https://www.basicbooks.com/titles/sherry-turkle/alone-together/9780465093663/
Homepage von Andreas Bischof: https://andreasbischof.net/
#01 Ohne Leben kein Bewusstsein. Im Gespräch mit Thomas Fuchs.
(15.09.2020) Feedback
Bewusstsein im Computer ist eine Simulation, sagt Prof. Dr. Dr. Thomas Fuchs, Inhaber der Karl-Jaspers-Professur für Philosophische Grundlagen der Psychiatrie und Psychotherapie an der Universität Heidelberg, in der ersten Folge unseres Podcasts Selbstbewusste KI. Sein aktuelles Buch “Verteidigung des Menschen“ ist kürzlich bei suhrkamp erschienen.
Fragensteller in dieser Folge: Murad Futehally, Mumbai/Ettlingen
Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Aufnahmeleitung und Produktion: Konstantin Kleefoot
Licence: CC-BY, DIO: http://doi.org/10.5445/IR/1000123619
In dieser Folge erwähnte Quellen:
Der japanische Robotiker Hiroshi Ishiguro forscht an menschenähnlichen Robotern, die aussehen wie er. http://www.geminoid.jp/en/index.html
"Ceci nest pas une pipe" ist ein Ölgemälde des belgischen Malers René Magrid
Der humanoide Roboter Sophia des Honkonger KI- und Robotik-Unternehmens Henson Robotics: https://www.hansonrobotics.com/sophia/
Angela Merkel unterhält sich mit Sophia (Artikel aus der FAZ vom 28.06.2018)
Sophia erhält in Saudi-Arabien die Staatsbürgerschaft. (Artikel in der WELT vom 27.10.2017)
Das US-amerikanische romantische Science-Fiction-Filmdrama „Her“ von Spike Jonze von 2013: https://www.warnerbros.com/movies/her#content
Thomas Fuchs auf der Homepage der Universität Heidelberg: https://www.uni-heidelberg.de/fakultaeten/philosophie/philsem/phaenomenologie/
#00 Trailer
(01.09.2020) Feedback
Trailer zu unserer Podcast Serie Selbstbewusste KI.
Vorgeschmack mit Ausblick.
Autor: Karsten Wendland
Produktion: Matthias Gerz / Tobias Windmüller
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000122828
Deutschlandfunk: Interview
(18.04.2019) Feedback
Interview zu KI und Bewusstsein mit Karsten Wendland, geführt von Peter Welchering. Podcast: KI-Bewusstsein und die Frage nach der Selbstwahrnehmung