Wie gedankenlesende KI neue Grenzen der Ethik eröffnet

DAS WICHTIGSTE IM ÜBERBLICK

Bei künstlicher Intelligenz (KI) gibt es Fortschritte in Richtung gedankenlesender Maschinen, die durch die Analyse von Gehirnsignalen die komplexe Sprache des menschlichen Denkens entschlüsseln können. Dies hat das Potenzial, die Kommunikation, die psychische Gesundheit sowie die Mensch-Maschine-Interaktion neu zu gestalten, birgt aber auch beunruhigende Aspekte. Das sich entfaltende Szenario ist faszinierend, doch seine Zukunft bleibt unbekannt.

Die Vorstellung, dass jemand oder etwas die Gedanken eines Menschen lesen kann, schien vor nicht allzu langer Zeit noch undenkbar zu sein.

Neue Studien zeigen jedoch überzeugende Beweise dafür, dass KI dies möglicherweise mit Genauigkeit tun kann.

Eine in der Zeitschrift Nature Neuroscience veröffentlichte Untersuchung zeigt, dass KI funktionelle Magnetresonanztomographie-Scans (engl. Functional Magnetic Resonance Imaging, fMRI) von Gehirnströmen lesen und die Gehirnsignale entschlüsseln kann.

Die Studie über die Frage, ob die KI-Modelle hinter ChatGPT und Google Bard menschliche Gedanken lesen und in Form von Text wiedergeben können, wurde von Jerry Tang, einem Doktoranden der Informatik, sowie Alex Huth, einem Assistenzprofessor für Neurowissenschaften und Informatik an der University of Texas in Austin, geleitet.

Im Rahmen der Forschung sollte herausgefunden werden, ob KI die Gedanken von Menschen lesen kann, bevor sie diese in Form von Text wiedergibt.

Drei Personen hörten sich eine Geschichte an, während ihr Gehirn mit nicht-invasiven MRT-Geräten gescannt wurde.

Das KI-Modell konnte die Gedanken auf der Grundlage des Scans teilweise verstehen.

Wie auf dem Bild oben zu sehen ist, könnte die KI das Wesentliche der Gehirnwellen übersetzen – von

„Ich wusste nicht, ob ich schreien, weinen oder weglaufen sollte … stattdessen sagte ich ‚Lass mich in Ruhe’“,

zu

„ … fing an zu schreien und zu weinen und sagte dann einfach: ‚Ich habe dir gesagt, du sollst mich in Ruhe lassen’“.

Die Arbeit stützt sich teilweise auf ein Transformer-Modell, ähnlich dem, das ChatGPT von OpenAI und Google Bard antreibt.

Im Gegensatz zu anderen in der Entwicklung befindlichen Sprachdecodierungssystemen erfordert dieses keine chirurgischen Implantate, so dass der Prozess nicht invasiv ist.

Zudem müssen die Teilnehmer nicht nur Wörter aus einer vorgegebenen Liste verwenden.

Die Gehirnaktivität wird mit einem fMRI-Scanner gemessen, nachdem der Decoder ausgiebig trainiert wurde, indem die Person stundenlang Podcasts im Scanner anhört.

Sofern der Teilnehmer bereit ist, seine Gedanken dekodieren zu lassen, kann die Maschine später, wenn er eine neue Geschichte hört oder sich vorstellt, eine Geschichte zu erzählen, den entsprechenden Text allein aus der Gehirnaktivität generieren.

Assistenzprofessor Huth sagte: „Für eine nicht-invasive Methode ist dies ein echter Sprung nach vorn im Vergleich zu dem, was bisher gemacht wurde, was typischerweise einzelne Wörter oder kurze Sätze betrifft. Wir bringen das Modell dazu, kontinuierliche Sprache über längere Zeiträume mit komplizierten Ideen zu entschlüsseln.“

„Diese Art von Systemen könnte vor allem für Menschen hilfreich sein, die aufgrund ihrer physischen Einschränkung nicht mehr sprechen können, z. B. nach einem Schlaganfall, und ihnen eine effektivere Kommunikation ermöglichen.“

Gedankenlesen mit KI: ein ethisches Dilemma?

Auch wenn KI, die potenziell menschliche Gedanken lesen kann, eine aufregende Entwicklung darstellt, werden aus ethischer Sicht viele Fragen aufgeworfen. Wie wird KI vorgehen, um die Gedanken der Menschen zu lesen?

Was wird mit den Erkenntnissen über den menschlichen Geist geschehen? Wer hat Zugang zu dieser Technologie? Wie wird sichergestellt, dass die Technologie nicht für Zwecke eingesetzt wird, die die Privatsphäre verletzen?

„Wir nehmen die Bedenken sehr ernst, dass sie für böse Zwecke verwendet werden könnten, und haben daran gearbeitet, dies zu vermeiden“, sagte einer der Leiter der Studie, Doktorand Jerry Tang von der UT Austin: „Wir wollen sicherstellen, dass die Menschen diese Art von Technologien nur dann nutzen, wenn sie es wollen und wenn sie ihnen hilft.“

Yu Takagi, Neurowissenschaftler und Assistenzprofessor an der Universität Osaka, räumte ein: „Für uns ist der Datenschutz das Wichtigste … Wenn eine Regierung oder eine Institution die Gedanken der Menschen lesen kann, ist das ein sehr heikles Thema. Es müssen Diskussionen auf höchster Ebene geführt werden, um sicherzustellen, dass dies nicht passieren kann.“

Wie regulieren wir den Fortschritt der KI?

Der wichtigste Grundsatz bei der Entwicklung dieser Technologie sollte Ausgewogenheit und Menschlichkeit sein aber das ist leichter gesagt als getan.

Vielleicht braucht die Welt eine mächtige Regulierungsbehörde, die die KI-Entwicklung sorgfältig überwacht.

Doch die Welt dazu zu bringen, dem zuzustimmen und dann in einer sich extrem schnell entwickelnden Branche zu regulieren, scheint nahezu unmöglich.

Die ersten Bedenken, die mir in den Sinn kommen, sind Regierungen, die es mit den Menschenrechten nicht so genau nehmen, oder dass diese Form der Technologie in die Hände von böswilligen Akteuren wie Terroristen gerät.

Fazit

Die Frage der Ethik ist relevant und unangenehm. Es ist nämlich schwierig, wenn nicht gar unmöglich, dass sich alle Länder auf ein gemeinsames Mindestmaß an Regeln für die Entwicklung und Anwendung von KI einigen.

Das Gedankenlesen scheint eine der stärksten Fähigkeiten zu sein, die mit äußerster Vorsicht eingesetzt werden muss, da sie andernfalls zu einer Katastrophe führen könnte.

Abgesehen davon ist eine gedankenlesende KI definitiv eine faszinierende Entwicklung mit zahlreichen legitimen Anwendungsfällen.

Verwandte Begriffe

Kaushik Pal

Kaushik ist technischer Architekt und Softwareberater und verfügt über mehr als 20 Jahre Erfahrung in den Bereichen Softwareanalyse, -entwicklung, -architektur, -design, -prüfung und -schulung. Er interessiert sich für neue Technologien und Innovationsbereiche. Er konzentriert sich auf Webarchitektur, Webtechnologien, Java/J2EE, Open Source, WebRTC, Big Data und semantische Technologien. Kaushik ist auch der Gründer von TechAlpine, einem Technologie-Blog/Beratungsunternehmen mit Sitz in Kolkata. Das Team von TechAlpine arbeitet für verschiedene Kunden in Indien und im Ausland. Das Team verfügt über Fachwissen in den Bereichen Java/J2EE/Open Source/Web/WebRTC/Hadoop/Big Data-Technologien und technisches Schreiben.