Gedankenlesegeräte können jetzt vorbewusste Gedanken vorhersagen: Ist es Zeit, sich Sorgen zu machen

Ethiker sagen, dass KI-gestützte Fortschritte die Privatsphäre und Autonomie der Menschen, die Neurotechnologie nutzen, bedrohen werden.

Bevor ein Autounfall 2008 sie vom Hals abwärts lähmte, spielte Nancy Smith gerne Klavier. Jahre später begann Smith wieder, Musik zu machen, dank eines Implantats, das ihre Gehirnaktivität aufzeichnete und analysierte. Wenn sie sich vorstellte, eine On-Screen-Tastatur zu spielen, übersetzte ihre Gehirn-Computer-Schnittstelle (BCI) ihre Gedanken in Tastenanschläge – und einfache Melodien wie ‚Twinkle, Twinkle, Little Star‘ ertönten.

Aber es gab eine Wendung. Für Smith schien es, als spiele das Klavier von selbst. „Es fühlte sich an, als hätten die Tasten sich automatisch selbst getroffen, ohne dass ich darüber nachdachte“, sagte sie damals. „Es schien einfach, als kannte es die Melodie, und es machte es einfach von selbst.“

Smiths BCI-System, das im Rahmen einer klinischen Studie implantiert wurde, trainierte ihre Gehirnsignale, während sie sich vorstellte, Keyboard zu spielen. Dieses Lernen ermöglichte es dem System, ihre Absicht, Hunderte von Millisekunden zu spielen, zu erkennen, bevor sie es bewusst versuchte, sagt der Studienleiter Richard Andersen, Neurowissenschaftler am California Institute of Technology in Pasadena.

Smith ist einer von etwa 90 Menschen, denen in den letzten zwei Jahrzehnten BCIs zur Steuerung von Hilfstechnologien wie Computern, Roboterarmen oder synthetischen Sprachgeneratoren implantiert wurden. Diese Freiwilligen – gelähmt durch Rückenmarksverletzungen, Schlaganfälle oder neuromuskuläre Erkrankungen wie Motoneuronenerkrankungen (amyotrophe Lateralsklerose) – haben gezeigt, wie Befehlssignale für die Körpermuskeln, die vom motorischen Kortex des Gehirns aufgezeichnet werden, während Menschen sich bewegen, in Befehle für angeschlossene Geräte umgewandelt werden können.

Doch Smith, die 2023 an Krebs starb, gehörte zu den ersten Freiwilligen, denen eine zusätzliche Schnittstelle in ihrem hinteren parietalen Kortex implantiert wurde, einer Hirnregion, die mit Denken, Aufmerksamkeit und Planung verbunden ist. Andersen und sein Team sind der Meinung, dass solche ‚Doppelimplantat‘-BCIs durch die Erfassung der Absichten der Nutzer und der vormotorischen Planung die Leistung von Prothesen verbessern können.
Andersens Forschung zeigt auch das Potenzial von BCIs, die Bereiche außerhalb des motorischen Kortex erreichen. „Die Überraschung war, dass wir, wenn wir in den hinteren Parietal gehen, Signale empfangen können, die aus einer großen Anzahl von Bereichen zusammengemischt werden“, sagt Andersen. „Es gibt eine große Vielfalt an Dingen, die wir entschlüsseln können.
Die Fähigkeit dieser Geräte, auf Aspekte des innersten Lebens einer Person, einschließlich vorbewusster Gedanken, zuzugreifen, wirft die Bedenken auf, wie neuronale Daten privat gehalten werden können. Es wirft auch ethische Fragen darüber auf, wie Neurotechnologien die Gedanken und Handlungen von Menschen beeinflussen könnten – insbesondere in Verbindung mit künstlicher Intelligenz.

Gleichzeitig verbessert KI die Fähigkeiten tragbarer Konsumgüter, die Signale von außerhalb des Gehirns aufzeichnen. Ethiker befürchten, dass diese Geräte, wenn sie nicht reguliert bleiben, Technologieunternehmen Zugang zu neuen und präziseren Daten über die internen Reaktionen der Menschen auf Online- und andere Inhalte geben könnten.

Ethiker und BCI-Entwickler fragen nun, wie zuvor unzugängliche Informationen behandelt und genutzt werden sollten. „Whole-Brain-Interfacing wird die Zukunft sein“, sagt Tom Oxley, Geschäftsführer von Synchron, einem BCI-Unternehmen in New York City. Er prognostiziert, dass der Wunsch, psychiatrische Erkrankungen und andere Hirnerkrankungen zu behandeln, dazu führen wird, dass weitere Hirnregionen erforscht werden. Auf dem Weg, sagt er, werde KI weiterhin die Dekodierungsfähigkeiten verbessern und verändern, wie diese Systeme ihren Nutzern dienen. „Das führt dich zur letzten Frage: Wie machen wir das sicher?“

Verbraucherbedenken

Consumer-Neurotech-Produkte erfassen weniger komplexe Daten als implantierte BCIs. Im Gegensatz zu implantierten BCIs, die auf das Auslösen bestimmter Neuronensammlungen beruhen, basieren die meisten Verbraucherprodukte auf Elektroenzephalographie (EEG). Dies misst Wellen elektrischer Aktivität, die durch das durchschnittliche Feuern riesiger neuronaler Populationen entstehen und auf der Kopfhaut nachweisbar sind. Anstatt darauf ausgelegt zu sein, die bestmögliche Aufnahme einzufangen, sind Verbrauchergeräte so gestaltet, dass sie stilvoll sind (wie bei eleganten Stirnbändern) oder unauffällig (mit Elektroden in Kopfhörern oder Headsets für erweiterte oder virtuelle Realität versteckt).

Dennoch kann das EEG allgemeine Gehirnzustände wie Wachheit, Konzentration, Müdigkeit und Angstlevel aufzeigen. Unternehmen bieten bereits Headsets und Software an, die Kunden Echtzeit-Ergebnisse zu diesen Zuständen liefern, mit dem Ziel, ihnen beispielsweise zu helfen, ihre sportliche Leistung zu verbessern, effektiver zu meditieren oder produktiver zu werden.
KI hat dazu beigetragen, verrauschte Signale aus suboptimalen Aufzeichnungssystemen in zuverlässige Daten umzuwandeln, erklärt Ramses Alcaide, Geschäftsführer von Neurable, einem Neurotech-Unternehmen in Boston, Massachusetts, das sich auf EEG-Signalverarbeitung spezialisiert hat und dafür ein kopfhörerbasiertes Headset verkauft. „Wir haben dafür gesorgt, dass das EEG nicht mehr so schlecht ist wie früher“, sagt Alcaide. „Es kann im Grunde in realen Umgebungen verwendet werden.“

Und es gibt weitverbreitete Erwartungen, dass KI weitere Aspekte der mentalen Prozesse der Nutzer entschlüsseln wird. Zum Beispiel sagt Marcello Ienca, Neuroethiker an der Technischen Universität München in Deutschland, dass das EEG kleine Spannungsänderungen im Gehirn erkennen kann, die innerhalb von Hunderten von Millisekunden nach der Wahrnehmung eines Reizes auftreten. Solche Signale könnten zeigen, wie ihre Aufmerksamkeit und Entscheidungsfindung mit diesem spezifischen Reiz zusammenhängen.
Obwohl genaue Nutzerzahlen schwer zu ermitteln sind, nutzen bereits viele Tausend Enthusiasten Neurotech-Headsets. Und Ethiker sagen, dass ein großes Technologieunternehmen die Geräte plötzlich weit verbreitet einsetzen könnte. Apple beispielsweise patentierte 2023 ein Design für EEG-Sensoren für den zukünftigen Einsatz in seinen kabellosen Airpods-Ohrhörern.

Doch im Gegensatz zu BCIs, die auf die Klinik abzielen und medizinischen Vorschriften und Datenschutzbestimmungen unterliegen, unterliegt der Verbraucher-BCI-Bereich laut David Lyreskog, Ethiker an der Universität Oxford, Großbritannien, wenig rechtliche Kontrolle. „Es gibt einen Wilden Westen, wenn es um regulatorische Standards geht“, sagt er.

Im Jahr 2018 stellten Ienca und seine Kollegen fest, dass die meisten Verbraucher-BCIs keine sicheren Datenaustauschkanäle nutzen oder modernste Datenschutztechnologien implementieren. „Ich glaube, das hat sich nicht geändert“, sagt Ienca. Außerdem eine Analyse von 2024 aus den Datenrichtlinien von 30 Verbraucher-Neurotech-Unternehmen der Neurorights Foundation, einer gemeinnützigen Organisation in New York City, zeigten, dass fast alle vollständige Kontrolle über die von den Nutzern bereitgestellten Daten hatten. Das bedeutet, dass die meisten Firmen die Informationen nach Belieben nutzen können, einschließlich des Verkaufs. Als Reaktion auf diese Bedenken haben die chilenische Regierung und die Gesetzgeber von vier US-Bundesstaaten Gesetze erlassen, die direkte Aufzeichnungen jeglicher Form von Nervenaktivität als geschützt einstufen. Ienca und Nita Farahany, Ethikerin an der Duke University in Durham, North Carolina, befürchten jedoch, dass solche Gesetze unzureichend sind, weil sie sich auf die Rohdaten konzentrieren und nicht auf die Schlüsse, die Unternehmen durch die Kombination neuronaler Informationen mit parallelen digitalen Datenströmen ziehen können. Schlussfolgerungen über die psychische Gesundheit einer Person oder ihre politische Loyalität könnten dennoch an Dritte verkauft und genutzt werden, um eine Person zu diskriminieren oder zu manipulieren.

„Die Datenökonomie ist meiner Ansicht nach bereits ziemlich datenschutzverletzend und kognitiv freiheitsverletzend“, sagt Ienca. Das Hinzufügen neuronaler Daten, sagt er, „ist, als würde man der bestehenden Datenökonomie Steroide geben“.
Mehrere wichtige internationale Organisationen, darunter die Kulturorganisation der Vereinten Nationen UNESCO und die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung, haben zu diesen Themen Leitlinien herausgegeben. Darüber hinaus brachten im September drei US-Senatoren ein Gesetz ein, das die Federal Trade Commission verpflichtet, zu überprüfen, wie Daten aus der Neurotechnologie geschützt werden sollten.

Auf dem Weg zur Klinik

Während ihre Entwicklung zügig voranschreitet, wurde bisher kein implantiertes BCI für den allgemeinen klinischen Gebrauch zugelassen. Synchrons Gerät ist der Klinik am nächsten. Dieses relativ einfache BCI ermöglicht es den Nutzern, Bildschirmoptionen auszuwählen, indem sie sich vorstellen, wie sie ihren Fuß bewegen. Da es in ein Blutgefäß auf der Oberfläche des motorischen Kortex eingesetzt wird, ist keine Neurochirurgie erforderlich. Es hat sich in Erstversuchen als sicher, robust und wirksam erwiesen, und Oxley sagt, Synchron bespreche eine entscheidende Studie mit der US-amerikanischen Food and Drug Administration, die zu einer klinischen Zulassung führen könnte.

Elon Musks Neurotech-Firma Neuralink in Fremont, Kalifornien, hat sein komplexeres Gerät chirurgisch in den motorischen Kortex von mindestens 13 Freiwilligen implantiert, die es beispielsweise zum Spielen von Computerspielen und zur Steuerung von Roboterhänden nutzen. Vertreter des Unternehmens berichten, dass mehr als 10.000 Menschen sich auf Wartelisten für die klinischen Studien eingetragen haben.
Mindestens fünf weitere BCI-Unternehmen haben ihre Geräte in den letzten zwei Jahren erstmals am Menschen getestet und dabei kurzfristige Aufnahmen (Zeiträume von Minuten bis Wochen) bei Menschen gemacht, die sich neurochirurgischen Eingriffen unterziehen. Forscher vor Ort sagen, dass die ersten Zulassungen wahrscheinlich für Geräte im motorischen Kortex erfolgen werden, die Menschen mit schwerer Lähmung die Unabhängigkeit wiederherstellen – einschließlich BCIs, die Sprache durch synthetische Sprachtechnologie ermöglichen.

Was als Nächstes kommt, sagt Farahany, dass der Weg über den motorischen Kortex hinauszugehen unter BCI-Entwicklern ein weit verbreitetes Ziel ist. „Alle hoffen, weiter in der Zeit im Gehirn zurückzugehen“, sagt sie, „und zu diesem unterbewussten Vorläufer des Denkens zu gelangen.“

Last year, Andersen’s group published a proof-of-concept study wobei der innere Dialog aus dem parietalen Kortex zweier Teilnehmer entschlüsselt wurde, wenn auch mit einem äußerst begrenzten Wortschatz. Das Team hat außerdem aus dem Parietalkortex aufgenommen, während ein BCI-Nutzer das Kartenspiel Blackjack (Ponton) spielte. Bestimmte Neuronen reagierten auf die Gesichtswerte der Karten, während andere die kumulative Gesamtsumme der Hand eines Spielers verfolgten. Einige wurden sogar aktiv, wenn der Spieler entschied, ob er bei seiner aktuellen Hand bleiben oder eine weitere Karte nehmen wollte.

Sowohl Oxley als auch Matt Angle, Geschäftsführer der BCI-Firma Paradromics mit Sitz in Austin, Texas, sind sich einig, dass BCIs in anderen Hirnregionen als dem motorischen Cortex eines Tages bei der Diagnose und Behandlung psychiatrischer Erkrankungen helfen könnten. Maryam Shanechi, Ingenieurin und Informatikerin an der University of Southern California in Los Angeles, arbeitet auf dieses Ziel hin – unter anderem indem sie darauf abzielt, neuronale Signaturen psychiatrischer Erkrankungen und deren Symptome zu identifizieren und zu überwachen7. BCIs könnten solche Symptome bei einer Person möglicherweise verfolgen, eine Stimulation liefern, die die neuronale Aktivität anpasst, und quantifizieren, wie das Gehirn auf diese Stimulation oder andere Interventionen reagiert. „Dieses Feedback ist wichtig, weil du die Therapie genau auf die Bedürfnisse dieser Person abstimmen möchtest“, sagt Shanechi.