Hoe gedachtenlezende AI nieuwe grenzen van ethiek opent

Het idee dat iemand of iets kan lezen wat je denkt, leek nog niet zo lang geleden ondenkbaar. Nieuwe studies tonen echter overtuigend bewijs dat kunstmatige intelligentie (AI) dit mogelijk nauwkeurig kan doen.

Een studie gepubliceerd in het tijdschrift Nature Neuroscience toont aan dat AI Functional Magnetic Resonance Imaging (fMRI)-scans van hersengolven kan lezen en de hersensignalen kan ontcijferen.

Het onderzoek naar de vraag of AI-modellen achter ChatGPT en Google’s Bard menselijke gedachten kunnen lezen en deze in de vorm van tekst kunnen produceren, werd geleid door Jerry Tang, een doctoraalstudent in computerwetenschappen, en Alex Huth, die assistent-professor is in neurowetenschappen en computerwetenschappen aan de Universiteit van Texas in Austin.

Het doel van de studie was om erachter te komen of AI de gedachten van mensen kan lezen, voordat ze deze in de vorm van tekst herhalen.

Drie mensen luisterden naar een verhaal, waarbij hun hersenen werden gescand door niet-invasieve MRI-machines.

Het AI-model kon de gedachten gedeeltelijk begrijpen op basis van de scan.

Zoals te zien is in de bovenstaande afbeelding, zou AI de ‘kern’ van hersengolven kunnen vertalen — van

“Ik wist niet of ik moest schreeuwen, huilen of wegrennen… in plaats daarvan zei ik ‘laat me met rust'”,

naar

“…begon te schreeuwen en huilen en toen zei ze gewoon ‘Ik zei je dat je me met rust moest laten”

Het werk is deels gebaseerd op een transformermodel, vergelijkbaar met de modellen die ChatGPT en Google Bard van Open AI aandrijven.

In tegenstelling tot andere taaldecoderingssystemen die in ontwikkeling zijn, vereist dit systeem geen chirurgische implantaten van proefpersonen, waardoor het proces niet-invasief is. Deelnemers hoeven ook niet alleen woorden van een voorgeschreven lijst te gebruiken.

Hersenactiviteit wordt gemeten met een fMRI-scanner na uitgebreide training van de decoder, waarbij het individu urenlang naar podcasts luistert in de scanner.

Later, mits de deelnemer openstaat voor het decoderen van zijn gedachten, kan het luisteren naar een nieuw verhaal of zich voorstellen dat hij een verhaal vertelt, de machine in staat stellen om overeenkomstige tekst te genereren op basis van hersenactiviteit alleen.

Universitair docent Huth zei:

“Voor een niet-invasieve methode is dit een echte stap voorwaarts vergeleken met wat eerder is gedaan, wat doorgaans losse woorden of korte zinnen zijn We laten het model continue taal gedurende langere tijd decoderen met ingewikkelde ideeën. Dit soort systemen kunnen vooral nuttig zijn voor mensen die niet fysiek kunnen spreken, zoals mensen die een beroerte hebben gehad, en hen in staat stellen effectiever te communiceren.”

AI-gedachtenlezen: een ethisch dilemma?

Hoewel AI mogelijk menselijke gedachten kan lezen een opwindende ontwikkeling is, worden er vanuit ethisch perspectief veel vragen gesteld. Hoe gaat AI de gedachten van mensen lezen? Wat gaat er gebeuren met de bevindingen van de menselijke geest? Wie heeft toegang tot de technologie? Hoe ga je ervoor zorgen dat de technologie niet wordt gebruikt voor privacy-schendende doeleinden?

“We nemen de zorgen dat het voor slechte doeleinden kan worden gebruikt zeer serieus en hebben eraan gewerkt om dat te voorkomen”, zei een van de leiders van het onderzoek, doctoraalstudent Jerry Tang, UT Austin:
“We willen ervoor zorgen dat mensen dit soort technologieën alleen gebruiken wanneer ze dat willen en dat het hen helpt.”

Yu Takagi, een neurowetenschapper en universitair docent aan de Universiteit van Osaka erkende: “Voor ons zijn privacykwesties het allerbelangrijkste… Als een overheid of instelling de gedachten van mensen kan lezen, is dat een zeer gevoelige kwestie. Er moeten discussies op hoog niveau plaatsvinden om ervoor te zorgen dat dit niet kan gebeuren.”

Hoe reguleren we AI-vooruitgang?

Het belangrijkste principe dat de ontwikkeling van deze technologie beheerst, moet evenwichtig en humaan zijn, maar dat is makkelijker gezegd dan gedaan.

Misschien heeft de wereld een krachtig regelgevend orgaan nodig om de ontwikkeling van AI zorgvuldig te beoordelen, maar de wereld zover krijgen dat ze daarmee instemt en vervolgens regulering toepast in een extreem snel veranderende industrie, lijkt bijna onmogelijk.

De eerste zorgen die in me opkomen, zijn regeringen die een minder dan onberispelijke benadering van mensenrechten hebben, of deze vorm van technologie die in handen valt van kwaadaardige krachten zoals terroristen.

Conclusie

De kwestie van ethiek is pertinent en ongemakkelijk, omdat het moeilijk, zo niet onmogelijk is om alle landen te laten instemmen met een gemeenschappelijke minimale set regels die de ontwikkeling en implementatie van AI regelen.

De mogelijkheid om gedachten te lezen lijkt een van de krachtigste mogelijkheden te zijn die uiterst zorgvuldig moet worden gebruikt, anders kan het een ramp betekenen. Dat gezegd hebbende, is AI om gedachten te lezen absoluut een fascinerende ontwikkeling met meerdere, legitieme use cases.