Transparenz

KI lernt, wie man Freunde gewinnt und Menschen beeinflusst – und wir sollten besorgt sein

DAS WICHTIGSTE IM ÜBERBLICK

Wenn man die Fälle untersucht, in denen eine KI einen Menschen bittet, sich mit einem ungleichen Anteil an Geld zufriedenzugeben, oder die KI Menschen dazu überredet, äußerst vertrauliche Details zu besprechen, wird deutlich, dass KI die Kunst der Überzeugung beherrscht.

Ein Android, der eine Menschenmenge beobachtet

Jüngste Forschungsergebnisse zeigen, dass künstliche Intelligenz (KI) über eine bemerkenswerte Fähigkeit verfügt, Menschen dazu zu bewegen, in einer bestimmten Weise zu handeln oder zu denken.

Die Ergebnisse haben eine Debatte über die ethischen Aspekte und die Auswirkungen des Einsatzes von KI zur Beeinflussung ausgelöst, wobei verschiedene Studien unterschiedliche Merkmale der Beeinflussung aufzeigen – u. a., dass KI überzeugender ist als Menschen, dass Menschen eher bereit sind, mit einer KI über heikle Themen zu sprechen, und dass KI auch in der Lage ist, so zu tun, als sei sie ein echter Mensch.

Was die Fähigkeit des kontinuierlichen Lernens von KI angeht, stehen wir noch ganz am Anfang dieser Entwicklung, aber es gibt bereits eine Menge zu lernen.

KI-Forschung an der Universität von Illinois und der UTS Business School

Dr. TaeWoo Kim von der UTS Business School und sein Kollege Adam Duhachek von der University of Illinois haben eine Reihe von Studien zur ansprechenden Natur von KI durchgeführt.

Wenn eine Person anbietet, Geld ungleich mit einer anderen Person zu teilen, ist die standardmäßige und natürliche Reaktion Ablehnung und ein Gefühl der Diskriminierung aufgrund der ungleichen Aufteilung.

Die gleiche Person akzeptiert jedoch das gleiche Angebot, wenn eine KI die Person, die das Geld anbietet, ersetzt.

Dies offenbart nach Ansicht der Wissenschaftler einen gefährlichen Aspekt, den man sich zunutze machen könnte.

Dr. Kim sagte,

“Jemandem werden 100 Dollar gegeben und er bietet an, sie mit Ihnen zu teilen. Er bekommt 80 Dollar und Sie 20 Dollar. Wenn Sie dieses Angebot ablehnen, gehen sowohl Sie als auch der Vorschlagende leer aus. 20 Dollar zu bekommen ist besser als nichts, aber frühere Forschungen haben gezeigt, dass das Angebot von 20 Dollar wahrscheinlich abgelehnt wird, weil wir es als unfair empfinden.”

Dieselben Wissenschaftler führten ein weiteres Experiment durch, um herauszufinden, wie wohl sich Menschen fühlen, wenn sie über eine Harnwegsinfektion sprechen. Das Experiment zeigte, dass die Menschen eher bereit sind, auf Fragen zu antworten, die als peinlich empfunden werden, wenn sie von einer KI anstelle eines menschlichen Arztes gestellt werden.

Dr. Kim sagte: “Wir fanden heraus, dass dies daran liegt, dass die Menschen nicht glauben, dass die KI über unser Verhalten urteilt“.

Ein weiteres Ergebnis war, dass Menschen sich eher zu einer Handlung hinreißen ließen, wenn die KI ihnen das “Wie” einer Handlung erklärte und nicht das “Warum” dieser Handlung.

“Die Menschen waren eher bereit, sich mit Sonnencreme einzucremen, wenn eine KI ihnen erklärte, wie sie sich eincremen sollten, bevor sie ins Freie gehen, als wenn sie ihnen erklärte, warum sie Sonnencreme benutzen sollten.”

Auch wenn es sich hierbei um frühe Studien handelt, liegt die Vermutung nahe, dass wir anders handeln, wenn wir wissen, dass wir mit einer Maschine interagieren – aber was ist, wenn wir es nicht wissen?

Der Fall von Google Duplex

Google Duplex, ein automatischer Sprachassistent, der menschenähnliche Sprache erzeugen kann, kann Telefonanrufe an Menschen tätigen – wobei diese nicht zwischen der Computerstimme und der eines Menschen unterscheiden können.

Die Audioanrufe auf dem obigen Link zeigen, wie detailliert und ausgefeilt die KI ist. Wenn Sie einen dieser Anrufe erhalten würden, wären Sie überrascht, dass Sie mit einem Bot gesprochen hätten.

Ein Forscherteam unter der Leitung von Talal Rahwan, Associate Professor für Informatik an der NYU Abu Dhabi, fand heraus, dass “Bots bei bestimmten Mensch-Maschine-Interaktionen effizienter sind als Menschen, aber nur, wenn sie ihre nicht-menschliche Natur verbergen dürfen”.

Talal Rahwan sagte:

“Die Sprache von Google Duplex ist so realistisch, dass die Person am anderen Ende des Telefons möglicherweise nicht einmal merkt, dass sie mit einem Bot spricht. Ist es ethisch vertretbar, ein solches System zu entwickeln? Sollten wir Bots verbieten, sich als Menschen auszugeben, und sie zwingen, transparent zu machen, wer sie sind?

“Wenn die Antwort ‘Ja’ lautet, dann unterstreichen unsere Ergebnisse die Notwendigkeit, Standards für die Effizienzkosten festzulegen, die wir im Gegenzug für eine solche Transparenz zu zahlen bereit sind.”

Die KI-Kunst der Überredung

Betrachtet man die Fälle, in denen eine KI einen Menschen bittet, einen ungleichen Teil Geld zu akzeptieren, oder einen Menschen überredet, äußerst vertrauliche Details zu besprechen, wird deutlich, dass KI die Kunst der Überredung gut beherrscht.

Die Tatsache, dass Menschen sich nicht unsicher fühlen und keine Angst vor der Beurteilung durch eine Maschine haben müssen, kommt der KI zugute. Die Menschen könnten sich sicher fühlen, dass die KI keine Hintergedanken hat.

Aber kann diese Überzeugungskraft der KI auch missbraucht werden? Ein KI-Telefonanrufer oder -Vermarkter könnte beispielsweise einen Kreditantragsteller davon überzeugen, ein Kreditangebot zu einem Zinssatz anzunehmen, der viel höher ist als die marktüblichen Zinsen.

Sollte es ein Gesetz dazu geben, dass KI sich als solche zu erkennen geben muss?

Fazit

Angesichts der Entwicklung der KI und der verschiedenen Muster und Trends, die sich abzeichnen, war es nur eine Frage der Zeit, bis KI die Fähigkeit der Überzeugung entwickelt.

Im Laufe der Zeit wird sie ihre Fähigkeiten weiter ausbauen – und das bedeutet, dass sie in den Händen von böswilligen Nutzern ein mächtiges Werkzeug sein kann.

Es muss ein System oder ein Rahmen geschaffen werden, der es ermöglicht, die potenziellen Vorteile überzeugender KI zu nutzen, jedoch nicht in dem Maße, dass ein böswilliger Akteur KI – vor allem in großem Umfang – zur Durchführung heikler oder schädlicher Aufgaben einsetzen kann.

Verwandte Begriffe

Kaushik Pal
Technischer Redakteur

Kaushik ist technischer Architekt und Softwareberater und verfügt über mehr als 20 Jahre Erfahrung in den Bereichen Softwareanalyse, -entwicklung, -architektur, -design, -prüfung und -schulung. Er interessiert sich für neue Technologien und Innovationsbereiche. Er konzentriert sich auf Webarchitektur, Webtechnologien, Java/J2EE, Open Source, WebRTC, Big Data und semantische Technologien. Kaushik ist auch der Gründer von TechAlpine, einem Technologie-Blog/Beratungsunternehmen mit Sitz in Kolkata. Das Team von TechAlpine arbeitet für verschiedene Kunden in Indien und im Ausland. Das Team verfügt über Fachwissen in den Bereichen Java/J2EE/Open Source/Web/WebRTC/Hadoop/Big Data-Technologien und technisches Schreiben.