Warum wir KI so entwickeln müssen, dass sie wie das Gehirn funktioniert

Die Fortschritte der künstlichen Intelligenz (KI) bringen energieintensive Herausforderungen mit sich.

Eine Studie sagt voraus, dass bei anhaltendem Datenwachstum der kumulative Energieverbrauch für binäre Operationen bis 2040 10^27 Joule übersteigen könnte – mehr als die Welt erzeugen kann.

Untersuchen wir also die Auswirkungen von KI auf die Umwelt, die Beschränkungen herkömmlicher Computermodelle und wie sich Neuromorphic Computing (NC) vom energieeffizienten menschlichen Gehirn inspirieren lässt, was zu nachhaltigen KI-Fortschritten führt.

Künstliche Intelligenz: Das Dilemma

In den letzten Jahren hat die künstliche Intelligenz (KI) bemerkenswerte Meilensteine erreicht. Beispiele dafür sind die Entwicklung von Sprachmodellen wie ChatGPT und Fortschritte im Bereich der Computer Vision, die autonome Technologien ermöglichen und die medizinische Bildgebung verbessern.

Auch die erstaunlichen Fähigkeiten der KI im Bereich des verstärkenden Lernens, wie sie sich in ihren Siegen über menschliche Meister in Spielen wie Schach und Go zeigen, unterstreichen ihre bemerkenswerten Fähigkeiten.

Diese Entwicklungen haben es der KI zwar ermöglicht, Branchen zu verändern, Innovationen in der Wirtschaft zu fördern, wissenschaftliche Durchbrüche zu erzielen und die Gesellschaft nachhaltig zu beeinflussen, doch bleiben sie nicht ohne Folgen.

Abgesehen von dieser alarmierenden Prognose für das Jahr 2040 erfordert bereits heute die Speicherung umfangreicher Daten und das Training von KI-Modellen anhand dieser Datensätze erhebliche Energie- und Rechenressourcen, wie Untersuchungen zeigen:

Laut MIT Technology Review kann die Ausbildung eines Modells mehr Energie verbrauchen als der Lebenszeitverbrauch eines durchschnittlichen Autos.
Die Umweltauswirkungen des Cloud Computing übersteigen inzwischen die der Fluggesellschaften.
Rechenzentren tragen zu 2 bis 3 % der weltweiten Treibhausgasemissionen bei, wobei energieintensive Server 7 % des Stroms in Dänemark und 2,8 % in den USA verbrauchen.

Daher ist es von entscheidender Bedeutung, bei der Weiterentwicklung der KI ein Gleichgewicht zwischen den Fortschritten und dem Energiebedarf unter Berücksichtigung der Umweltauswirkungen herzustellen.

Von-Neumann-Architektur: Der Engpass

KI-Modelle arbeiten im Rahmen der Von-Neumann-Architektur, einer Computerkonstruktion, die im Wesentlichen Verarbeitung und Speicher trennt und eine ständige Kommunikation zwischen beiden erfordert.

Da die KI-Modelle immer komplexer werden und die Datensätze immer größer, stößt diese Architektur auf erhebliche Hindernisse.

Erstens teilten sich die Verarbeitungs- und Speichereinheiten einen Kommunikationsbus, was die KI-Berechnungen verlangsamt und die Trainingsgeschwindigkeit beeinträchtigt.

Zweitens fehlt es der Verarbeitungseinheit der Architektur an Parallelverarbeitungsfähigkeiten, was sich auf das Training auswirkt.

Während GPUs das Problem durch die Möglichkeit der parallelen Verarbeitung mildern, führen sie zu einem Overhead bei der Datenübertragung.

Durch die häufigen Datenbewegungen entsteht aufgrund der Speicherhierarchie zusätzlicher Overhead, der sich auf die Leistung auswirkt.

Große Datensätze verursachen lange Speicherzugriffszeiten und eine begrenzte Speicherbandbreite, was zu Leistungsengpässen führt.

Komplexe KI-Modelle belasten Von-Neumann-Systeme und begrenzen die Speicher- und Verarbeitungskapazitäten. Diese Einschränkungen haben zu einem hohen Energiebedarf und Kohlendioxidausstoß in KI-Systemen geführt.

Die Bewältigung dieser Herausforderungen ist entscheidend für die Optimierung der KI-Leistung und die Minimierung der Umweltauswirkungen.

Biologisches Gehirn: Die Inspiration

Das menschliche Gehirn ist in Bezug auf kognitive Fähigkeiten leistungsfähiger als jede KI-Maschine.

Trotz seiner immensen Leistung ist das Gehirn unglaublich leicht und verbraucht im Gegensatz zu den energiehungrigen Maschinen, die wir heute verwenden, nur 10 Watt.

Schätzungen zufolge kann das Gehirn selbst mit diesem bescheidenen Energiebudget eine erstaunliche Leistung von 1 Exaflop erreichen, was 1000 Petaflops entspricht – eine Leistung, die der schnellste Supercomputer der Welt mit seinen 30 Megawatt Leistung bei 200 Petaflops nur schwer erreichen kann.

Das Geheimnis des Gehirns liegt in seinen Neuronen, die im Gegensatz zur Von-Neumann-Architektur Verarbeitung und Speicher integrieren.

Das Gehirn verarbeitet Informationen auf massiv parallele Weise, wobei Milliarden von Neuronen und Billionen von Synapsen gleichzeitig arbeiten. Trotz seiner bemerkenswerten Komplexität bleibt das Gehirn kompakt und sparsam in seinem Energieverbrauch.

Was ist neuromorphes Rechnen?

Neuromorphes Rechnen (NC) ist ein Zweig der Computertechnologie, der von der Struktur und Funktionsweise der neuronalen Netze des menschlichen Gehirns inspiriert ist.

Ziel ist es, Computerarchitekturen und -systeme zu entwerfen und zu entwickeln, die die parallelen und verteilten Verarbeitungsfähigkeiten des Gehirns nachahmen und eine effiziente und energiesparende Verarbeitung komplexer Aufgaben ermöglichen.

Dieser Ansatz zielt darauf ab, die Beschränkungen der Von-Neumann-Architektur für KI-Aufgaben zu überwinden, insbesondere durch die Zusammenlegung von Speicher und Verarbeitung an einem einzigen Ort.

Um NC zu verstehen, ist es wichtig zu wissen, wie das Gehirn funktioniert. Neuronen, die Bausteine des Gehirns, kommunizieren über elektrische Signale zur Informationsverarbeitung.

Wenn sie Signale von miteinander verbundenen Neuronen empfangen, verarbeiten sie diese und senden Impulse aus.

Diese Impulse wandern entlang der von den Neuronen gebildeten Bahnen, wobei Synapsen – Lücken zwischen den Neuronen – die Übertragung erleichtern.

Im Rahmen von NC werden analoge Memristoren verwendet, um die Funktion der Synapsen nachzubilden und durch Anpassung des Widerstands ein Gedächtnis zu erreichen.

Die schnelle Kommunikation zwischen Neuronen wird typischerweise durch den Einsatz von Spiking Neural Networks (SNNs) erreicht.

Diese SNNs verbinden spikende Neuronen mit künstlichen synaptischen Bauelementen wie Memristoren, die analoge Schaltungen verwenden, um gehirnähnliche elektrische Signale zu imitieren.

Diese analogen Schaltungen bieten im Vergleich zur herkömmlichen Von-Neumann-Architektur eine deutlich höhere Energieeffizienz.

Neuromorphe Technologien

Der Aufstieg der künstlichen Intelligenz steigert die Nachfrage nach neuromorphem Computing.

Es wird erwartet, dass der weltweite Markt für neuromorphes Computing von 31,2 Mio. USD im Jahr 2021 bis zum Jahr 2030 auf rund 8.275,9 Mio. USD ansteigen wird, mit einer beeindruckenden CAGR von 85,73 %. Als Reaktion darauf entwickeln Unternehmen neuromorphe Technologien, wie z. B.:

IBMs TrueNorth: Der 2014 vorgestellte neuromorphe integrierte CMOS-Schaltkreis verfügt über 4096 Kerne, über eine Million Neuronen und 268 Millionen Synapsen. TrueNorth überwindet von-Neumann-Engpässe und verbraucht nur 70 Milliwatt.
Intels Loihi: Das 2017 vorgestellte Loihi ist 1000-mal energieeffizienter als das typische Training neuronaler Netze. Es verfügt über 131.072 simulierte Neuronen und weist eine 30- bis 1000-mal höhere Energieeffizienz als CPUs/GPUs auf.
Akida NSoC von BrainChip: Mit seiner Spiking-Neural-Network-Architektur integriert es 1,2 Millionen Neuronen und 10 Milliarden Synapsen. Akida unterstützt stromsparende Echtzeit-KI-Anwendungen wie Video-Objekterkennung und Spracherkennung.

Diese Innovationen sind ein Zeichen für die rasante Entwicklung des neuromorphen Computings zur Erfüllung der KI-Anforderungen.

Herausforderungen des Neuromorphic Computing

Um das Potenzial von NC in der KI zu nutzen, müssen bestimmte Herausforderungen bewältigt werden.

Erstens ist die Entwicklung effizienter Algorithmen, die mit neuromorpher Hardware kompatibel sind, entscheidend. Dies erfordert ein tiefes Verständnis der Hardware-Operationen und maßgeschneiderte Anpassungen.

Zweitens ist die Notwendigkeit, größere, komplexe Datensätze zu verarbeiten, entscheidend. Die derzeitigen NC-Experimente umfassen relativ bescheidene Datensätze, so dass die Leistung des Systems bei umfangreicheren und komplexeren Problemen untersucht werden muss.

Je größer und komplexer die Datensätze sind, desto höher sind die Anforderungen an das NC-System. Die Herausforderung besteht darin, NC-Systeme zu entwickeln, die diesen Anforderungen gerecht werden und gleichzeitig präzise und effektive Lösungen liefern.

Trotz ermutigender Ergebnisse aus kleineren Tests ist die Leistung von NC bei größeren und komplizierteren Datensätzen noch nicht erprobt.

Weitere Forschungs- und Entwicklungsarbeiten sind unerlässlich, um die Technologie für praktische Anwendungen zu optimieren.

Die Quintessenz

Neuromorphes Computing (NC) lässt sich von den neuronalen Netzen des Gehirns inspirieren, um die KI mit Energieeffizienz zu revolutionieren.

Da Fortschritte in der KI zu Umweltproblemen führen, bietet NC eine Alternative, indem es die parallele Verarbeitung des Gehirns nachahmt.

Im Gegensatz zur Von-Neumann-Architektur, die die Effizienz beeinträchtigt, werden bei NC Speicher und Verarbeitung gemeinsam genutzt, um Engpässe zu überwinden.

Innovationen wie TrueNorth von IBM, Loihi von Intel und Akida NSoC von BrainChip zeigen das Potenzial der neuromorphen Technologien.

Es gibt jedoch noch weitere Herausforderungen, darunter die Anpassung der Algorithmen und die Skalierbarkeit auf größere Datensätze. Die Weiterentwicklung von NC verspricht energieeffiziente KI-Lösungen mit nachhaltigem Wachstumspotenzial.