Flytande neurala nätverk är bland de viktigaste och mest unika nya komponenterna inom artificiell intelligens (AI).
När en maskin eller robot behöver reagera på externa stimuli eller data kan det vara extremt resurskrävande och orsaka en flaskhals om man försöker få in intelligens på ett mycket litet utrymme.
VentureBeat beskriver hur ett klassiskt neuralt nätverk kan behöva 100 000 artificiella neuroner för att hålla bilen stabil i en uppgift som att köra ett fordon längs en väg.
En otrolig upptäckt är dock att teamet vid MIT CSAIL, som utvecklar flytande neurala nätverk, kunde utföra samma uppgift med bara 19 neuroner.
Inspirationen bakom flytande neurala nätverk
Liquid Neural Networks är en typ av djupinlärningsarkitektur som utvecklats för att lösa en utmaning för robotar som utför komplex inlärning och uppgifter, i syfte att komma runt problemet med beroende av molnet eller begränsad intern lagring.
Daniela Rus, chef för MIT CSAIL, berättade för VentureBeat: “Inspirationen till flytande neurala nätverk kom från de befintliga metoderna för maskininlärning och hur de passar ihop med den typ av säkerhetskritiska system som robotar och edge-enheter erbjuder.
“På en robot kan man inte köra en stor språkmodell eftersom det inte finns tillräckligt med [beräkningskraft] och [lagringsutrymme] för det.”
Forskargruppen fann en ledtråd till sitt problem i forskningen om biologiska nervceller som finns i små organismer.
Vad är flytande neurala nätverk?
Tänk på flytande neurala nätverk som de sammankopplade cellerna i en mänsklig hjärna som går samman för att bearbeta information och producera resultat.
Den mänskliga hjärnan är ett mycket komplext cellarrangemang som utför extremt komplexa beräkningar.
Flytande neurala nätverk fokuserar på säkerhetskritiska tillämpningar, som självkörande fordon och robotar, som behöver en kontinuerlig ström av data som matas in i dem.
Daniela Rus säger: “I allmänhet fungerar flytande nätverk bra när vi har tidsseriedata … du behöver en sekvens för att flytande nätverk ska fungera bra.
“Men om man försöker tillämpa den flytande nätverkslösningen på en statisk databas som ImageNet kommer det inte att fungera så bra.”
Fördelar och begränsningar
Forskargruppen vid Computer Science and Artificial Intelligence Laboratory at MIT (CSAIL) fann följande fördelar baserat på deras erfarenhet.
- Kompakthet
Liquid Neural Networks kan arbeta med ett betydligt mindre antal neuroner än klassiska neurala nätverk.
Som beskrivits ovan skulle ett klassiskt neuralt nätverk med djupinlärning behöva 100 000 neuroner för att hålla en självkörande bil i sitt körfält – ett flytande neuralt nätverk behöver bara 19 neuroner.
- Kausalitet
Liquid Neural Networks hanterar kausalitet bättre än klassiska Deep Learning Neural Networks. De kan se ett tydligt samband mellan orsak och verkan, vilket klassiska neurala nätverk med djupinlärning har svårt att göra.
Till exempel kan de klassiska djupinlärda neurala nätverken konsekvent identifiera orsak-verkan-relationer mellan händelser i olika miljöer på ett mer effektivt sätt än det klassiska neurala nätverket.
- Tolkningsbarhet
Att förstå ett AI-systems tolkning av data är en av de största utmaningarna inom AI.
Klassiska djupinlärningsmodeller visar ofta ytliga, otydliga eller felaktiga grunder för tolkningar av data, men flytande neurala nätverk kan förklara sina grunder för tolkning av data.
- Men…
Liquid Neural Networks är inte en heltäckande lösning för allt.
Medan de hanterar kontinuerliga dataströmmar som ljudströmmar, temperaturdata eller videoströmmar väl, har de svårt med statiska eller fasta data, som är bättre lämpade för andra AI-modeller.
Slutsatsen om neurala nätverk och AI
I AI-landskapet är flytande neurala nätverk bland de mest kritiska framväxande modellerna.
Det samexisterar med det klassiska djupinlärande neurala nätverket men verkar passa bättre för extremt komplexa uppgifter som autonoma fordon, temperatur- eller klimatavläsning eller aktiemarknadsbedömningar, medan det klassiska djupinlärande neurala nätverket gör ett bättre jobb med statiska eller engångsdata.
Forskarna vid Computer Science and Artificial Intelligence Laboratory vid MIT (CSAIL) har försökt att utöka kapaciteten hos flytande neurala nätverk till fler användningsområden, men det kommer att ta tid.
Både flytande neurala nätverk och klassiska djupinlärande neurala nätverk har sina definierade roller i den bredare AI-bilden, och det är definitivt ett fall där två modeller är bättre än en.