Hur flytande neurala nätverk kan krympa AI-världen

Viktiga noteringar

Flytande neurala nätverk framstår som ett viktigt och särskiljande element i AI-landskapet på grund av deras mänskliga hjärnliknande, icke-linjära och kreativa tillvägagångssätt, i motsats till linjära neurala nätverk. De utmärker sig när det gäller att hantera komplexa utmaningar som väderprognoser, aktiemarknadsanalys och taligenkänning, områden som tidigare dominerades av mänskliga experter.

Flytande neurala nätverk är bland de viktigaste och mest unika nya komponenterna inom artificiell intelligens (AI).

När en maskin eller robot behöver reagera på externa stimuli eller data kan det vara extremt resurskrävande och orsaka en flaskhals om man försöker få in intelligens på ett mycket litet utrymme.

VentureBeat beskriver hur ett klassiskt neuralt nätverk kan behöva 100 000 artificiella neuroner för att hålla bilen stabil i en uppgift som att köra ett fordon längs en väg.

En otrolig upptäckt är dock att teamet vid MIT CSAIL, som utvecklar flytande neurala nätverk, kunde utföra samma uppgift med bara 19 neuroner.

Inspirationen bakom flytande neurala nätverk

Liquid Neural Networks är en typ av djupinlärningsarkitektur som utvecklats för att lösa en utmaning för robotar som utför komplex inlärning och uppgifter, i syfte att komma runt problemet med beroende av molnet eller begränsad intern lagring.

Daniela Rus, chef för MIT CSAIL, berättade för VentureBeat: “Inspirationen till flytande neurala nätverk kom från de befintliga metoderna för maskininlärning och hur de passar ihop med den typ av säkerhetskritiska system som robotar och edge-enheter erbjuder.

“På en robot kan man inte köra en stor språkmodell eftersom det inte finns tillräckligt med [beräkningskraft] och [lagringsutrymme] för det.”

Forskargruppen fann en ledtråd till sitt problem i forskningen om biologiska nervceller som finns i små organismer.

Vad är flytande neurala nätverk?

Tänk på flytande neurala nätverk som de sammankopplade cellerna i en mänsklig hjärna som går samman för att bearbeta information och producera resultat.

Den mänskliga hjärnan är ett mycket komplext cellarrangemang som utför extremt komplexa beräkningar.

Flytande neurala nätverk fokuserar på säkerhetskritiska tillämpningar, som självkörande fordon och robotar, som behöver en kontinuerlig ström av data som matas in i dem.

Daniela Rus säger: “I allmänhet fungerar flytande nätverk bra när vi har tidsseriedata … du behöver en sekvens för att flytande nätverk ska fungera bra.

“Men om man försöker tillämpa den flytande nätverkslösningen på en statisk databas som ImageNet kommer det inte att fungera så bra.”

Fördelar och begränsningar

Forskargruppen vid Computer Science and Artificial Intelligence Laboratory at MIT (CSAIL) fann följande fördelar baserat på deras erfarenhet.

  • Kompakthet

Liquid Neural Networks kan arbeta med ett betydligt mindre antal neuroner än klassiska neurala nätverk.

Som beskrivits ovan skulle ett klassiskt neuralt nätverk med djupinlärning behöva 100 000 neuroner för att hålla en självkörande bil i sitt körfält – ett flytande neuralt nätverk behöver bara 19 neuroner.

  • Kausalitet

Liquid Neural Networks hanterar kausalitet bättre än klassiska Deep Learning Neural Networks. De kan se ett tydligt samband mellan orsak och verkan, vilket klassiska neurala nätverk med djupinlärning har svårt att göra.

Till exempel kan de klassiska djupinlärda neurala nätverken konsekvent identifiera orsak-verkan-relationer mellan händelser i olika miljöer på ett mer effektivt sätt än det klassiska neurala nätverket.

  • Tolkningsbarhet

Att förstå ett AI-systems tolkning av data är en av de största utmaningarna inom AI.

Klassiska djupinlärningsmodeller visar ofta ytliga, otydliga eller felaktiga grunder för tolkningar av data, men flytande neurala nätverk kan förklara sina grunder för tolkning av data.

  • Men…

Liquid Neural Networks är inte en heltäckande lösning för allt.

Medan de hanterar kontinuerliga dataströmmar som ljudströmmar, temperaturdata eller videoströmmar väl, har de svårt med statiska eller fasta data, som är bättre lämpade för andra AI-modeller.

Slutsatsen

I AI-landskapet är flytande neurala nätverk bland de mest kritiska framväxande modellerna.

Det samexisterar med det klassiska djupinlärande neurala nätverket men verkar passa bättre för extremt komplexa uppgifter som autonoma fordon, temperatur- eller klimatavläsning eller aktiemarknadsbedömningar, medan det klassiska djupinlärande neurala nätverket gör ett bättre jobb med statiska eller engångsdata.

Forskarna vid Computer Science and Artificial Intelligence Laboratory vid MIT (CSAIL) har försökt att utöka kapaciteten hos flytande neurala nätverk till fler användningsområden, men det kommer att ta tid.

Både flytande neurala nätverk och klassiska djupinlärande neurala nätverk har sina definierade roller i den bredare AI-bilden, och det är definitivt ett fall där två modeller är bättre än en.

Relaterade termer

Kaushik Pal

Kaushik är teknisk arkitekt och programvarukonsult och har över 23 års erfarenhet av analys, utveckling, arkitektur, design, testning och utbildning inom programvarubranschen. Han är intresserad av ny teknik och innovationsområden. Han fokuserar på webbarkitektur, webbteknik, Java/J2EE, öppen källkod, WebRTC, big data och semantisk teknik. Han har visat sin expertis inom kravanalys, arkitekturdesign och implementering, förberedelse av tekniska användningsfall och mjukvaruutveckling. Hans erfarenhet har spänt över olika områden som försäkring, bank, flygbolag, sjöfart, dokumenthantering och produktutveckling etc. Han har arbetat med en mängd olika tekniker, från stordator (IBM S/390), mellanklass (AS/400), webbteknik, öppen källkod och big data. Kaushik är främst involverad…