Hvordan flytende nevrale nettverk kan krympe KI-verden

VIKTIGE KONKLUSJONER

Flytende nevrale nettverk skiller seg ut som et viktig og særegent element i KI-landskapet på grunn av deres menneskelige hjernelignende, ikke-lineære og kreative tilnærming, i motsetning til lineære nevrale nettverk. De utmerker seg i å takle komplekse utfordringer som værmelding, aksjemarkedsanalyse og talegjenkjenningsområder, som tidligere var dominert av menneskelige eksperter.

Flytende nevrale nettverk er blant de viktigste og mest unike fremvoksende komponentene i landskapet for kunstig intelligens (KI).

Når en maskin eller robot må reagere på ytre stimuli eller data, kan det være ekstremt ressurskrevende, noe som skaper en flaskehals hvis man prøver å tilpasse intelligens i et svært lite rom.

VentureBeat beskriver hvordan et klassisk nevralt nettverk kan trenge 100,000 kunstige nevroner for å holde bilen stabil i en oppgave som å kjøre et kjøretøy nedover en vei.

Men i et utrolig funn, klarte teamet ved MIT CSAIL, som utvikler flytende nevrale nettverk, å utføre samme oppgave med bare 19 nevroner.

Inspirasjonen bak flytende nevrale nettverk

Flytende nevrale nettverk er en type dyp læring arkitektur utviklet for å løse en utfordring for roboter som utfører kompleks læring og oppgaver, med mål om å kutte rundt problemet med avhengighet av skyen eller begrenset intern lagring.

Daniela Rus, direktøren for MIT CSAIL, fortalte VentureBeat: “Inspirasjonen for flytende nevrale nettverk var å tenke på de eksisterende tilnærmingene til maskinlæring og vurdere hvordan de passer med de sikkerhetskritiske systemene som roboter og kantenheter tilbyr.

“På en robot kan du ikke virkelig kjøre en stor språkmodell fordi det ikke er nok beregningskraft og lagringsplass for det.”

Forskningsteamet fant et spor til problemet sitt fra forskning på biologiske nevroner funnet i små organismer.

Hva er liquid neural networks?

Tenk på flytende nevrale nettverk som de sammenkoblede cellene i en menneskehjerne som kommer sammen for å prosessere informasjon og gi output.

Den menneskelige hjernen er en svært kompleks celleoppstilling som utfører ekstremt komplekse beregninger.

Flytende nevrale nettverk fokuserer på sikkerhetskritiske applikasjoner, som selvkjørende kjøretøy og roboter, som trenger en kontinuerlig strøm av data som mates inn i dem.

Ifølge Daniela Rus, “Generelt gjør flytende nettverk det bra når vi har tidsserie-data … du trenger en sekvens for at flytende nettverk skal fungere bra.

“Men, hvis du prøver å anvende flytende nettverk-løsningen på noen statisk database som ImageNet, vil det ikke fungere så bra.”

Fordeler og begrensninger

Forskningsteamet ved Computer Science and Artificial Intelligence Laboratory ved MIT (CSAIL) fant følgende fordeler basert på deres erfaring.

  • Kompakthet

Liquid Neural Networks kunne arbeide med et betydelig mindre antall nevroner enn klassiske nevrale nettverk.

Som nevnt ovenfor, vil et klassisk dyp-lærings nevralt nettverk trenge 100,000 nevroner for å holde en selvkjørende bil i sin kjørebane – et flytende nevralt nettverk trenger bare 19 nevroner.

  • Kausalitet

Flytende nevrale nettverk håndterer kausalitet bedre enn klassiske dyp-lærings nevrale nettverk. De kan identifisere en klar sammenheng mellom årsak og virkning, noe som klassiske dyp-lærings nevrale nettverk sliter med å gjøre.

For eksempel kan klassiske dyp-lærings nevrale nettverk konsekvent identifisere årsak-virkning-forhold mellom hendelser på tvers av ulike innstillinger mer effektivt enn det klassiske nevrale nettverket.

  • Tolkbarhet

Å forstå en AI-systems tolkning av data er en av de største utfordringene i AI.

Klassiske dyp-læringsmodeller viser ofte overfladisk, uklar eller feil grunnlag for tolkninger av data, men flytende nevrale nettverk kan forklare sitt grunnlag for å tolke data.

  • Men…

Flytende nevrale nettverk er ikke en helhetlig løsning for alt.

Selv om de håndterer kontinuerlige datastrømmer som lydstrømmer, temperaturdata eller videostreamer godt, sliter de med statisk eller fast data, som er bedre egnet for andre KI-modeller.

Konklusjon

I AI-landskapet er flytende nevrale nettverk blant de mest kritiske fremvoksende modellene.

Det eksisterer sammen med det klassiske dyp-lærings nevrale nettverket, men ser ut til å være en bedre løsning for ekstremt komplekse oppgaver som autonome kjøretøy, temperatur- eller klimaavlesninger, eller aksjemarkedsvurderinger, mens det klassiske dyp-lærings nevrale nettverket gjør en bedre jobb med statisk eller engangsdata.

Forskerne ved Computer Science and Artificial Intelligence Laboratory ved MIT (CSAIL) har forsøkt å utvide kapasitetene til flytende nevrale nettverk til flere bruksområder, men det vil ta tid.

Både liquid neural networks og klassiske dyp-lærings nevrale nettverk har sine definerte roller i det bredere KI-bildet, og det er definitivt et tilfelle hvor to modeller er bedre enn én.

Kaushik Pal

Kaushik er en teknisk arkitekt og programvarekonsulent med over 23 års erfaring innen programvareanalyse, utvikling, arkitektur, design, testing og opplæring. Han har interesse for nye teknologier og innovasjonsområder. Han fokuserer på webarkitektur, webteknologier, Java/J2EE, åpen kildekode, WebRTC, stordata og semantiske teknologier. Han har demonstrert ekspertise innen kravsanalyse, arkitektonisk design og implementering, tekniske bruksmønstre og programvareutvikling. Hans erfaring dekker forskjellige bransjer som forsikring, bank, flyselskaper, shipping, dokumenthåndtering og produktutvikling, osv. Han har jobbet med et bredt spekter av teknologier som spenner fra stor skala (IBM S/390), medium skala (AS/400), webteknologier, åpen kildekode og stordata. Kaushik er hovedsakelig involvert i Java/J2EE/Open Source/Web/WebRTC/Hadoop…