Mitä on Edge AI?

Yksinkertaistettuna Edge AI tarkoittaa edge-laskennan ja AI:n eli tekoälyn yhdistelmää: tekoäly prosessoi dataa mahdollisimman lähellä datan lähdettä, joko suoraan laitteessa tai lähellä laitetta sijaitsevassa palvelimessa.
Laite pystyy suorittamaan analyysin ja tekemään itsenäisiä päätöksiä millisekunneissa ilman, että sen tarvitsee olla yhteydessä internetiin tai pilveen. Edge AI:n hyödyntämismahdollisuuksia on lähes rajattomasti. Sovelluskohteita löytyy älykelloista tuotantolinjoille ja älyrakennuksista ja -kaupungeista aina logistiikkaan ja liikenteeseen.
Miten Edge AI toimii, mitä hyötyä siitä on liiketoiminnalle ja miksi siitä kannattaa olla kiinnostunut? Mitä tulevaisuudelta voidaan odottaa ja miten Edge AI:n hyödyntämisessä pääsee alkuun? Tämän sivun luettuasi tiedät - aloitetaan siis matka verkon reunoille!

 

Vinkki kiireisimmille: sivun vasemmasta reunasta löydät sisällysluettelon, josta pääset navigoimaan suoraan sinua kiinnostavaan kappaleeseen. 👀

 

👉 Reunalaskenta

Edge computing, reunalaskenta, tarkoittaa sitä, että laskenta, datan käsittely, tuodaan ”verkon reunalle”. Vaikka verkon reunan määritelmä ei todellakaan ole yksiselitteinen, tarkoittaa reunalaskenta yksinkertaisesti sanottuna sitä, että laskenta tehdään mahdollisimman lähellä sitä fyysistä paikkaa, josta data kerätään. Jos data kerätään laitteesta sensoreilla ja se prosessoidaan paikan päällä, voidaan puhua reunalaskennasta. Samoin reunalaskentaa tapahtuu silloin, kun mobiililaite käsittelee kuvainformaatiota suoraan laitteessa lähettämättä dataa pilveen. Lue lisää edge-laskennasta Samun blogista täältä.

👉 Tekoäly

Laajasti ajateltuna tekoälyllä tarkoitetaan sitä, että kone jäljittelee inhimillistä päättelyä: ongelmanratkaisua tai vaikkapa kielen ymmärtämistä. Tekoäly voidaan ymmärtää edistyneenä, usein koneoppimiseen perustuvana, analytiikkana yhdistettynä automaatioon. Käytännönläheinen määritelmä kattaa oikeastaan kaikki nykyiset tekoälysovellukset. Jos tekoälyyn ja analytiikkaan liittyvät termit kiinnostavat, kannattaa käydä lataamassa kokoamamme Tekoälysanasto.

 

tekoälysanasto_advian

 

Edge AI on verkon reunalla tapahtuvaa analytiikkaa, johon on lisätty mausteeksi roppakaupalla älykkyyttä. 

Edge AI:ssa hyödynnetään edistynyttä analytiikkaa (kuten tekoälyä ja koneoppimista), edge-laskentatekniikoita (kuten konenäköä, videoanalytiikkaa ja sensorifuusiota). Edge AI vaatii toimiakseen myös reunalaskennan mahdollistavaa laitteistoa ja elektroniikkaa, sekä usein myös sijaintianalytiikan (location intelligence) menetelmiä.

Edge AI-laitteita voivat olla esimerkiksi älykaiuttimet, puhelimet, kannettavat tietokoneet, robotit, itseajavat autot, dronet ja videoanalytiikkaa hyödyntävät valvontakamerat.

Vaikka pääosa koneen tekemistä päätöksistä ja analyysistä tapahtuukin jo reunalla, suurin hyöty saadaan, kun laitteiden tuottamat havainnot kytketään mukaan liiketoiminnan prosesseihin. Reaaliaikaisen laskennan mahdollistamiseksi tarvitaan tämän vuoksi myös moderneja data-alustoja, joiden avulla pystytään käsittelemään suuria määriä sijainti- ja streaming-dataa. 

Miten Edge AI auttaa luomaan parempaa liiketoimintaa?

Edge AI tekee datan käsittelystä turvallisempaa, nopeuttaa päätöksentekoa, parantaa käyttökokemusta hyper-personoinnin avulla sekä alentaa kustannuksia - muun muassa prosesseja nopeuttamalla ja laitteiden energiankulutusta vähentämällä.

Esimerkkinä voisi toimia käsikäyttöinen työkalu tehtaalla, jossa on Edge AI-ohjelmistoa hyödyntävä mikroprosessori. Koska tietoa ei tarvitse jatkuvasti lähettää pilveen, laitteen akku säilyy pidempään. Työkalu kerää, prosessoi ja analysoi dataa reaaliajassa, ja työpäivän jälkeen laite lähettää tietoja pilveen myöhempää analyysiä varten. Tekoälyllä varustettu työkalu voi esimerkiksi sammuttaa itse itsensä vaaratilanteen sattuessa. Valmistaja taas saa itselleen tietoa laitteiden toiminnasta ja käyttötavoista, mikä on arvokasta tuotteen jatkokehityksen kannalta. 

Latenssi

Datan siirto pilvipalveluun ja takaisin vie aikaa. Tämä aika, latenssi, on tyypillisesti 100 millisekunnin luokkaa, eikä se usein ole ongelma. Toisinaan analytiikan vasteaikavaatimus on kuitenkin niin kova, että latenssikin on liikaa. Esimerkiksi uudet Porschet on varustettu sadoilla antureilla, jotka tuottavat jatkuvasti valtavalla vauhdilla dataa auton toiminnasta. Porscheen on upotettu NVIDIAn GPU-prosessori ja Kinetica-analytiikkaohjelmisto. Kinetica analysoi jatkuvasti ja reaaliajassa dataa auton toiminnasta, ja automatiikka puuttuu tarvittaessa peliin. Jos auton nopeus on vaikkapa 200km/h, on millisekuntien latenssi aivan liian pitkä aika. Päätös jarruttaa on myöhässä silloin, kun auto on jo ojassa.

Reaaliaikainen analytiikka

Edge-laskenta tuo mahdollisuuden lähes reaaliajassa tapahtuvaan analytiikkaan. Analyysi tapahtuu sekunnin murto-osissa – aikakriittisissä tapauksissa tämä on välttämätöntä. Ajatellaan esimerkiksi koneita tehtaan kokoonpanolinjalla. Jos kokoonpanolinjan robotti aktivoituu väärään aikaan tai liian myöhään, voi seurauksena olla vaurioitunut tuote tai se, että tuote siirtyy seuraavaan vaiheeseen käsittelemättömänä.  Jos vika huomataan, kokoonpanolinja joudutaan pysäyttämään. Jos virhettä taas ei huomata, viallinen tuote saattaa päätyä markkinoille tai aiheuttaa vahinkoja tuotannon myöhemmissä vaiheissa.

Skaalautuvuus

On arvioitu, että vuoteen 2025 mennessä jo yli 41,6 miljardia IoT-laitetta olisi yhdistettynä verkkoon – yhteensä laitteet tuottaisivat jopa 79,4 zettatavua dataa. Kun volyymit kasvavat, datan käsittelyyn ja tehokkaaseen analysointiin tarvitaan uusia innovatiivisia tapoja. Edgen avulla aiempaa suuremman datamäärän kerääminen ja prosessointi onnistuu, kun dataa ei keskitetä enää vain yhteen paikkaan.  

Kun suuri osa prosessoinnista tehdään paikallisesti, ”reunalla”, ei keskitetty palvelu tai tiedon siirto muodostu pullonkaulaksi. Egde AI -käyttötapauksiin liittyy usein hyvin suuria datamääriä. Videokuvan siirtäminen pilveen prosessoitavaksi ei ole toimiva ratkaisu, jos videokuvaa pitäisi samanaikaisesti prosessoida sadoista tai tuhansista eri lähteistä.

Tietoturva ja turvallisuus

Vähemmän dataa pilvessä tarkoittaa vähemmän mahdollisuuksia väärinkäytöksiin. Edge toimii usein suljetussa verkossa - tästä syystä tietoja on hankalampi kaapata ja useista eri laitteista koostuvaa verkkoa on vaikeampi kaataa.

Ylipäänsä kaikki turvallisuuteen liittyvä on melkeinpä pakko tehdä reunalla. Esimerkkinä voidaan ajatella tehtaan älykkäitä turvallisuudenvalvonnan järjestelmiä. Koneiden mennessä epäkuntoon tai ihmisten liikkuessa väärällä alueella, hälytys pitäisi saada jo ennen, kuin onnettomuus ehtii sattua. 

Kun datan prosessointi tehdään hyvin paikallisesti, dataa ei jouduta siirtämään esimerkiksi pilveen. Tällöin mahdollisuudet päästä luvattomasti kiinni dataan ovat vähäiset. Lisäksi reaaliajassa prosessoitava arkaluontoinen data, esimerkiksi videokuva, saattaa olla olemassa vain silmänräpäyksen ennen kuin se häviää. Tällaisesssa tilanteessa tietoturva ja tietosuoja on helpompi varmistaa, koska käytännössä tunkeutujan pitäisi päästä kiinni suoraan siihen fyysiseen laitteeseen, jossa datan prosessointi tapahtuu.

 

Automatisoitu päätöksenteko

Itseajavassa autossa on satoja eri sensoreita ja antureita, jotka mittaavat jatkuvasti muun muassa renkaiden pyörimisnopeutta ja ajoneuvon asentoa. Tekoälyavusteinen ajotietokone pystyy antureiden keräämän datan avulla tekemään tarvittavat päätökset ohjauksen suhteen täysin automaattisesti.

 

Kustannussäästöt

Edge voi tuoda organisaatiolle huomattavia kustannussäästöjä, mikä johtuu muun muassa kaistan käytön minimoinnista, analytiikan skaalautuvuudesta sekä kriittisten päätösten viiveen lyhenemisestä. Ajan lisäksi edge säästää myös kaistaa - tiedonsiirron tarve nimittäin vähenee. Tämä tekee laitteista myös energiatehokkaampia. 

Vaikka massiivisten datamäärien monimutkainen analytiikka pilvessä olisikin teknisesti toteutettavissa, on varmaa, että se ei ole halpaa. Kun halutaan todella nopeita vasteaikoja ja analysoitavana on jatkuva datavirta sekä mahdollisesti massiivinen määrä historiadataa, joudutaan pilvipalvelusta ostamaan paljon kapasiteettia, mm. GPU-laskentaa. Tällöin ratkaisusta saattaa tulla niin kallis, että sen toteutus tuhoaa business case -laskelman. Edge AI vaatii paikallista laskentatehoa ja laiteinvestointeja, mutta se on tästä huolimatta monessa tilanteessa kustannustehokkain ratkaisu.

Miten Edge AI toimii?

Mitä ovat Edge AI:n toimintaperiaatteet ja mitä se vaatii? Avainsanoja ovat reunalaskenta, tekoäly ja koneoppiminen. 

Koneoppiminen

Koneoppimisessa koneelle annetaan tarpeellinen aineisto ja käsketään sitä keksimään paras tapa vastata annettuun kysymykseen.

Prosessi alkaa tyypillisesti mallin opettamisella tiettyyn tehtävään sopivan aineiston avulla. Toisin sanoen malli ohjelmoidaan löytämään kaavoja ja toistuvuuksia opetusdatassa, minkä jälkeen mallin toimivuutta arvioidaan testiaineistolla. Testiaineisto on mallille uutta dataa, mutta sen tulisi kuitenkin sisältää samankaltaisuuksia opetusdatan kanssa.

Kun malli on opetettu, se otetaan käyttöön, eli ”viedään tuotantoon”.

Mallia voidaan nyt käyttää inferenssiin, eli ennusteiden tekemiseen (inference) sopivassa kontekstissa, esimerkiksi mikropalveluna. Inferenssillä tarkoitetaan koneoppimisen termistössä prosessia, jossa opetettu malli tekee ennusteita ja päätöksiä uuden datan pohjalta.

Kun malli on todettu toimivaksi, mallin tuottamat tulokset kytketään osaksi liiketoiminnan prosesseja ja päätöksentekoa. Käytännössä malli toimii API-rajapinnan kautta, ja tulokset viedään osaksi toista ohjelmistoa tai visualisoidaan loppukäyttäjälle.

EdgeAI-cta

👉 Samu esittelee videolla kolme käytännön esimerkkiä, miten koneoppimista voidaan hyödyntää osana prosesseja. 

Advian_Samu_koneoppiminen_someen_v3

Pilvi ei riitä

Laskennan ja tietovarastoresurssien hintojen lasku sekä pilvilaskennan yleistyminen mahdollistavat tätä nykyä koneoppimisen hyödyntämisen suuressa mittakaavassa. Tämä ei ole kuitenkaan täysin ongelmatonta - kaistarajoitukset nimittäin aiheuttavat latenssia ja erilaisia haasteita tiedonsiirrossa.

Koneoppimismallin opettaminen on laskennallisesti kallis tehtävä, joka toimii hyvin pilviympäristössä. Itse mallin käyttäminen päätelmien tekemiseen, eli inferenssiin, taas vaatii vain hyvin vähän laskentaresursseja.

Industry 4.0 ja älykkäät IoT-laitteet ovat osaltaan vaikuttaneet siihen, että pilvessä tehtävä inferenssi toimii jatkuvasti heikommin. Samalla vaatimukset reaaliaikaiselle analytiikalle kasvavat.

Jos koneoppimismalli toimii pilvessä, täytyy data ensin siirtää edge-laitteesta pilveen. Tämä vaatii luotettavasti toimivaa yhteyttä. Kun dataa on paljon, siirto voi olla hidasta tai jossain tapauksissa jopa mahdotonta. Jos datansiirto epäonnistuu, on malli käytännössä hyödytön.  

Vaikka siirto onnistuisikin, ongelmaksi jää latenssi. Toki malli tarvitsee jonkin verran aikaa inferenssiin, mutta päätelmät täytyy lähettää silti takaisin edge-laitteeseen. Aikakriittisissä tapauksissa, joissa matala latenssi on erittäin tärkeää, (kuten edellä mainittu itseajava auto tai tuotantolinjan kone), pilvi ei yksinkertaisesti riitä.

pilvi-inferenssi

Inferenssi pilvessä

 

Mikä mahdollistaa Edge AI:n?

Laskentateholtaan suorituskykyisemmät edge-laitteet mahdollistavat uuden tavan hyödyntää tekoälyä ja koneoppimista – Edge AI:n.

Verrattuna perinteiseen asetelmaan, missä inferenssi tapahtuu keskitetysti pilvialustalla, Edge AI:ssa koneoppimismalli voi toimia suoraan edge-laitteessa – keskeytyksettä ja ilman jatkuvaa yhteyttä ulkomaailmaan. Mallin luomisen prosessi on kuitenkin edelleen sama: malli täytyy opettaa yhdistetyllä aineistolla ennen kuin se voidaan ottaa käyttöön. Tästä taas aiheutuu ongelmia useista syistä.

Ensinnäkin aineiston kerääminen onnistuu vain siirtämällä data laitteista pilvialustalle, mikä on luonnollisesti ongelma kaistarajoitteiden näkökulmasta. Toiseksi yksittäisistä laitteista kerättyä dataa ei voida käyttää luotettavasti ennustamaan, millaisia tuloksia muista laitteista saadaan. 

edge-inferenssi

Inferenssi paikallisesti edge-laitteessa

 

Kaiken lisäksi aineiston kerääminen ja säilyttäminen on haastavaa yksityisyyden näkökulmasta. Lainsäädännön asettamista rajoituksista (esim. GDPR) aiheutuu merkittäviä esteitä koneoppimismallien opettamiselle. Keskitetty tietovarasto on myös houkutteleva kohde hyökkääjille. Siksi usein kuultu väite, jonka mukaan edge yksinään vastaisi yksityisyys- ja tietoturvahaasteisiin, ei pidä paikkaansa.

Ratkaisu edellä mainittuihin ongelmiin löytyy hajautetusta oppimisesta (federated learning). Hajautettu oppiminen on tapa opettaa koneoppimismalleja useissa laitteissa ilman, että itse dataan täytyy päästä käsiksi. Malleja opetetaan paikallisesti ja vain mallin päivitykset välitetään takaisin keskuspalvelimelle, joka sitten kokoaa päivitykset ja lähettää päivitetyn mallin takaisin laitteeseen. Tämä mahdollistaa hyper-personoinnin säilyttäen samalla yksityisyyden.

Kannattaa muistaa, ettei reunalaskenta korvaa kokonaan pilvilaskentaa - molempia tarvitaan.

Lukuisissa sovelluksissa pilvipohjainen koneoppiminen toimii edelleen paremmin. Pilvilaskenta on parempi vaihtoehto, jos sovellus kestää viivettä tai jos inferenssi voidaan tehdä suoraan pilvessä. 

Edge AI tulevaisuus ja trendit

Global Edge AI Software Market Growth -raportin mukaan yksin Edge AI:n ohjelmistomarkkina tulee kasvamaan 346,5 miljoonasta dollarista noin 1,1 miljardiin dollariin vuoteen 2024 mennessä. Samassa suhteessa kasvavat Edge AI:n laitteistojen ja konsultoinnin markkinat.  Grand View Research arvioi, että koko globaali edge computing -markkina kasvaa 37,4 prosenttia vuodessa ja tulee olemaan 43,4 miljardia dollaria vuoteen 2027 mennessä.

Uuteen teknologiaan liittyy aina paljon hypeä, mutta Edge AI -markkinan kasvuun on nähtävissä useita konkreettisia syitä.

5G

5G-verkkoja aletaan pikkuhiljaa rakentaa, aluksi vain paikallisesti ja tiheästi asuttuihin keskuksiin. 5G-verkot mahdollistavat suurten ja nopeiden datavirtojen keräämisen. Edge AI -teknologian arvo nousee arvoon arvaamattomaan, kun näitä datavirtoja päästään hyödyntämään ja analysoimaan tehokkaasti mahdollisimman lähellä 5G-verkkoon kytkettyjä laitteita.

IoT ja massiiviset datamäärät

IoT ja sensoriteknologia tuottavat massiivisia datamääriä. Niin suuria, että niiden kerääminenkin on käytännössä usein hankalaa ja joskus mahdotonta. Esimerkiksi uusimmissa Airbus A350 -lentokoneissa on 50 000 sensoria, jotka keräävät huikeat 2,5 teratavua dataa päivässä. Tämä on enemmän kuin Wal-Martin koko "massiivisessa" Teradata-tietovarastossa oli dataa vuonna 1992.

Data ilman datan merkitystä kuvaavaa metadataa syntypaikastaan irrotettuna ei kerro meille oikeastaan mitään. Siksi pelkkä datan talteen laittaminen ei riitä. Sensoridata yksinään on pelkkää kohinaa. Hieman kärjistäen voisikin sanoa, että vasta Egde AI mahdollistaa paljon hypetetyn IoT-datan täysimittaisen hyödyntämisen. Massiivinen määrä sensoridataa voidaan analysoida paikallisesti ja operatiiviset päätökset automatisoida. Vain kaikkein olennaisin data talletetaan pilvessä tai konesalissa sijaitsevaan tietovarastoon.  

Asiakaskokemus

Ihmiset haluavat palveluilta jouhevaa ja saumatonta käyttökokemusta. Sekuntienkin viive saattaa pilata asiakaskokemuksen. Reunalaskenta vastaa tähän tarpeeseen käytännössä poistamalla tiedonsiirrosta aiheutuvan viiveen.

Lisäksi sensorit, GPU-prosessorit, kamerat ynnä muut laitteistot halpenevat jatkuvasti, joten sekä räätälöidyt että pitkälle tuotteistetut Egde AI -ratkaisut tulevat yhä useampien ulottuville.  

Esimerkkejä Edge AI:n käyttökohteista

Erityisen paljon hyötyjä Edge AI tuo liikenteen ja kuljetuksen saralla (muun muassa itseajavat autot ja koneet) ja teollisuudessa (kuten ennakoiva huolto, laadunvalvonta, tuotantolinjojen automatisointi ja turvallisuuden valvonta videoanalytiikan avulla). Muita kasvavia toimialoja Edge AI:n saralla ovat esimerkiksi kaupan ala ja energia-ala. 

Teollisuus

Valmistavan teollisuuden laadunvalvonta on yksi Edge AI:n lupaavimpia käyttötapauksia. Edistynyt konenäkö (videoanalytiikka) pystyy valvomaan tuotteiden laatua väsymättä, luotettavasti ja erittäin tarkasti.

Videoanalytiikalla pystytään kokemustemme mukaan havaitsemaan jopa sellaiset laatupoikkeamat, jotka ovat ihmissilmällä lähes mahdottomia huomata.

Tuotannon automatisointi edellyttää edistynyttä analytiikkaa esimerkiksi laitevikojen ennakoinnissa. Sensoreista tulevan datan analysointi ja poikkeamien havaitseminen lähes reaaliajassa mahdollistaa esimerkiksi laitteen pysäyttämisen ennen rikkoontumista. Tämän avulla voidaan säästyä merkittäviltä laitteistovahingoilta tai loukkaantumisilta. Myös esimerkiksi materiaalivirtojen automaattinen analysointi videoanalytiikalla on yksi lupaava käyttötapaus.

Kuljetus ja liikenne

Matkustajakoneet ovat jo pitkään toimineet pitkälle automatisoidusti ja sensoreista kerättävän datan reaaliaikainen analysointi voi parantaa lentoturvallisuutta entisestään.

Vaikka täysin autonomiset ja kokonaan ilman miehistöä seilaavat laivat ovat todellisuutta ehkä vasta vuosien päästä, on nykyaikaisissa aluksissa jo nyt paljon edistynyttä analytiikkaa. 

Edge AI -teknologiaa voidaan hyödyntää myös esimerkiksi matkustajamäärien laskemisessa ja nopeasti liikkuvien kulkuneuvojen äärimmäisen tarkassa paikantamisessa. Junaliikenteessa nykyistä tarkempi paikannus on ensimmäinen askel ja edellytys kohti autonomista raideliikennettä.

Energia-ala

Älykäs sähköverkko (smart grid) tuottaa valtavasti dataa. Aidosti älykäs verkko mahdollistaa kysyntäjouston, kulutuksen seurannan ja ennakoinnin, uusiutuvan energian hyödyntämisen ja hajautetun energiantuotannon. Älykäs sähköverkko vaatii kuitenkin laitteiden keskinäistä viestintää, eikä tietoja välttämättä ole tästä syytä mielekästä kierrättää perinteisen pilvipalvelun kautta.

 

Kaupan ala

Suuret kauppaketjut ovat tehneet asiakasanalytiikkaa jo pitkään. Analytiikka perustuu tällä hetkellä suurelta osin toteutuneiden ostosten, käytännössä siis kuittirividatan, analysointiin. Vaikka tällä päästäänkin hyviin tuloksiin, ei kuittirividata kerro kaikkea. Se ei kerro, miten ihmiset liikkuvat myymälässä, millä mielellä he ovat, tai mitä he pysähtyvät katsomaan. Videoanalytiikka, jossa analysoidaan täysin anonymisoitua, videokuvasta ekstraktoitua dataa, tuottaa ihmisten ostokäyttäytymisestä ymmärrystä, jolla voidaan parantaa asiakaspalvelua ja koko ostokokemusta.

Näin pääset alkuun Edge AI:n hyödyntämisessä

Jos luit tänne asti, pohdit jo varmaan, miten Edge AI -ratkaisut toimisivat osana liiketoimintaasi.

Kuten modernissa tiedolla johtamisessa, myös Edge AI:ssa onnistuminen on ennen kaikkea kiinni uskalluksesta ja ennakkoluulottomasta asenteesta: kokeile ketterästi, uskalla epäonnistua, opi virheistäsi ja skaalaa onnistumisesi uusiin liiketoiminnan prosesseihin ja palveluiden kehittämiseen.
 
advian-tiedolla-johtaminen-opas_A
 
Varaa kanssamme ilmainen puolen tunnin puhelinkeskustelu, niin selvitetään yhdessä, mitä hyötyjä Edge AI -ratkaisut voisivat tuoda liiketoiminnallesi, millaiset käyttötapaukset olisivat toteutuskelpoisia ja millaisia haasteita eri toteutuksiin voi liittyä. 👇 
 

Ota yhteyttä, niin jutellaan lisää!

Ota meihin yhteyttä