Vodeća platforma u svijetu poput NVIDIA Jetson je niz ugrađenih računalnih ploča koje se uglavnom koriste u autonomnim strojevima i drugim ugrađene aplikacije . Ova ploča uglavnom sadrži Jetson module, koji su računala visokih performansi. Jetson je dobro prilagođen sličnom AI softveru i tijeku rada izvornom u oblaku koji se koristi na drugim NVIDIA platformama i pruža energetski učinkovite performanse za korisnike za izradu autonomnih strojeva temeljenih na softveru. NVIDIA Jetson koristi se za aplikacije računalnog vida. Dakle, ovaj članak govori o pregledu rada NVIDIA Jetson i njegovih aplikacija.
Što je NVIDIA Jetson?
NVIDIA Jetson je napredna sustav ugradnje ploča koja se koristi za stvaranje inovativnih AI proizvoda u nekoliko industrija. NVIDIA Jetson jedna je od vodećih hardverskih platformi koja je vrlo korisna za tehnološke entuzijaste i studente za stjecanje praktičnog iskustva kroz niz inovativnih AI projekata. Ova ploča je vrlo učinkovita ploča za AI koja uključuje modularna rubna računala malih dimenzija i visokih performansi. Osim toga, ova ploča također sadrži JetPack SDK koji se koristi za softversko ubrzanje, kao i kompletan ekosustav za pomoć u povećanju razvojne procedure prilagođenih AI projekata.
NVIDIA Jetson arhitektura
Znamo da je modul Nvidia Jetson iz Nvidije niz ugrađenih računalnih ploča. Svi modeli Jetson TX1, TX2 i TK1 nose SoC ili Tegra procesor iz Nvidije koji uključuje CPU ARM arhitekture. Ovdje je Jetson sustav niske potrošnje uglavnom dizajniran za ubrzavanje aplikacija strojnog učenja.
NVIDIA Jetson Xavier NX arhitektura prikazana je u nastavku. To je najnaprednije i malo AI superračunalo koje se koristi i za rubne računalne uređaje autonomna robotika . Ovaj modul ima kapacitet za implementaciju performansi serverske klase unutar čvrstog faktora forme 70x45 mm i također pruža do 21 TOPS računala ispod 15 W snage, inače do 14 TOPS računala ispod 10 W.
Gornji dijagram sadrži ugrađenu 384-jezgrenu NVIDIA Volta GPU uključujući 6-jezgreni NVIDIA Carmel ARMv8.2 64-bitni CPU, 48 tenzorskih jezgri, 8 GB 128-bitni LPDDR4x, 4K video kodere i dekodere, dvostruke NVDLA (NVIDIA Deep Learning Accelerator) motore, kameru za do šest trenutnih visokorazlučivih streamovi senzora, dvostruki Display Port ili HDMI 4K zasloni, PCIe Generation 3 proširenje, USB 3.1 & GPIO s I2C, SPI, I2S, UART & CAN sabirnicom.
Specifikacije NVIDIA Jetsona uključuju sljedeće.
- Snaga je 10W ili 15W modovi i 5V ulaz.
- CPU je 6-jezgreni NVIDIA Carmel 64-bitni ARMv 8.2 na 1400MHz.
- GPU je NVIDIA Volta sa 384 jezgre na 1100MHz kroz 48 tenzorskih jezgri.
- DL je Dual NVDLA motor.
- Memorija je 8GB 128-bit LPDDR4x na 1600MHz.
- 16 GB eMMC 5.1 pohrane.
- Kamera je 12x MIPI CSI-2 trake | 3×4 ili 6×2 kamere.
- Do 6 kamera (36 putem virtualnih kanala).
- Temperature od -25°C do 90°C.
- Zaslon je DP 1.4 ili eDP 1.4 ili HDMI 2.0 a/b pri 4Kp60.
- Ethernet je 10 ili 100 ili 1000 BASE-T Ethernet.
- USB 3.1 i USB 2.0.
Ovaj modul podržava cijeli CUDA-X softverski skup NVIDIA-e, a također i JetPack SDK za razvoj umjetne inteligencije. Pokreće vrlo popularne okvire za strojno učenje i teške DNN-ove na nekoliko tokova senzora visoke rezolucije odjednom, uz računalni vid, grafiku i multimedijske aplikacije u stvarnom vremenu unutar cjelovitog desktop Linux okruženja.
Trenutno su programeri započeli dizajnirati AI aplikacije za Jetson Xavier NX uz pomoć Jetson AGX Xavier Developer Kit-a. Primjenom zakrpe uzorka uređaja u blizini JetPacka uređaj će raditi kao Jetson Xavier NX. Ovo će modificirati broj GPU i CPU jezgri koje se mogu dobiti putem softvera i postaviti frekvencije takta kao i napone jezgri u cijelom sustavu.
Zakrpa je potpuno reverzibilna što se koristi za približnu izvedbu Jetson Xavier NX. Ovaj modul će klasificirati zadane načine snage od 10 W i 15 W postižući između 14 i 21 TOPS vrhunske performanse na temelju aktivnog načina rada. Alat nvpmodel koristi se za rukovanje profilima snage za prilagodbu najviših CLK frekvencija za GPU, CPU, razne taktove SoC-a i memorijski kontroler zajedno s različitim CPU klasterima.
Na temelju radnog opterećenja, DVFS (Dynamic Voltage & Frequency Scaling) regulator uravnotežuje frekvencije tijekom rada do njihovih najviših granica kako je opisano aktivnim nvpmodelom, stoga se iskorištenje energije smanjuje u mirovanju i na temelju rada procesora. Alat nvpmodel pomaže u izradi i modificiranju novih načina napajanja na temelju TDP-a i zahtjeva aplikacije.
NVIDIA Jetson modul dovodi performanse superračunala do ruba unutar malog formata SOM (system-on-module). Jednako 21 TOPS ubrzanog računalstva šalje konjske snage za paralelno pokretanje trenutnih neuronskih mreža i obradu podataka iz raznih senzora visoke razlučivosti. Ovaj je modul idealan za AI sustave visokih performansi kao što su medicinski instrumenti, komercijalni roboti, AIoT ugrađeni sustavi, pametne kamere, automatizirani optički pregled, senzori visoke rezolucije, pametne tvornice itd.
Softver
NVIDIA Jetson modul je jednostavno podržan kroz kombinirane softverske arhitekture tako da će programerima softvera znatno olakšati rad. Ovaj kombinirani pristup jednostavno štedi programere gnjavaže ponavljajućeg kodiranja dok poboljšava njihove formacije na drugim Jetson modulima.
NVIDIA JetPack SDK dostupan je s Linux OS-om, CUDA-X ubrzanim bibliotekama i API-jima za različita polja strojnog učenja kao što su računalni vid, duboko učenje itd. Također podržava okvire strojnog učenja kao što su Caffe, TensorFlow, Keras i OpenCV računalni vid knjižnicama.
NVIDIA Jetson nudi različite softverske alate za svoje module o kojima se govori u nastavku.
NVIDIA JetPack SDK
Softverski paketi Jetson platforme kao što su TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV i Visionworks svi su sastavljeni na L4T kroz LTS Linux kernel.
NVIDIA Jetson Linux paket upravljačkih programa
Omogućuje Linux kernel, NVIDIA upravljačke programe, bootloader, primjer datotečnog sustava, flash pomoćne programe i još mnogo toga za platformu Jetson.
NVIDIA DeepStream SDK
To je skup API-ja i biblioteka za pomoć razvojnim programerima u dizajniranju i uređenju jakih IVA (inteligentna video analitika) rješenja na platformi Jetson. Koristi se za izradu složenih aplikacija poput kodiranja, snimanja slike, dekodiranja, zaključivanja s TensorRT-om itd.
NVIDIA Isaac SDK
To je skup biblioteka, API-ja, upravljačkih programa i drugih alata koji će dodati AI robotima sljedeće generacije za navigaciju, percepciju i manipulaciju. Dakle, pomaže u stvaranju i implementaciji robotike pokretane umjetnom inteligencijom.
Vrste NVIDIA Jetson
NVIDIA Jetson modul dolazi s memorijom, GPU-om, CPU-om, brzim sučeljima, upravljanjem napajanjem itd. Ovi moduli dostupni su u različitim izvedbama, energetskoj učinkovitosti i varijacijama čimbenika oblika kako bi se mogli koristiti u raznim industrijama. Dostupni su različiti NVIDIA Jetson uređaji o kojima se govori u nastavku.
NVIDIA Jetson Nano
NVIDIA Jetson Nano modul prikladan je za programere ili studente, ali i za početnike jer je uglavnom dizajniran za praktično učenje i podučavanje. Veličina ovog modula je mala, no njegova energetska učinkovitost i izvedba su visoki kako bi bio savršen za istovremeno pokretanje višestrukih paralelnih neuronskih mreža, AI radna opterećenja i obradu podataka sa senzora visoke razlučivosti. Stoga je Jetson Nano modul vrlo popularan rubni uređaj koji se koristi za izradu ugrađenih AI proizvoda i rješenja.
Ovaj modul savršen je za aplikacije računalnog vida temeljene na umjetnoj inteligenciji i obavlja zadatke umjetne inteligencije kao što su detekcija objekata, segmentacija slike, klasifikacija slike itd. Ovaj je modul vrlo kompatibilan sa softverom za računalni vid otvorenog koda i OpenCV bibliotekama strojnog učenja.
NVIDIA Jetson TX2 serija
Modul serije NVIDIA Jetson TX2 dizajniran je u veličini kreditne kartice. Značajke ovog modula uglavnom uključuju NVIDIA Pascal GPU, do 8 GB memorije, 59,7 GB/s memorijske propusnosti i standardna hardverska sučelja. Ovaj modul pruža performanse do 2,5 puta u usporedbi s NVIDIA Jetson Nano modulom.
Ovaj modul vrlo učinkovito pokreće duboke neuronske mreže na rubnim uređajima kako bi se postigla veća točnost. Moduli koji su dostupni u seriji uglavnom uključuju Jetson TX2 4GB, Jetson TX2i, Jetson TX2 i Jetson TX2 NX. Modul NVIDIA Jetson TX2 NX jednostavno dijeli kompatibilnost s pinovima i formom kroz Jetson Xavier NX i Jetson Nano.
Preostala tri modula dijelit će izvorni oblik Jetson TX2 modula. Upotreba TX2 serije jednostavno se kreće u različitim industrijama kao što su poljoprivreda, proizvodnja, biološke znanosti, maloprodaja, itd. Jetson TX2i modul od preostalih modula najprikladniji je za visokoučinkovite AI uređaje poput medicinske opreme, kamera za strojni vid i industrijskih robota jer svog snažnog dizajna.
Ovaj modul je vrlo brz ugrađeni računalni uređaj s umjetnom inteligencijom koji nudi visoku energetsku učinkovitost poput 7,5 W, mogućnosti superračunala uglavnom za rubne AI uređaje, kao i različita hardverska sučelja za jednostavno uključivanje u različite proizvode i faktore oblika.
NVIDIA Jetson Xavier NX
Modul NVIDIA Jetson Xavier NX vrlo je malen u usporedbi s kreditnom karticom s visokim performansama i energetskom učinkovitošću. Ovo je također poznato kao najmanje AI superračunalo za rubne i ugrađene sustave na svijetu. Ovaj modul posebno pomaže u pokretanju kompletnih AI sustava.
Značajke Jetson Xavier NX također podržavaju tehnologije izvorne u oblaku, tako da je programerima lako nadograditi i upravljati AI proizvodima. Ovaj modul podržava sve popularne AI modele i okvire. Dakle, ovaj modul u potpunosti odgovara AI sustavima visokih performansi kao što su pametne kamere, sustavi visoke razlučivosti pokretani AI-om, dronovi, komercijalni roboti ili medicinska oprema.
Modul NVIDIA Jetson Xavier NX isporučuje 21 Tera operaciju po sekundi ili TOPS za pokretanje trenutnog AI radnog opterećenja trošeći 10 W energije. Oblik ovog modula je kompaktniji u usporedbi s kreditnom karticom. Modul Xavier NX pokreće različite neuronske mreže odjednom i obrađuje podatke iz različitih senzora visoke razlučivosti. Ova vrsta modula koristi se za dizajniranje aplikacija za ugrađene i rubne računalne uređaje kojima je potrebna visoka izvedba iako uz značajna ograničenja težine, veličine i snage.
NVIDIA Jetson AGX Xavier serija
Modul serije NVIDIA Jetson AGX Xavier uglavnom je razvijen za autonomne inteligentne strojeve sljedeće generacije. Ovaj modul isporučuje do 32 TOPS ili Tera operacije po sekundi izvedbe umjetne inteligencije kada koristi samo 10 vata. Programeru softvera jednostavno je dopušteno brzo organizirati neuronske mreže sa skupom softverskih alata AI tvrtke NVIDIA.
Ovaj modul pruža razne specifikacije i funkcionalne sigurnosne mogućnosti tako da programeri stvaraju sigurnosne ili industrijske certificirane proizvode. Visoke performanse ovog modula mogu ih učiniti prikladnima za brojne autonomne strojeve poput logističkih i industrijskih robota, tvorničkih sustava i velikih dronova.
Jetson Xavier NX Developer Kit
Komplet za razvijanje jetson xavier nx uključuje solidan energetski učinkovit Xavier NX modul koji se koristi za rubne uređaje pokretane umjetnom inteligencijom. Ovaj modul ima neke značajke kao što je izvorna podrška za oblak i ubrzava hrpu NVIDIA softvera u samo 10 W s više od 10 puta većom izvedbom od Jetson TX2. Ovaj komplet za razvojne programere koriste proizvođači inteligentnih strojeva, AI startupovi i programeri aplikacija za dizajn modernih proizvoda s kompaktnim, vrlo preciznim AI zaključivanjem i energetski učinkovitim oblikom.
Jetson AGX Xavier Industrial
Industrijski modul Jetson AGX Xavier dio je serije AGX Xavier. Dizajn ovog modula je pin-kompatibilan faktor oblika koji kontrolira najnovije AI modele u zahtjevnim aplikacijama. Ovaj modul pruža proširene specifikacije vibracija, šokova, temperature, napredne sigurnosne značajke, do 4 puta više memorije i 20 puta bolje performanse od TX2i modula.
Ovaj modul je vrlo koristan dizajnerima za dizajniranje automatizacije, robotike i drugih inteligentnih proizvoda. Osim toga, također dizajnira sigurnosno certificirane i robusne proizvode za pružanje visokih performansi za industrijske, AI-ugrađene funkcionalne i sigurnosne aplikacije u dizajnu robusnog i energetski učinkovitog oblika.
Prednosti
The prednosti NVIDIA Jetson uključuju sljedeće.
- NVIDIA Jetson prikladan je za studente, individualne programere i različite organizacije.
- Platforma Jetson vrlo je popularna jer dolazi s raznim prednostima poput modularne fleksibilnosti, unificiranog softvera i podrške za tehnologije izvorne u oblaku.
- Ova ploča nudi skup modula koji su od velike pomoći za sve, od osnovnih AI aplikacija do vrlo složenih AI uređaja.
- Ova ploča je pokretana energijom kroz unificiranu softversku arhitekturu koja pomaže programerima od ponavljajućeg kodiranja. Jednom kada zatrebaju AI/ML kapacitet, tada mogu uključiti povezani Jetson modul na uređaj i on će se pobrinuti za podizanje tereta.
- Platforma NVIDIA Jetson jednostavno podržava tehnologije i tijekove rada u oblaku kao što su orkestracija i kontejnerizacija, pružajući programerima mogućnost brzog razvoja i proširenja AI proizvoda.
- NVIDIA JetPack SDK dostupan je s Linux OS-om, API-jima i bibliotekama za ubrzanje CUDA-X za razne domene strojnog učenja poput računalnog vida i dubokog učenja. Također pruža podršku za okvire strojnog učenja kao što su Caffe i Keras, TensorFlow i OpenCV biblioteke računalnog vida.
Nedostaci
Ima vrlo malo nedostataka uzimajući u obzir cijenu
- NVIDIA Jetson nano modul nije dostupan s wifi unutra.
- NVIDIA Jetson nano modul uključuje samo dva PWM pina na ploči.
Prijave
Aplikacije NVIDIA Jetson uključuju sljedeće.
- NVIDIA Jetson modul nudi vrhunske sustave za ugradnju koji se koriste za izradu AI proizvoda za različite scenarije. Ovo je energetski učinkovit modul koji se koristi za AI koji uključuje rubna računala visokih performansi, modularna i malog formata.
- Ploče Nvidia Jetson uglavnom su dizajnirane za korištenje u ugrađenim sustavima kao što su dronovi, roboti i drugi uređaji kojima je potrebna moćna obrada unutar faktora malog oblika. Uobičajene primjene Jetsonovih ploča uglavnom uključuju medicinske uređaje, autonomna vozila, digitalne natpise, AR/VR slušalice, pametne gradske aplikacije itd.
- Ovaj modul podržava unificirane softverske arhitekture kako bi razvojnim programerima softvera bio uvelike jednostavan.
Moduli i uređaji NVIDIA Jetson optimizirani su rubni uređaji koji se koriste za razvoj Edge AI sustava. - NVIDIA Jetson Nano Developer Kit je vrlo moćno i malo računalo koje paralelno pokreće nekoliko neuronskih mreža za razne aplikacije poput otkrivanja objekata, klasifikacije slika, obrade i segmentacije govora.
- Modul NVIDIA Jetson Nano savršen je za aplikacije računalnog vida temeljene na AI i izvršavaju zadatke AI vida kao što su segmentacija slike, klasifikacija slike, detekcija objekata itd.
- Nano moduli NVIDIA Jetson donose nevjerojatne nove mogućnosti tisućama energetski učinkovitih i malih AI sustava
- Modul NVIDIA Jetson Nano kompatibilan je s bibliotekama za strojno učenje OpenCV i softverom za računalni vid otvorenog koda.
Q). Kolika je potrošnja energije Jetson modula?
A). Potrošnja energije Jetson modula varira ovisno o modelu i upotrebi. Modul Jetson Xavier, primjerice, ima tipičnu potrošnju energije od oko 15 W do 30 W, dok Jetson TX2 može trošiti između 7 W i 15 W.
Q). Može li se Jetson koristiti za otkrivanje i praćenje objekata u stvarnom vremenu?
A). Da, Jetson platforme mogu upravljati otkrivanjem i praćenjem vida. Nano modul je GPU visokih performansi s rubnom računalnom platformom koja se uglavnom može koristiti za otkrivanje, brojanje i praćenje.
Q). S kojim vrstama senzora Jetson može surađivati?
A). Vision senzori koriste se za povezivanje Jetsona s različitim sučeljima kamere kao što su USB, MIPI CSI i Ethernet. Također mogu surađivati s lidarom, ultrazvučnim senzorom i drugim vrstama, također koristeći različite vrste sučelja poput I2C, SPI itd.
Q). Koja je razlika između Jetsona i Raspberry Pi-ja?
A). Glavna razlika između ove dvije ploče je; NVIDIA Jetson razvijena je za rješavanje visoko zahtjevnih zadataka umjetne inteligencije i računalnog vida dok Raspberry Pi 4 ploča ima multimedijski GPU niske potrošnje koji se koristi za računalstvo opće namjene i obrazovanje. Jetson se može koristiti za naprednije značajke kao što je hardverski ubrzano video dekodiranje i kodiranje koristeći njegov moćni GPU (jedinica za grafičku obradu) i CPU (jedinica za središnju obradu).
Q). Može li se Jetson koristiti za aplikacije autonomne robotike?
A). Autonomna robotika i industrija sutrašnjice pokretat će se putem NVIDIA Jetson for Intelligent Machines & Robotics.
Dakle, ovo je pregled NVIDIA Jetson – prednosti i njegove primjene. Ovaj modul je vodeća platforma diljem svijeta koju programeri koriste za izradu naprednih AI proizvoda u svim industrijama. Ove module također koriste studenti i entuzijasti kako bi stekli praktično iskustvo u učenju umjetne inteligencije za stvaranje nevjerojatnih projekata. Platforma tvrtke Jetson uglavnom se sastoji od energetski učinkovitih, malih razvojnih kompleta i proizvodnih modula. Evo pitanja za vas, što je NVIDIA?
