A e talanoa e uiga i mea faʻapitoa, e mafai ona e faʻalogo i le NPU, TPU, DSP, ma le VPU. E tofu lava ma lana galuega. E fesoasoani le NPU i le faʻavaveina o galuega AI, pei o telefoni. O se TPU, na faia e Google, e galue ile numera mo le a'oa'oina o masini. O le DSP e fa'afoeina fa'ailoga moni, pei o le leo po'o le vitio, vave tele. O le VPU e taulaʻi i galuega vaʻaia, fesoasoani i masini ia malamalama i ata ma vitio. O nei masini e le pei o GPU masani. E faia mo galuega faʻapitoa, faʻaaogaina le malosi ma sili atu le lelei mo a latou galuega.
Key Takeaway
NPUs ua fausia mo AI galuega, faia vave ma sili atu nai lo processors masani. Latou te galulue lelei mo mea e pei o le faʻaalia o foliga ma taʻavale taʻavale.
TPUs, faia e Google, e lelei i tensor numera mo loloto aʻoaʻoga. Latou te fesoasoani i le aʻoaʻoina o faʻataʻitaʻiga AI tetele vave ma galue lelei i le ao.
E fa'atautaia e DSP fa'ailoga taimi tonu e pei o le leo ma le vitiō. E lelei tele mo galuega e manaʻomia le saoasaoa ma le saʻo, pei o le faʻaitiitia o le pisa i leo.
O VPU e faia mo galuega va'ai komepiuta, fesoasoani i masini e taulimaina vave ata ma vitio. E taua mo mea e pei o le faʻaalia o foliga ma mea moni faʻaopoopo.
O le filifilia o le gaioiga sa'o e fa'alagolago i mea e te mana'omia: fa'aoga NPU po'o TPU mo AI, DSP mo fa'ailoga, ma VPU mo galuega va'ai e maua ai fa'ai'uga sili.
Vaega o Fa'agaio'iga Neural (NPU)
O le a le NPU?
O le NPU, poʻo le Neural Processing Unit, o se mea faʻapitoa. Ua faia e fa'atautaia galuega fa'apitoa (AI). E le pei o faʻasalalauga masani, NPU e sili atu ona vave mo galuega AI. Latou te fesoasoani i le aʻoaʻoina o faʻataʻitaʻiga AI ma faʻatautaia neural networks. E sili atu NPU i le numera e manaʻomia mo AI, faʻavave ma sili atu le lelei nai lo GPU.
E fa'afefea ona galue le NPU?
E fa'aogaina e NPU ni meafaigaluega fa'apitoa e fa'agasolo vave ai galuega AI. E mafai ona latou faia le tele o galuega neural network i le taimi e tasi. Ole mea lea e mafai ai ona latou koleni ma faʻatautaia faʻataʻitaʻiga AI tetele vave.
Ina ia fa'asaoina le malosi, e fa'aogaina e NPU le numera faigofie, pei o numera 8-bit pe la'ititi. Ole mea lea e fa'atumauina ai galuega sa'o ae fa'aitiitia le lavelave. E vave fo'i ona latou manatua e fa'atautaia fa'amatalaga tetele e aunoa ma le fa'agesegese. Meafaigaluega faʻapitoa, pei o systolic arrays, faʻaleleia atili mo galuega AI.
O NPU e sili atu i le 100 taimi sili atu nai lo GPU ae faʻaoga tutusa le mana. Ole mea lea e lelei ai mo galuega AI.
Fa'aoga mataupu mo NPU
O NPU e faʻaaogaina i masini e manaʻomia AI. E fa'aogaina e telefoni mo le tatalaina o foliga, fesoasoani leo, ma le teuteuina o ata. O ta'avale ta'avale a le tagata lava ia e fa'aaoga NPU e fai ai fa'ai'uga vave mai fa'amaumauga fa'amau. I le soifua maloloina, e fesoasoani NPU e suʻesuʻe ata faʻafomaʻi ma vavalo le soifua maloloina o maʻi.
E taua foi mo le aʻoaʻoina o faʻataʻitaʻiga AI tetele i pisinisi e pei o teugatupe, faʻatau, ma faʻafiafiaga. Pe mo le faʻaogaina o fesoʻotaʻiga neural poʻo le faʻavaveina o AI, o NPU e vave ma lelei mo galuega faigata.
fōliga | faʻamatalaga |
|---|---|
Fa'agasologa tutusa | E mafai e NPU ona faia le tele o galuega fesoʻotaʻiga neural i le taimi e tasi. |
Fa'ailoga sa'o maualalo | Fa'aaoga numera faigofie, pei o numera 8-bit, e fa'asaoina ai le malosi. |
Manaoga maualuga-bandwidth | E vave ona manatua e taulimaina faʻamatalaga tetele mo galuega AI. |
Masini televave | Fa'aaogā meafaigaluega fa'apitoa, pei o fa'asologa fa'asolosolo, mo le fa'atinoina lelei o le AI. |
Vaega o Fa'agaio'iga Tensor (TPU)
O le a le TPU?
O le TPU, poʻo le Tensor Processing Unit, o se mea faʻapitoa. Ua faia e taulimaina ai galuega faigata AI. Google fausia TPUs e fa'avave ai le a'oa'oina loloto. E lelei tele mo tensor math, o le ki i AI. E le pei o faiga masani, TPU e sili atu mo aʻoaʻoga ma faʻataʻitaʻiga AI. Ua fausia e fai fa'atatau tetele vave. Ole mea lea e fa'aatoatoaina ai mo galuega AI e mana'omia le saoasaoa ma le fa'aogaina ole malosi.
E lelei tele TPU i le galulue ma tensors. Tensors o meafaigaluega numera e faʻaaogaina i aʻoaʻoga loloto. E lelei tele mo galuega e pei o le su'eina o mea i ata po'o le malamalama i le gagana. TPU e sili atu le saoasaoa nai lo GPU aua latou te taulaʻi i le numera tensor.
E fa'afefea ona galue le TPU?
TPU fa'aoga meafaigaluega fa'apitoa e fai ai le numera tensor. Latou te faʻaogaina le faʻateleina o matrix e faʻatautaia faʻamatalaga tetele vave. E mafai e TPU ona faia le tele o galuega i le taimi e tasi, e faʻavave ai nai lo GPU. E vave ona latou manatua ma mea faigaluega masani e fesoasoani i galuega AI.
O se faʻatusatusaga lea o le TPU ma le GPU faʻatinoga:
Metric | TPU Fa'atinoga | GPU Faatinoga |
|---|---|---|
Saosaoa a'oa'oga Neural Network | 15–30x vave | Fa'avae (GPU) |
Fa'atinoga ile Watt | 25–50x sili atu | Fa'avae (GPU) |
TPU v3 vs NVIDIA V100 | 8x vave mo BERT | Fa'avae (NVIDIA V100) |
TPU v4 vs NVIDIA A100 | 1.2–1.7x sili atu | Fa'avae (NVIDIA A100) |
O lenei laulau o loʻo faʻaalia ai le televave o TPU ma faʻaitiitia le malosi. E lelei tele mo galuega AI e manaʻomia le saoasaoa maualuga.
Fa'aoga mataupu mo TPU
O TPU e faʻaaogaina mo galuega e manaʻomia ai galuega vave AI. E masani i latou i luga ole ao e toleni ai faʻataʻitaʻiga AI tetele. Google fa'aaoga TPU mo ana meafaigaluega AI, pei o le tautala ma le fa'aliliuga.
E fesoasoani fo'i TPU i fa'ata'ita'iga a'oa'oina e fai fa'amatalaga. I le soifua maloloina, latou te suʻesuʻeina ata faʻafomaʻi. O faleoloa i luga ole laiga latou te faʻaaogaina e fautua mai ai oloa. E lelei tele TPU mo tensor math, ma avea ma ki mo AI faʻaonaponei.
Uiga/Metric | faʻamatalaga |
|---|---|
Vaega Malosi (HS) / Vaega vaivai (SS) | Ole fua faatatau e suia ai le malosi ma le fetuutuunai o le TPU. |
Malosi o Tenisi | TPU fa'avae olaola e mai le 30.69 i le 11.07 MPa. |
Elongation at Malologa | TPU fa'avae olaola e fa'asolo mai le 977% i le 489%. |
Maaa a le matafaga | O le maaa TPU e amata mai le Shore 60A i le 85A. |
TPU o loʻo suia alamanuia e ala i le faia o AI vave ma sili atu. Pe a'oa'oga po'o fa'aoga AI fa'ata'ita'iga, TPU e maua ai le saoasaoa ma le malosi e mana'omia mo galuega faigata.
Faʻafuainumera Faʻailoaina Faʻagasologa (DSP)
O le a le DSP?
O le DSP, po'o le fa'aogaina o fa'ailoga numera, o se pu fa'apitoa. E fa'agasolo fa'ailoga e pei o le leo, vitiō, ma fa'amaumauga fa'alogo. O fa'ailoga nei ua liua i fa'afuainumera numera mo le fa'aoga faigofie. E le pei o faiga masani, DSPs e faia mo galuega faʻatekonolosi, toe fai numera. O le mea lea e lelei tele ai mo galuega fa'apitoa e pei o le fa'aleleia atili o le leo, fa'apipi'i vitio, po'o le fesoasoani i feso'ota'iga.
DSPs ua fausia mo galuega patino. Latou te taulimaina mea e pei o le faamamaina ma faʻailoga suiga ma le saʻo. O lo latou saoasaoa ma le sa'o e taua ai i le soifua maloloina, taavale, ma mea tau eletise.
E fa'afefea ona galue le DSP?
E suia e le DSP fa'ailoga numera e maua ai fa'amatalaga aoga. E fa'aogaina le numera vave e sui pe au'ili'ili fa'ailoga. Fa'atonuga fa'apitoa ma saosaoa maualuga e fesoasoani e galue vave. E mafai e DSP ona taulimaina le tele o numera i le numera faʻafefeteina mo le saʻo lelei.
Ole saoasaoa ole galue ole DSP e fa'alagolago ile tolu mea: galuega numera, galuega fa'atonutonu, ma le fa'agaoioia o fa'amaumauga. O polokalame atamai e faʻaitiitia ai le tuai, faʻavave DSPs. Latou te galulue faʻatasi ma isi tupe meataalo e fai ai galuega faʻaopoopo, faʻamautu le faʻagasologa o faailoilo.
Ole laulau lea e fa'aalia ai uiga autu ole DSP:
Ituaiga Fa'amatalaga | faʻamatalaga |
|---|---|
Malosiaga o le mana | O DSP maualuga maualuga e iai le mana malosi ma le tele o 'au. |
Faʻatonuga Faʻatonu | O faatonuga fa'apitoa e fesoasoani i fa'afitauli faigata o le numera. |
Saosaoa o le Uati | O le saoasaoa o le uati e mafai ai ona fa'atatau vave. |
Avanoa-Mafa'ailoga | E fa'aoga e DSP le 32 bits mo le sa'o lelei. |
IC fa'apipi'i | O tupe meataalo faaopoopo e faʻaleleia ai le manatua ma faʻafesoʻotaʻi i isi masini. |
Fa'aoga mataupu mo DSPs
O DSP e fa'aoga i le tele o vaega e mana'omia ai galuega fa'ailo vave. I masini fa'alogo, latou te fa'amanino atili le leo ma fa'aitiitia le pisa. Mo vitio, latou te fesoasoani i le faʻamalosi ma ata tumau. Telefoni ma feso'ota'iga e fa'aoga DSPs e lafo ma maua fa'ailo sologa lelei.
E fesoasoani foʻi DSP i AI e ala i le faʻaogaina o faʻamatalaga faʻamatalaga i masini atamai. I le soifua maloloina, latou te suʻesuʻeina faʻailoga e pei o fatu fatu poʻo suʻesuʻe mo ni faʻaiuga sili atu. O lo latou gafatia e taulimaina galuega faʻailoga faigata e faʻaaogaina ai i le tele o alamanuia.
Vaega o Fa'agasolo Va'aiga (VPU)
O le a le VPU?
O le Vision Processing Unit (VPU) o se va'aiga fa'apitoa. E fa'atautaia galuega e feso'ota'i ma va'aiga komepiuta. O VPU e fa'agasolo vave ma lelei ata ma vitiō. E le pei o faiga masani, e faia mo galuega vaʻai taimi moni. E lelei tele mo le su'esu'eina o mea, fa'aalia foliga, ma su'esu'ega vitio. O VPU e ave'esea nei galuega mai le fa'agasolo autu. Ole mea lea e fa'avavevave ai masini ma sefe ai le malosi.
E fa'afefea ona galue le VPU?
E fa'aogaina e VPU meafaigaluega fa'apitoa e fa'agasolo ai fa'amatalaga va'aia. E mafai ona latou taulimaina le tele o ata poʻo ata vitio i le taimi e tasi. E fesoasoani lea ia i latou e fai ai ni galuega faigata e pei o le faʻaogaina vave o AI. E faʻaaogaina foi e VPUs algorithms atamai e suʻesuʻe ai faʻamatalaga vaaia. Ole mea lea e fa'aatoatoaina ai mo galuega ole taimi moni ole AI.
O auala autu nei e tolu e fua ai le faatinoga o le VPU:
Fuafuaga Fa'atinoga | faʻamatalaga | tāua |
|---|---|---|
saosaoa | E maeu le vave o galuega | Fa'aalia le lelei o le VPU |
Taimi o Tali | O le a le vave e tali atu ai i totonu | Taua mo le poto masani o tagata fa'aoga |
Faʻaaogāina | O le a le tele o faʻamatalaga e mafai ona taulimaina | Faʻaalia le lelei o le galue i lalo o le faʻaaogaina mamafa |
O nei fua fa'atatau e fa'aalia ai le vave ma fa'atuatuaina VPU. E lelei tele mo galuega e mana'omia ai fa'ai'uga taimi moni.
Fa'aoga mataupu mo VPU
O VPU e faʻaaogaina i vaega e manaʻomia ai faʻamatalaga faʻamatalaga vaaia. I meapueata atamai, latou te fesoasoani e iloa mea faitino poʻo foliga i le taimi lava lena. I ta'avale ta'avale a le tagata lava ia, e fa'agasolo e VPU le vitiō e 'alofia ai fa'alavelave ma ave ma le saogalemu. E fa'aogaina e Drones mo fa'afanua ma va'aiga vaega.
I le soifua maloloina, e suʻesuʻe e VPU ata faʻafomaʻi e pei o X-ray e suʻe ai faʻafitauli. Mo gadgets, latou te faʻaleleia atili mea moni ma faʻasalalauga vitio. O lo latou gafatia e faʻatautaia AI i luga o masini e fai ai latou ki mo galuega vave ma lelei.
Autu Eseesega i le va o le NPU, TPU, DSP, ma le VPU
Aotelega fa'atusatusa o galuega ma fa'atinoga
E tofu lava le processor ma malosiaga fa'apitoa mo nisi galuega. O le iloaina o nei mea e fesoasoani e filifili ai le mea saʻo:
NPU: Faia mo galuega AI, e tele galuega e faia e NPU i le taimi e tasi. E lelei tele mo aʻoaʻoga loloto, pei o aʻoaʻoga ma faʻataʻitaʻiga taʻavale. TOPS (Tera Operations Per Second) o loʻo faʻaalia ai le lelei latou te taulimaina galuega faigata. Mo se faʻataʻitaʻiga, o se NPU faʻatasi ma 1000 MAC iunite i le 1 GHz e mafai ona oʻo atu i TOPS maualuga, faʻaalia lona mana.
TPU: Ua fausia TPU mo galuega tetele a'oa'oga masini. E matua televave ma sefe le malosi. O nei meataalo e sili ona lelei mo le aʻoaʻoina o faʻataʻitaʻiga AI ma faʻatautaia i latou i le ao.
DSP: E galue DSP i fa'ailoga taimi moni e pei o leo, vitio, po'o masini. E telegese i latou nai lo NPU poʻo TPU mo AI ae e sili i galuega faʻa numera faifaipea.
VPU: VPU ua faia mo galuega va'ai. Latou te taulimaina lelei ata ma vitio. O le mea lea e fa'aatoatoa ai mo mea e pei o le fa'ailoaina o foliga, su'esu'eina o mea, ma le fa'aopoopoina o mea moni. VPU e vave ma sefe le malosi mo galuega vaaia.
Filifilia o le processor sa'o mo ou mana'oga
Filifili le processor saʻo e faʻatatau i mea e te manaʻomia:
Mo galuega AI: Fa'aaoga se NPU po'o le TPU mo le a'oa'oina loloto. O NPU e lelei mo telefoni, a'o TPU e sili ona aoga ile ao.
Mo galuega faailo: Filifili se DSP mo galuega leo, vitiō, po'o le fa'alogo. O DSP e lelei tele mo galuega fa'atino e mana'omia le sa'o.
Mo galuega va'ai: Filifili se VPU mo galuega e pei o le komepiuta vaʻai poʻo galuega vitio. E lelei tele VPU mo drones poʻo mea puʻeata atamai.
Mo le fetuutuunai: Fa'aaoga se FPGA pe afai e te mana'omia se masini mo le tele o galuega. FPGAs e mafai ona mamanuina mo galuega eseese, e faʻaaogaina tele.
E ala i le iloaina o mea e sili ona lelei e fai e masini ta'itasi, e mafai ona e filifili ma le poto ma maua ai i'uga lelei.
O le malamalama i le eseesega i le va o le NPU, TPU, DSP, ma le VPU e fesoasoani ia te oe e filifili ai le meafaigaluega sa'o mo au galuega. E sili atu NPU i galuega AI e pei o le iloa o foliga. E fa'atautaia e TPU le a'oa'oina lelei o masini tetele. O DSP e fa'agasolo fa'ailoga fa'apitoa e pei o leo ma vitiō. VPU fa'apitoa i galuega va'ai komepiuta e pei o le su'eina o mea.
meaalofa tupe: Afai e te galue ma faʻataʻitaʻiga AI, filifili se NPU poʻo se TPU. Mo le fa'aogaina o leo po'o le vitiō, alu ma le DSP. Mo galuega fa'atatau ile va'ai, ole VPU o lau filifiliga sili lea. O le fa'afetauiina o le fa'agaoioiga i ou mana'oga e fa'amautinoa ai le fa'atinoina lelei ma le lelei.
FAQ
E faapefea ona eseese NPU ma TPU?
O NPU e galue i galuega AI i masini e pei o telefoni poʻo taavale. TPUs, faia e Google, fa'atautaia galuega tetele a'oa'oga masini, tele lava ile ao. O NPU e sili ona lelei mo masini laiti, a'o TPU e lelei tele mo komepiuta mamana.
E mafai e DSP ona faia galuega AI?
Ioe, ae e le o fausia DSP mo AI. Latou te taulimaina faailoilo taimi moni e pei o le leo poʻo le vitio. Mo AI, NPUs poʻo TPU e sili atu ona latou faʻatautaia fesoʻotaʻiga neural vave.
Aisea e taua ai VPU mo le va'aiga komepiuta?
VPUs vave fa'agasolo ata ma vitiō. E lelei tele mo galuega e pei o le su'eina o mea, iloa foliga, ma mea moni fa'aopoopo. O lo latou saoasaoa e faʻamalieina ai i latou mo galuega faʻapitoa i drones, mea pueata, ma le soifua maloloina.
O le a le gaioiga e sili ona lelei mo le aʻoaʻoina o faʻataʻitaʻiga AI?
TPU e sili ona lelei mo le aʻoaʻoina o faʻataʻitaʻiga AI. Ua faia mo galuega tetele e a'oa'oina ai masini ma le numera tensor. TPUs e vave ma faʻasaoina le malosi, faʻapena lelei mo aʻoaʻoga loloto.
E mafai ona galulue nei masini ma PPU?
Ioe, e mafai ona latou galulue ma PPU. O nei gaosiga e taulimaina galuega faʻapitoa e pei o AI, faʻailoga, poʻo le vaʻai. O lenei mea e mafai ai e le PPU ona taulaʻi atu i isi galuega, faʻaleleia le faʻatinoga o le faiga.
