Tekoälykiihdytin
Tekoälykiihdytin tai neuroprosessori (NPU, viitaten neuroverkkoihin) on erikoistunut laitteistokiihdytys tai tietokonejärjestelmä, joka pyrkii nopeuttamaan tekoälyn kouluttamista. Useilla yrityksillä on valmiina tai kehitettävänä omia laitteistoratkaisujaan.[1][2][3]
Tekoälykäyttöön suunnatut NPU-suorittimet eroavat yleiskäyttöisistä suorittimista ja grafiikkaprosessoreista erikoistumisella tekoälytehtävien suorittamiseen. Tämä tarkoittaa neuroverkkokerroksia, joissa on skaalari-, vektori- ja tensorimatematiikkaa. Tekoälykiihdyttimiä käytetään muiden suorittimien rinnalla. Tekoälykiihdyttimen piirteitä ovat suuri rinnakkaisuus, alhaisen tarkkuuden aritmetiikka ja suuren kaistanleveyden muistikäsittely.[4] Eräät tekoälykäyttöön suunnatut suorittimet ovat suunnattu 8- tai 16-bittiseen liukulukulaskentaan (FP8, BF16).[5]
Useat pilvipalveluita tarjoavat suuryritykset kehittävät omia suorittimia tekoälykäyttöön. Tavoitteina on laskea kustannuksia, suuremmat voittomarginaalit ja lisätä omaa kontrollia.[6]
Katso myös
[muokkaa | muokkaa wikitekstiä]Lähteet
[muokkaa | muokkaa wikitekstiä]- ↑ Kyle Wiggers: Neural Magic raises $15 million to boost AI inferencing speed on off-the-shelf processors 6.11.2019. Arkistoitu Viitattu 12.11.2024. (englanniksi)
- ↑ Carly Page: Intel unveils Movidius Compute Stick USB AI accelerator 21.7.2017. Arkistoitu Viitattu 12.11.2024. (englanniksi)
- ↑ Inspur Unveils GX4 Ai Accelerator insidehpc.com. 21.6.2017. Viitattu 12.11.2024. (englanniksi)
- ↑ Josh Schneider & Ian Smalley: What is a neural processing unit (NPU)? ibm.com. Viitattu 12.11.2024. (englanniksi)
- ↑ Ryan Smith: Intel Introduces Gaudi 3 AI Accelerator: Going Bigger and Aiming Higher In AI Market anandtech.com. 9.4.2024. Viitattu 12.11.2024. (englanniksi)
- ↑ Michael Acton & Tim Bradshaw: Amazon ready to use its own AI chips, reduce its dependence on Nvidia arstechnica.com. 12.11.2024. Viitattu 12.11.2024. (englanniksi)