EdgeCortix iepazīstina ar SAKURA-II, AI paātrinātāju Edge ar iespaidīgu veiktspēju 60 TOPS (INT8) un zems enerģijas patēriņš 8 vati. Mikroshēma ir paredzēta sarežģītiem mākslīgā intelekta uzdevumiem, piemēram, lielu valodu modeļu (LLM), lielu redzes modeļu (LVM) apstrādei un uz transformatoriem balstītas multimodālas lietojumprogrammas, kā arī lietojumprogrammām tīkla malā, piemēram, ierīcēm IoT un autonomiem transportlīdzekļiem. .
Tas nodrošina elastību aparatūras ziņā ar iespēju to integrēt abos PCIe paplašināšanas kartes ar vienu vai divām SAKURA-II čipsi, vai arī M.2 2280 moduļos (PCIe x8 vai x16 interfeiss) Ja vēlaties. Tāpēc ar INT120 var sasniegt jaudu līdz 8 TOPS vai 60 TFLOPS ar BF16.
AI platforma piedāvā arī daļu no visprogresīvākā programmatūra ar MERA komplektu programmēšanai un optimizācijai, neviendabīga kompilācijas platforma, uzlabotas kvantifikācijas metodes un modeļu kalibrēšanas iespējas. Tajā ir arī integrācija ar populārām izstrādes sistēmām, piemēram, PyTorch, TensorFlow Lite un ONNX, kā arī piekļuve plašai progresīvu transformatīvo modeļu un konvolucionālo modeļu bibliotēkai.
Turklāt uzņēmums EdgeCortix ir arī domājis par savu AI paātrinātāju dizainu tālāku virzību, jo jāintegrē citu uzņēmumu, piemēram, AMD, SoC.
IA SAKURA-II tehniskās specifikācijas
Kā EdgeCortix SAKURA-II tehniskās specifikācijas, ir šādi:
- NPU ar DNS-II vai otrās paaudzes Dynamic Neural Accelerator arhitektūru.
- Veiktspēja līdz 60 TOPS ar INT8 vai 30 TFLOPS ar BF16.
- Divu kanālu 64 bitu LPDDR4x tipa DRAM atmiņa (8 GB, 16 GB, 32 GB iebūvēta) ar joslas platumu līdz 68 GB/s.
- Integrēta 20 MB SRAM atmiņa.
- Efektivitāte līdz 90% ar enerģijas patēriņu 8W.
- BGA iepakojums.
Ja atsaucamies uz SAKURA-II modulis ar M.2 formātu, ir:
- DRAM atmiņa
- 8 GB (2x 4 GB LPDDR4 bankas)
- 16 GB (2x 8 GB LPDDR4 bankas)
- PCIe Gen 3.0 x4 interfeiss
- Maksimālā veiktspēja 60 TOPS uz INT8, 30 TFLOPS uz BF16
- 10W moduļa jauda
- Izmēri M.2 2280 (22x80mm)
Par PCIe paplašināšanas karte, AI paātrinātāja specifikācijas ir šādas:
- PCIe Gen 3.0 x8 interfeiss
- SAKURA-II vienas mikroshēmas modelim:
- 16 GB DRAM atmiņa (2x 8 GB LPDDR4 bankas)
- 60 TOPS sniegums uz INT8, 30 TFLOPS uz BF16
- 10W jauda.
- Modelim ar divām SAKURA-II mikroshēmām:
- 32 GB DRAM atmiņa (2x 16 GB LPDDR4 bankas)
- 120 TOPS sniegums uz INT8, 60 TFLOPS uz BF16
- 20W jauda
- 1x slots
- Ietver radiatoru
Attiecībā uz cenas, ja jūs interesē, tie ieradīsies no 2024. gada otrā ceturkšņa ar:
- M.2 8GB: 249 USD
- M.2 16GB: 299 USD
- PCIe 1xSAKURA-II: 429 USD
- PCIe 2xSAKURA-II: 749 USD