EdgeCortix เปิดตัว SAKURA-II ซึ่งเป็นตัวเร่ง AI สำหรับ Edge พร้อมประสิทธิภาพที่น่าประทับใจ 60 TOPS (INT8) และกินไฟต่ำเพียง 8 วัตต์ ชิปได้รับการออกแบบสำหรับงาน AI ที่ซับซ้อน เช่น การประมวลผลโมเดลภาษาขนาดใหญ่ (LLM), โมเดลการมองเห็นขนาดใหญ่ (LVM) และแอปพลิเคชันต่อเนื่องหลายรูปแบบบนหม้อแปลง รวมถึงแอปพลิเคชันที่ขอบเครือข่าย เช่น อุปกรณ์ IoT และยานพาหนะอัตโนมัติ .
ช่วยให้มีความยืดหยุ่นในแง่ของฮาร์ดแวร์ โดยมีความเป็นไปได้ที่จะรวมเข้ากับทั้งสองอย่าง การ์ดเอ็กซ์แพนชัน PCIe หนึ่งหรือสองตัว ชิป SAKURA-IIหรือในโมดูล M.2 2280 (อินเทอร์เฟซ PCIe x8 หรือ x16) หากคุณต้องการ ดังนั้นสามารถเข้าถึงพลังได้ถึง 120 TOPS ด้วย INT8 หรือ 60 TFLOPS ด้วย BF16
นอกจากนี้แพลตฟอร์ม AI ยังนำเสนอส่วนหนึ่งของ ซอฟต์แวร์ล้ำสมัยพร้อมชุด MERA สำหรับการเขียนโปรแกรมและการเพิ่มประสิทธิภาพ แพลตฟอร์มการคอมไพล์ที่ต่างกัน เทคนิคการหาปริมาณขั้นสูง และความสามารถในการสอบเทียบโมเดล นอกจากนี้ยังมีการผสานรวมกับเฟรมเวิร์กการพัฒนายอดนิยม เช่น PyTorch, TensorFlow Lite และ ONNX รวมถึงการเข้าถึงไลบรารีที่กว้างขวางของโมเดลการเปลี่ยนแปลงที่ล้ำสมัยและโมเดล Convolutional
นอกจากนี้ บริษัท EdgeCortix ยังคิดที่จะนำการออกแบบตัวเร่งความเร็ว AI ของตนไปใช้เพิ่มเติมอีกด้วย จะถูกรวมเข้ากับ SoC จากบริษัทอื่นๆ เช่น AMD.
ข้อมูลจำเพาะทางเทคนิคของ IA SAKURA-II
เป็น ข้อมูลจำเพาะทางเทคนิคของ EdgeCortix SAKURA-IIมีดังนี้:
- NPU พร้อม DNA-II หรือสถาปัตยกรรม Dynamic Neural Accelerator รุ่นที่สอง
- ประสิทธิภาพสูงสุด 60 TOPS ด้วย INT8 หรือ 30 TFLOPS พร้อม BF16
- หน่วยความจำ DRAM พร้อม LPDDR64x ชนิดแชนเนล 4 บิตคู่ (ออนบอร์ด 8GB, 16GB, 32GB) พร้อมแบนด์วิธสูงสุด 68 GB/s
- หน่วยความจำ SRAM ขนาด 20MB ในตัว
- ประสิทธิภาพการใช้งานสูงถึง 90% พร้อมการใช้พลังงาน 8W
- บรรจุภัณฑ์บีจีเอ
ถ้าเราอ้างถึง โมดูล SAKURA-II พร้อมรูปแบบ M.2, เรามี:
- หน่วยความจำ DRAM
- 8GB (2x แบงค์ 4GB LPDDR4)
- 16GB (2x แบงค์ 8GB LPDDR4)
- อินเทอร์เฟซ PCIe Gen 3.0 x4
- ประสิทธิภาพสูงสุด 60 TOPS บน INT8, 30 TFLOPS บน BF16
- กำลังไฟโมดูล 10W
- ขนาด M.2 2280 (22x80มม.)
สำหรับ การ์ดขยาย PCIeโดยสเปคของตัวเร่ง AI มีดังนี้
- อินเทอร์เฟซ PCIe Gen 3.0 x8
- สำหรับรุ่นชิปเดี่ยว SAKURA-II:
- หน่วยความจำ DRAM 16GB (2x แบงค์ 8GB LPDDR4)
- ประสิทธิภาพ 60 TOPS บน INT8, 30 TFLOPS บน BF16
- กำลังไฟ 10W.
- สำหรับรุ่นที่มีชิป SAKURA-II สองตัว:
- หน่วยความจำ DRAM 32GB (2x แบงค์ 16GB LPDDR4)
- ประสิทธิภาพ 120 TOPS บน INT8, 60 TFLOPS บน BF16
- กำลังไฟ 20W
- สล็อต 1x
- รวมถึงฮีทซิงค์
เกี่ยวกับ ราคาหากสงสัยว่าจะมาตั้งแต่ไตรมาสที่ 2024 ปี XNUMX โดยมี:
- M.2 8GB: 249 ดอลลาร์
- M.2 16GB: 299 ดอลลาร์
- PCIe 1xSAKURA-II: 429 ดอลลาร์
- PCIe 2xSAKURA-II: 749 ดอลลาร์