Coral M.2 Accelerator with Dual Edge TPU

Coral M.2 Accelerator with Dual Edge TPU — це невеликий ASIC (спеціалізований обчислювальний модуль), розроблений Google, який включає в себе два прискорювача Edge TPU ML, кожен з власним інтерфейсом PCIe Gen2 x1, призначені для прискорення виконання розрахунків моделей TensorFlow Lite з низьким енергоспоживанням. Кожен з них здатний виконувати 4 трильйони операцій в секунду (4 TOPS), використовуючи 2 Вт потужності - це 2 TOPS на 1 Ватт. Наприклад, один Edge TPU може робити обчислення для найсучасніших моделей мобільного зору, таких як MobileNet v2, обробляючи майже 400 кадрів в секунду.

Обробка алгоритму машинного навчання на пристрої знижує затримку, підвищує конфіденційність даних і усуває необхідність в постійному підключенні до інтернету.

З двома Edge TPU в цьому модулі ви можете подвоїти кількість виводів в секунду (8 TOPS) декількома способами, наприклад, паралельне виконання завдань на двох прискорювачах або конвеєрна обробка однієї моделі на обох Edge TPU.

Примітка. Оскільки цей модуль використовує два з'єднання PCIe x1, він не сумісний з усіма слотами для карт M.2 E-key. Подвійний Edge TPU також вимагає особливих вимог до живлення, які необхідно ретельно перевіряти.

Основні особливості:

● 2 прискорювача Google Edge TPU ML
○ Загальна пікова продуктивність 8 TOPS (int8)
○ 2 TOPS на Ватт
● Інтегроване управління живленням
● 2 інтерфейсу PCIe Gen2 x1 (по одному на кожен Edge TPU)
● Модуль M.2-2230-D3-E
● Розмір: 22,0 x 30,0 x 2,8 мм.
● Робоча температура: від -40 до +85 ° C

Потужність, споживана модулем карти, залежить від моделі машинного навчання, кількості виводів в секунду і робочої частоти кожного Edge TPU. Максимальний струм, споживаний кожним Edge TPU, зазвичай набагато вище середнього струму. Це пов'язано з тим, що, коли Edge TPU виконує модель машинного навчання, він багато разів активує велику кількість арифметико-логічних пристроїв (ALU) одночасно, що призводить до моделі коротких, але великих перехідних процесів струму. Кожна архітектура моделі також активує різний набір і різну кількість ALU, що означає, що величина і форма перехідного струму дуже сильно залежать від моделі.

Хоча середній струм, споживаний від джерела живлення 3,3 В кожним прикордонним TPU, зазвичай становить менше 500 мА, короткочасні перехідні процеси, що виникають під час логічного виводу, можуть досягати приблизно 3 А. Ці викиди також виникають раптово: навіть проста модель може генерувати надмірні перехідні процеси. 1 А / мкс від одного Edge TPU. Однак ці числа є репрезентативними тільки для моделей, протестованих в Google, і ваші числа можуть відрізнятися. Щоб визначити фактичний піковий струм, ви повинні спостерігати за струмом при запуску моделей, які ви будете розгортати в виробництві, і порівнювати струми при паралельному запуску одного Edge TPU або обох Edge TPU.

Підтримка TensorFlow Lite

Coral M.2 Accelerator with Dual Edge TPU підтримує роботу з TensorFlow Lite, тому вам не обов'язково будувати моделі з нуля. Моделі TensorFlow Lite можна скомпілювати для роботи на Edge TPU.

Габаритні розміри: 30мм х 22мм х 2,8мм

Вимоги до програмного забезпечення:

Прискорювач M.2 з Dual Edge TPU повинен управлятися середовищем виконання Edge TPU runtime і драйвером Coral PCIe, який сумісний з наступними системами:
● Linux:
○ 64-розрядної версії Debian 10 або Ubuntu 16.04 (або новіше)
○ системна архітектура x86-64 або ARMv8
● Windows:
○ 64-бітна версія Windows 10
○ системна архітектура x86-64
● Всі системи вимагають підтримки MSI-X відповідно до специфікації PCI 3.0.

Температурні обмеження:

Температура переходу кожного Edge TPU Tj повинна залишатися нижче максимальної робочої:
● Максимальна температура переходу Edge TPU Tj: 115°C.

Попередження: Перевищення максимальної температури може призвести до незворотного пошкодження Edge TPU і оточуючих компонентів, а також може спричинити пожежу.