描述

介紹

我最近買(mǎi)了一個(gè)我認(rèn)為真正代表人工智能未來(lái)的新玩具。這是來(lái)自谷歌的珊瑚芯片。谷歌憑借其 Tensorflow 平臺(tái)成為機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)導(dǎo)者，現(xiàn)在他們正通過(guò) Coral 芯片向機(jī)器學(xué)習(xí)的“邊緣”邁進(jìn)。這一點(diǎn)很重要，因?yàn)槿绻覀兡軌蛸?gòu)買(mǎi)能夠加速機(jī)器學(xué)習(xí)推理的低功耗、高性?xún)r(jià)比芯片，我們就可以以合理的價(jià)格在功耗極低的設(shè)備上運(yùn)行 ML，例如無(wú)法運(yùn)行機(jī)器學(xué)習(xí)的物聯(lián)網(wǎng)設(shè)備。云（例如，因?yàn)樗麄儧](méi)有連接，或者因?yàn)樗麄冃枰褂?ML 做出快速、自主的決策）。

谷歌將 Coral 芯片稱(chēng)為 TPU，即張量處理單元，因?yàn)樗且环N定制芯片，旨在本地處理張量，這就是數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)中的表示方式。因?yàn)樗脑O(shè)計(jì)正是為了做到這一點(diǎn)，所以在進(jìn)行神經(jīng)網(wǎng)絡(luò)“推理”所需的數(shù)學(xué)運(yùn)算（即使用 ML 模型進(jìn)行預(yù)測(cè)）時(shí)，它比僅使用標(biāo)準(zhǔn) CPU 快得多。

購(gòu)買(mǎi)和安裝 Google Edge TPU

我從Mouser訂購(gòu)了 Coral USB 加速器。如果您喜歡機(jī)器學(xué)習(xí)，只需 60 美元就很有趣。當(dāng)然，Coral 的主要想法是硬件制造商會(huì)將其構(gòu)建到他們的產(chǎn)品中，但是使用 USB 加速器，您可以輕松地將其添加到您的 Pi 中。在這里，您可以看到我的 Pi 帶有通過(guò) USB 連接的 USB 加速器。

?

要在 Raspberry Pi 上安裝 Edge TPU，請(qǐng)按照以下說(shuō)明進(jìn)行操作。要查看的重要數(shù)字是運(yùn)行 TFLITE 模型的時(shí)間，以毫秒為單位。

現(xiàn)在讓我們看看運(yùn)行在 Edge TPU 上的 TFLITE 模型識(shí)別的金翅雀。哇！模型的每次調(diào)用都在 7 毫秒內(nèi)執(zhí)行！這是在 Raspberry Pi（低功耗）ARM 處理器上運(yùn)行所需時(shí)間的 1/20。

只是為了好玩，我嘗試了谷歌警告我們的“最大工作頻率”運(yùn)行時(shí)。它將我的 ML 模型的執(zhí)行時(shí)間縮短到 5 毫秒左右。因此，與標(biāo)準(zhǔn) Edge TPU 運(yùn)行時(shí)相比，執(zhí)行時(shí)間減少了大約 25%，但與在 Pi 的 CPU 上運(yùn)行模型的時(shí)間（140 毫秒）相比，在大多數(shù)情況下，節(jié)省 2 毫秒可能不值得額外的功耗。如果有機(jī)會(huì)，我會(huì)在“最大”運(yùn)行時(shí)間運(yùn)行一段時(shí)間后測(cè)量 TPU 的溫度。也許我可以用它煮一個(gè)雞蛋。