如何提高keras模型預(yù)測(cè)速度？一旦確定了keras模型，不修改keras框架的源代碼就不會(huì)有任何改變。唯一的出路是擴(kuò)大GPU。一般情況下，我們只能嘗試修改模型結(jié)構(gòu)、量化剪枝等方式，自行修改框架源代碼

如何提高keras模型預(yù)測(cè)速度？

一旦確定了keras模型，不修改keras框架的源代碼就不會(huì)有任何改變。唯一的出路是擴(kuò)大GPU。

一般情況下，我們只能嘗試修改模型結(jié)構(gòu)、量化剪枝等方式，自行修改框架源代碼，沒有必要。

通常，為了加快模型的預(yù)測(cè)速度，只需加載一次模型即可。

當(dāng)模型的預(yù)測(cè)時(shí)間過長(zhǎng)時(shí)，通常采用減少卷積核、減少卷積核數(shù)、增加步長(zhǎng)、增加池單元等方法。一些參數(shù)較少的主干也可能被替換。

或者考慮使用移動(dòng)終端分離卷積和空穴卷積。

最后，默認(rèn)情況下，我們的模型由floaf32的精度表示，可以適當(dāng)量化。它以16位、8位甚至2位精度表示。只要模型的精度不顯著降低，且滿足使用場(chǎng)景，則是合理的。

如果您在這方面還有其他問題，請(qǐng)關(guān)注我，一起學(xué)習(xí)。

Keras還是TensorFlow，程序員該如何選擇深度學(xué)習(xí)框架？

如果您想用少量代碼盡快構(gòu)建和測(cè)試神經(jīng)網(wǎng)絡(luò)，keras是最快的，而且順序API和模型非常強(qiáng)大。而且keras的設(shè)計(jì)非常人性化。以數(shù)據(jù)輸入和輸出為例，與keras的簡(jiǎn)單操作相比，tensorflow編譯碼的構(gòu)造過程非常復(fù)雜（尤其對(duì)于初學(xué)者來說，大量的記憶過程非常痛苦）。此外，keras將模塊化作為設(shè)計(jì)原則之一，用戶可以根據(jù)自己的需求進(jìn)行組合。如果你只是想快速建立通用模型來實(shí)現(xiàn)你的想法，keras可以是第一選擇。

但是，包裝后，keras將變得非常不靈活，其速度相對(duì)較慢。如果高度包裝，上述缺點(diǎn)將更加明顯。除了一些對(duì)速度要求較低的工業(yè)應(yīng)用外，由于tensorflow的速度較高，因此會(huì)選擇tensorflow

如果您在驗(yàn)證您的想法時(shí)，想定義損失函數(shù)而不是使用現(xiàn)有的設(shè)置，與keras相比，tensorflow提供了更大的個(gè)性空間。此外，對(duì)神經(jīng)網(wǎng)絡(luò)的控制程度將在很大程度上決定對(duì)網(wǎng)絡(luò)的理解和優(yōu)化，而keras提供的權(quán)限很少。相反，tensorflow提供了更多的控制權(quán)，比如是否訓(xùn)練其中一個(gè)變量、操作梯度（以獲得訓(xùn)練進(jìn)度）等等。

盡管它們都提供了深度學(xué)習(xí)模型通常需要的功能，但如果用戶仍然追求一些高階功能選擇，例如研究特殊類型的模型，則需要tensorflow。例如，如果您想加快計(jì)算速度，可以使用tensorflow的thread函數(shù)來實(shí)現(xiàn)與多個(gè)線程的相同會(huì)話。此外，它還提供了調(diào)試器功能，有助于推斷錯(cuò)誤和加快操作速度。