結合沙漏注意力與漸進式混合Transformer的圖像分類方法

摘要： Transformer在圖像分類任務中具有廣泛應用，但在小數據集分類任務中，Transformer受到數據量較少、模型參數量過大等因素的影響，導致分類精度低、收斂速度緩慢。本文提出了一種融合沙漏注意力的漸進式混合Transformer模型。首先，通過下-上采樣的沙漏自注意力建模全局特征關系，利用上采樣補充下采樣操作丟失的信息，同時采用可學習溫度參數和負對角掩碼銳化注意力的分數分...