tanuki_boosting https://blog.hatena.ne.jp/tanuki_boosting/ 趣味のPython・深層学習 https://tanuki-boosting.hatenablog.jp/ 機械学習 Squeezeformerの詳細解説 1. 全体構造の概要 Squeezeformerは音声認識などのシーケンス処理のために設計された効率的なアーキテクチャです。入力データ形状は (batch_size, sequence_length, channel_size) となっており、例えば: - batch_size = 2 (2つのデータを同時処理) - sequence_length = 16 (時系列の長さ) - channel_size = 64 (各時点での特徴量の次元) 全体コード import torch import torch.nn as nn class GLUMlp(nn.… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftanuki-boosting.hatenablog.jp%2Fentry%2F2024%2F10%2F23%2F210017" title="Squeezeformerを理解したい - 趣味のPython・深層学習" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-10-23 21:00:17 rich https://tanuki-boosting.hatenablog.jp/entry/2024/10/23/210017 1.0 100%