BATTLEFIELD 1 ゲーム
0tweet
2025.01.27 13:00
:0% :0% （30代／-）
人気のツイート ※表示されているRT数は特定時点のものです
なんか謎だけど使うといいらしい bf16 の記事を読みました！
deep の学習では、仮数部の精度より指数部の精度のほうが大事だから、FP16 より指数の精度を増やした（FP32 と同じ量）bf16 ってのを作ったらしい👀
すごい🤯
そりゃ、bf16 で精度が出るのも納得！
@googlecloud https://t.co/mKZpVMoFct January 01, 2025
@googlecloud とはいえ、Switch Transformer の学習でも、Expert が多いときは bf16 では問題があって、部分的に FP32 を使ったらしい。
すごい世界。面白い！🥳 January 01, 2025
＜ツイートの表示について＞
本サイトではTwitterの利用規約に沿ってツイートを表示させていただいております。ツイートの非表示を希望される方はこちらのお問い合わせフォームまでご連絡下さい。こちらのデータはAPIでも販売しております。
倭人速報公式アカウント
