📢 X投稿文
CUTLASSをベースに構築された高性能なKDAカーネル「FlashKDA」です。SM90以上のGPUに対応しており、flash-linear-attentionと連携することで効率的な計算を実現します。
https://github.com/MoonshotAI/FlashKDA
🤖 AI考察
■ 概要（1行）
CUTLASSを基盤とした、高効率なKDA（Kernelized Delta Attention）カーネルの高性能実装。
■ 特徴・用途（2〜3行）
SM90以降のGPUに最適化されたネイティブCUDA実装により、Tritonパスよりも高いスループットを実現する。
`flash-linear-attention`と密接に統合されており、長文コンテキストを扱う線形アテンション系の大規模言語モデル（LLM）推論加速に適している。
■ 結論（1行）
最新のハードウェア性能を引き出しつつ、次世代の線形アテンション技術を実用レベルで高速化するための最適化ツール。