推薦システム（RecSys）の推論処理において、計算効率の向上は実務的に重要な課題である。従来のアプローチでは、ユーザーの埋め込み表現やシーケンス情報といった共有データを、評価対象となるすべての候補アイテムに対して明示的に複製していた。この冗長な処理は、大規模なユーザーベースと膨大な候補アイテムを扱う実運用環境では、著しい計算オーバーヘッドとなっていた。 In-Kernel Broadcast Optimization（IKBO）と呼ばれる新しい手法は、このような非効率性を根本から解決することを目指している。IKBOの核となるアイデアは、モデルレベル、カーネルレベル、システムレベルでの協設計を通じて、ブロードキャスト処理をユーザーと候補アイテムの相互作用計算を行うカーネルに直接統合させることである。これにより、明示的な複製処理を完全に排除し、メモリ帯域幅の使用量を削減するとともに、全体的な推論レイテンシを大幅に短縮できるようになる。 このアプローチは、ハードウェア効率とソフトウェアの柔軟性の間のトレードオフを巧みに調整している。推薦システムの推論は一般に低遅延を要求されるため、わずかな計算最適化でも実務上の価値は極めて大きい。IKBOの設計思想は、単なる計算最適化に止まらず、モダンなGPUやTPUなどのハードウェアアクセラレータとの親和性を重視しており、今後の大規模推薦システムの効率化に向けた有望な方向性を提示している。