1: 名無しさん＠涙目です。(茸) [US] 2024/12/25(水) 12:41:59.19 ID:2agsY2S+0 BE:422186189-PLT(12015)
半導体の設計・開発などを手掛けるアクセルは12月23日、Intel(インテル)とアクセルおよびグループ会社axの独自開発AIフレームワーク「ailia SDK」を用いた高速AI推論に関するコラボレーションを発表した。ailia SDKは高速AI推論のために設計されたクロスプラットフォームフレームワークで、AIをエッジデバイス上で実行することで、低遅延での推論を実現し、APIコストの削減などを実現することが可能だという。今回の両者の協業は、ailia SDKをIntel ArcディスクリートGPUおよびIntel Core Ultraプロセッサ(シリーズ2)のIntel Xe Matrix Extensions(XMX)に対応させることで、高速推論のサポートを実現したというもの。GPUのXeコア内に構築されたXMX AIエンジンは、ailia SDKのVulkanバックエンドに推論ワークロードのための専用アクセラレーションを提供しパフォーマンスの向上を実現するという。
これにより、例えばアクセルが測定したところ・・・（記事の続き・詳細は引用元にて👇）
関連
続きを読む
Source: 鈴木さん速報
コメント