アップル製シリコンチップ、オンデバイスAI向けに大幅な性能向上を実現

2025-08-24

1.7 K

ハードウェアとAIの協調最適化

オンデバイスAIがアップルのMシリーズチップに深く適応することで、モバイル上で大規模モデルを実行するための新たなベンチマークが生まれる。そのパフォーマンスの利点が具体的に示されている：

ニューラル・ネットワーク・エンジン独自の最適化アップル・シリコンの16コアNPUの命令セット最適化により、Llama 8Bモデルの推論が23トークン／秒を実現
クロスデバイス演算統合M1 Maxチップは、Mac Remote Connection機能を通じてiPhoneに40TOPSの計算能力を追加し、16Bパラメータスケールモデルの実行をサポートする。
リアルタイム音声転写アクセラレーション: M2チップデバイス、98msの超低遅延転写を達成、従来のx86アーキテクチャの3倍高速化

パフォーマンステストのデータによると、M3チップを搭載したMacBook Proでは、文書解析タスクにかかる時間はインテルモデルの1/5である。このハードウェアの共同設計により、コンシューマーグレードのデバイスでもプロフェッショナルなAIワークロードを処理できるようになった。