CoreMLやGPUなしでApple Neural Engine上にニューラルネットワークを直接トレーニングする

すべてのApple Siliconプロセッサには、ニューラルネットワーク演算専用のブロックが搭載されています — Apple Neural Engine（ANE）です。メーカーは数十テラフロップスのパフォーマンスを主張していますがfficial tools limit its use to inference only via CoreML. Training models is offered either on CPU or the graphics chip.

Developer maderix reverse-engineered Apple Neural Engine to run full transformer training without CoreML or Metal, achieving up to 35.1 TOPS on M4.