ARM hat unter dem Codenamen“ Projekt Trillium“ angekündigt, zwei Prozessoren für maschinelles Lernen zu entwickeln, die auch zusätzliche IP und Software beinhalten. Diese sollen gegenüber CPU, GPUs und DSPs deutlich energieeffizienter arbeiten.
Bis jetzt lag ARMs Fokus auf den CPU-ISA-Erweiterungen von Armv8.2., die spezialisierte Anweisungen einführen, welche Implementierungen von neuronalen Netzwerken mit Hilfe von Gleitkomma-Skalarprodukten mit halber Genauigkeit und Ganzzahl-Skalarprodukten vereinfachen und beschleunigen. Neben den CPU-Verbesserungen gab es in der Mali-G72 auch GPU-Verbesserungen für das maschinelle Lernen. Obwohl diese beiden Verbesserungen hilfreich sind, sind sie in Anwendungsfällen unzureichend, in denen maximale Leistung und Energieeffizienz erforderlich sind.
Wie Arm erklärt, waren die Verbesserungen bei Armv8.2 und der GPU nur die ersten Ergebnisse bei der Etablierung von Lösungen für maschinelles Lernen, während parallel dazu der Bedarf an dedizierten Lösungen untersucht wurde. Der Druck der Industrie durch die Partner führte schließlich zu der Entwicklung der nun angekündigten IP.
Die Prozessoren sind die ARM ML und die ARM OD, wobei OD für die Objekterkennung steht. Diese Geräte ermöglichen Millarden von Operationen pro Sekunde und sind für den Einsatz auf Edge-Geräten wie in Mobiltelefonen vorgesehen. In der Tat behauptet ARM, dass der ML-Prozessor die "effizienteste Lösung zum Ausführen von neuronalen Netzen" ist.