Recogni: Revolutionäre Generative AI-Inferenz für Datenzentren
Recogni bringt eine bahnbrechende Lösung für die Anforderungen an moderne Datenzentren. Mit seiner innovativen Technologie verändert es die Art und Weise, wie die Welt mit Generative AI arbeitet.
Überblick: Recogni setzt auf fortschrittliche Technologien wie die 3nm TSMC-Technologie, um eine optimale Energieeffizienz und Kostenersparnis zu erreichen. Zudem ermöglicht die Nutzung von TP > 100 Tensor Paralellism das parallele Ausführen von AI-Modellen, was zu höherer Geschwindigkeit und größeren Modellen führt.
Kernfunktionen:
- HBM3e mit höchster Bandbreite: Erhöht die Ausgabegeschwindigkeit bei der Ausführung von GenAI-Modellen.
- 99,9% höchste Genauigkeit: Die Modelle liefern nach der Quantisierung ein hohes Maß an Genauigkeit.
- 4x weniger Stromverbrauch als Standard-Math: Senkt die Kosten und macht Anwendungen wirtschaftlich tragfähig.
Grundlegende Nutzung: Recogni arbeitet eng mit Kunden und Partnern zusammen, um die Anforderungen an ein Inferenzsystem genau zu verstehen. Die Compiler-Technologie garantiert kurze Compilierzeiten, selbst für große moderne Modelle.
Recogni ist darauf ausgerichtet, die AI-Ambitionen der Welt zu beschleunigen und eine neue Ära der Generative AI-Inferenz in Datenzentren einzuläuten.
