FLOPS (Floating Point Operations Per Second)
Definition
FLOPS misst die Anzahl der Gleitkomma-Operationen pro Sekunde. Im Gegensatz zu TOPS, das ganze Operationen zaehlt, erfasst FLOPS genauer die mathematische Leistung. Es wird in PetaFLOPS (10^15) oder ExaFLOPS (10^18) angegeben.
Beispiel
Der NVIDIA H100 erreicht ueber 1.000 TFLOPS FP8 mit Sparse.
Verwandte Begriffe
Mehr aus “AI/ML”
Mojo (Programmiersprache)
Mojo ist eine von Modular entwickelte Programmiersprache, die als Superset von Python konzipiert ist. Sie kombiniert die Lesbarkeit von Python mit der Performance von C++ und ist speziell fuer KI-Entwickler optimiert. Mojo kann bis zu 35.000x schneller sein als Python.
AI Safety
AI Safety umfasst Forschung und Massnahmen, um sicherzustellen, dass KI-Systeme nicht schaedlich werden. Dazu gehoeren Alignment, Robustheit gegen adversariale Angriffe, Ueberwachung von Modellausgaben und Verhinderung von Missbrauch. AI Safety gewinnt mit staerkeren Modellen an Bedeutung.
JAX
JAX ist Googles numerisches Computing-Framework mit automatischer Differenzierung und XLA-Compiler fuer GPU/TPU. Es ist die Grundlage fuer moderne KI-Forschung bei Google DeepMind. JAX ermoeglicht funktionale Programmierung mit NumPy-Syntax und nativer Beschleuniger-Unterstuetzung.
LangChain
LangChain ist ein beliebtes Open-Source-Framework fuer die Entwicklung von LLM-Anwendungen. Es provides Module fuer Prompt-Management, Chains, Agenten, Memory und RAG-Pipelines. LangChain unterstuetzt alle grossen LLM-Anbieter und Vector Databases.