Mojo (Programmiersprache)
Definition
Mojo ist eine von Modular entwickelte Programmiersprache, die als Superset von Python konzipiert ist. Sie kombiniert die Lesbarkeit von Python mit der Performance von C++ und ist speziell fuer KI-Entwickler optimiert. Mojo kann bis zu 35.000x schneller sein als Python.
Beispiel
Ein Mojo-Matrix-Multiply ist 1.000x schneller als die aequivalente NumPy-Implementierung.
Verwandte Begriffe
Mehr aus “AI/ML”
LangChain
LangChain ist ein beliebtes Open-Source-Framework fuer die Entwicklung von LLM-Anwendungen. Es provides Module fuer Prompt-Management, Chains, Agenten, Memory und RAG-Pipelines. LangChain unterstuetzt alle grossen LLM-Anbieter und Vector Databases.
DistilBERT
DistilBERT ist eine komprimierte Version von BERT, die durch Knowledge Distillation erstellt wurde. Sie hat 40% weniger Parameter und ist 60% schneller, behaelt aber 97% der Sprachverstaendnis-Leistung. DistilBERT ist ein Paradebeispiel fuer effizientes Model Compression.
Inference Engine
Eine Inference Engine ist die Software-Komponente, die ein trainiertes KI-Modell ausfuehrt. Sie optimiert die Modellausfuehrung fuer die jeweilige Hardware (CPU, GPU, NPU). Bekannte Engines sind ONNX Runtime, TensorRT, OpenVINO und Core ML.
LlamaIndex
LlamaIndex ist ein Data-Framework fuer LLM-Anwendungen, spezialisiert auf die Verbindung von Datenquellen mit LLMs. Es bietet Connector fuer ueber 100 Datenquellen, Index-Strukturen und Retrieval-Methoden. LlamaIndex ist besonders stark im Bereich strukturierte Daten und RAG.