DirectML
Definition
DirectML ist Microsofts Hardware-beschleunigte Machine Learning API fuer Windows. Es ermoeglicht KI-Inferenz auf jeder DirectX-12-kompatiblen GPU (NVIDIA, AMD, Intel). DirectML ist die Grundlage fuer Windows AI Studio und lokale KI auf Windows-Copilot+-PCs.
Beispiel
DirectML ermoeglicht Stable Diffusion auf einer Intel Arc GPU unter Windows.
Verwandte Begriffe
Mehr aus “AI/ML”
Attention Mechanism
Attention ist ein Konzept in Neural Networks, das dem Modell ermoeglicht, sich auf relevante Teile der Eingabe zu konzentrieren. Self-Attention berechnet fuer jedes Token, wie stark es alle anderen Tokens beeinflusst. Multi-Head Attention ist ein Kernbaustein der Transformer-Architektur.
Inference Engine
Eine Inference Engine ist die Software-Komponente, die ein trainiertes KI-Modell ausfuehrt. Sie optimiert die Modellausfuehrung fuer die jeweilige Hardware (CPU, GPU, NPU). Bekannte Engines sind ONNX Runtime, TensorRT, OpenVINO und Core ML.
Transformer (Architektur)
Die Transformer-Architektur wurde 2017 von Google eingefuehrt und ist die Grundlage aller modernen LLMs. Sie nutzt Self-Attention-Mechanismen, um Beziehungen zwischen allen Tokens gleichzeitig zu erfassen. Dadurch sind Transformer stark parallelisierbar und skalierbar.
Federated Learning
Federated Learning trainiert KI-Modelle dezentral auf mehreren Geraeten, ohne Daten zu teilen. Jedes Geraet trainiert lokal und sendet nur Modell-Updates an einen zentralen Server. Dies schuetzt die Privatsphaere und wird von Google und Apple eingesetzt.