Federated Learning
Definition
Federated Learning trainiert KI-Modelle dezentral auf mehreren Geraeten, ohne Daten zu teilen. Jedes Geraet trainiert lokal und sendet nur Modell-Updates an einen zentralen Server. Dies schuetzt die Privatsphaere und wird von Google und Apple eingesetzt.
Beispiel
Google nutzt Federated Learning fuer Gboard-Vorhersagen, ohne Tastatureingaben an Server zu senden.
Verwandte Begriffe
Mehr aus “AI/ML”
Transformer (Architektur)
Die Transformer-Architektur wurde 2017 von Google eingefuehrt und ist die Grundlage aller modernen LLMs. Sie nutzt Self-Attention-Mechanismen, um Beziehungen zwischen allen Tokens gleichzeitig zu erfassen. Dadurch sind Transformer stark parallelisierbar und skalierbar.
Copilot+ PC
Copilot+ PC ist eine Microsoft-Zertifizierung fuer Windows-Rechner mit mindestens 40 TOPS NPU-Leistung. Solche PCs unterstuetzen Recall (Timeline-Suche), Live-Captions, Cocreator (Bildgenerierung) und lokale Phi-Silika-Modelle. Der Standard wurde mit Windows 11 24H2 eingefuehrt.
OpenVINO
OpenVINO ist Intels Open-Source-Toolkit fuer KI-Inferenz-Optimierung. Es optimiert Modelle fuer Intel-Hardware (CPU, integrierte GPU, NPU) und bietet signifikante Performance-Verbesserungen. OpenVINO unterstuetzt ONNX-Modelle als Eingabe.
Model Compression
Model Compression umfasst verschiedene Techniken, um KI-Modelle kleiner und effizienter zu machen. Dazu zaehlen Quantisierung, Pruning, Knowledge Distillation und Low-Rank Factorization. Ziel ist der Einsatz auf Geraeten mit begrenzten Ressourcen.