Zero Trust (Sicherheit)
Definition
Zero Trust ist ein Sicherheitsmodell, das keinem Geraet oder Benutzer von vornherein vertraut, unabhaengig vom Netzwerk. Jede Anfrage muss authentifiziert und autorisiert werden. In KI-Systemen verhindert Zero Trust, dass kompromittierte Endgeraete auf Modelle oder Daten zugreifen.
Beispiel
Ein Zero-Trust-Modell verhindert, dass ein gehackter Smart-TV auf das lokale LLM im Heimnetz zugreift.
Verwandte Begriffe
Mehr aus “AI/ML”
ONNX (Open Neural Network Exchange)
ONNX ist ein offenes Format fuer KI-Modelle, das den Austausch zwischen verschiedenen Frameworks (PyTorch, TensorFlow, etc.) ermoeglicht. Ein in PyTorch trainiertes Modell kann als ONNX exportiert und auf jeder Hardware ausgefuehrt werden. ONNX Runtime ist die entsprechende Inferenz-Engine.
Attention Mechanism
Attention ist ein Konzept in Neural Networks, das dem Modell ermoeglicht, sich auf relevante Teile der Eingabe zu konzentrieren. Self-Attention berechnet fuer jedes Token, wie stark es alle anderen Tokens beeinflusst. Multi-Head Attention ist ein Kernbaustein der Transformer-Architektur.
Inference (Inferenz)
Inference ist die Anwendung eines trainierten KI-Modells auf neue Daten, um Vorhersagen zu generieren. Sie ist weniger rechenintensiv als das Training, erfordert aber dennoch NPUs oder GPUs fuer Echtzeit-Anwendungen. Edge-Inference findet direkt auf dem Geraet statt.
MLX (Apple ML Framework)
MLX ist Apples Open-Source-Machine-Learning-Framework, speziell fuer Apple Silicon optimiert. Es nutzt Unified Memory und die Neural Engine effizient. MLX ermoeglicht das Training und die Inferenz von LLMs auf Macs mit bisher unerreichter Effizienz.