Privacy-Preserving AI
Definition
Privacy-Preserving AI umfasst Techniken, die den Datenschutz bei KI-Anwendungen gewaehrleisten. Dazu gehoeren Federated Learning, Differential Privacy und Homomorphic Encryption. Ziel ist es, KI-Modelle zu trainieren oder anzuwenden, ohne sensible Daten offenzulegen.
Beispiel
Apples Private Cloud Compute verarbeitet Siri-Anfragen verschluesselt und loescht Daten nach der Verarbeitung.
Verwandte Begriffe
Mehr aus “AI/ML”
RAG Pipeline
Eine RAG Pipeline ist die Verkettung von Komponenten fuer Retrieval-Augmented Generation: Dokumenten-Ingestion, Chunking, Embedding, Vector-DB-Speicherung, Retrieval und LLM-Generierung. Jeder Schritt kann optimiert werden. Moderne RAG-Pipelines nutzen Re-Ranking und Hybrid Search.
Gemini Nano
Gemini Nano ist Googles kleinstes LLM, das fuer die Ausfuehrung auf mobilen Geraeten optimiert ist. Es laeuft auf Pixel-Smartphones und Android-Geraeten mit ausreichend RAM. Es ermoeglicht MagIC-Answer, Summarize in Chrome Recorder und Smart Reply ohne Internetverbindung.
MoE (Mixture of Experts)
MoE ist eine Architektur, bei der nur ein Teil der Modell-Parameter pro Token aktiviert wird. Ein Router entscheidet, welche Experten (Sub-Netzwerke) fuer jede Eingabe verwendet werden. DeepSeek-V3 und Mixtral nutzen MoE fuer hohe Kapazitaet bei niedriger Inferenz-Kosten.
Inference Optimization
Inference Optimization umfasst Techniken, um die Ausfuehrungsgeschwindigkeit eines trainierten KI-Modells zu erhoehen. Dazu gehoeren Quantization, Pruning, Knowledge Distillation, Speculative Decoding und KV-Cache-Optimierung. Moderne Inference-Engines wie vLLM und TensorRT kombinieren mehrere Techniken.