Privacy-Preserving AI
Definition
Privacy-Preserving AI umfasst Techniken, die den Datenschutz bei KI-Anwendungen gewaehrleisten. Dazu gehoeren Federated Learning, Differential Privacy und Homomorphic Encryption. Ziel ist es, KI-Modelle zu trainieren oder anzuwenden, ohne sensible Daten offenzulegen.
Beispiel
Apples Private Cloud Compute verarbeitet Siri-Anfragen verschluesselt und loescht Daten nach der Verarbeitung.
Verwandte Begriffe
Mehr aus “AI/ML”
Knowledge Distillation
Knowledge Distillation ist eine Technik, bei der ein grosses 'Teacher'-Modell ein kleineres 'Student'-Modell trainiert. Das Student-Modell lernt, die Ausgaben des Teachers nachzuahmen, erreicht aber aehnliche Performance mit deutlich weniger Parametern.
INT4 (4-bit Integer)
INT4 ist ein Quantisierungsformat, das Gewichte mit nur 4 Bits speichert. Es reduziert den Speicherbedarf eines Modells um den Faktor 4 gegenueber FP16. Moderne NPUs und GPUs (wie RTX 50 mit FP4) unterstuetzen INT4/FP4 nativ fuer maximale Effizienz.
FP8 (8-bit Floating Point)
FP8 ist ein 8-bit-Gleitkommaformat, das 2022 von NVIDIA, AMD und ARM gemeinsam spezifiziert wurde. Es bietet hoehere Praezision als INT8 bei gleichem Speicherbedarf. Die RTX 50-Serie unterstuetzt FP4 und FP8 nativ fuer maximale AI-Performance.
RAG (Retrieval-Augmented Generation)
RAG kombiniert ein LLM mit einer externen Wissensdatenbank, um aktuellere und praesisere Antworten zu liefern. Das System sucht zuerst relevante Dokumente und uebergibt sie als Kontext an das LLM. RAG reduziert Halluzinationen und ermueglicht das Abfragen privater Daten.