AI Safety
Definition
AI Safety umfasst Forschung und Massnahmen, um sicherzustellen, dass KI-Systeme nicht schaedlich werden. Dazu gehoeren Alignment, Robustheit gegen adversariale Angriffe, Ueberwachung von Modellausgaben und Verhinderung von Missbrauch. AI Safety gewinnt mit staerkeren Modellen an Bedeutung.
Beispiel
Red-Teaming testen ein LLM mit gezielten Angriffen, um sicherzustellen, dass es keine schaedlichen Anleitungen ausgibt.
Mehr aus “AI/ML”
LlamaIndex
LlamaIndex ist ein Data-Framework fuer LLM-Anwendungen, spezialisiert auf die Verbindung von Datenquellen mit LLMs. Es bietet Connector fuer ueber 100 Datenquellen, Index-Strukturen und Retrieval-Methoden. LlamaIndex ist besonders stark im Bereich strukturierte Daten und RAG.
Edge AI
Edge AI bezeichnet die Ausfuehrung von KI-Modellen direkt auf dem Endgeraet (Smartphone, IoT, PC) statt in der Cloud. Dies reduziert Latenz, spart Bandbreite und schuetzt die Privatsphaere. NPUs sind die Grundlage fuer Edge AI auf mobilen Geraeten.
Neural Network (Neuronales Netz)
Ein Neural Network ist ein vom menschlichen Gehirn inspiriertes KI-Modell aus verbundenen Knoten (Neuronen) in Schichten. Es lernt aus Daten, indem es Gewichte anpasst. Tiefe Netzwerke (Deep Learning) mit vielen Schichten koennen extrem komplexe Muster erkennen.
FP16 (Half Precision)
FP16 (16-bit Floating Point) ist das Standardformat fuer KI-Training und Inferenz. Es bietet ausreichend Praezision fuer die meisten Modelle bei halbem Speicherbedarf gegenueber FP32. Tensor Cores sind fuer FP16 optimiert.