AI Safety
Definition
AI Safety umfasst Forschung und Massnahmen, um sicherzustellen, dass KI-Systeme nicht schaedlich werden. Dazu gehoeren Alignment, Robustheit gegen adversariale Angriffe, Ueberwachung von Modellausgaben und Verhinderung von Missbrauch. AI Safety gewinnt mit staerkeren Modellen an Bedeutung.
Beispiel
Red-Teaming testen ein LLM mit gezielten Angriffen, um sicherzustellen, dass es keine schaedlichen Anleitungen ausgibt.
Mehr aus “AI/ML”
Inference Engine
Eine Inference Engine ist die Software-Komponente, die ein trainiertes KI-Modell ausfuehrt. Sie optimiert die Modellausfuehrung fuer die jeweilige Hardware (CPU, GPU, NPU). Bekannte Engines sind ONNX Runtime, TensorRT, OpenVINO und Core ML.
Alignment (KI-Ausrichtung)
Alignment beschreibt die Ausrichtung von KI-Systemen auf menschliche Werte und Ziele. Ein gut ausgerichtetes KI-System tut, was Menschen wollen, ohne schaedliche Nebenwirkungen. RLHF und Constitutional AI sind wichtige Alignment-Techniken.
DistilBERT
DistilBERT ist eine komprimierte Version von BERT, die durch Knowledge Distillation erstellt wurde. Sie hat 40% weniger Parameter und ist 60% schneller, behaelt aber 97% der Sprachverstaendnis-Leistung. DistilBERT ist ein Paradebeispiel fuer effizientes Model Compression.
Mojo (Programmiersprache)
Mojo ist eine von Modular entwickelte Programmiersprache, die als Superset von Python konzipiert ist. Sie kombiniert die Lesbarkeit von Python mit der Performance von C++ und ist speziell fuer KI-Entwickler optimiert. Mojo kann bis zu 35.000x schneller sein als Python.