Edge AI
Definition
Edge AI bezeichnet die Ausfuehrung von KI-Modellen direkt auf dem Endgeraet (Smartphone, IoT, PC) statt in der Cloud. Dies reduziert Latenz, spart Bandbreite und schuetzt die Privatsphaere. NPUs sind die Grundlage fuer Edge AI auf mobilen Geraeten.
Beispiel
Apples Intelligence-Features laufen komplett auf dem iPhone mit der Neural Engine, ohne Cloud.
Mehr aus “AI/ML”
Hallucination (KI)
Hallucination beschreibt das Phaenomen, dass ein LLM selbstbewusst falsche oder erfundene Informationen ausgibt. Es entsteht durch statistische Muster im Training, die nicht mit Fakten uebereinstimmen. RAG und bessere Fine-Tuning-Methoden reduzieren Halluzinationen.
Machine Learning
Machine Learning ist ein Teilbereich der KI, bei dem Computer aus Daten lernen, ohne explizit programmiert zu werden. Es umfasst ueberwacht (Supervised), unueberwacht (Unsupervised) und bestaerkendes (Reinforcement) Lernen. Deep Learning ist eine spezielle Methode des Machine Learning.
Gemini Nano
Gemini Nano ist Googles kleinstes LLM, das fuer die Ausfuehrung auf mobilen Geraeten optimiert ist. Es laeuft auf Pixel-Smartphones und Android-Geraeten mit ausreichend RAM. Es ermoeglicht MagIC-Answer, Summarize in Chrome Recorder und Smart Reply ohne Internetverbindung.
AI Agent
Ein AI Agent ist ein KI-System, das eigenstaendig Aufgaben plant und ausfuehrt, indem es Tools, APIs und Datenquellen nutzt. Es bricht komplexe Anfragen in Teilschritte herunter und kann Code schreiben, Web-Recherche betreiben und Entscheidungen treffen.