AI Agent
Definition
Ein AI Agent ist ein KI-System, das eigenständig Aufgaben plant und ausführt, indem es Tools, APIs und Datenquellen nutzt. Es bricht komplexe Anfragen in Teilschritte herunter und kann Code schreiben, Web-Recherche betreiben und Entscheidungen treffen. Multi-Agent-Systems orchestrieren mehrere Agenten.
Beispiel
Ein AI Agent kann selbstständig einen Flug buchen, Hotel reservieren und eine Reiseroute planen.
Verwandte Begriffe
Mehr aus “AI/ML”
RAG (Retrieval-Augmented Generation)
RAG kombiniert ein LLM mit einer externen Wissensdatenbank, um aktuellere und präzisere Antworten zu liefern. Das System sucht zuerst relevante Dokumente und übergibt sie als Kontext an das LLM. RAG reduziert Halluzinationen und ermöglicht das Abfragen privater Daten.
TOPS (Tera Operations Per Second)
TOPS ist die Maßeinheit für die KI-Rechenleistung eines Prozessors. Ein TOPS entspricht einer Billion Operationen pro Sekunde. Microsofts Copilot+ Standard erfordert mindestens 40 TOPS. Höhere TOPS bedeuten jedoch nicht automatisch bessere AI-Performance, da auch Software-Optimierung eine Rolle spielt.
Transformer (Architektur)
Die Transformer-Architektur wurde 2017 von Google eingeführt und ist die Grundlage aller modernen LLMs. Sie nutzt Self-Attention-Mechanismen, um Beziehungen zwischen allen Tokens gleichzeitig zu erfassen. Dadurch sind Transformer stark parallelisierbar und skalierbar.
Inference (Inferenz)
Inference ist die Anwendung eines trainierten KI-Modells auf neue Daten, um Vorhersagen zu generieren. Sie ist weniger rechenintensiv als das Training, erfordert aber dennoch NPUs oder GPUs für Echtzeit-Anwendungen. Edge-Inference findet direkt auf dem Gerät statt.