MoEArchitektur
Mixture of Experts
Architektur, bei der für ein Token nur ausgewählte Experten-Netze aktiviert werden.
PraxisKann hohe Modellkapazität bei relativ effizienter Inferenz ermöglichen.
Llama 4, Qwen3 MoE, Mistral Large 3Mixture-of-Experts
STTAudio
Speech-to-Text
Umwandlung gesprochener Sprache in Text.
PraxisEinsatz für Transkription, Meetings, Diktate und Sprachsteuerung.
Whisper, Gemini Transcribe, VoxtralSpeech to Text
ASRAudio
Automatic Speech Recognition
Technischer Oberbegriff für automatische Spracherkennung.
PraxisASR-Systeme bilden häufig die technische Basis von STT-Diensten.
TranskriptionAutomatic Speech Recognition
TTSAudio
Text-to-Speech
Erzeugung gesprochener Sprache aus Text.
PraxisVerwendet für Sprachassistenten, Barrierefreiheit und Voicebots.
ElevenLabs, Gemini TTSText to Speech
QuantizationDeployment
Quantisierung
Reduktion der numerischen Präzision von Modellgewichten.
PraxisVerringert Speicher- und Rechenbedarf für lokale Modelle.
INT8, INT4, FP8Model Quantization
APIIntegration
Application Programming Interface
Programmierschnittstelle zur automatisierten Kommunikation zwischen Anwendungen.
PraxisKI-Modelle werden häufig per API in Portale oder Workflows integriert.
REST API, Responses APISchnittstelle
OllamaLokale KI
Ollama
Laufzeitumgebung zum einfachen lokalen Ausführen verschiedener Open-Weight-Modelle.
PraxisGeeignet für lokale Tests, Datenschutzszenarien und Entwicklung.
Local LLM Runtime
LM StudioLokale KI
LM Studio
Desktop-Anwendung zum lokalen Laden und Ausführen kompatibler Sprachmodelle.
PraxisLokale Chat- und API-Experimente.
Local AI
TemperatureModellbetrieb
Temperature
Sampling-Parameter zur Steuerung der Zufälligkeit, sofern das jeweilige Modell ihn unterstützt.
PraxisNiedrigere Werte sind meist reproduzierbarer, höhere vielfältiger; bei modernen Reasoning-Modellen gelten modellspezifische Regeln.
temperature=0.2Sampling Temperature
Top-pModellbetrieb
Nucleus Sampling
Sampling-Verfahren, das nur Tokens bis zu einer kumulierten Wahrscheinlichkeitsmasse berücksichtigt.
PraxisAlternative zur Temperatursteuerung; nicht bei jedem modernen Modell empfohlen.
top_pNucleus Sampling
Top-kModellbetrieb
Top-k Sampling
Sampling-Verfahren, das die Auswahl auf die k wahrscheinlichsten Tokens begrenzt.
PraxisVor allem bei bestimmten Open-Weight- und Gemini-Modellen relevant.
top_kTop-K
KV CacheModellbetrieb
Key-Value Cache
Zwischenspeicher bereits berechneter Attention-Zustände.
PraxisBeschleunigt Inferenz und ist relevant für Prompt-/Context-Caching.
Prompt CacheKey Value Cache
FMModelle
Foundation Model
Breit vortrainiertes Basismodell, das für viele Aufgaben adaptiert werden kann.
PraxisFoundation Models bilden die Basis vieler spezialisierter KI-Anwendungen.
LLM, Bildmodell, multimodales ModellBasismodell
GPTModelle
Generative Pre-trained Transformer
Modellfamilie auf Transformer-Basis für generative Aufgaben.
PraxisDer Begriff ist eng mit OpenAI verbunden, wird aber auch allgemein zur Beschreibung der Architekturidee verwendet.
GPT-ModelleGenerative Pretrained Transformer
OpenRouterÖkosystem
OpenRouter
API-Gateway für den Zugriff auf Modelle verschiedener Anbieter über eine einheitliche Schnittstelle.
PraxisModellvergleich und Multi-Provider-Integration.
Model Gateway
ChatGPTProdukte & Plattformen
ChatGPT
KI-Assistent von OpenAI auf Basis aktueller GPT-Modelle.
PraxisFür Text, Bilder, Analyse, Coding, Recherche und Tool-Nutzung.
OpenAI ChatGPTGPT
PerplexityProdukte & Plattformen
Perplexity
KI-Such- und Rechercheplattform mit webgestützten Sonar-Modellen.
PraxisGeeignet für aktuelle Recherche mit Quellen und Deep-Research-Workflows.
Sonar
PEPrompting
Prompt Engineering
Systematisches Entwerfen und Testen von Eingabeanweisungen für KI-Modelle.
PraxisVerbessert Zuverlässigkeit, Format, Kontextnutzung und Reproduzierbarkeit.
Rollenprompt, Few-Shot, AusgabeschemaPrompt Engineering
PIISicherheit & Governance
Personally Identifiable Information
Personenbezogene bzw. identifizierende Informationen.
PraxisBei KI-Nutzung müssen Datenschutz, Zweckbindung und Übermittlung beachtet werden.
Name, E-Mail, KundendatenPersonenbezogene Daten
SFTTraining
Supervised Fine-Tuning
Überwachtes Nachtraining eines Basismodells mit Beispielpaaren.
PraxisWird zur Spezialisierung auf Domänen, Stile oder Aufgaben eingesetzt.
Fine-TuningSupervised Fine Tuning
LoRATraining
Low-Rank Adaptation
Speichereffizientes Fine-Tuning durch zusätzliche niedrig-rangige Matrizen.
PraxisErmöglicht Anpassung großer Modelle mit weniger Rechenaufwand.
Adapter, Fine-TuningLow Rank Adaptation
QLoRATraining
Quantized LoRA
LoRA-Fine-Tuning auf quantisiertem Basismodell.
PraxisReduziert Speicherbedarf bei der Modellanpassung.
4-bit Fine-TuningQuantized LoRA