EU-Hosting aktivVon LLM bis EU AI Act: die wichtigsten Begriffe rund um KI im Unternehmen — kurz, eigenständig verständlich und ohne Marketing-Floskeln.
Eine API (Programmierschnittstelle) ist der definierte Weg, über den zwei Softwaresysteme miteinander sprechen — etwa wenn ein KI-Modell von einer anderen Anwendung angesteuert wird. Sie legt fest, welche Anfragen möglich sind und welche Antworten zurückkommen. Ohne API müsste jede Verbindung individuell und unstrukturiert gebaut werden.
Der Auftragsverarbeitungsvertrag (AVV) regelt nach Art. 28 DSGVO, wie ein Dienstleister personenbezogene Daten im Auftrag eines Unternehmens verarbeiten darf. Er legt Pflichten, Haftung und technische Schutzmaßnahmen schriftlich fest, bevor produktive Daten fließen. Ohne AVV darf ein externer KI-Anbieter keine personenbezogenen Daten verarbeiten.
Mehr dazu →Ein Chatbot ist ein Programm, das über Text- oder Sprachnachrichten mit Menschen interagiert und dabei häufig auf einem Sprachmodell basiert. Einfache Varianten folgen festen Skripten, moderne KI-Chatbots verstehen freie Formulierungen und formulieren eigenständig Antworten. Im Unternehmenseinsatz beantworten sie etwa Kundenanfragen oder interne Fragen zu Dokumenten.
Mehr dazu →Die Datenschutz-Grundverordnung (DSGVO) ist das EU-weite Gesetz zum Schutz personenbezogener Daten. Sie schreibt unter anderem vor, dass Daten nur zweckgebunden verarbeitet, sicher gespeichert und auf Anfrage gelöscht oder herausgegeben werden müssen. Für den Einsatz von KI bedeutet das: Wer welche Daten wie lange verarbeitet, muss dokumentiert und rechtlich abgesichert sein.
Mehr dazu →Ein Embedding ist die Übersetzung von Text, Bildern oder anderen Inhalten in eine Reihe von Zahlen, die deren Bedeutung so abbildet, dass ähnliche Inhalte nahe beieinanderliegen. Auf dieser Basis können Systeme inhaltlich ähnliche Dokumente finden, auch wenn sie unterschiedliche Wörter verwenden. Embeddings sind die technische Grundlage der meisten unternehmensinternen Suchsysteme.
Der EU AI Act ist die europäische Verordnung zur Regulierung von KI-Systemen nach Risikoklassen — von minimalem bis zu verbotenem Risiko. Je nach Einstufung gelten Pflichten zu Transparenz, menschlicher Aufsicht und Dokumentation. Unternehmen, die KI einsetzen oder anbieten, müssen abhängig von der Anwendung diese Pflichten erfüllen.
Mehr dazu →EU-Hosting bedeutet, dass Server und Daten physisch in einem Rechenzentrum innerhalb der Europäischen Union liegen. Das erleichtert die Einhaltung der DSGVO, weil kein Datentransfer in Drittländer mit abweichendem Datenschutzniveau stattfindet. Für viele Unternehmen ist EU-Hosting eine Grundvoraussetzung für den produktiven KI-Einsatz.
Mehr dazu →Fine-Tuning bezeichnet das Nachtrainieren eines bereits fertigen KI-Modells mit zusätzlichen, meist unternehmensspezifischen Daten. Dadurch lernt das Modell einen bestimmten Ton, Fachwortschatz oder wiederkehrende Aufgabenstellungen besser zu beherrschen. Fine-Tuning ist aufwendiger als ein einfacher Systemprompt, liefert dafür aber tiefer verankertes Verhalten.
Mehr dazu →Guardrails sind technische und organisatorische Schranken, die verhindern, dass eine KI unerwünschte, falsche oder schädliche Ausgaben produziert. Dazu zählen etwa Filter für sensible Inhalte, verpflichtende Quellenangaben oder die Begrenzung auf freigegebene Datenquellen. Gute Guardrails machen ein KI-System vorhersehbarer, ohne seine Nützlichkeit einzuschränken.
Mehr dazu →Als Halluzination bezeichnet man eine Antwort einer KI, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist. Sie entsteht, weil Sprachmodelle plausibel klingenden Text erzeugen, ohne zwingend auf geprüften Fakten zu beruhen. Systeme mit Quellenangabe und Abgleich gegen eine Wissensdatenbank senken das Risiko deutlich, schließen es aber nicht vollständig aus.
Ein KI-Agent ist ein System, das über einzelne Textantworten hinaus eigenständig mehrere Schritte plant und ausführt, um ein Ziel zu erreichen — etwa Daten abrufen, ein Formular ausfüllen und eine Bestätigung verschicken. Im Unterschied zum reinen Chatbot greift ein Agent aktiv auf Werkzeuge und Systeme zu. Damit das nachvollziehbar bleibt, protokollieren gute Agenten jeden Zwischenschritt.
Mehr dazu →Ein KI-Assistent unterstützt Mitarbeitende bei alltäglichen Aufgaben wie Textentwürfen, Zusammenfassungen oder der Suche in internen Dokumenten. Anders als ein autonomer Agent trifft er in der Regel keine eigenständigen Entscheidungen, sondern liefert Vorschläge, die ein Mensch prüft und übernimmt. Der Nutzen entsteht durch Zeitersparnis bei wiederkehrenden, aber nicht kritischen Tätigkeiten.
Eine KI-Richtlinie ist das interne Regelwerk eines Unternehmens, das festlegt, welche KI-Tools erlaubt sind, welche Daten dort eingegeben werden dürfen und wer welche Verantwortung trägt. Sie schafft Klarheit für Mitarbeitende und reduziert das Risiko unkontrollierter Schatten-KI-Nutzung. Der EU AI Act verlangt für bestimmte Einsatzfälle zusätzlich dokumentierte Prozesse, die eine solche Richtlinie liefern kann.
Mehr dazu →Das Kontextfenster ist die Textmenge, die ein Sprachmodell in einer einzelnen Anfrage gleichzeitig „im Blick“ behalten kann — gemessen in Token. Ist ein Dokument größer als das Kontextfenster, muss es aufgeteilt oder über eine Wissensdatenbank gezielt durchsucht werden. Größere Kontextfenster erlauben längere Gespräche und umfangreichere Dokumente in einer Anfrage.
LLM steht für Large Language Model, ein großes Sprachmodell, das auf riesigen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen. Es bildet die technische Grundlage von Chatbots, KI-Assistenten und vielen KI-Agenten. Ein LLM kennt keine Fakten im klassischen Sinn, sondern berechnet statistisch wahrscheinliche Wortfolgen — deshalb bleibt eine Quellenanbindung wichtig.
Mehr dazu →Ein Multi-Agenten-System besteht aus mehreren spezialisierten KI-Agenten, die arbeitsteilig an einer komplexeren Aufgabe zusammenarbeiten — etwa ein Agent für Recherche, einer für Textentwurf und einer für Qualitätsprüfung. Die Aufteilung macht einzelne Schritte überschaubarer und leichter kontrollierbar als ein einzelner, alles erledigender Agent. Die Koordination zwischen den Agenten erfordert allerdings zusätzliche Sorgfalt bei Protokollierung und Fehlerbehandlung.
Mehr dazu →On-Premise bedeutet, dass eine Software vollständig auf der eigenen Infrastruktur des Unternehmens betrieben wird, statt in einer fremden Cloud. Daten verlassen dabei das eigene Haus nicht. Das erfordert eigenes IT-Personal oder einen Partner für Betrieb und Wartung, bietet dafür aber die höchstmögliche Kontrolle über Daten und Systeme.
Mehr dazu →Ein Open-Source-Modell ist ein KI-Modell, dessen Aufbau und Gewichte offen zugänglich sind und das dadurch selbst gehostet werden kann, statt über die Cloud eines Anbieters zu laufen. Das ermöglicht volle Kontrolle über Daten und Betrieb sowie Unabhängigkeit von einem einzelnen Anbieter. Der Betrieb erfordert eigene Rechenkapazität und technisches Know-how für Wartung und Aktualisierung.
Mehr dazu →Ein Prompt ist die Eingabe oder Anweisung, die einem KI-Modell übergeben wird, um eine bestimmte Antwort zu erhalten. Die Formulierung — Kontext, Beispiele, gewünschtes Format — beeinflusst die Qualität der Antwort erheblich. Gute Prompts sind konkret, geben den Rahmen vor und benennen, was die Antwort leisten soll.
Mehr dazu →RAG (Retrieval-Augmented Generation) kombiniert ein Sprachmodell mit einer gezielten Suche in einer eigenen Wissensdatenbank, bevor eine Antwort formuliert wird. Das Modell stützt sich dadurch auf tatsächlich vorhandene Dokumente statt auf reines Training, was Halluzinationen deutlich reduziert. Antworten können so mit einer konkreten Quelle belegt werden.
Mehr dazu →Schatten-KI bezeichnet den Einsatz von KI-Tools durch Mitarbeitende außerhalb offiziell freigegebener und geprüfter Systeme — etwa private ChatGPT-Zugänge für dienstliche Aufgaben. Dabei können unbemerkt vertrauliche oder personenbezogene Daten an Anbieter außerhalb der Kontrolle des Unternehmens gelangen. Eine klare KI-Richtlinie und freigegebene Alternativen sind der wirksamste Schutz dagegen.
Mehr dazu →Der Systemprompt ist eine grundlegende, meist unsichtbare Anweisung, die einem KI-Modell vor jedem Gespräch mitgegeben wird und dessen Rolle, Ton und Grenzen festlegt. Er wirkt wie eine dauerhafte Regieanweisung, die für jede einzelne Anfrage gilt. Über den Systemprompt lassen sich Unternehmens-KI-Assistenten auf einen bestimmten Zweck und Umgangston festlegen, ohne das Modell selbst zu verändern.
Ein Token ist die kleinste Texteinheit, mit der ein Sprachmodell rechnet — meist ein Wortteil, seltener ein ganzes Wort. Länge des Kontextfensters und Kosten eines KI-Einsatzes werden üblicherweise in Token gemessen, nicht in Wörtern oder Zeichen. Wie viele Token ein Satz ergibt, hängt vom Modell und der Sprache ab.
Mehr dazu →TOMs (Technische und Organisatorische Maßnahmen) sind die konkreten Schutzvorkehrungen, mit denen ein Unternehmen personenbezogene Daten absichert — etwa Verschlüsselung, Zugriffsbeschränkungen oder Protokollierung. Sie werden meist als Anlage zum Auftragsverarbeitungsvertrag dokumentiert. Ohne dokumentierte TOMs kann ein Unternehmen die Sicherheit seiner Datenverarbeitung nicht nachweisen.
Mehr dazu →Eine Vektordatenbank speichert Inhalte als Embeddings und findet darüber inhaltlich ähnliche Dokumente, statt nur nach exakten Wörtern zu suchen. Sie ist die technische Grundlage der meisten RAG-Systeme, weil sie zu einer Anfrage in Sekunden die passendsten Textstellen aus einer großen Wissensdatenbank liefert. Ohne Vektordatenbank müsste jede Suche auf klassischen Stichwortabgleich zurückgreifen.
Eine Wissensdatenbank bündelt die Dokumente, Richtlinien und Antworten eines Unternehmens an einem durchsuchbaren Ort, auf den ein KI-System zugreifen kann. Sie ist die Grundlage dafür, dass eine KI unternehmensspezifische Fragen korrekt beantwortet, statt nur mit allgemeinem Trainingswissen zu arbeiten. Je aktueller und sauberer gepflegt die Wissensdatenbank ist, desto zuverlässiger sind die Antworten.
Mehr dazu →Workflow-Automatisierung bezeichnet die technische Übernahme wiederkehrender, regelbasierter Arbeitsschritte durch Software oder KI — etwa das automatische Einsortieren von E-Mails oder das Ausfüllen von Formularen aus vorhandenen Daten. Sie unterscheidet sich von reiner KI-Assistenz dadurch, dass ganze Abläufe ohne manuellen Zwischenschritt durchlaufen. Der Nutzen zeigt sich vor allem bei häufig wiederholten, klar definierten Prozessen.
Mehr dazu →Zero Data Retention bedeutet, dass ein KI-Anbieter Anfragen und Antworten nach der Verarbeitung nicht dauerhaft speichert, sondern unmittelbar danach löscht. Das reduziert das Risiko, dass sensible Eingaben langfristig irgendwo liegen bleiben oder in ein Training einfließen. Ob ein Anbieter Zero Data Retention garantiert, sollte vertraglich festgehalten und nicht nur zugesichert werden.
Mehr dazu →Fehlt ein Begriff?
Schreiben Sie uns — wir ergänzen das Glossar gerne und beantworten Ihre Frage persönlich.
Kontakt
30 Minuten Discovery-Call. Unverbindlich, konkret, ohne Sales-Pitch. Wir antworten persönlich innerhalb von 24 Stunden.