LLM, Agent, Prompt, RAG: 7 technesch KI-Begrëffer fir all Gespréich am Joer 2026 ze verstoen

Vum LetzAgents-Team · Verëffentlecht den 27. Mee 2026

Zënter uechtzéng Méint kommen dës Wierder a Sëtzungen op, an der Wirtschaftspress, bei Beroder. LLM, Prompt, Agent, Token, RAG, Fine-Tuning, Halluzinatioun. Siwe Begrëffer, déi decidéieren, ob Dir un enger technologescher Entscheedung deelhuele kënnt. Dëst Glossar gëtt Iech déi prezis Definitiounen ouni Entwéckler-Jargon, an net méi wéi fofzéng Minutten.

Eng nëtzlech Präzisioun: dëst ass en technescht Glossar, net e juristescht. Et behandelt weder den AI Act, nach d'DSGVO, den Cloud Act, d'CNPD oder d'DPIA. Fir deen Deel, kuckt eist juristescht KI-Glossar (AI Act, DSGVO, DPIA) vum Ufank Mee. Wann Dir wierklech bei Null ufänkt, liest fir d'éischt eise Wee fir Ufänger an véier Etappen vum 22. Mee, an da kommt heihinner zréck. Mat Mistral, dat elo iwwer AI4LUX op der Plaz ka gesat ginn, sinn dës siwen Begrëffer keng kalifornesch Theorie méi: si beschreiwen Baustenger, déi Fiduciairen, Family Offices a Affekotekanzleien op der Plaze financière bei sech installéieren.

1. LLM (Large Language Model): eng statistesch Maschinn, déi dat nächst Wuert virausgesäit

En LLM ass e Programm, dee mat risege Quantitéiten Text trainéiert gouf, fir Wuert no Wuert déi wahrscheinlechst Fortsetzung vun engem Saz virauszesoen. Wann Dir „Léif Madame, mat Bezuch op Äert Schreiwes vum…" an ChatGPT tippt, rechent den LLM aus, wat statistesch duerno kënnt, op Basis vun de Milliarden Beispiller, déi en während sengem Training gesinn huet (Quell: Vaswani et al., Google Research, 2017, fundamental Transformer-Pabeier).

D'Analogie tëscht Cheffen: eng iwwerdimensionéiert Rechtschreifkorrektur. Är Word-Rechtschreifkorrektur proposéiert ee Wuert, den LLM proposéiert dausend hannereneen. Beispiller fir Endverbraucher: ChatGPT (OpenAI), Claude (Anthropic), Mistral Le Chat, Gemini (Google).

D'Nuance, déi vill KI-Verkeefer vergiessen: en LLM versteet net, en seet viraus. Keen Begrëff vu Wourecht, keng Representatioun vun der Welt, keng Absicht. Dat erkläert, firwat en LLM e perfekt formuléierte Saz produzéiere kann, dee sachlech falsch ass, a firwat e Mënsch ëmmer dat muss verifizéieren, wat erauskënnt, virun allem an engem reguléierte Beruff.

2. Prompt: d'Fro (oder d'Uweisung), déi Dir dem Modell gitt

En Prompt ass d'Uweisung, déi Dir dem LLM schreift: eng Fro („Faasst mer dëse Kontrakt a fënnef Punkten zesummen"), eng Uweisung („Schreift dës Mail an engem méi formelle Toun ëm"), e Kontext. Dat ass d'Äquivalent vum Briefing, dat Dir engem Stagiaire géift ginn, deem Dir fir d'éischte Kéier eng Aufgab uvertraut.

D'Analogie ass exakt: onkloert Briefing, onkloert Resultat. „Maach mer eng kommerziell Mail" produzéiert eng x-béibeg Mail. „Schreift eng Rappelmail un e Lëtzebuerger Client iwwer eng Rechnung, déi zënter fënnefavéierzeg Deeg net bezuelt ass, festen awer héiflechen Toun, Vouvoyement, Ënnerschrëft vum Associé" produzéiert eppes Brauchbares. Dräi praktesch Rotschléi: gitt de Kontext (wien schwätzt, mat wiem, mat wéi engem Zweck), präziséiert dat erwaartent Format, gitt e Beispill wann Dir eent hutt.

D'Nuance, déi Zäit spuert: e gudde Prompt korrigéiert kee schlechte Modell. Wann d'Aufgab dat iwwerschreit, wat den LLM ka leeschten, wäert kee Prompt d'Resultat retten.

3. KI-Agent: e Programm dat handelt, net eent dat äntwert

En KI-Agent ass e Programm, dat eng Sequenz vun Aktiounen ausféiert, fir en Zil z'erreechen. En Chatbot äntwert. En Agent handelt. Dat ass déi heefegst Verwiesselung a Sëtzungen, an d'Nuance ass net kosmetesch: si decidéiert iwwer dat, wat Dir kaaft, an iwwer dat, wat et kascht.

E konkrete Fall vum Terrain: eng Lëtzebuerger Maklergesellschaft uvertraut engem KI-Agent d'Qualifikatioun vu sengen Interessenten. Den Agent liest déi erakomend Mail, kuckt am LinkedIn-Profil, verifizéiert am CRM, schreift eng Zesummefaassung, plangt e Rappel. En anere Fall: de KI-Moiebriefing fir Verkeefer a Gestionnairen, wou en Agent all Moien d'Maartiwwerwaachung zesummestellt an virun 8 Auer eng Zesummefaassung vun aacht Linnen verschéckt. Op der anerer Säit hëlt en KI-Telefonagent ronderëm d'Auer Appellen un, qualifizéiert den Appellant, plangt e Rendez-vous.

D'professionell Nuance: den Agent ersetzt de Mënsch net, en produzéiert en Entworf. De Verkeefer liest d'Qualifikatioun nach eemol, de Gestionnaire liest de Briefing nach eemol, d'Sekretariat valideiert de Rendez-vous. Den Agent hëlt déi mechanesch Zäit ewech, net d'Verantwortung.

4. Token: d'Moosseenheet vun engem LLM

En Token ass e Stéck vun engem Wuert, weder e Buchstaf nach e ganzt Wuert. Op Lëtzebuergesch entsprécht en Token ongeféier dräi Véirel vun engem Wuert (Quell: offiziellen OpenAI-Tokenizer). „Comptabilitéit" mécht zwee Tokens, „de" mécht een Token.

Firwat et nëtzlech ass dat ze verstoen: well et d'Ofrechnungseenheet ass. Wann e Fournisseur den Accès zu sengem Modell iwwer API verkeeft, rechent en pro verbrauchten Token. Wann ee seet, datt e modernt Modell „200.000 Tokens u Kontext" geréiert (Quell: offiziell Anthropic-Dokumentatioun, Claude 3), bedeit dat, datt en op ee Schlag ongeféier honnertfofzeg Säite ka liesen, wat verännert, wat en kann traitéieren (en ganzen Dossier vun engem Client, e Kontrakt vu 80 Säiten, e ganzt Geschäftsjoer).

D'budgetär Nuance: méi verbrauchte Tokens gläich méi deier. Eng privat KI, déi bei Iech installéiert ass, verréckelt déi Rechnung: d'Käschten sinn net méi pro Token, et ass e gemeinsame Käscht vun der Infrastruktur. Fir intensiv Notzung ass dat de Kär vun der Fro wéivill eng privat KI fir eng Lëtzebuerger PME kascht.

5. RAG (Retrieval-Augmented Generation): den LLM mat Äre Dokumenter äntwere loossen

De RAG ass de Bausteen, deen en LLM mat Ärer Dokumentenbasis verbënnt, fir datt e mat Äre Dokumenter äntwert an net mat senge allgemenge Kenntnisser (Quell: Lewis et al., Meta AI Research, NeurIPS 2020, fundamental RAG-Pabeier). Et ass wahrscheinlech dat nëtzlechst Konzept vum Glossar, well et dat ass, wat Dir déi meeschte Kéier kaaft, wann ee mat Iech vun „Entreprise-KI" schwätzt.

D'Analogie vun enger Kanzlei: en Assistent, dee virum Äntweren Är Klasséierer, Är Clientskontrakter, Är intern Prozeduren konsultéiert, an dann eng Äntwert formuléiert, déi op dëse Dokumenter berout. Ouni RAG äntwert den LLM aus dem Kapp. Mat RAG liest e fir d'éischt Är Dokumenter.

E Fall vum Terrain: eng Kanzlei vu Wirtschaftsprüfer installéiert en interne Chatbot, dee Froen zu interne Prozeduren beäntwert. Datselwecht Mechanismus déngt fir d'Traitement vun Dokumenter z'automatiséieren, andeems d'KI Stapele vu Stécker liest. Kommerziell Nuance: RAG ass net Fine-Tuning. RAG liest live. Fine-Tuning trainéiert de Modell nei. Zwee Ziler, zwee Käschtenprofiler.

6. Fine-Tuning: e Modell op eng Domän upassen, op eng dauerhaft Aart

D'Fine-Tuning ass d'Neitrainéiere vun engem existéierende Modell mat spezifeschen Donnéeën, fir datt en e Stil, e Vokabular oder eng Denkweis ophëlt, déi engem Beruff eege sinn.

D'praktesch Regel: an der grousser Majoritéit vun de PME-Fäll ass et RAG, net Fine-Tuning (Quell: Databricks-Guide RAG vs Fine-Tuning, 2024). Wann e Fournisseur Iech Fine-Tuning fir e modeste Fall verkeeft (FAQ-Chatbot, Dokumenten-Assistent), freet, firwat et net RAG ass. Oft verkeeft en dat, wat e ka maachen, net dat, wat Iech nëtzt.

7. Halluzinatioun: wann de Modell mat Iwwerzeegung erfënnt

Eng Halluzinatioun ass eng falsch Äntwert, déi den LLM mat der selwechter Sécherheet produzéiert wéi eng wouer Äntwert: erfonnten Rechtsprechung, fabrizéiert Zuel, falscht Datum, e Gesetzesartikel, deen net existéiert. Et ass kee punktuelle Bug, et ass eng strukturell Eegenschaft: well e dat nächst wahrscheinlechst Wuert virausseet ouni internen Iwwerpréifungsmechanismus, kann en eng perfekt plausibel Folleg produzéieren, déi awer keng Verankerung an der Realitéit huet.

Bekannt Beispill: am Fall Mata v. Avianca (United States District Court, Southern District of New York, Juni 2023) huet en amerikaneschen Affekot e Memoire deposéiert, an deem hien sechs Decisiounen zitéiert huet, déi aus ChatGPT komm sinn (Quell: Geriichtsakt Mata v. Avianca, CourtListener). Keng vun de sechs huet existéiert. An engem Beruff, wou d'Richtegkeet vun der Informatioun Är beruflech Haftung beréiert, ass dat e Risiko, deen ee muss verstoen.

D'operationell Nuance: d'Halluzinatioun kann net zu 100 % eliminéiert ginn. Si gëtt duerch dräi kombinéiert Hiewele reduzéiert: de RAG (deen d'Äntwert an Äre Dokumenter verankert), déi systematesch mënschlech Verifikatioun op all dem, wat erauskënnt (Zitat, Zuel, Datum), an Software-Sécherungen, déi „ze klor" Äntwerten erkennen. D'Regel ka mat engem Saz zesummegefaasst ginn: iwwerpréift d'Zuelen an d'Zitater, ier Dir se benotzt, ëmmer.

An elo?

Dir hutt déi siwe Wierder. Dir ënnerscheet e Chatbot vun engem Agent, Dir versteet, firwat de RAG méi pertinent ass wéi d'Fine-Tuning an der Majoritéit vun de PME-Fäll, Dir follegt engem Gespréich tëscht engem KI-Conseillère an Ärem IT-Verantwortlechen. Fir dës Begrëffer op e konkrete Fall ze projizéieren, huelt e Rendez-vous.

Iwwer LetzAgents

LetzAgents konzipéiert an deployéiert souverän KI-Agenten fir Entreprisen zu Lëtzebuerg: Fiduciairen, Family Offices, Affekotekanzleien a PME a reguléierte Secteuren. Europäescht Hosting, Konformitéit mat der DSGVO an dem AI Act, operationell Partnerschaft mat europäesche KI-Modeller (besonnesch Mistral). Eist Team verbënnt KI-Ingenieurswiesen mat Kenntnis vun der Lëtzebuerger Plaze financière.

Méi iwwer LetzAgents gewuer ginn

FAQ

1. Wat ass den konkreten Ënnerscheed tëscht engem Chatbot an engem KI-Agent?

En Chatbot beäntwert eng Fro mat Text. En Agent kritt en Zil an exekutéiert eng Sequenz vun Aktiounen (eng Mail liesen, eng Datebank konsultéieren, e Rendez-vous plangen, eng Zesummefaassung schreiwen). De Chatbot äntwert a waart op déi nächst Fro. Den Agent féiert e Prozess aus. Dat ass dat, wat de Perimeter an d'Käschte vun engem Deployement verännert.

2. RAG oder Fine-Tuning, wat soll eng PME wielen?

Fir déi grouss Majoritéit vu PME ass et RAG. De RAG verbënnt den LLM mat Ärer Dokumentenbasis a léisst eng Äntwert zou, déi op Äre Dokumenter berout, an Echtzäit aktualiséiert. D'Fine-Tuning trainéiert de Modell nei, kascht vill, a justifizéiert sech nëmme bei engem ganz grousse Volume an engem ausgeprägten Eegestil. Wann e Fournisseur Iech Fine-Tuning fir e modeste Fall proposéiert, freet, firwat et net RAG ass.

3. Kann en LLM wierklech eng Rechtsprechung oder eng offiziell Zuel erfannen?

Jo, an dat ass e strukturelle Risiko, dee Halluzinatioun heescht. De Modell produzéiert eng plausibel awer falsch Äntwert, mat der selwechter Sécherheet wéi eng wouer Äntwert. D'Ursaach ass mechanesch: den LLM seet dat wahrscheinlechst nächst Wuert viraus, ouni d'Richtegkeet ze verifizéieren. A reguléierte Beruffer (Recht, Fiduciaire, Gesondheet) ass d'Regel, all Zitat an all Zuel mënschlech ze verifizéieren ier ee se verëffentlecht.

4. Wat bedeit „200.000 Tokens u Kontext" an engem Produktdatebläck?

Datt de Modell op ee Schlag ongeféier 150 Säiten Text ka liesen. Den Token ass d'Moosseenheet vun engem LLM (ongeféier dräi Véirel vun engem Wuert op Lëtzebuergesch) an d'Ofrechnungseenheet bei de meeschten KI-API-Fournisseuren, also eng direkt Käschtevariabel.

5. Ersetzt dëst Glossar dat juristescht KI-Glossar AI Act / DSGVO?

Nee, et ergänzt et. Dëst Glossar ass technesch. Dat juristescht KI-Glossar (AI Act, DSGVO, Cloud Act, NIS2, DORA, DPF) reegelt den legalen Asaz vun enger KI zu Lëtzebuerg. Béid Vokabulairen sinn néideg fir e KI-Projet an engem reguléierte Beruff ze pilotéieren.

6. Wéi ka ee sech konkret zu dëse siwen Begrëffer zu Lëtzebuerg fortbilden?

De gratis Programm Elements of AI Luxembourg, gedroen vum Ministère vun der Konnektivitéit, dem Digital Learning Hub an dem INFPC, bitt all Joer e Formatiounsmodul un, dat fir jiddereen accessibel ass (Quell: Digital Learning Hub Luxembourg, offiziell Säit Elements of AI). Déi 5. Editioun ass den 22. Mee 2026 ofgeschloss ginn. Déi nächst Editioune ginn op dlh.lu ugekënnegt. Fir bei de spezifesche Asaz-Fäll vun Ärem Beruff méi wäit ze goen, huelt e Rendez-vous fir Äre Fall ze besprächen.