LLMs sind nicht gleich LLMs. Die dynamische Auswahl großer Sprachmodelle (LLMs) entwickelt sich zu einem wichtigen Trend für Unternehmen, die generative KI in ihre Prozesse integrieren möchten. Angesichts der Vielzahl an verfügbaren Modellen und deren unterschiedlichen Stärken, setzen immer mehr Firmen auf dynamische Auswahlmechanismen, um je nach Anwendungsfall das am besten geeignete Modell auszuwählen. Diese Flexibilität ermöglicht es, Modelle je nach Aufgabenanforderung zu nutzen – zum Beispiel ein multimodales Modell für komplexe Inputs oder ein spezialisierteres, „kleineres“ Modell für branchenspezifische Anfragen. Dies führt zu einer verbesserten Leistung, reduzierten Kosten und einer insgesamt effizienteren Nutzung der Rechenressourcen.
Open-Source-Modelle bieten hohe Qualität und Innovation. Die Entwicklung und Verfügbarkeit von Open-Source-KI-Modellen fördern eine breite Nutzung, insbesondere durch kleine Unternehmen, Bildungseinrichtungen und Einzelpersonen. Europäische Initiativen wie die Projekte „EURO-LLM“ oder jüngst „OpenGPT-X“ setzen auf Modelle, die kulturelle Besonderheiten und die europäische Sprachvielfalt berücksichtigen. Diese zeigen, wie Open-Source-Ansätze dazu beitragen, KI nachhaltig und inklusiv einzusetzen – ein wichtiger Schritt für technologische Gleichberechtigung und digitale Souveränität.
In Organisationen besteht zunehmend der Bedarf, relevante Informationen aus organisationseigenen Daten zu extrahieren, aber diese auch mit relevantem „Weltwissen“ zu verbinden. Die KI, die für die organisationseigenen Daten genutzt wird, sollte im Unternehmenskontext auch mit Wissen aus dem Internet, z.B. mit relevanten Markt- oder Branchendaten, angereichert werden können. Um dabei sicher und datenschutzkonform zu agieren, sind Enterprise Search Lösungen im Zusammenspiel mit RAG (Retrieval Augmented Generation) empfehlenswert, da diese eine klare Trennung zwischen internen und externen Daten ermöglichen, Zugriffsrechte zuverlässig durchsetzen und gewährleisten, dass externe Informationen nur gezielt abgerufen und verarbeitet werden, ohne sensible interne Daten zu gefährden oder unbefugt nach außen weiterzugeben.
Unternehmen und Behörden, die Chatbots im Kunden- und Bürgerservice betreiben, erkennen messbares Effizienzpotenzial, insbesondere wenn die Chatbots mit relevanten organisationseigenen Daten angereichert werden. Sprachlich sind Chatbots durch generative KI bereits auf einem hohen Niveau, und auch inhaltlich werden sie immer besser. Während sie einfache Aufgaben effizient lösen, stoßen sie bei komplexen Kundenanfragen derzeit noch an ihre Grenzen. Um den Erwartungen der Kunden gerecht zu werden, bleibt daher ein hybrider Ansatz aus automatisierten Systemen und menschlichem Support nötig.
Interne KI-gestützte Systeme können Service-Mitarbeitende unterstützen, indem sie eingehende Anfragen analysieren und mit früheren Fällen vergleichen, um relevante Problemlösungen vorzuschlagen. Dies ermöglicht es, Mitarbeitende gezielt mit passenden Antworten oder Anleitungen zu unterstützen, die auf spezifische Anliegen der Kunden zugeschnitten sind. KI-generierte Antworten können mit aktuellem Fachwissen ergänzt werden und dem internen Informationspool wieder zur Verfügung gestellt werden.
Der Nutzen für Organisationen: Die Masse der einfachen Anfragen kann durch Chatbots erledigt werden, während Mitarbeitende durch KI-Unterstützung schneller und präziser auf komplexe Anliegen reagieren können. Im Jahr 2025 wird die Anzahl solcher unterstützenden Systeme daher weiter steigen.
Im Bereich Unternehmenssuche werden die alte Suchwelt und die neue Chat-Welt weiter zusammenrücken. Viele Unternehmen möchten einerseits nach wie vor ihre Daten aggregieren und ihren Mitarbeitenden klassisches Suchen nach Dokumenten anbieten und andererseits auch den Chat mit den organisationseigenen Daten ermöglichen. Keine der beiden Welten kann die Anforderungen an modernen Informationsbedarf in Organisationen allein lösen.
Daher werden sich beide Welten weiter annähern – auf der einen Seite die klassische Suche, die breit und explorativ angelegt ist und viel Kontext um die Informationen bietet und auf der anderen Seite die neue Chat-Welt, die präzise Antworten oder Zusammenfassungen von gefundenen Dokumenten liefert.
In diesem Zusammenhang spielt auch die Intent Detection, also die Absicht des Users hinter seiner Frage zu erkennen, eine immer größere Rolle.
KI-Systeme werden kontinuierlich optimiert, um besser zu verstehen, was User mit ihren Fragen beabsichtigen und welche Erwartungen sie haben. Daraus werden sich neue Paradigmen für die Suche ergeben, in der beispielsweise auch Rückfragen der Software möglich sind, um optimale Ergebnisse zu präsentieren.
Nach dem KI-Hype haben viele Unternehmen ernüchtert festgestellt, welche Use Cases nicht funktionieren. Der Fokus liegt daher vorerst auf Anwendungen, die bereits sinnvoll und effizienzsteigernd einsetzbar sind, wie beispielsweise die bereits erwähnte Unterstützung von Service-Mitarbeitenden im Kundensupport. Solche bewährten Use Cases werden im Jahr 2025 professionalisiert und weiter ausgebaut.
Solange komplexere Use Cases noch nicht reibungslos funktionieren, werden Unternehmen in der Praxis davon noch Abstand nehmen. Wir empfehlen daher, sich zunächst auf die einfachen und breit einsetzbaren Use Cases zu konzentrieren. Diese sind rasch implementierbar, bieten schnell einen klaren Mehrwert und stärken durch erste Erfolge Vertrauen und Expertise im Umgang mit KI.
Auch 2025 bleibt Explainable AI eine zentrale Anforderung. Nutzende und Kunden erwarten verständliche Erklärungen, wie KI zu ihren Ergebnissen kommt – ein entscheidender Faktor für die breite Nutzung solcher Technologien. Regulatorische Vorgaben wie der EU AI Act verstärken diesen Trend, da sie Transparenz und Nachvollziehbarkeit vorschreiben. Unternehmen müssen daher sicherstellen, dass die Funktionsweise ihrer KI-Systeme klar und nachvollziehbar ist, um sowohl Compliance zu gewährleisten als auch das Vertrauen ihrer Nutzer zu gewinnen.
Auf Suchtechnologie bezogen heißt das, dass Unternehmen und Behörden zurecht interessiert, wie die Treffer und Antworten aus ihrem Datenbestand zustande kommen.
Bisher nutzen Mitarbeitende generative KI als Einzelne. Sie teilen vielleicht mal einen Prompt oder einzelne KI-generierte Ergebnisse mit den Kollegen, aber nutzen die Technologie nicht wirklich im Team zusammen. Wir sehen den Trend, dass sich Suche von einem rein individuellen Werkzeug zu einem kollaborativen System entwickelt, das nahtlos in Team-Workflows integriert wird. Plattformen passen sich dynamisch an Gruppenbedürfnisse an, fördern Echtzeit-Kollaboration und erleichtern das Teilen sowie gemeinsames Nutzen von Wissen. Durch flexible und adaptive Nutzeroberflächen wird diese neue Form der Suche nicht nur die Produktivität von Teams steigern, sondern auch die Entscheidungsfindung effizienter und intuitiver gestalten.
KI-Agenten, die in der Lage sind, eigenständig Aufgaben zu übernehmen und Geschäftsprozesse zu optimieren, werden 2025 langsam in die Unternehmen vordringen. Obwohl bereits zahlreiche Frameworks für Agenten existieren, finden sie derzeit im Enterprise-Bereich noch wenig Anwendung. Es wird jedoch erwartet, dass im Jahr 2025 ein signifikanter Schub in der Implementierung dieser Technologien erfolgt, wodurch Unternehmen von effizienteren Arbeitsabläufen und gesteigerter Produktivität profitieren können.
Da agentenbasierte Systeme einen Wandel hin zu proaktiven KI-Lösungen markieren, liegt der Fokus auf Verantwortlichkeit und Überwachbarkeit der Ergebnisse und Abläufe.
