Das pas­sen­de Modell für Ihre Aufgabe.

Eine kur­ze Ant­wort im Kun­den­ser­vice braucht etwas ande­res als die Aus­wer­tung eines umfang­rei­chen Fach­texts. In NOVA ver­bin­den Sie Ihre Auf­ga­ben mit den dafür frei­ge­ge­be­nen Modellen.

Gemein­sam legen wir fest, wo die Ver­ar­bei­tung statt­fin­det und wel­che Aus­stat­tung dafür gebraucht wird. Maß­geb­lich ist, ob das Ergeb­nis in Ihrem Arbeits­all­tag hilft.

NOVA für Ihre Auf­ga­ben anfragen

Was bedeu­tet Inferenz?

Infe­renz heißt: Ein bereits trai­nier­tes Modell ver­ar­bei­tet eine Ein­ga­be und erzeugt dar­aus eine Aus­ga­be. Wenn NOVA aus Ihrer Fra­ge und pas­sen­den Doku­ment­stel­len eine Ant­wort for­mu­liert, fin­det Infe­renz statt.

Das Modell wird dabei nicht mit jeder Fra­ge neu trai­niert. Es nutzt die Infor­ma­tio­nen, die ihm für die­se Ant­wort zur Ver­fü­gung stehen.

KI-generierte Illustration: NOVA betrachtet vier gleichwertige Modellkarten und eine Aufgabenbeschreibung. Die abstrakten Symbole stehen für verschiedene Auswahlmöglichkeiten.KI-generiert

Das Modell folgt der Aufgabe

Die Illus­tra­ti­on zeigt die Aus­wahl aus meh­re­ren Mög­lich­kei­ten. Wel­che davon passt, ent­schei­det sich an der Auf­ga­be und an den Ergeb­nis­sen mit Ihren Unterlagen.

Vom Doku­ment zur Antwort

Eine Mit­ar­bei­te­rin fragt: »Wel­che Schrit­te gehö­ren zur War­tung die­ser Anla­ge?« Die Ant­wort soll aus der frei­ge­ge­be­nen Anlei­tung stammen.

Erst die pas­sen­de Stel­le finden

Die Suche ermit­telt rele­van­te Abschnit­te aus der Wis­sens­samm­lung. Dafür hat ein Embed­ding-Modell die Tex­te zuvor in Vek­to­ren über­setzt. Die­se Vek­to­ren hel­fen, inhalt­lich pas­sen­de Stel­len zu finden.

Dann die Ant­wort formulieren

Das Chat­mo­dell erhält die Fra­ge zusam­men mit den aus­ge­wähl­ten Text­stel­len. Dar­aus erstellt es die Ant­wort. Die Mit­ar­bei­te­rin prüft sie an der Quel­le, bevor sie danach handelt.

Wie Wis­sen und RAG zusammenarbeiten

Ver­ar­bei­tung in Ihrer Umgebung

Ein lokal betrie­be­nes Modell rech­net auf der dafür ein­ge­rich­te­ten Infra­struk­tur. Sie kön­nen damit Auf­ga­ben vor­se­hen, bei denen die Ver­ar­bei­tung inner­halb die­ser Umge­bung blei­ben soll.

Dafür braucht es pas­sen­de Rechen­leis­tung und einen gere­gel­ten Betrieb. Wer Updates ein­spielt und die Aus­las­tung im Blick behält, gehört eben­so zur Pla­nung wie die Aus­wahl des Modells.

Exter­ne Model­le gezielt einbinden

Ein frei­ge­ge­be­ner exter­ner Modell­dienst kann Auf­ga­ben über­neh­men, für die sei­ne Fähig­kei­ten gebraucht wer­den. Dazu wer­den die für die Anfra­ge vor­ge­se­he­nen Inhal­te an die­sen Dienst übertragen.

Vor der Anbin­dung wird fest­ge­legt, wel­che Infor­ma­tio­nen über­mit­telt wer­den dür­fen. Die Regeln des kon­kre­ten Diens­tes zur Ver­ar­bei­tung und Spei­che­rung gehö­ren in die­se Entscheidung.

Hybrid heißt: den Weg jeder Auf­ga­be kennen

In einer gemein­sa­men NOVA-Umge­bung kön­nen loka­le und exter­ne Model­le bereit­ste­hen. Ent­schei­dend ist die Zuord­nung der Aufgaben.

Ein Bei­spiel aus dem Vertrieb

Ein Assis­tent beant­wor­tet Fra­gen zu inter­nen Kal­ku­la­ti­ons­grund­la­gen über ein lokal betrie­be­nes Modell. Für den Ent­wurf eines öffent­li­chen Pro­dukt­texts kann ein frei­ge­ge­be­ner exter­ner Dienst vor­ge­se­hen werden.

Der zwei­te Assis­tent erhält nur die dafür frei­ge­ge­be­nen Pro­dukt­in­for­ma­tio­nen. Eine gemein­sa­me Ober­flä­che allein trennt kei­ne Daten­be­stän­de. Modell­zu­griff und Wis­sens­frei­ga­ben müs­sen pas­send ein­ge­rich­tet sein.

Zugrif­fe und Daten­we­ge planen
KI-generierte Illustration: NOVA verbindet ein Modell mit einer Wissenssammlung und einer Arbeitsanweisung zu einem Assistenten. Die Tafel zeigt Modellfamilien ohne Versionsnummern.KI-generiert

Modell und Wis­sens­samm­lung für einen Assis­ten­ten auswählen

Das illus­trier­te Bei­spiel ver­bin­det ein Modell mit einer Wis­sens­samm­lung und einer Arbeits­an­wei­sung. Auf der Bei­spiel­ta­fel ste­hen Gem­ma, Mis­tral, Qwen, Nemo­tron, Deep­Seek, GLM und Kimi. Die gezeig­ten Modell­fa­mi­li­en ste­hen bei­spiel­haft für die Aus­wahl; wel­che Model­le bereit­ste­hen, wird für Ihre NOVA-Umge­bung eingerichtet.

Ein Modell­na­me beant­wor­tet noch kei­ne Aufgabe

Ver­glei­chen Sie Model­le mit Bei­spie­len aus Ihrem Unter­neh­men. Für eine War­tungs­fra­ge zählt, ob die Ant­wort die rich­ti­ge Pas­sa­ge ver­wen­det. Bei einer Zusam­men­fas­sung kommt es dar­auf an, ob wesent­li­che Aus­sa­gen erhal­ten bleiben.

Prü­fen Sie auch einen Fall, in dem die Unter­la­gen kei­ne Ant­wort ent­hal­ten. Eine plau­si­bel klin­gen­de Ergän­zung kann hier weni­ger hilf­reich sein als ein klar benann­ter feh­len­der Beleg.

Ver­wen­den Sie bei einem Ver­gleich die­sel­be Fra­ge und die­sel­ben Quel­len. So wird sicht­bar, wor­in sich die Ergeb­nis­se unterscheiden.

KI-generierte Illustration: NOVA liest konzentriert in einem zu ihr gedrehten Buch und zeigt mit dem linken Zeigefinger auf eine markierte Fundstelle.KI-generierte Illustration: NOVA springt freudig auf und hebt den rechten Arm. Ihr linker Zeigefinger bleibt auf der markierten Fundstelle im zu ihr gedrehten Buch.
Befo­reAfter

Mit eige­nen Auf­ga­ben vergleichen

In den Illus­tra­tio­nen ste­hen zwei Ant­wor­ten der­sel­ben Quel­le gegen­über. Für einen Ver­gleich ver­wen­den Sie die­sel­be Fra­ge und prü­fen, wel­che Aus­sa­gen durch die Unter­la­gen belegt sind.

Bewe­gen Sie den Schie­ber: NOVA prüft die Quel­le und freut sich über die gefun­de­ne Stel­le. Die KI-gene­rier­ten Illus­tra­tio­nen zei­gen die­sen Moment als bild­haf­te Szene.

Die Aus­stat­tung folgt der tat­säch­li­chen Nutzung

Ein ein­zel­ner kur­zer Chat belas­tet ein Sys­tem anders als meh­re­re gleich­zei­ti­ge Anfra­gen mit lan­gen Doku­ment­aus­zü­gen. Des­halb betrach­ten wir den übli­chen Arbeits­ab­lauf und die erwar­te­ten Spitzen.

Kon­text braucht Speicher

Der Kon­text ist der Inhalt, den ein Modell für eine Anfra­ge ver­ar­bei­ten kann. Dazu gehö­ren die Arbeits­an­wei­sung, die Fra­ge und gege­be­nen­falls Gesprächs­ver­lauf oder Doku­ment­aus­zü­ge. Lan­ge Ein­ga­ben kön­nen den Spei­cher­be­darf und die War­te­zeit erhöhen.

Auch die Modell­fas­sung zählt

Quan­ti­sie­rung spei­chert Modell­wer­te mit gerin­ge­rer Genau­ig­keit und kann dadurch Spei­cher spa­ren. Wie sich das auf die Ant­wor­ten aus­wirkt, wird mit den vor­ge­se­he­nen Auf­ga­ben geprüft.

Wir stim­men die Modell­fas­sung und die ver­füg­ba­re Leis­tung auf Ihre Nut­zung ab. Eine fes­te Zahl gleich­zei­ti­ger Benut­zer lässt sich dar­aus erst nach einer pas­sen­den Erpro­bung ableiten.

Mit eige­nen Bei­spie­len entscheiden

Brin­gen Sie eine typi­sche Auf­ga­be und die dazu­ge­hö­ri­gen frei­ge­ge­be­nen Unter­la­gen mit. Wir bespre­chen, wo die Daten ver­ar­bei­tet wer­den sol­len und wor­an Sie eine brauch­ba­re Ant­wort erkennen.

Ein kla­rer Ver­gleich schafft die Grund­la­ge für die Aus­wahl. Danach lässt sich die NOVA-Umge­bung für wei­te­re Auf­ga­ben ausbauen.

Model­le und Betrieb für Ihre NOVA besprechen

Wei­ter mit NOVA

Die Doku­men­ta­ti­on zeigt, wie ein Assis­tent sein Basis­mo­dell und die zuge­hö­ri­ge Wis­sens­samm­lung erhält.

Einen Assis­ten­ten einrichten

Zur Pro­dukt­vor­stel­lung