Was sind Embeddings?

Embeddings: Definition

Ein Computer versteht Wörter nicht von selbst, wohl aber Zahlen. Ein Embedding-Modell wandelt deshalb einen Text in einen Vektor um, eine Liste von mehreren Hundert bis einigen Tausend Zahlen. Diese Zahlen kodieren, worum es inhaltlich geht, und nicht, welche Buchstaben vorkommen.

Man kann sich das wie Koordinaten auf einer Landkarte der Bedeutungen vorstellen: „Heizungspumpe defekt“ und „Umwälzpumpe läuft nicht“ liegen nah beieinander, „Urlaubsantrag“ weit entfernt. Embeddings gibt es für Texte, Bilder, Audio und Code. Sie sind eine eigene Modellart und kein Sprachmodell, das Texte schreibt.

So werden Embeddings genutzt

Alle Inhalte, etwa Handbücher, Produktbeschreibungen oder E-Mails, werden einmal in Vektoren umgerechnet und gespeichert. Bei einer Suchanfrage wird auch die Frage in einen Vektor verwandelt. Anschließend werden die Inhalte gesucht, deren Vektoren dem der Frage am ähnlichsten sind; üblich ist dafür die Kosinus-Ähnlichkeit.

Typische Anwendungen sind semantische Suche, Empfehlungen, das Erkennen von Dubletten, das Gruppieren von Anfragen und vor allem Retrieval-Augmented Generation (RAG): Dabei werden zur Frage die passendsten Textstellen gefunden und einem Sprachmodell als Grundlage für die Antwort mitgegeben. Der Vorteil: Die Antwort stützt sich auf Ihre eigenen Unterlagen, und die verwendeten Quellen lassen sich angeben.

Praxis­bei­spiel: Suche im Service­hand­buch

Ein Maschinenbauer pflegt für seine Anlagen Handbücher, Servicemeldungen und Schadensberichte. Die Stichwortsuche scheitert, wenn Techniker „Maschine brummt beim Anlaufen“ eingeben, im Dokument aber „Lagergeräusch im Anlaufmoment“ steht. Mit Embeddings findet die Suche beides, weil beide Formulierungen inhaltlich nah beieinander liegen.

Im Projekt wurden die Dokumente in sinnvolle Abschnitte geteilt und je Abschnitt ein Vektor berechnet. Zusätzlich blieb die klassische Stichwortsuche aktiv, denn Artikelnummern und Fehlercodes findet sie zuverlässiger. Die Kombination aus beidem nennt man Hybrid-Suche. Welche Mischung am besten wirkt, entscheidet sich an echten Suchanfragen der Techniker, nicht an der Theorie.

Grenzen und worauf Sie achten sollten

Vektoren verschiedener Modelle sind nicht vergleichbar: Wechselt man das Embedding-Modell, müssen alle Inhalte neu berechnet werden. Auch Fachbegriffe und Mehrsprachigkeit hängen vom Modell ab. Und bei der Verarbeitung gelangen Ihre Texte an das Embedding-Modell – prüfen Sie deshalb Datenschutz, Auftragsverarbeitung und Serverstandort.

Nano Concepts wählt Modelle und Aufteilung der Inhalte passend zu Ihrem Material und testet die Trefferqualität mit echten Suchanfragen aus Ihrem Alltag. Dazu gehört, Dokumente sinnvoll in Abschnitte zu teilen und Ergebnisse regelmäßig zu überprüfen, damit die Suche auch bei neuen Inhalten zuverlässig bleibt.

• Dokumente in sinnvolle Abschnitte statt in Seitenblöcke teilen
• Embedding-Modell passend zu Sprache und Fachgebiet wählen
• Stichwortsuche für Nummern und Codes beibehalten
• Trefferqualität mit echten Fragen aus dem Alltag testen
• Bei Modellwechsel alle Vektoren neu berechnen