Computer & Technik

Künstliche Intelligenz: Tool „KnowHalu“ erkennt KI-Halluzinationen

Große Sprachmodelle können Halluzinieren / US-Experten wollen Genauigkeit und Relevanz der LLM-Ausgaben steigern

Fantasiedarstellung eines weiblichen Gesichts umrahmt von Zahnrädern und Apparaturen (Foto: Freepik, alexon84) - "KnowHalu" will das Halluzinieren Großer Sprachmodelle (LLM) in KI-generierten Texten erkennen

Urbana-Champaign – Forscher der University of Illinois Urbana-Champaign wollen mit dem neuen Framework „KnowHalu“ das Halluzinieren Großer Sprachmodelle (LLM) in KI-generierten Texten erkennen. Das Tool könnte dazu beitragen, die Zuverlässigkeit dieser Modelle zu verbessern und ihre Verwendung für die Erledigung verschiedener Aufgaben der Texterstellung zu vereinfachen. Bisher lassen sich diese manchmal fatalen KI-Halluzinationen nicht zuverlässig erkennen, außer man lässt Menschen zur Überprüfung zu. Doch das widerspricht den Intentionen, Arbeitskräfte einzusparen.

Überprüfung in zwei Phasen

„Motiviert durch diese Lücke haben wir ein neuartiges, wissensbasiertes System zur Erkennung von LLM-Halluzinationen entwickelt. KnowHalu arbeitet mit einem zweistufigen Prozess, um die Genauigkeit und Relevanz der LLM-Ausgaben sicherzustellen. Die erste Phase konzentriert sich auf die Erkennung von Texten, die zwar sachlich korrekt, aber irrelevant oder nicht spezifisch für die vorliegende Anfrage sind“, so Entwicklerin Bo Li.

Dazu gehören beispielsweise sinnleere Antworten auf E-Mails von Kunden, die diese ratlos zurücklassen, und eventuell sogar die Geschäftsbeziehung aufkündigen würden. In der zweiten Phase wendet KnowHalu einen wissensbasierten Faktenprüfungsprozess an, der sich über 5 Schritte erstreckt: Schlussfolgern und Abfragen, Wissensabruf, Wissensoptimierung, Beurteilung auf der Grundlage von Multi-Form-Wissen und Urteilsaggregation.

Bisher nur bei englischen Texten

„Wir planen nun, verschiedene Dokumente automatisch zu analysieren und Wissen zu extrahieren, um Halluzinationen bei LLMs abzuschwächen, verschiedene Wissensformen zu erforschen und das gefundene Wissen auf andere Formen wie Logikformen höherer Ordnung abzubilden, um die Modellgenerierung zu unterstützen“, so Li.

Darüber hinaus wollen die KI-Forscher versuchen, theoretische Garantien für LLM-Halluzinationen auf der Grundlage gegebener Wissensbasen zu geben und den Rahmen an verschiedene Anwendungsbereiche wie autonome Fahragenten und Agenten im Gesundheitswesen anzupassen. Die Software funktioniert aktuell nur im englischen Sprachraum.

 

Quelle: www.pressetext.com
(pte002/10.05.2024/06:05)

Festgeld-Vergleich

Geben Sie die Laufzeit vor, ftd.de findet die besten Zinsen

Tagesgeld-Vergleich

Mit dem Einlagensicherungscheck sind Sie auf der sicheren Seite

Depot-Vergleich

Ohne den Vergleich von ftd.de sollten Sie kein Depot eröffnen

Geschäftskonten-Vergleich

Geschäftskonten müssen kein Geld kosten – sparen Sie mit ftd.de

Ratenkredit-Rechner

Ratenkredite wechseln häufig den Zins – sparen Sie bares Geld

Kreditkarten-Vergleich

Finden Sie schnell und einfach die günstigste Kreditkarte

Mehr aus Computer & Technik

Jetzt kostenlos Geschäftskonten vergleichen:
Geldeingang p.m.
∅ Guthaben:
Beleglose Buchungen p.m.
Beleghafte Buchungen p.m.
Unternehmensart:
Jetzt Studentenkonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Kreditkarten vergleichen:
Jahresumsatz im Euroland:
Jahresumsatz im Nicht-Euroland:
Kartengesellschaft:
Jetzt kostenlos Festgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Depotanbieter vergleichen:
Ordervolumen:
Order pro Jahr:
Anteil Order über Internet:
Durchschnittl. Depotvolumen:
Jetzt kostenlos Tagesgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Girokonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Ratenkredite vergleichen:
Nettodarlehensbetrag:
Kreditlaufzeit:
Verwendungszweck: