Computer & Technik

Aufpasser für Künstliche Intelligenz: Innovative Software überwacht KI

Wissenschaftler der University of Surrey wollen die Gefahr allzu selbstständiger Systeme bannen

Gesicht eines Roboters, im Hintergrund Bildschirme mit Codes (Foto: freepik, biancoblue) - Aufpasser für Künstliche Intelligenz: Innovative Software überwacht KI

Guildford – Forscher der University of Surrey haben eine Software entwickelt, die überprüft, welche und wie viele Informationen eine Künstliche Intelligenz (KI) aus der digitalen Datenbank eines Unternehmens gewonnen hat. Die neue Verifizierungs-Software lässt sich demnach als Teil des Online-Sicherheitsprotokolls eines Unternehmens verwenden und hilft zu verstehen, ob eine KI zu viel gelernt oder sogar auf sensible Daten zugegriffen hat.

Den Experten nach kann der innovative Algorithmus sogar erkennen, ob die KI Fehler im Software-Code identifiziert hat und ausnutzt. Zum Beispiel könnte sie feststellen, ob eine KI gelernt hat, beim Online-Poker immer zu gewinnen, indem sie einen Kodierungsfehler ausnutzt.

KI lässt sich bedenkenlos nutzen

„In vielen Anwendungen interagieren KI-Systeme miteinander oder mit Menschen, wie zum Beispiel bei selbst fahrenden Autos auf einer Autobahn oder Krankenhausroboter“, so Solofomampionona Fortunat Rajaona, wissenschaftlicher Mitarbeiter im Bereich Informatik an der Hochschule.

„Wir haben Jahre gebraucht, um eine Software zu entwickeln, die herausfindet, was eine KI weiß. Durch die Möglichkeit zu überprüfen, was die KI gelernt hat, können wir Unternehmen das Vertrauen geben, die Leistungsfähigkeit der KI ohne Sicherheitsbedenken optimal zu nutzen. Diese Software ist ein wichtiger Schritt zur Wahrung der Privatsphäre und Integrität von Datensätzen“, ergänzt Adrian Hilton, Direktor des Instituts für menschenzentrierte KI an der Universität.

 

Quelle: www.pressetext.com
(pte001/05.04.2023/06:00)

Festgeld-Vergleich

Geben Sie die Laufzeit vor, ftd.de findet die besten Zinsen

Tagesgeld-Vergleich

Mit dem Einlagensicherungscheck sind Sie auf der sicheren Seite

Depot-Vergleich

Ohne den Vergleich von ftd.de sollten Sie kein Depot eröffnen

Geschäftskonten-Vergleich

Geschäftskonten müssen kein Geld kosten – sparen Sie mit ftd.de

Ratenkredit-Rechner

Ratenkredite wechseln häufig den Zins – sparen Sie bares Geld

Kreditkarten-Vergleich

Finden Sie schnell und einfach die günstigste Kreditkarte

Mehr aus Computer & Technik

Jetzt kostenlos Geschäftskonten vergleichen:
Geldeingang p.m.
∅ Guthaben:
Beleglose Buchungen p.m.
Beleghafte Buchungen p.m.
Unternehmensart:
Jetzt Studentenkonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Kreditkarten vergleichen:
Jahresumsatz im Euroland:
Jahresumsatz im Nicht-Euroland:
Kartengesellschaft:
Jetzt kostenlos Festgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Depotanbieter vergleichen:
Ordervolumen:
Order pro Jahr:
Anteil Order über Internet:
Durchschnittl. Depotvolumen:
Jetzt kostenlos Tagesgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Girokonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Ratenkredite vergleichen:
Nettodarlehensbetrag:
Kreditlaufzeit:
Verwendungszweck: