Computer & Technik

Neue MIT-KI soll Menschen fairer behandeln

Wissenschaftler gehen Fehlentscheidungen bei Kreditvergabe, Jobsuche und Kautionen an

Cambridge (pte004/11.08.2021/06:15) – Die von Justiz, Banken und privaten Unternehmen verwendeten Algorithmen sind laut Forschern des Massachusetts Institute of Technology (MIT) http://mit.edu manchmal voreingenommen. Sie wirken sich unverhältnismäßig negativ auf Farbige und Menschen in niedrigeren Einkommensklassen aus, wenn sie Kredite beantragen, sich um Jobs bewerben oder sogar vor Gericht stehen, wenn beispielsweise eine Kaution festgesetzt werden soll.

Neue Programmiersprache für KI

Um die faire Gleichbehandlung wiederherzustellen, haben die Forscher eine neue Programmiersprache für Künstliche Intelligenz (KI) entwickelt, die die Fairness von Algorithmen genauer und schneller beurteilen kann als verfügbare Alternativen. Ihre „Sum Product Probabilistic Language“ (SPPL) ist ein probabilistisches Programmiersystem an der Schnittstelle von Programmiersprachen und KI. Es zielt darauf ab, KI-Systeme einfacher zu entwickeln. Mit SPPL gab es bereits Erfolge in den Bereichen Computer Vision, Datenbereinigung und automatisierte Datenmodellierung.

Laut Feras Saad, Doktorand im Bereich Elektrotechnik und Informatik, gibt es zwar ähnliche Systeme, „doch unseres ist auf eine bestimmte Klasse von Modellen spezialisiert und optimiert, sodass es Lösungen 1.000 Mal schneller liefern kann“. SPPL bietet dem Experten nach schnelle, genaue Lösungen für Fragen wie „Wie wahrscheinlich ist es, dass das Modell jemandem über 40 einen Kredit empfiehlt?“. Zu den Fairness-Fragen, die SPPL beantworten kann, gehören „Gibt es einen Unterschied zwischen der Wahrscheinlichkeit, einem Einwanderer und Nichteinwanderer mit dem gleichen sozioökonomischen Status einen Kredit zu empfehlen?“ oder „Wie hoch ist die Wahrscheinlichkeit einer Einstellung, wenn der Kandidat für den Job qualifiziert ist und aus einer unterrepräsentierten Gruppe stammt?“.

Folgenschwere Fehler vermeiden

Fehler durch probabilistische Inferenz sind in vielen KI-Anwendungen tolerierbar. Es ist jedoch unerwünscht, dass Inferenzfehler zu sozial folgenschweren Anwendungen führen. „SPPL zeigt, dass eine genaue probabilistische Inferenz für eine breite Klasse probabilistischer Programme praktisch und nicht nur theoretisch möglich ist“, sagt Vikash Mansinghka, der die Entwicklung geleitet hat.

 

Quelle: www.pressetext.com


Bildnachweise: Fingerzeig: Mehr Fairness bei Jobsuche (Fotomontage: Dirk Wouters, pixabay.com) (nach Reihenfolge im Beitrag sortiert)

Festgeld-Vergleich

Geben Sie die Laufzeit vor, ftd.de findet die besten Zinsen

Tagesgeld-Vergleich

Mit dem Einlagensicherungscheck sind Sie auf der sicheren Seite

Depot-Vergleich

Ohne den Vergleich von ftd.de sollten Sie kein Depot eröffnen

Geschäftskonten-Vergleich

Geschäftskonten müssen kein Geld kosten – sparen Sie mit ftd.de

Ratenkredit-Rechner

Ratenkredite wechseln häufig den Zins – sparen Sie bares Geld

Kreditkarten-Vergleich

Finden Sie schnell und einfach die günstigste Kreditkarte

Mehr aus Computer & Technik

Jetzt kostenlos Geschäftskonten vergleichen:
Geldeingang p.m.
∅ Guthaben:
Beleglose Buchungen p.m.
Beleghafte Buchungen p.m.
Unternehmensart:
Jetzt Studentenkonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Kreditkarten vergleichen:
Jahresumsatz im Euroland:
Jahresumsatz im Nicht-Euroland:
Kartengesellschaft:
Jetzt kostenlos Festgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Depotanbieter vergleichen:
Ordervolumen:
Order pro Jahr:
Anteil Order über Internet:
Durchschnittl. Depotvolumen:
Jetzt kostenlos Tagesgeldkonten vergleichen:
Anlagebetrag:
Anlagedauer:
Einlagensicherung:
Jetzt kostenlos Girokonten vergleichen:
Zahlungseingang / monatlich:
Durchschnittlicher Kontostand:
Girokonto mit Kreditkarte:
Jetzt kostenlos Ratenkredite vergleichen:
Nettodarlehensbetrag:
Kreditlaufzeit:
Verwendungszweck: