Künstliche Intelligenz ist auf einem gefährlichen Weg – aber es ist nicht zu spät für eine Korrektur (KI-Ethik, Teil 1)

Joanna Bryson, KI-Expertin Und Informatikerin an der University of Bath in Großbritannien

Die Wahrheit ist, dass künstliche Intelligenz (KI) alles auf den Kopf stellt. Sie erschüttert die globalen Arbeitsmärkte und ein breites Spektrum von Branchen, von der Fertigung über das Gesundheitswesen bis hin zu Transport und Einzelhandel.

Digitale Riesen setzen alles auf sie. Regierungsbehörden investieren Milliarden in sie. Und Appelle, ethische Abwägungen bei der Nutzung von KI zu priorisieren, sickern allerorts durch Führungsetagen und Vorstände.

Die große Frage lautet: Sollten wir darauf vertrauen, dass die KI faire Entscheidungen trifft, die unser Leben beeinflussen?

Joanna Bryson – die von Cognilytica als eine der Top 50 KI-Influencer, denen man auf Twitter folgen sollte, eingestuft wurde – hat sich kürzlich mit Appian zusammengesetzt und uns an ihrem umfassenden Wissen über die Herausforderung der ethischen KI teilhaben lassen:

  • Die Folgen der KI-Verzerrung in Wirtschaft und Gesellschaft
  • Wie man Voreingenommenheit bei KI aufspürt
  • Die Gefahr, die Due Diligence bei der Softwareentwicklung zu ignorieren
  • Warum Regulierung der KI-Innovation nicht die Magie (Deep Learning) rauben wird.
  • Warum es so wichtig ist, die Wahrheit und die Konsequenzen der KI zu verstehen.

Wahrheit oder Konsequenzen

Bryson warnt vor einem „Move Fast and Break Things“-Ansatz für das Mainstreaming von KI. Sie befürchtet außerdem, dass wir der Due Diligence im Softwareentwicklungsprozess keine Priorität einräumen. Das Paradebeispiel: Die KI in einem automatisierten System, das plötzlich die Invaliditätsleistungen für Tausende von Menschen in Idaho kürzte.

Leider verwendete das System schlechte Daten und eine fehlerhafte Formel, die willkürlich bestimmte, wie die Leistungen verteilt wurden.

Nachrichtenberichte sagten, dass die beteiligten Beamten sich weigerten, zu enthüllen, wie die KI funktionierte (unter dem Vorwand geistigen Eigentums).

Der Mangel an Transparenz schürte die Empörung der Bevölkerung zusätzlich. Die Situation kulminierte in einer Sammelklage, die zu einem Gerichtsurteil führte, das die Beamten der Behörde zwang, das fehlerhafte System zu überholen.

Transparenz ist das A und O

Denn eines ist klar: Die KI betrifft praktisch jeden Aspekt unseres Lebens.

Intelligente Systeme treffen jeden Tag Milliarden von Entscheidungen.

Sie bestimmen alles von der Frage, wer Seife von einem Seifenspender bekommt, über die Entscheidung, wer auf Bewährung entlassen wird, bis hin dazu, wem ein Darlehen gewährt oder wer eingestellt bzw. entlassen wird – und noch vieles mehr.

Aber was wichtig ist, so Bryson, ist, dass wir verstehen, wie die KI Entscheidungen trifft, wie sie bestimmt, was wir sehen und was nicht, und wer verantwortlich ist, wenn es schief geht?

Schalten Sie nächste Woche für die erste Folge dieses zum Nachdenken anregenden Gesprächs mit der renommierten KI-Influencerin Joanna Bryson ein.

Es wird Ihnen die Augen für die Bedeutung der ethischen KI öffnen.

 

APPIAN WEEKLY! abonnieren