Unverantwortlich: Microsoft begräbt eine KI, die Emotionen erkennen soll

Microsoft will den Zugang zu Gesichtserkennungsdiensten einschränken, die mit Hilfe künstlicher Intelligenz etwas über den emotionalen Zustand von Menschen erfahren sollen. Auch das mögliche Geschlecht, Alter, die Frisur und das Make-up soll nicht per Algorithmus ermittelbar sein. Zudem ist der Zugang zur KI-Gesichtserkennung in der Regel auf vorformulierte Nutzungsszenarien beschränkt, um einen angemessenen Einsatz der Technologie zu gewährleisten. Neukunden müssen sich im Vorfeld entscheiden, wofür sie die Technologie einsetzen wollen, für Bestandskunden muss es eine Übergangsphase geben. Die Änderung der Herangehensweise an die Technologie der künstlichen Intelligenz (KI) erfolgt im Rahmen der Überprüfung des „Responsible AI-Standards“ von Microsoft, dh der „Responsible AI“-Richtlinien.

In einem Blogeintrag Natasha Crampton stellt die Änderungen vor, sie ist die „Responsible Director of Artificial Intelligence bei Microsoft“. Es sei ein wichtiger Schritt auf dem Weg zu einer besseren und vertrauenswürdigeren künstlichen Intelligenz, schreibt sie. Interne KI-Standards bestimmen, wie KI-Technologie bei Microsoft entwickelt wird, um das Vertrauen der Community zu gewinnen. Das sind konkrete Ziele, die auf die Entwicklung künstlicher Intelligenz abzielen sollen. Es basiert daher auf der Arbeit einer multidisziplinären Forschungsgruppe und der Expertise unserer eigenen Produkte. Der Zugang zur Tonerzeugungstechnologie wurde bereits eingeschränkt, um Missbrauch zu verhindern. Gleiches gilt für die Gesichtserkennung.

Crampton verweist in ihrem Beitrag auch auf die anhaltenden Debatten um die Entwicklung und den Einsatz künstlicher Intelligenz. Beispielsweise änderte sich die Art und Weise, wie die Sprache-zu-Text-Technologie verwendet wird, nachdem eine Studie gezeigt hatte, dass bestimmte Gruppen von Afroamerikanern doppelt so hohe Fehlerraten hatten wie weiße Benutzer. Mit der angeblichen Erkennung von Stimmungen durch Gesichtserkennungstechnologie wurde innerhalb und außerhalb der Gruppe darauf hingewiesen, dass es keinen wissenschaftlichen Konsens darüber gibt, was „Gefühle“ sind, geschweige denn, wie man sie erkennt. Daher sollten alle KI-Systeme, die Sie kennen lernen sollen, jetzt untersucht werden. Die Stelle wurde erstmals im November 2015 ausgeschrieben.


(mo)

zur Homepage

Leave a Comment

%d bloggers like this: