System AI analizujący emocje, aby wspierać podejmowanie decyzji to dobry pomysł?

Wyobraź sobie system analizujący mimikę twarzy, ton głosu, a nawet język ciała w celu wykrycia nie tylko emocji takich jak stres, podekscytowanie czy nieufność, ale umiejętności pracy w zespole, responsywności, dyscypliny pracy itd.

Brzmi jak przełom? Czy coś tu jest nie tak?

A jakby tak móc sprawdzić czy ten Project Manager to będzie miał dobre relacje z klientem analizując jego profil emocjonalny?

HireVue, popularna platforma AI do rozmów kwalifikacyjnych, wykorzystywała rozpoznawanie emocji do oceny mimiki twarzy kandydatów, tonu głosu i doboru słów. System zapewniał wsparcie w znalezieniu najlepszych kandydatów poprzez odczytywanie ich emocji. Czy system sztucznej inteligencji może naprawdę zrozumieć różnice kulturowe lub zdenerwowanie podczas rozmowy kwalifikacyjnej? Krytycy twierdzili, że może to wzmacniać stereotypy lub wykluczać introwertyków. HireVue ostatecznie zrezygnowało z funkcji analizy emocji z powodu sprzeciwu i kontroli regulacyjnej. Ale ten temat na pewno wróci na salony.

Wykorzystanie sztucznej inteligencji do oceny czyjegoś stanu emocjonalnego może być mieczem obosiecznym. Po pierwsze, istnieje kwestia dokładności. Co jeśli system pomyli nerwowość z oszustwem lub zamieszanie z obojętnością? Błędne interpretacje mogą zniszczyć umowę lub zepsuć relacje.

Jest też niczym prawdziwe, prawne pole minowe. W wielu jurysdykcjach gromadzenie i przetwarzanie danych biometrycznych (takich jak rozpoznawanie twarzy) bez wyraźnej zgody jest prawnie zabronione.