Definição – o que significa Machine Bias?
O viés da máquina é o efeito de suposições errôneas nos processos de aprendizado de máquina. O viés reflete problemas relacionados à coleta ou uso de dados, onde os sistemas tiram conclusões inadequadas sobre conjuntos de dados, seja por causa da intervenção humana ou como resultado da falta de avaliação cognitiva dos dados.
O viés da máquina também é conhecido como viés de algoritmo ou simplesmente viés.
Definirtec explica o preconceito da máquina
A polarização da máquina assume várias formas. Um dos exemplos mais proeminentes envolve o uso de sistemas de aprendizado de máquina para fazer julgamentos sobre pessoas individuais ou grupos de pessoas. Por exemplo, quando usados no campo da justiça criminal, alguns modelos de aprendizado de máquina demonstraram pressupor taxas de crime mais altas para indivíduos com base em dados superficiais, como etnia ou localização.
Outra maneira de explicar o viés da máquina em termos científicos é descrevendo-o como um “agrupamento” de dados que não é inerentemente justificado, onde o viés é uma parte do que os engenheiros chamam de compensação “viés-variância”. Alta polarização pode causar agrupamento impróprio. Alta variação pode causar dispersão excessiva de dados. Os engenheiros podem se referir a um sistema ou resultado como “alta polarização, alta variação” ou “baixa polarização, alta variação” ou alguma outra combinação.