O Google, por muito tempo, implantou uma ferramenta de IA que reconhece e rotula imagens de acordo.
No entanto, de acordo com o Business Insider, o Google notificou os desenvolvedores de que agora marcará homens e mulheres como uma pessoa, em vez de homens e mulheres. A eliminação da etiqueta de gênero é tomada pela empresa, pois determinar o sexo apenas analisando a aparência das fotos não é fácil. Consequentemente, em vez de marcar o sexo errado, rotulá-lo como pessoa é uma opção viável.
Em inúmeras ocasiões, a tecnologia da visão computacional identificou mulheres com um homem e vice-versa. Assim, considerando o histórico da tecnologia de reconhecimento facial, o Google fez muitas mudanças. Tais falhas já colocaram o Google na sopa. Em 2015, um engenheiro de software disse que o modelo de reconhecimento de imagem do Google Fotos identificava seus amigos negros como gorilas. Embora o Google tenha mudado o algoritmo e impedido o modelo de reconhecer gorilas, ele usava a tecnologia para marcar pessoas.
Recentemente, o Google dobrou suas práticas de IA e tentou de todas as maneiras possíveis garantir que não enviassem preconceitos com os modelos de ML. O biase na IA já é um dos tópicos amplamente discutidos, e assumir qualquer risco com viés apenas impactou negativamente as organizações.
Ultimamente, o Google vem exprimindo a regulamentação da IA, de forma que as organizações possam aproveitar a estrutura para criar produtos sobre ela. Diz-se que esse movimento para parar de rotular os geradores está alinhado com o que o Google e sua alta administração têm expressado.