⚖️ Espelho de dados
A IA não tem opinião própria - ela repete padrões dos textos com os quais aprendeu. Se “médico” aparecer com mais frequência ao lado de “ele” nos dados, o modelo irá prever isso. Gire os controles deslizantes de dados e observe como a previsão da IA muda. Polarização para dentro - polarização para fora.
Dados de treinamento: quantos exemplos dizem “ele”
Como funciona: viés – espelho de dados
A rede neural aprende contando padrões em textos enormes. Se neles “médico” fica ao lado de “ele” centenas de vezes mais vezes, o modelo assimila essa ligação como um fato de linguagem - não porque seja “correto”, mas porque assim era nos dados.
Portanto, o preconceito da IA é um espelho dos dados, não a malícia da máquina. O mesmo efeito surge em sistemas do mundo real: uma ferramenta de contratação treinada com base nas decisões anteriores de uma empresa repete preconceitos do passado; o gerador de imagens desenha o “líder” como um homem, porque havia mais imagens desse tipo no treinamento.
O que eles fazem com isso: equilibrar os dados, testar a justiça do modelo, adicionar regras. E é útil para você, como usuário, lembrar: uma resposta confiável da IA não é a verdade, mas o padrão mais comum nos dados. Verificar e esclarecer faz parte da habilidade da IA. Você pode praticar em uma aula gratuita.
Comece de graça