Existe risco de preconceito e o que fazer? Retornar JSON {"risk": "sim ou não", "action": "o que fazer"}.
A IA não é objetiva por padrão. O modelo aprende com os textos das pessoas – e junto com a linguagem, absorve nossos preconceitos: de gênero, culturais, sociais. Se nos dados o médico for mais frequentemente “ele” e a enfermeira “ela”, o modelo reproduzirá esse estereótipo. Ela não é “má” - ela simplesmente reflete as estatísticas dos dados. O perigo é que a conclusão tendenciosa pareça neutra e autoritária. Portanto, em decisões sensíveis (contratação, empréstimos, avaliação de pessoas), você não pode confiar cegamente na IA: verifique se há preconceito no resultado, estabeleça regras explícitas de justiça, mantenha a pessoa informada.