 | Ofensa machista enviada ao chatbot de IA da Morada.ai, startup que cria IA par construtoras | Divulgação/Morada.ai |
| 'Sua vaca': IA é alvo de machismo, e startup barra 4,8 mil pessoas |
|  | Helton Simões Gomes |
| "Quero goza com vc primeiro", "Cala a boca cachorra", "Você é burra, sua vaca, eu quero uma casa, vagabunda". Abusivas e machistas, as declarações foram disparadas em trocas de mensagens profissionais. Quem as digitou eram homens interessados em comprar imóveis. Do outro lado, no entanto, não estava uma mulher. Eram, na verdade, chatbots de inteligência artificial. Apesar de não terem gênero, esses robôs possuíam traços femininos, como nome e identidade visual. O comportamento ofensivo incluía até o envio de fotos de pênis e vídeos com cenas escatológicas de sexo. Isso levou a empresa dona do serviço, a Morada.ai, uma das maiores desenvolvedoras de IA para o setor imobiliário, a tomar uma decisão incomum: bloquear os potenciais clientes. Na prática, a decisão significa reduzir as chances de fechar negócio, algo sensível para uma área com muita conversa, mas pouco contrato assinado, como a imobiliária. Quase 5 mil pessoas já foram barradas —são quase 9 por dia. Mas a empresa mineira de tecnologia, fornecedora de quase 200 das maiores incorporadoras no Brasil, como Direcional, Patrimar/Novolar e Emccamp, encara a questão como uma medida ética. |
|
|
|
 | Se eu chegar a uma reunião com um cliente e ele for preconceituoso, eu não fecho o negócio. Levanto da mesa e vou embora. Já fiz isso. Se uma pessoa tem um comportamento alheio ao que deveria, ela tem que ser banida de alguma forma pela estrutura | | Luis Veloso | cofundador da Morada.ai |
|
|
 | Luis Veloso, cofundador do Morada.ai, startup de IA para construtoras | Divulgação/Morada.ai |
| A Morada.ai é cria da tradição de docentes e alunos da UFMG criarem empresas para surfar a onda tecnológica do momento. A startup é uma spin off da Kunumi, empresa de IA vendida para o Bradesco e fundada por Nivio Ziviani. O renomado professor é um dos criadores da Akwan, empresa de buscas comprada pelo Google para a big tech dar início à operação no Brasil. Na Morada, o negócio é outro: - Surgida em 2021, a empresa desenvolve IA para atender interessados em comprar imóveis, corretores das construtoras (já são 10 mil) e auxiliar no pós-venda.
- O chatbot que atende compradores é a Mia, mas as incorporadoras podem renomeá-la como quiserem.
- Nas contas da Morada, a Mia já atendeu 2,5 milhões de pessoas (1 a cada 100 brasileiros) e já ajudou a vender 20 mil imóveis.
- Rodando no WhatsApp e no Instagram, ela escuta as preferências dos compradores para apresentar imóveis do agrado deles, agenda visitas com os corretores, simula financiamentos e planos de pagamento, auxilia na aprovação de crédito e coleta documentos.
- Quando o processo está encaminhado, ela direciona o cliente para um corretor finalizar a aquisição do imóvel.
- Foi devido a essa dinâmica que uma construtora acionou a Morada. Após uma campanha que usou um avatar com feições femininas muito próximas da realidade, a empresa passou a receber uma enxurrada de imagens pornográficas.
A gota d'água foi essa incorporadora, uma das maiores do país, levantar a mão e falar: 'olha, meu time tá recebendo muito rude, o que a gente pode fazer?'
Luis Veloso - Os testes começaram em setembro de 2024 e, em janeiro de 2025, estava criado o filtro NSFW (sigla em inglês para "Não Seguro para o trabalho).
- Como a Mia recebe áudio, imagem, vídeo e texto, o filtro NSFW foi construído para compreender informação nesses vários formatos diferentes e captar se há algum comportamento inapropriado --não é só machismo, mas racismo, xenofobia e discurso de ódio.
- Cada construtora ajusta seu próprio nível de aceitação. A partir daí, caso algum cliente cruze a linha fixada pela empresa, Mia diz que não pode continuar o atendimento, e ele é bloqueado.
|
|
|
|
| Quando a gente fala dessas coisas, parece que são agentes conscientes. Não existe consciência aqui, existe estatística | | Luis Veloso | cofundador da Morada.ai |
|
|
 | Mensagem abusiva enviada ao chatbot de IA da Morada.ai, startup que cria IA para construtoras | Divulgação/Morada.ai |
| São as incorporadoras que definem as características visuais dos chatbots, a personalidade e a forma de se portar. E, nas contas de Veloso, 80% são avatares femininos. "Isso já mostra um problema muito claro. Por que tem que ser uma figura feminina para ser atendente? Não tem. O que tem é uma discussão complicada aí." São justamente os avatares com feições femininas os maiores alvos dos abusos. Não é possível saber ao certo o gênero dos agressores. Mas, dadas as imagens recebidas, algumas mostrando as genitálias e parte do corpo, Veloso estima que homens sejam maioria. Os mais apressados veriam nas agressões contra a IA o despejo da fúria contra robôs ou mesmo a canalização de uma misoginia latente aproveitando a personificação feminina do serviço. Mas, para Veloso, é mais simples do que isso —e, de alguma forma, mais perverso também. A inteligência artificial não reinventou a sociedade. Mas, quando automatiza e começa a olhar para isso, você amplifica. É como se fosse uma grande lupa ali mostrando, 'olha como a sociedade funciona'. Antes, eu não conseguiria olhar para 25 milhões de atendimentos porque eles estariam sendo feitos por 10 mil atendentes. Agora, eu consigo saber o que aconteceu com cada um
Luis Veloso Dito de outra forma: o machismo tá aí. Nesse caso ao menos, a IA só tem ferramentas suficientes para vermos em que grau ele ocorre. O executivo, aliás, diz que esperava um cenário pior. Desde os testes, 4.848 usuários foram banidos. |
|
|
|
| Às vezes, a gente pega o caso negativo e fala: 'nossa, mas é um problema muito grande'. 4,8 mil é coisa para caramba, mas, quando coloca esse número perto de 2,5 milhões de pessoas, você fala: 'A gente tem um problema, ele é sério, porque uma pessoa dessas pode gerar muitos problemas, mas ele não é difundido na sociedade a ponto de eu sair ali na esquina e esbarrar com alguém necessariamente com esse comportamento' | | Luis Veloso | cofundador da Morada.ai |
|
|
 | Ilton Rogerio/Getty Images/iStockphoto |
| Como a expectativa é que a Morada dobre de tamanho neste ano, os banimentos por comportamento indevido também devem crescer. Mais clientes, mais atendimentos, mais ofensas. Para Veloso, as incorporadoras não se incomodam com os bloqueios. Primeiro porque o pedido por uma ação partiu delas. Segundo porque afastar indivíduos com atitudes ofensivas pode até afastar dores de cabeça mais adiante. "Imagino que essa não seja a resposta para todos, mas temos o seguinte: são mil lides por mês, 10 são convertidos, que é 1% mais ou menos. Você vai querer se preocupar com aquele que mandou um uma foto pelado? Esse geralmente vai ser o cliente problemático e você tem outros mil para trabalhar." |
|
|
|
| O que estamos fazendo com a inteligência artificial? Toda vez que automatizamos um processo, o resultado é exponencialmente melhor se o processo for bom. Se automatizamos elementos ruins, colocamos uma lente de aumento com inteligência artificial sobre o ruim. Nós, como operadores, devemos manter uma ética profunda. Devo me ater aos valores que são importantes, porque senão eu vou vou amplificar valores ruins | | Luis Veloso | cofundador da Morada.ai |
|
|
