Quando uma plataforma sugere um vídeo, uma loja destaca um produto ou um aplicativo escolhe a próxima música, é comum dizer que “o algoritmo decidiu”. A expressão é conveniente, mas simplifica demais o que aconteceu. Uma recomendação normalmente é o resultado de várias decisões distribuídas entre pessoas, modelos computacionais, dados, regras da plataforma e ações do próprio usuário. A máquina participa da escolha, mas raramente é a única responsável por definir o que pode aparecer, o que deve ser priorizado e qual objetivo está sendo perseguido.

Um sistema de recomendação existe porque, em muitos serviços digitais, há opções demais para serem apresentadas de uma só vez. Uma plataforma de vídeos pode possuir milhões de conteúdos. Uma loja pode oferecer uma quantidade enorme de produtos. Um serviço de música precisa escolher algumas faixas entre catálogos gigantescos. Sem algum mecanismo de seleção, o usuário teria dificuldade para encontrar aquilo que deseja.

A recomendação procura reduzir esse excesso de possibilidades. Em vez de mostrar tudo, o sistema seleciona ou ordena uma pequena parte. Para fazer isso, utiliza informações disponíveis e tenta estimar quais opções são mais adequadas segundo determinados critérios. Essa estimativa pode envolver aprendizado de máquina, regras definidas diretamente e outros métodos computacionais.

Imagine um serviço de música. O sistema pode observar quais faixas uma pessoa ouviu, quais pulou rapidamente, quais artistas procura e quais músicas adicionou às suas listas. Também pode analisar características das músicas e padrões de comportamento de outros usuários. A partir dessas informações, tenta prever quais faixas provavelmente interessarão naquele momento.

Essa previsão não precisa assumir a forma de uma resposta absoluta como “esta pessoa gosta desta música”. O sistema pode atribuir valores às diferentes possibilidades e ordená-las. Uma faixa recebe uma estimativa maior, outra menor, e assim por diante. Depois, as opções mais bem classificadas podem ser apresentadas ao usuário.

É nesse ponto que a palavra “decisão” começa a ficar complicada. O modelo realmente participa da escolha porque seus cálculos influenciam a ordem das opções. Mas quem decidiu que aquelas informações deveriam ser consideradas? Quem definiu o que significa uma boa recomendação? Quem determinou quais conteúdos podem entrar na disputa?

Essas decisões são anteriores ao cálculo realizado pela máquina. Equipes responsáveis pelo sistema precisam definir objetivos. Uma plataforma pode querer aumentar a probabilidade de o usuário encontrar algo relevante, continuar utilizando o serviço, concluir uma compra ou descobrir conteúdos novos. Pode ainda tentar equilibrar vários desses objetivos.

O objetivo escolhido muda o comportamento do sistema. Se uma plataforma priorizar apenas a probabilidade de clique, poderá recomendar aquilo que mais provavelmente fará a pessoa abrir um conteúdo. Se priorizar satisfação de longo prazo, talvez precise considerar outros sinais. Se desejar promover diversidade de conteúdos, poderá incluir critérios adicionais.

O modelo não escolhe sozinho qual desses objetivos merece prioridade. Ele recebe uma tarefa definida dentro de uma estrutura construída por pessoas e organizações. Mesmo quando o sistema aprende maneiras complexas de atingir determinado objetivo, a existência desse objetivo é resultado de decisões anteriores.

Os dados também participam do processo. Um sistema aprende ou calcula com base nas informações disponíveis. Se uma pessoa assiste frequentemente a vídeos sobre culinária, esse comportamento pode aumentar a probabilidade de receber recomendações relacionadas. Se começa a pesquisar sobre jardinagem, as sugestões podem mudar.

Isso significa que o usuário também influencia aquilo que recebe. Seus cliques, buscas, compras e tempo de visualização podem funcionar como sinais. A recomendação não é produzida apenas pela plataforma sobre uma pessoa passiva; em muitos casos, existe um ciclo no qual o comportamento do usuário modifica as recomendações futuras.

Entretanto, essa influência não significa controle completo. O usuário age dentro de um ambiente previamente organizado. Ele escolhe entre opções que foram apresentadas, utiliza botões que a plataforma disponibilizou e produz sinais que o sistema decidiu medir. Algumas ações podem ter muito peso na recomendação e outras praticamente nenhum.

Se uma pessoa assiste a um vídeo até o fim, por exemplo, o sistema pode interpretar isso como um sinal positivo. Mas a interpretação não é inevitável. Talvez a pessoa tenha assistido porque gostou, porque ficou indignada, porque precisava analisar o conteúdo ou simplesmente porque deixou o aparelho funcionando. O dado registra um comportamento; seu significado precisa ser inferido.

Essa diferença entre comportamento observado e intenção real é uma limitação importante. Plataformas conseguem medir cliques com muito mais facilidade do que satisfação, arrependimento ou benefício real. Como consequência, sistemas frequentemente trabalham com sinais que funcionam como aproximações daquilo que realmente se deseja conhecer.

Essas aproximações são chamadas, em alguns contextos, de indicadores indiretos. Se uma plataforma quer saber se um conteúdo foi relevante, talvez utilize tempo de visualização como um dos sinais. O problema é que aquilo que mantém alguém olhando para uma tela não é necessariamente aquilo que essa pessoa considera mais valioso.

A escolha das medidas, portanto, já influencia o comportamento do sistema. Quando uma organização transforma um objetivo amplo em números que podem ser otimizados, precisa decidir o que será contado como sucesso. Essa decisão pode parecer técnica, mas pode produzir consequências sociais e econômicas importantes.

Além do modelo e dos objetivos, existem regras. Uma plataforma pode impedir que determinados conteúdos sejam recomendados, reduzir a distribuição de outros ou reservar espaços para categorias específicas. Uma loja pode destacar produtos patrocinados. Um serviço pode favorecer conteúdos recentes ou exigir determinados critérios mínimos de qualidade.

Assim, o item com a maior pontuação calculada por um modelo não precisa necessariamente ocupar a primeira posição. A recomendação final pode resultar de várias etapas. Primeiro alguns candidatos são selecionados. Depois são classificados. Em seguida, regras adicionais podem reorganizar ou remover parte deles.

Sistemas grandes podem utilizar vários modelos diferentes. Um deles escolhe algumas centenas de possibilidades entre milhões. Outro tenta ordená-las. Um terceiro estima riscos. Outros podem analisar publicidade, segurança ou diversidade. O resultado que aparece na tela é produzido pela interação entre essas partes.

Por isso, falar em “o algoritmo” pode ser enganoso. Não existe necessariamente uma fórmula única observando tudo e tomando uma decisão final. Pode existir uma cadeia de componentes especializados, cada um influenciando uma parte do processo.

Há ainda decisões tomadas muito antes de qualquer recomendação individual. A própria estrutura da plataforma determina quais possibilidades existem. Um serviço de música decide quais contratos permitem disponibilizar determinadas faixas. Uma loja decide quais vendedores podem participar. Uma rede social estabelece formatos de publicação e regras de funcionamento.

O sistema de recomendação não escolhe entre todas as coisas existentes no mundo. Escolhe dentro de um conjunto previamente construído. Aquilo que não entrou nesse conjunto não pode ser recomendado, por melhor que pudesse ser para determinado usuário.

A interface acrescenta outra camada. O lugar em que uma recomendação aparece pode ser tão importante quanto sua posição matemática. Um produto colocado no início de uma página recebe mais atenção do que outro escondido depois de várias rolagens. Uma notificação pode levar alguém de volta a um aplicativo antes mesmo que essa pessoa tenha decidido conscientemente abri-lo.

Design e recomendação, portanto, trabalham juntos. O modelo seleciona opções, enquanto a interface determina como essas opções serão apresentadas. Tamanho, posição, destaque e facilidade de acesso influenciam aquilo que as pessoas acabam escolhendo.

Isso cria um ciclo interessante. O sistema utiliza comportamentos anteriores para decidir o que mostrar. O que é mostrado influencia os comportamentos seguintes. Esses novos comportamentos voltam a alimentar futuras recomendações.

Imagine que uma plataforma comece a recomendar mais músicas de determinado estilo porque uma pessoa ouviu algumas delas. Como essas músicas passam a aparecer com maior frequência, aumenta a oportunidade de ouvi-las novamente. O sistema registra esse novo comportamento e pode interpretar que o interesse ficou ainda maior.

Nesse caso, é difícil separar completamente preferência e influência. Parte da recomendação responde a um interesse que já existia, mas a própria exposição pode reforçar esse interesse. Sistemas de recomendação não apenas descobrem preferências; em algumas situações, também participam do ambiente em que elas se desenvolvem.

Isso não significa que plataformas controlem automaticamente o comportamento das pessoas. Usuários podem ignorar recomendações, procurar outras coisas, abandonar o serviço ou mudar seus hábitos. A influência existe dentro de uma relação, não como um comando inevitável.

Ainda assim, pequenas influências repetidas em grande escala podem ter consequências relevantes. Se determinados conteúdos recebem sistematicamente mais exposição, ganham mais oportunidades de serem vistos. Isso pode afetar quais artistas são descobertos, quais produtos vendem, quais notícias circulam e quais criadores conseguem alcançar público.

A recomendação, portanto, também distribui atenção. E atenção é um recurso limitado. Uma pessoa possui apenas determinada quantidade de tempo para assistir, ler, ouvir ou comprar. Colocar algo no início da fila significa, indiretamente, deixar inúmeras outras opções em posições menos visíveis.

Essa distribuição pode produzir efeitos econômicos. Em uma plataforma comercial, uma mudança na ordenação pode aumentar as vendas de determinados produtos e reduzir as de outros. Em serviços de conteúdo, aparecer frequentemente nas recomendações pode determinar se um criador encontra público suficiente para continuar produzindo.

Por esse motivo, sistemas de recomendação não devem ser vistos apenas como ferramentas que tentam adivinhar gostos individuais. Eles também organizam mercados, atenção e oportunidades. Quanto maior a plataforma, maior pode ser o impacto dessas escolhas.

Publicidade torna a situação ainda mais complexa. Uma recomendação pode ser baseada apenas em estimativas de interesse, enquanto outra posição pode ter sido comprada por um anunciante. Em alguns sistemas, conteúdo patrocinado e recomendações comuns convivem na mesma interface, embora devam ser identificados de maneiras apropriadas.

Isso adiciona outro participante à decisão: quem paga por exposição. O que aparece para o usuário pode resultar de uma combinação entre relevância estimada, regras comerciais, disponibilidade de anúncios e critérios de segurança.

Também existem decisões relacionadas a riscos. Plataformas podem tentar evitar recomendar golpes, conteúdos perigosos ou materiais que violem suas políticas. Modelos podem identificar sinais de risco, mas essas classificações também cometem erros. Um conteúdo permitido pode ser bloqueado ou reduzido, enquanto outro problemático pode escapar.

Por isso, revisão humana continua existindo em determinados processos. Pessoas podem analisar denúncias, revisar decisões automáticas ou tratar situações que o sistema não conseguiu resolver adequadamente. Em serviços enormes, porém, revisar manualmente cada recomendação seria impossível. A automação é justamente o que permite operar em grande escala.

Essa combinação mostra por que a responsabilidade é distribuída. Um engenheiro pode desenvolver parte do modelo, outra equipe define critérios, gestores escolhem objetivos comerciais, especialistas estabelecem políticas e usuários produzem sinais por meio de suas ações. O resultado final emerge da interação entre todos esses elementos.

Dizer que a máquina decidiu pode esconder essa rede de responsabilidades. A máquina executou cálculos e influenciou o resultado, mas não surgiu sozinha, não escolheu seu próprio papel institucional e não determinou de forma independente todas as regras que orientam sua operação.

Isso se torna ainda mais importante quando sistemas deixam de recomendar entretenimento e passam a apoiar decisões com consequências maiores. Modelos podem ser utilizados para priorizar currículos, estimar riscos, detectar fraudes, analisar pedidos de crédito ou organizar casos para revisão.

Nessas situações, uma pontuação produzida pelo sistema pode influenciar fortemente o que acontece com uma pessoa. Mesmo quando existe um funcionário responsável pela decisão final, a recomendação automática pode ter grande peso. Se o funcionário quase sempre aceita a sugestão, a presença formal de um humano não significa necessariamente uma revisão profunda.

Também pode ocorrer o contrário. Um modelo pode ser apenas uma fonte de informação entre várias e a decisão humana pode realmente considerar contexto adicional. Para entender o grau de automação, portanto, não basta perguntar se existe uma pessoa no processo. É necessário observar como o trabalho é realizado na prática.

Quando decisões importantes são distribuídas dessa maneira, surge a questão de quem pode explicar um resultado. Talvez o desenvolvedor compreenda o modelo, mas não conheça o caso específico. O funcionário conhece o caso, mas não sabe exatamente como a pontuação foi produzida. A organização definiu a política, mas diferentes fornecedores construíram componentes técnicos.

Essa fragmentação pode dificultar a responsabilidade. Quanto mais complexo o sistema, maior o risco de cada participante enxergar apenas sua pequena parte e tratar o resultado final como algo produzido por “a tecnologia”.

Por isso, transparência não significa necessariamente mostrar milhares de linhas de código. Para uma pessoa afetada por uma decisão, informações mais úteis podem ser quais dados foram considerados, qual papel o sistema teve, quais critérios gerais importaram e se existe uma forma de contestar ou corrigir um erro.

Também é importante reconhecer que nenhuma recomendação é completamente livre de escolhas. Mesmo um sistema que simplesmente ordena produtos pelo menor preço está utilizando um critério. Outro poderia ordenar por avaliação, distância, popularidade ou prazo de entrega. Não existe uma ordem natural esperando para ser descoberta.

Sistemas de aprendizado de máquina tornam essas escolhas menos visíveis porque a relação entre milhares de sinais e o resultado pode ser extremamente complexa. Ainda assim, continuam existindo objetivos, dados e limites definidos ao redor do modelo.

A pergunta “quem decidiu?” pode, portanto, não possuir uma resposta única. Em muitos sistemas modernos, decisão é um processo distribuído. Desenvolvedores decidiram como construir determinados componentes. A organização decidiu quais objetivos perseguir. Os dados refletem comportamentos anteriores. O modelo calculou uma classificação. Regras modificaram o resultado. A interface apresentou algumas opções. E o usuário realizou a escolha final entre aquilo que conseguiu ver.

Nenhuma dessas etapas precisa controlar completamente o resultado para influenciá-lo. É justamente a combinação que produz a experiência final.

Essa perspectiva também evita dois extremos. Um deles é imaginar o algoritmo como uma entidade autônoma responsável por tudo. O outro é dizer que a máquina não decide nada porque pessoas construíram o sistema. As duas descrições perdem uma parte importante da realidade.

Sistemas computacionais realmente tomam decisões operacionais: classificam, ordenam, selecionam e excluem opções automaticamente. Essas decisões podem acontecer milhões de vezes sem intervenção humana individual. Ao mesmo tempo, os critérios e ambientes nos quais essas decisões acontecem foram construídos por organizações e pessoas.

Quando uma máquina recomenda, portanto, a questão mais esclarecedora não é descobrir se a decisão foi “humana” ou “da IA”. É identificar como a decisão foi distribuída. Quais opções estavam disponíveis? Quem definiu o objetivo? Quais dados foram usados? O que o modelo tentou prever? Quais regras alteraram o resultado? Como a interface apresentou as opções? E que possibilidade o usuário possui de escolher algo diferente?

Responder a essas perguntas revela o que a expressão “o algoritmo recomendou” costuma esconder. A recomendação que aparece na tela é o último passo visível de uma longa cadeia de escolhas técnicas, comerciais e humanas. A máquina participa de maneira real dessa cadeia, mas compreender quem está decidindo exige olhar para o sistema inteiro.