Nenhuma Pessoa Real Foi Consultada: IA Agora Está Fabricando o Que "O Público Pensa"

Nenhuma Pessoa Real Foi Consultada: IA Agora Está Fabricando o Que "O Público Pensa"

Outro dia, a Axios publicou uma matéria que citava "descobertas" de que a maioria das pessoas confiava em seus médicos e enfermeiros. Acontece que essas "descobertas" foram completamente fabricadas por uma empresa chamada Aaru - usando IA (fazendo com que a Axios emitisse uma nota do editor e uma 'esclarecimento'). Aaru usa algo que eles chamam de "amostragem de silício", onde modelos de linguagem grandes (a IA) podem emular humanos por uma fração do custo e tempo exigidos para pesquisas tradicionais, relata o NY Times.

A amostragem de silício não é pesquisa. É a fabricação pura e simples da opinião pública por máquinas - e grandes veículos de comunicação e empresas de pesquisa agora estão publicando essas fabricações como descobertas legítimas.

Isso não é um deslize isolado. A tecnologia está sendo adotada por alguns dos maiores nomes em mídia, pesquisa e pesquisa corporativa. A Gallup fez parceria com a startup Simile para criar milhares de "gêmeos digitais" gerados por IA que substituem pessoas reais. A Ipsos está trabalhando com Stanford para pioneirar dados sintéticos para estudos de opinião pública. A CVS, cujo braço de venture capital investiu na Simile, já está usando essas percepções fabricadas para moldar a estratégia do cliente. E veículos como a Axios estão tratando a saída como notícia.

Todo o propósito da pesquisa sempre foi a autenticidade - capturar o que humanos reais realmente pensam (depois de fazer oversampling do seu partido preferido para fazer parecer que as pessoas gostam de Hillary Clinton).

Esse processo é imperfeito e confuso. Vamos supor que um pesquisador queira saber quantas pessoas nos Estados Unidos são a favor de uma determinada medida política, mas o pesquisador acaba com uma pesquisa que inclui 80% de Republicanos e apenas 20% de Democratas. O pesquisador pode pensar que, na realidade, o país está mais próximo de um empate de 50-50, então os resultados são reequilibrados para refletir essa realidade percebida. Isso significa que as porcentagens que você lê como resultados da pesquisa são a saída do modelo, não números dos dados reais da pesquisa.

O problema é que todo modelo é projetado com seus próprios vieses, porque os pesquisadores discordam sobre quais variáveis merecem mais peso. Em 2016, o principal analista político do The New York Times, Nate Cohn, realizou um experimento em que deu a cinco pesquisadores os mesmos dados de pesquisa eleitoral. (Isso incluiu Siena College, que realiza pesquisas de opinião para o The Times e adquiriu os dados pela primeira vez.)

O Sr. Cohn encontrou uma variação de 5% entre o que os modelos dos cinco pesquisadores retornaram. Essa variação foi maior do que a margem de erro tipicamente associada à amostragem aleatória, o que significa que as suposições de modelagem estavam distorcendo significativamente os resultados. Isso é alarmante, pois sugere que os pesquisadores podem usar a modelagem para direcionar pesquisas em uma certa direção e influenciar a própria opinião pública, em vez de meramente relatar o que o público pensa.

Walter Lippmann alertou há um século que a democracia depende de uma imagem precisa da vontade pública. A pesquisa tradicional, embora imperfeita, pelo menos começou com respostas reais de cidadãos reais. Era cara, lenta e confusa precisamente porque os humanos são caros, lentos e confusos. A amostragem de silício remove todos os vestígios dessa confusão - e com ela, todos os vestígios da realidade. Os modelos são treinados em dados passados, ajustados pelos vieses de seus criadores e instruídos a cuspir quaisquer opiniões "representativas" que o cliente queira ver. O resultado não é a opinião pública. É um espelho das suposições alimentadas na máquina.

Pesquisas Falsas Também Escolheram Kamala Harris...

Na véspera da eleição de 2024, a Aaru realizou uma simulação em larga escala que projetou confiantemente uma estreita vitória para Kamala Harris. Pesquisadores de mercado agora usam essas pesquisas sintéticas para decidir lançamentos de produtos e campanhas publicitárias. Grupos de políticas substituem silenciosamente "sentimento do constituinte" gerado por IA por feedback real. Cada vez que um veículo respeitado ou pesquisador apresenta essas invenções como fato, eles normalizam a ideia de que dados fabricados são suficientes.

As consequências já estão aqui. Quando as manchetes dizem "uma nova pesquisa mostra", os leitores não têm como saber se pessoas reais foram realmente perguntadas. A confiança nas instituições está se erodindo rápido o suficiente sem entregar a tomadores de decisão e jornalistas um suprimento ilimitado de dados falsos com aparência plausível. As ciências sociais, a estratégia política e a pesquisa de mercado correm o risco de se tornarem elaborados jogos de faz de conta digital.

Então é isso...

Tyler Durden
Qua, 08/04/2026 - 16:40