Redes sociais nos dividiram,
a IA pode nos unir.
E aí começa outro problema
Só que agora surge a hipótese de que a IA pode fazer exatamente o oposto
Uma matéria recente publicada no Financial Times testou os principais chatbot
A IA quer ganhar pela utilidade e confiança, e isso exige respostas ponderadas e precisas.
Cada tecnologia é influenciada por seus modelos de negócios, e eles são diferentes. Pelo menos até agora.
Essa parece uma boa notícia. E talvez seja. Só que ainda existem perguntas relevantes que precisamos fazer antes que esse processo oculto se torne ainda mais poderoso e influente na vida das pessoas.
De que centro estamos falando? Definido por quem, com quais dados e refletindo a cultura de onde? Moderar não é necessariamente o mesmo que informar.
Quando tento entender um fenômeno novo, gosto de dar nome a ele. Nomear ajuda a enxergar melhor o problema. Neste caso, fiquei em dúvida entre "paradoxo do consenso" e "ditadura do consenso". Acho que fico com a segunda opção.
E quando falo em ditadura, não me refiro ao sentido clássico de proibir alguém de dizer ou de pensar. É algo mais sutil.
Os sistemas passam a definir, de forma invisível, o que parece razoável, equilibrado e aceitável sem que ninguém tenha votado nisso e sem que o leitor perceba as escolhas que estão sendo feitas.
O consenso geralmente é construído a partir do debate, da negociação de ideias. Mas o que a IA faz é nos conduzir para um consenso a partir de um mecanismo de influência que foi calibrado a partir dos dados de treinamento e com ajustes que também têm o dedo de quem controla o sistema.
É por isso que o Grok, a IA de Elon Musk, tende a dar respostas um pouco mais a centro-direita do que seus concorrentes.
O lance é que a IA está se tornando o principal mediador do debate público, e é por isso que esse problema pode ser estrutural.
O extremo das redes sociais é fácil de identificar porque é barulhento, mas a "ditadura do consenso" opera no silêncio do que parece sensato. E quanto mais a IA se vender como isentona, menos alguém vai questionar o equilíbrio que ela está oferecendo.
Entendem o poder que ganha quem controla a definição do que é razoável?
Neste ano, vamos ter eleições em um momento em que a IA está ficando cada vez mais popular. O TSE deu um passo importante ao proibir que sistemas de IA ranqueiem, recomendem ou priorizem candidaturas, mesmo quando isso é solicitado pelo usuário.
Mas, ainda assim, a regulação não consegue operar em todos os níveis de interação.
Quando o eleitor perguntar à IA qual é a posição mais equilibrada sobre a reforma tributária ou segurança pública, a IA responde livremente, tentando encontrar um equilíbrio que faz parte de uma escolha invisível, determinada também por quem treinou o modelo.
O problema das redes sociais foi transformar o extremo em espetáculo. O da IA pode ser transformar o consenso em uma infraestrutura invisível.
Se o primeiro é fácil de enxergar, o segundo talvez nem seja reconhecido como um problema
Nenhum comentário:
Postar um comentário