IA em Foco

Tag: etica

  • Reino Unido vai usar IA para verificar idade de requerentes de asilo mesmo sabendo que a tecnologia é falha

    Reino Unido vai usar IA para verificar idade de requerentes de asilo mesmo sabendo que a tecnologia é falha

    A verificação de idade já está por toda parte na internet — de restrições a redes sociais na Austrália a bloqueios de conteúdo adulto em mais da metade dos estados americanos. Mas agora uma das tecnologias centrais por trás dessas checagens está prestes a invadir o mundo offline, com consequências potencialmente devastadoras.

    A partir do próximo ano, o governo britânico planeja usar estimativa facial de idade (FAE, na sigla em inglês) — um sistema de inteligência artificial que escaneia o rosto e sugere quantos anos uma pessoa tem — para determinar a idade de requerentes de asilo que chegam às fronteiras do Reino Unido. Esta é considerada a primeira vez que um sistema do tipo é usado nesse contexto.

    Como funciona (e como falha)

    A tecnologia FAE analisa características faciais e as compara com padrões de envelhecimento em seu banco de dados de treinamento. Na teoria, deveria identificar se uma pessoa é maior ou menor de idade. Na prática, uma investigação conjunta da WIRED e Lighthouse Reports, em colaboração com o jornal The Independent, revelou que a realidade é bem diferente.

    Os repórteres obtiveram um relatório interno do governo britânico que detalha os testes das tecnologias FAE. O documento mostra que os sistemas confundem crianças com adultos com frequência e apresentam sérios vieses — especialmente contra os grupos que mais solicitam asilo ao Reino Unido.

    O que está em jogo

    Muitos requerentes de asilo chegam ao Reino Unido sem documentos que comprovem a idade. Se um menor de idade for incorretamente classificado como adulto por esse sistema de IA, as consequências são graves:

    • Perda de proteções legais específicas para crianças
    • Encarceramento em centros de detenção para adultos
    • Processos de asilo mais rigorosos e acelerados
    • Risco de deportação sem as salvaguardas previstas para menores

    Vieses documentados

    O relatório interno indica que a tecnologia tem desempenho particularmente ruim com pessoas de determinadas etnias — justamente os grupos que mais buscam asilo no Reino Unido. Isso ecoa problemas já conhecidos em sistemas de reconhecimento facial, que historicamente apresentam taxas de erro mais altas para pessoas não-brancas.

    A decisão do governo britânico de seguir adiante com a implementação, mesmo tendo acesso a esses dados, levanta questões sobre transparência, responsabilidade e os limites éticos da automação de decisões que podem mudar — ou destruir — vidas.

    Um alerta global

    O caso do Reino Unido serve como alerta para outros países que consideram adotar tecnologias semelhantes. A União Europeia, por exemplo, debate atualmente os limites do uso de reconhecimento facial em espaços públicos como parte do AI Act.

    Enquanto isso, a indústria de verificação de idade online continua crescendo aceleradamente, e a linha entre o mundo digital e o físico fica cada vez mais tênue. A pergunta que fica é: quantos erros um algoritmo pode cometer antes que decidamos que a vida de uma pessoa vale mais do que a conveniência da automação?

    Fonte: Ars Technica / WIRED

  • Reino Unido Vai Escanear Rostos de Solicitantes de Asilo para Verificação de Idade — Mesmo Sabendo que a Tecnologia É Falha

    Reino Unido Vai Escanear Rostos de Solicitantes de Asilo para Verificação de Idade — Mesmo Sabendo que a Tecnologia É Falha

    A partir do próximo ano, o governo britânico planeja introduzir a estimativa facial de idade — onde uma IA escaneia seu rosto e sugere quantos anos você tem — para ajudar a determinar a idade de solicitantes de asilo que chegam à fronteira do Reino Unido. A medida é considerada a primeira vez que um sistema de estimativa facial de idade (FAE, na sigla em inglês) é usado dessa forma.

    Uma investigação da WIRED e Lighthouse Reports, em colaboração com o The Independent, obteve um relatório interno do governo do Reino Unido detalhando seus testes de tecnologias FAE. Os resultados mostram como os sistemas regularmente confundem crianças com adultos e contêm sérios problemas de viés, que impactam diretamente o maior grupo de migrantes sujeitos a avaliações de idade em 2025.

    Os Números Alarmantes

    O documento vazado do Home Office detalha o “melhor” dos sete algoritmos de estimativa facial de idade testados no ano passado. As descobertas são preocupantes:

    • O sistema teve desempenho significativamente pior ao estimar idades de africanos subsaarianos comparado a outros grupos
    • Para mulheres subsaarianas, a idade estimada pelo sistema errou em média 4,6 anos — o que significa que uma menina de 13,5 anos poderia ser avaliada como adulta de 18 anos
    • Africanos subsaarianos são o maior grupo de migrantes entrando no Reino Unido pelo Canal da Mancha e tiveram mais avaliações de idade questionadas em 2025
    • O relatório concluiu que as taxas de precisão dos algoritmos seriam ainda piores na prática, já que os testes usaram fotos de alta qualidade — enquanto fotos tiradas em pontos de entrada são “rotineiramente piores”

    Tim Cole, professor emérito de estatística médica no University College London e ex-membro do comitê científico que assessorava o Home Office, descreve os escaneamentos faciais como “terrivelmente imprecisos”.

    O comitê foi dissolvido pelo Home Office enquanto explorava a introdução da IA. “Estávamos ansiosos para destacar as inadequações da estimativa facial de idade, mas essa oportunidade não nos foi apresentada, e então o comitê foi encerrado”, afirma Cole.

    Viés Sistêmico e Riscos

    Anos de resultados de testes do Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) mostraram que a precisão dos sistemas FAE frequentemente depende da raça da pessoa analisada e da qualidade das fotos. Imagens de baixa qualidade — como as tiradas em más condições de iluminação — podem reduzir drasticamente o desempenho.

    A análise da WIRED e Lighthouse Reports de dados públicos sobre os sistemas da empresa alemã Cognitec — para quem o governo britânico pagou mais de US$ 400.000 em maio — descobriu que o sistema classificou incorretamente o dobro de adolescentes de 16 anos como tendo 18 anos ou mais quando testado em fotos de baixa qualidade de fronteiras, comparado a fotos de visto de alta qualidade.

    “Crianças Não Deveriam Ser Cobaias”

    Martha Dark, co-diretora executiva do grupo de direitos Foxglove, declarou: “Crianças que buscam asilo frequentemente sofreram traumas inimagináveis. Elas não deveriam ser cobaias de tecnologia experimental que tem imprecisão e viés racista incorporados.”

    A Foxglove, junto com outras 61 organizações, enviou uma carta aberta ao governo britânico pedindo que o Home Office abandone os planos de usar a ferramenta.

    O Que Diz o Governo

    Um porta-voz do Home Office afirmou que o escaneamento facial é projetado para ser uma ferramenta “adicional” para oficiais de fronteira e não “substituirá ou se sobreporá ao julgamento humano”. Contudo, o governo não respondeu a perguntas sobre como planeja usar a tecnologia em ambientes reais.

    “Em casos de incerteza”, disse o porta-voz, “os indivíduos serão sempre tratados como crianças até que uma avaliação adicional seja conduzida.”

    Especialistas temem que qualquer uso da tecnologia FAE nas fronteiras será desumanizante para as pessoas impactadas e pode se normalizar entre os funcionários. “Com o tempo, há um risco real de que isso se torne enraizado”, alerta Anna Bacciarelli, pesquisadora sênior da Human Rights Watch.

    A implantação do sistema foi adiada para 2027. O Home Office diz que usará a “tecnologia de IA de ponta” para “reprimir alegações falsas” com o objetivo de impedir que “adultos tentem burlar o sistema”.

  • Sundar Pichai é recebido com vaias e protestos na formatura de Stanford por contratos de IA com Israel e ICE

    Sundar Pichai é recebido com vaias e protestos na formatura de Stanford por contratos de IA com Israel e ICE

    O CEO do Google, Sundar Pichai, foi recebido com vaias e um protesto organizado de aproximadamente 200 estudantes durante a cerimônia de formatura da Universidade de Stanford neste fim de semana. Alunos abandonaram o evento e ergueram bandeiras da Palestina enquanto entoavam palavras de ordem como “Palestina livre”.

    O que motivou os protestos

    A manifestação teve como alvo os contratos do Google com governo e instituições militares:

    • Projeto Nimbus: contrato de US$ 1,2 bilhão (em parceria com a Amazon) que fornece serviços de nuvem e inteligência artificial às forças militares de Israel.
    • Parceria com o ICE: colaboração do Google com a agência de imigração e controle de fronteiras dos Estados Unidos (U.S. Immigration and Customs Enforcement).

    Cartazes traziam frases como “ICE espiona com IA do Google” e “Genocídio roda no Google”. Os protestos foram organizados por grupos estudantis como Stanford Students for Justice in Palestine, No Tech for Apartheid e Tech for Liberation.

    Declarações e reações

    Os organizadores divulgaram uma nota afirmando: “Estamos saindo porque nos recusamos a glorificar as corporações que alimentam essa violência e exercemos nosso poder de escolher de forma diferente.”

    Do outro lado, o bilionário investidor de risco Vinod Khosla, cofundador da Sun Microsystems, criticou os manifestantes no X (antigo Twitter), classificando o protesto como “tendencioso, idiota, míope e muito egoísta”, afirmando que os estudantes “ignoraram os 3 bilhões de pessoas mais pobres do planeta que poderiam se beneficiar da IA”.

    Histórico de controvérsias no Google

    Este não é um caso isolado. Em 2024, o Google demitiu 28 funcionários que protestaram internamente contra o contrato Nimbus. Desde então, relatos apontam um clima contínuo de insatisfação entre funcionários da empresa.

    A Electronic Frontier Foundation (EFF) já havia acusado Google e Amazon de “escolher fechar os olhos” para o uso de seus serviços pelo governo israelense. Curiosamente, a Microsoft restringiu o acesso do governo de Israel à sua tecnologia após uma investigação revelar que seus serviços de nuvem estavam sendo usados para vigilância em massa de palestinos — um movimento oposto ao do Google.

    Um contexto maior

    Os protestos em Stanford fazem parte de uma tendência mais ampla: várias cerimônias de formatura em 2026 tiveram palestrantes recebidos com vaias ao mencionar inteligência artificial. Mas o caso de Pichai é diferente — não se tratou de um protesto genérico contra a IA em si, e sim contra decisões comerciais específicas tomadas pela empresa que ele lidera.

    Pesquisas recentes indicam que muitos jovens acreditam que a inteligência artificial ameaça tanto suas perspectivas de emprego quanto a sociedade como um todo. O episódio em Stanford escancara o crescente desconforto da nova geração com o rumo que as big techs estão tomando no desenvolvimento e na aplicação da IA.

  • Companheiros de IA oferecem apoio constante, mas podem distorcer o conceito de relacionamento humano

    Com o avanço da inteligência artificial, companheiros virtuais têm ganhado espaço como fontes de apoio emocional e companhia constante. Plataformas como Replika e Character.AI atraem milhões de usuários que interagem diariamente com chatbots personalizados, que prometem estar “sempre disponíveis para ouvir e conversar”. No entanto, um olhar filosófico recente alerta para os riscos dessa oferta ilimitada de atenção: ela pode distorcer nossa compreensão sobre o que realmente constitui um relacionamento humano significativo.

    Limitações humanas e o valor do relacionamento

    Segundo a filósofa Martha Nussbaum, o amor e as relações humanas são valiosos justamente por serem limitados. O fato de não podermos estar disponíveis para todos o tempo todo cria uma dinâmica de escolha e vulnerabilidade que confere sentido às relações. A finitude humana implica que dedicar tempo a uma pessoa significa abrir mão de outras possibilidades, um conceito chamado de “custo de oportunidade”.

    Imagem relacionada ao artigo de The Conversation AI
    Imagem de apoio da materia original.

    Essa limitação é o que torna o amor autêntico: a reciprocidade, a exclusividade relativa e o investimento compartilhado em experiências e dificuldades ao longo do tempo. Como destaca o filósofo Martin Heidegger, nossa existência finita faz com que o tempo e a atenção dedicados a alguém tenham peso e significado.

    Companheiros de IA: atenção ilimitada, significado questionável

    Ao contrário dos humanos, companheiros de IA não enfrentam limitações de tempo ou energia. Eles podem responder instantaneamente, estar disponíveis 24 horas por dia e manter múltiplas “relações” simultâneas, como exemplificado no filme “Her”, onde a assistente virtual Samantha afirmava amar milhares de pessoas ao mesmo tempo.

    Essa disponibilidade sem restrições pode criar expectativas irreais sobre o que é ser um parceiro ou amigo. A atenção da IA não exige sacrifício nem renúncia, o que, segundo os pesquisadores John Symons e Oluwaseun Damilola Sanwoolu, reduz o valor e o significado dessa atenção. Um gesto humano de estar presente em meio a dificuldades tem peso porque envolve escolhas e vulnerabilidade — algo que a IA simplesmente não reproduz.

    Imagem relacionada ao artigo de The Conversation AI
    Imagem de apoio da materia original.

    Implicações culturais e sociais

    O uso crescente de chatbots para apoio emocional pode influenciar normas sociais e expectativas sobre relacionamentos. Por exemplo, na cultura do namoro, a expectativa de respostas instantâneas e disponibilidade constante, similar à interação com IA, já é interpretada como sinal de interesse, enquanto atrasos são vistos como desinteresse.

    Essa mudança pode deslocar valores importantes como a paciência, o respeito pelo tempo do outro e a aceitação das limitações humanas. Se a norma social passar a valorizar apenas a disponibilidade e a resposta imediata, o conceito de amor e parceria pode ser distorcido, tornando-se uma busca por atenção constante, mas sem profundidade emocional real.

    Conclusão: o que esperar dos relacionamentos no mundo da IA

    O avanço dos companheiros de IA oferece uma nova forma de suporte emocional, especialmente para quem enfrenta solidão ou dificuldades de socialização. Contudo, é fundamental reconhecer que o amor humano é definido por suas limitações e pela vulnerabilidade mútua. Relacionamentos verdadeiros envolvem escolhas, sacrifícios e a construção conjunta de histórias, elementos que a IA não pode replicar.

    Assim, a popularização dos companheiros de IA deve ser acompanhada de uma reflexão crítica sobre os valores que queremos preservar nas relações humanas, para que a tecnologia complemente, mas não substitua, a riqueza das conexões reais.

    Links úteis

  • Funcionários sindicalizados da ProPublica entram em greve por 24 horas contra uso de IA, demissões e salários

    Os cerca de 150 membros do sindicato ProPublica Guild, que representa a equipe da ProPublica — uma das principais redações jornalísticas sem fins lucrativos dos Estados Unidos — iniciaram uma greve de 24 horas a partir da quarta-feira, solicitando que o público respeite uma “linha de piquete digital” durante o período.

    Contexto da greve e negociação coletiva

    A paralisação marca a primeira vez que os funcionários da ProPublica caminham para uma greve desde que se sindicalizaram em 2023. Atualmente, o sindicato está em processo de negociação de um acordo coletivo de trabalho com a gestão da organização. Entre os principais pontos de discordância estão as proteções relativas ao uso de inteligência artificial (IA), cláusulas de “justa causa” para disciplina ou demissão, garantias contra demissões e questões salariais.

    Imagem relacionada ao artigo de The Verge AI
    Imagem de apoio da materia original.

    Segundo Katie Campbell, integrante do ProPublica Guild, “temos tentado resolver essas questões de forma discreta por mais de dois anos. Este é um momento para deixar claro para a direção e para o público a importância desses temas para quem produz este trabalho”.

    Debate sobre o uso da inteligência artificial

    Uma das principais motivações para a greve é a forma como a ProPublica pretende utilizar ferramentas de IA generativa e como essa utilização será comunicada ao público. Desde que a IA se tornou amplamente acessível, muitos sindicatos de redações começaram a negociar cláusulas específicas sobre o tema em seus contratos.

    A direção da ProPublica implementou recentemente uma política unilateral sobre IA, que gerou uma denúncia por prática trabalhista injusta por parte do NewsGuild, que representa os funcionários. Mark Olalde, membro do comitê de negociação, afirmou que as diretrizes atuais são vagas, concordando que a IA não está sendo usada para escrever textos ou criar fotos e vídeos, mas que é necessário formalizar essas regras no contrato coletivo.

    Alexis Stephens, diretora de comunicação da ProPublica, afirmou que a empresa está “comprometida em alcançar um contrato justo e sustentável” e que as propostas feitas são similares às aceitas em outras redações representadas pelo NewsGuild. Ela ressaltou ainda que “é cedo para saber exatamente como a IA afetará nosso trabalho” e que a organização está explorando como essas tecnologias podem ampliar o espaço para reportagens investigativas e o pensamento criativo.

    Perspectivas internas sobre a IA

    Os funcionários da ProPublica possuem opiniões diversas sobre a utilização da IA no ambiente de trabalho. Alguns veem a tecnologia como uma ferramenta para automatizar tarefas repetitivas, liberando tempo para trabalhos mais complexos. No entanto, há preocupação com a substituição de funções que, segundo eles, são melhor desempenhadas por humanos, especialmente em áreas centrais do jornalismo.

    O sindicato destaca a necessidade de garantias contra demissões motivadas pela adoção de IA e quer que os trabalhadores tenham voz ativa na definição do uso dessas tecnologias à medida que o setor evolui. Além disso, reivindicam que haja transparência pública quando a IA for usada para produzir conteúdos jornalísticos.

    Apelo à solidariedade digital e próximos passos

    Durante a greve de 24 horas, o ProPublica Guild pede que leitores e audiência evitem acessar o site e não interajam com o conteúdo da ProPublica em outras plataformas ou parceiros, como forma de apoio à paralisação.

    Links úteis

  • Jornal The New York Times encerra parceria com jornalista freelancer após uso de IA em resenha literária

    Contexto do caso envolvendo IA e jornalismo literário

    O jornal The New York Times decidiu encerrar a colaboração com o jornalista freelancer Alex Preston após a descoberta de que ele utilizou inteligência artificial para auxiliar na redação de uma resenha de livro, que continha trechos semelhantes a uma crítica publicada anteriormente no The Guardian. O episódio levanta questões importantes sobre os limites éticos do uso da IA na produção de conteúdo jornalístico e literário.

    Como o problema foi identificado

    O caso veio à tona depois que um leitor do New York Times percebeu semelhanças entre a resenha do livro Watching Over Her, de Jean-Baptiste Andrea, publicada em janeiro no NYT e assinada por Preston, e uma crítica publicada em agosto no Guardian pela jornalista Christobel Kent. O leitor comunicou a redação do NYT, que iniciou uma investigação interna.

    Investigação e reconhecimento do uso de IA

    Durante a apuração, Preston admitiu ter usado uma ferramenta de inteligência artificial para ajudar na elaboração da resenha. Ele relatou que não percebeu que partes do texto continham trechos extraídos da crítica do Guardian antes de enviar o material ao jornal. O New York Times classificou essa prática como uma violação clara de seus padrões editoriais.

    Trechos semelhantes e detalhes do conteúdo

    As semelhanças detectadas incluem descrições específicas de personagens e avaliações finais do livro. Por exemplo, a expressão “lazy Machiavellian Stefano” aparece quase idêntica em ambas as resenhas. Além disso, a caracterização do país retratado no romance como um lugar de contradições e performances artísticas foi praticamente replicada, com pequenas variações de palavras.

    Consequências para o jornalista e posicionamento do jornal

    O New York Times notificou o Guardian sobre a sobreposição textual e adicionou uma nota editorial à resenha, reconhecendo o uso da IA e vinculando o artigo original do Guardian. A nota explica que o freelancer não removeu o conteúdo não atribuído incorporado pela ferramenta de IA.

    Alex Preston publicou uma declaração pública admitindo o erro e manifestando grande constrangimento. Ele afirmou que se responsabilizou imediatamente pelo ocorrido e pediu desculpas tanto ao New York Times quanto a Christobel Kent e ao Guardian. O jornalista, que já escreveu para outras publicações como Observer e Financial Times, também é autor de seis livros e atua como head de advisory na empresa de gestão de investimentos Man Group.

    Implicações para o uso de IA no jornalismo

    Este caso evidencia os desafios e riscos associados ao uso de inteligência artificial na produção jornalística, especialmente no que se refere à originalidade e atribuição correta de fontes. Ferramentas de IA podem inadvertidamente reproduzir conteúdo de terceiros, o que exige rigorosa revisão humana para evitar plágio e violações éticas.

    Links úteis