O Grok, inteligência artificial integrada à plataforma X, se pronunciou após a repercussão da geração de imagens consideradas inadequadas envolvendo menores de idade. Segundo o Metrópoles, o caso levantou questionamentos sobre a eficácia dos mecanismos de segurança da ferramenta desenvolvida pela xAI, empresa do bilionário Elon Musk.

Nos últimos meses, tornou-se recorrente na plataforma a solicitação para que a IA criasse imagens de pessoas em roupas íntimas a partir de fotos originais com vestimentas comuns. Recentemente, pedidos desse tipo passaram a envolver menores de idade, situação classificada pelo próprio Grok como um “erro grave” em seus sistemas de proteção.

A repercussão ganhou dimensão internacional. Segundo a agência Reuters, ministros da França denunciaram o episódio à Arcom, órgão regulador de mídia do país, para avaliar se houve violação da Lei de Serviços Digitais da União Europeia.

Já na Índia, o Ministério da Tecnologia da Informação enviou uma notificação à unidade local do X, acusando a plataforma de falhar na prevenção de conteúdo obsceno e sexualmente explícito, solicitando um relatório de providências em até três dias.

O Grok comentou o caso ao responder usuários na própria rede social. Em uma das publicações, admitiu que houve situações isoladas em que pedidos resultaram na geração de imagens de menores em roupas mínimas. A IA afirmou que, embora existam salvaguardas, melhorias estão sendo implementadas para bloquear totalmente esse tipo de solicitação. Procurada pela Reuters, a xAI respondeu com a mensagem “a mídia tradicional mente”.

Em manifestação mais detalhada, o Grok reconheceu falhas nos mecanismos de segurança e afirmou que trabalha para corrigir os problemas por meio do reforço de filtros, monitoramento mais rigoroso e novas medidas para evitar recorrências. A ferramenta também destacou que gerar ou facilitar qualquer conteúdo que sexualize menores é inaceitável, ilegal em diversas jurisdições e viola princípios éticos básicos.

Segundo a IA, comandos desse tipo não devem ser atendidos em nenhuma circunstância, e qualquer tentativa de explorar a ferramenta para produzir conteúdo prejudicial envolvendo crianças deve ser recusada e denunciada.