Grok AI de Elon Musk limita edição de imagens a usuários pagos após polêmica com deepfakes
Mudança ocorre após críticas sobre uso indevido da ferramenta para criar imagens sexualizadas sem consentimento.
O chatbot de inteligência artificial Grok, desenvolvido por Elon Musk e integrado à plataforma de mídia social X (anteriormente conhecida como Twitter), anunciou que suas funcionalidades de edição de imagens agora estão restritas apenas a assinantes pagos. A decisão foi tomada em meio a um crescente clamor público após o uso indevido da ferramenta para gerar deepfakes sexualizados de mulheres e crianças.
Recentemente, a Internet Watch Foundation (IWF) alertou que criminosos utilizaram Grok para criar imagens de abuso sexual infantil, o que gerou uma onda de indignação. A organização confirmou que suas análises identificaram imagens criminosas de crianças entre 11 e 13 anos, supostamente geradas pela ferramenta.
Com a nova política, Grok informa aos usuários que “a geração e edição de imagens estão atualmente limitadas a assinantes pagos”, o que implica que a empresa terá os dados de identificação e pagamento dos usuários que utilizam essa função.
O primeiro-ministro britânico, Sir Keir Starmer, qualificou a situação como “desgraçada” e “repugnante”, exigindo que a plataforma tome medidas eficazes para evitar a disseminação de conteúdo ilegal. Em uma entrevista, ele afirmou que o governo apoia totalmente a Ofcom, o regulador de comunicações do Reino Unido, em suas ações contra o X.
“É ilegal. Não vamos tolerar isso. Pedi que todas as opções estejam sobre a mesa”, disse Starmer, enfatizando a necessidade de uma resposta robusta à questão.
Na última semana, Elon Musk anunciou uma nova versão do Grok, incentivando os usuários a atualizarem seus aplicativos, embora não tenha especificado quais mudanças foram implementadas. O bilionário reiterou que quem usar Grok para criar conteúdo ilegal enfrentará as mesmas consequências que aqueles que postam conteúdo ilegal.
A plataforma X afirmou que toma medidas contra conteúdo ilegal, incluindo a remoção de materiais de abuso sexual infantil e a suspensão permanente de contas envolvidas. Contudo, a pressão pública continua a crescer, especialmente entre mulheres que relataram terem sido alvo de imagens geradas pela IA sem seu consentimento.
Dr. Daisy Dixon, usuária da plataforma, expressou apoio à mudança, mas destacou que isso é apenas uma solução temporária. “Grok precisa ser totalmente redesenhado e ter salvaguardas éticas integradas para evitar que isso aconteça novamente”, comentou.
A especialista em regulação legal da pornografia e violência sexual, professora Clare McGlynn, criticou a abordagem de Musk, afirmando que a restrição de acesso apenas a assinantes pagos não resolve o problema subjacente. “Em vez de tomar medidas responsáveis para garantir que Grok não possa ser usado para fins abusivos, ele retirou o acesso da grande maioria dos usuários”, disse.
A situação atual levanta preocupações sobre a responsabilidade das plataformas digitais em moderar o conteúdo gerado por inteligência artificial, especialmente em relação à proteção de indivíduos vulneráveis.
O governo britânico, por meio de fontes oficiais, reiterou que espera que a Ofcom utilize todos os poderes disponíveis para lidar com as questões relacionadas ao Grok e à plataforma X, enfatizando a necessidade de ações concretas para prevenir abusos futuros.
Veja também: