O silêncio da máquina que custou vidas
As famílias das vítimas do tiroteio na escola em Tumbler Ridge, nas Montanhas Rochosas canadenses, levaram a OpenAI aos tribunais federais dos EUA. A acusação é simples, mas devastadora: o criador do ChatGPT sabia que o atirador planejava violência e não avisou a polícia.
Maya Gebala, 12 anos, sobreviveu com ferimentos graves. O processo, aberto na quarta-feira, é apenas o primeiro de uma dúzia que as famílias estão planejando. Alegam morte por negligência e produto com defeito.
“As decisões tomadas pela OpenAI e Sam Altman destruíram a cidade”, disse o advogado Jay Edelson. “As pessoas são resilientes, mas isso é inimaginável.”
Altman pediu desculpas na semana passada em uma carta à comunidade. Mas para as famílias, as palavras chegam tarde.
O que aconteceu
Em 10 de fevereiro, o agressor matou a mãe e o meio-irmão em casa e depois abriu fogo na escola. Cinco crianças, um trabalhador educacional morto. 25 feridos. O tiroteio em massa mais mortal do Canadá em anos.
A OpenAI sabia desde junho passado que o relato do atirador falava de violência contra outras pessoas. A empresa baniu a conta, mas não ligou para a Polícia Montada Real Canadense. Eles disseram que “não atingiu o limite”.
“As vítimas não descobriram porque a OpenAI era transparente, mas porque seus próprios funcionários vazaram as informações para o The Wall Street Journal”, alega o processo.
O padrão que preocupa
Edelson, advogado que já enfrenta casos semelhantes – incluindo o de uma adolescente que cometeu suicídio após falar com o ChatGPT e o de uma mulher de 83 anos assassinada pelo filho – argumenta que esta não é uma tecnologia passiva.
“Em pessoas com doenças mentais, o chatbot valida o que dizem e amplifica-o”, explicou.
A OpenAI respondeu com uma declaração: “Temos uma política de tolerância zero em relação ao uso de nossas ferramentas para auxiliar no cometimento de violência”. Afirmaram ter reforçado as salvaguardas, melhorando as respostas aos sinais de perigo e a detecção de reincidentes.
O custo humano
Edelson visitou Tumbler Ridge na semana passada. Ele se reuniu com famílias no porão de um centro de visitantes. Ele também atendeu Maya em um hospital infantil em Vancouver.
“Foi de partir o coração”, disse ele.
Os processos representam as famílias de Zoey Benoit, Abel Mwansa Jr., Ticaria “Tiki” Lampert, Kylie Smith (todos os 12), Ezekiel Schofield (13) e a assistente educacional Shannda Aviugana-Durand.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas de Altman como “necessário, mas totalmente insuficiente”.
O processo de Gebala pede uma ordem judicial que obrigue a OpenAI a banir usuários de contas desativadas por uso indevido e alertar as autoridades quando identificarem um “risco real de violência no mundo real”.
O caso transita entre os tribunais canadenses e norte-americanos, mas os advogados buscam centralizá-lo em São Francisco, onde a OpenAI está sediada. A questão que permanece: quantas vidas mais terão de ser perdidas antes que a indústria tecnológica leve isto a sério?
