O impulso da regulamentação: quando a IA cumpre a lei
Bem, acontece que o mundo da IA não se trata apenas de criar memes virais e músicas no estilo de Bad Bunny. Em um movimento que ninguém previu (ou previu, porque estamos em 2024 e tudo está um caos), os procuradores-gerais da Califórnia e Delaware divulgaram uma carta à OpenAI que basicamente diz: “Ei, precisamos conversar. É sério.” E não, não foi daquela vez que o ChatGPT deu a eles uma receita de pão de banana que acabou sendo um desastre total. Trata-se de preocupações legítimas sobre a segurança do seu chatbot estrela, especialmente para adolescentes e crianças que, sejamos honestos, são aqueles que passam mais tempo online fazendo perguntas estranhas.
Esses dois funcionários, Rob Bonta, da Califórnia, e Kathleen Jennings, de Delaware, não são qualquer pessoa com uma reclamação no Twitter. Eles têm poderes únicos para mexer com organizações sem fins lucrativos como a OpenAI, e cara, eles demoraram. Eles passaram meses revisando os planos de reestruturação da empresa, basicamente como aqueles amigos que verificam seu Tinder para “ter certeza de que você não está enviando mensagens terríveis”. O seu objetivo declarado era garantir uma supervisão rigorosa da missão de segurança da OpenAI. Parece bom, certo? Até que tudo ficou mais escuro que o modo escuro do Instagram às 3 da manhã.
O aviso formal: além dos memes
A carta não mede palavras. Ele fala de “relatórios profundamente preocupantes” de interações perigosas entre chatbots e seus usuários. E é aqui que as coisas ficam pesadas: eles mencionam a “dolorosa morte por suicídio de um jovem californiano” depois de ter interações prolongadas com um chatbot OpenAI, e um caso igualmente perturbador de assassinato-suicídio em Connecticut. A conclusão é brutal: “Quaisquer que fossem as salvaguardas em vigor, não funcionaram”. Um golpe baixo que repercute em toda a indústria de inteligência artificial.
Os pais do menino de 16 anos, que morreu em abril, já processaram a OpenAI e seu CEO, Sam Altman, no mês passado. Até sexta-feira, a empresa não havia respondido aos pedidos de comentários. Algo que, cá entre nós, não parece bom para a sua equipa de relações públicas. É como transformar alguém em fantasma, mas com consequências legais de nível apocalíptico.
A OpenAI, que foi fundada como uma sem fins lucrativos com uma missão focada em segurança, procurava transferir mais controle para seu braço com fins lucrativos. Basicamente, o clássico “Quero manter a minha essência mas também ganhar dinheiro”. Mas abandonaram esses planos em Maio, após discussões com os escritórios de Bonta e Jennings e outros grupos sem fins lucrativos. Agora procuram uma “recapitalização“, onde o seu braço com fins lucrativos se torna uma corporação de utilidade pública. Parece extravagante, mas na prática significa que terão de equilibrar os interesses dos accionistas com a sua missão original. Spoiler: não é fácil.
Bonta e Jennings, ambos democratas, têm poderes de supervisão sobre essas mudanças porque a OpenAI está incorporada em Delaware e opera na Califórnia. Vamos, eles têm a chave do castelo. E a sua mensagem é clara: “As mortes recentes são inaceitáveis”. Eles escreveram que esses eventos “abalaram, com razão, a confiança do público americano na OpenAI e nesta indústria”. E concluíram que garantir a implantação segura da IA é um mandato da missão de caridade da OpenAI e que será “exigido e aplicado” pelos seus escritórios. Tradução: se não fizerem certo, haverá consequências.
O contexto mais amplo: não é apenas OpenAI
Esta carta não chega no vácuo. Na semana passada, um grupo bipartidário de 44 procuradores-gerais alertou a OpenAI e outras empresas de tecnologia sobre “sérias preocupações” em relação à segurança das crianças que interagem com chatbots de IA. Segundo eles, esses sistemas podem responder com “conversas sexualmente sugestivas e comportamento emocionalmente manipulador”. Algo que claramente não está na descrição ideal do trabalho de um assistente virtual.
Eles destacaram especificamente o Meta (a casa do Facebook, Instagram e WhatsApp) para chatbots que supostamente praticavam flertes e “representações românticas” com crianças. Eles disseram estar alarmados com o fato de esses chatbots “se envolverem em condutas que parecem ser proibidas por nossas respectivas leis criminais”. A Meta não quis comentar, mas recentemente implementou novos controles para evitar que seus chatbots conversem com adolescentes sobre automutilação, suicídio, distúrbios alimentares e conversas românticas inadequadas. Em vez disso, eles os direcionam para recursos especializados. Um passo na direção certa, mas talvez um pouco tarde para alguns.
Os procuradores-gerais foram claros: as empresas serão responsáveis pelos danos infligidos às crianças. E observaram que, no passado, os reguladores não agiram rapidamente para responder aos danos causados pelas novas tecnologias. Mas isso está mudando. A carta de 25 de agosto deixa claro: “Se você prejudicar crianças conscientemente, responderá por isso.” Uma mensagem que ressoa como um lembrete de que a inovação não pode ocorrer às custas da segurança básica.
Num mundo onde a IA está cada vez mais integrada nas nossas vidas quotidianas, desde a educação ao entretenimento, este aviso marca um ponto de viragem. Não se trata mais apenas de quão inteligente é a tecnologia, mas de quão segura ela é para os mais vulneráveis. E isso, queridos leitores, é algo que todos devemos ficar de olho.
Você está preocupado com o futuro da IA e seu impacto na sociedade? Compartilhe este artigo em suas redes sociais para conscientizar e explorar mais conteúdo sobre tecnologia e regulação digital em nosso site. A conversa está apenas começando.
