El Pulso de la Regulación: Cuando la IA se Encuentra con la Ley
Bueno, pues resulta que el mundo de la IA no es solo sobre crear memes virales y canciones en el estilo de Bad Bunny. En una jugada que nadie se vio venir (o sí, porque es 2024 y todo es un caos), los fiscales generales de California y Delaware le soltaron una carta a OpenAI que básicamente dice: “Oigan, tenemos que hablar. Es serio”. Y no, no es sobre esa vez que ChatGPT les dio una receta para pan de plátano que terminó siendo un desastre total. Esto va de preocupaciones legítimas sobre la seguridad de su chatbot estrella, especialmente para los adolescentes y niños que, seamos honestos, son los que más tiempo pasan en línea haciendo preguntas raras.
Estos dos funcionarios, Rob Bonta de California y Kathleen Jennings de Delaware, no son cualquier persona con una queja en Twitter. Tienen poderes únicos para meterse con organizaciones sin fines de lucro como OpenAI, y vaya que se han tomado su tiempo. Dedicaron meses a revisar los planes de reestructuración de la empresa, básicamente como esos amigos que revisan tu Tinder para “asegurarse de que no mandes mensajes terribles”. Su objetivo declarado era garantizar una supervisión rigurosa de la misión de seguridad de OpenAI. Suena bien, ¿no? Hasta que todo se puso más oscuro que el modo oscuro de Instagram a las 3 a.m.
La Advertencia Formal: Más Allá de los Memes
La carta no se anda con rodeos. Habla de “informes profundamente preocupantes” de interacciones peligrosas entre los chatbots y sus usuarios. Y aquí es donde la cosa se pone heavy: mencionan la “desgarradora muerte por suicidio de un joven californiano” después de tener interacciones prolongadas con un chatbot de OpenAI, y un caso igualmente perturbador de asesinato-suicidio en Connecticut. La conclusión es brutal: “Cualesquiera que fueran las salvaguardas establecidas, no funcionaron”. Un golpe bajo que resuena en toda la industria de la inteligencia artificial.
Los padres del joven de 16 años, que falleció en abril, ya demandaron el mes pasado a OpenAI y a su CEO, Sam Altman. Hasta el viernes, la empresa no había respondido a solicitudes de comentarios. Algo que, entre nosotros, no pinta bien para su equipo de relaciones públicas. Es como ghostear a alguien pero con consecuencias legales de nivel apocalíptico.
OpenAI, que se fundó como una organización sin fines de lucro con una misión centrada en la seguridad, había estado buscando transferir más control a su rama con fines de lucro. Básicamente, el clásico “quiero mantener mi esencia pero también ganar dinero”. Pero abandonaron esos planes en mayo después de discusiones con las oficinas de Bonta y Jennings y otros grupos no lucrativos. Ahora buscan una “recapitalización“, donde su rama con fines de lucro se convierta en una corporación de beneficio público. Suena fancy, pero en práctica significa que tendrán que balancear los intereses de los accionistas con su misión original. Spoiler: no es fácil.
Bonta y Jennings, ambos demócratas, tienen poderes de supervisión sobre estos cambios porque OpenAI está incorporada en Delaware y opera desde California. Vamos, que tienen la llave del castillo. Y su mensaje es claro: “Las muertes recientes son inaceptables“. Escribieron que estos eventos “han sacudido con razón la confianza del público estadounidense en OpenAI y esta industria”. Y remataron con que asegurar el despliegue seguro de la IA es un mandato de la misión caritativa de OpenAI, y que será “exigido y aplicado” por sus oficinas. Traducción: si no lo hacen bien, habrá consecuencias.
El Contexto Más Amplio: No Es Solo OpenAI
Esta carta no llega en el vacío. La semana pasada, un grupo bipartidista de 44 fiscales generales advirtió a OpenAI y otras firmas tecnológicas sobre “graves preocupaciones” respecto a la seguridad de los niños que interactúan con chatbots de IA. Según ellos, estos sistemas pueden responder con “conversaciones sexualmente sugestivas y comportamiento emocionalmente manipulador”. Algo que, claramente, no está en la descripción de trabajo ideal de un asistente virtual.
Señalaron específicamente a Meta (la casa de Facebook, Instagram y WhatsApp) por chatbots que supuestamente participaron en coqueteos y “juegos de rol románticos” con niños. Dijeron estar alarmados de que estos chatbots “participan en conductas que parecen estar prohibidas por nuestras respectivas leyes penales”. Meta declinó comentar, pero implementó recientemente nuevos controles para evitar que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas. En su lugar, los dirigen a recursos de expertos. Un paso en la dirección correcta, pero quizás un poco tarde para algunos.
Los fiscales generales fueron claros: las empresas serán responsables de los daños infligidos a los niños. Y señalaron que, en el pasado, los organismos reguladores no actuaron rápidamente para responder a los daños causados por las nuevas tecnologías. Pero eso está cambiando. La carta del 25 de agosto lo deja claro: “Si dañas a los niños a sabiendas, responderás por ello“. Un mensaje que resuena como un recordatorio de que la innovación no puede venir a costa de la seguridad básica.
En un mundo donde la IA se integra cada vez más en nuestra vida diaria, desde la educación hasta el entretenimiento, esta advertencia marca un punto de inflexión. Ya no es solo sobre qué tan inteligente es la tecnología, sino sobre qué tan segura es para los más vulnerables. Y eso, queridos lectores, es algo que todos deberíamos estar vigilando.
¿Te preocupa el futuro de la IA y su impacto en la sociedad? Comparte este artículo en tus redes sociales para generar conciencia y explora más contenido sobre tecnología y regulación digital en nuestro sitio. La conversación apenas comienza.
