El gobierno canadiense exige respuestas tras conocer que la empresa responsable de ChatGPT canceló en junio la cuenta de Jesse Van Rootselaar por publicaciones preocupantes, pero nunca notificó a las autoridades. La joven de 18 años asesinó a ocho personas en febrero antes de suicidarse.
Ottawa — La inteligencia artificial se enfrenta a su examen más incómodo: ¿hasta qué punto debe cooperar con las autoridades cuando detecta señales de violencia inminente? El gobierno canadiense ha citado a OpenAI para una reunión de urgencia este martes en Ottawa, después de que se revelara que la compañía canceló la cuenta de la autora de la masacre de Tumbler Ridge sin alertar a la policía.
El ministro canadiense de Inteligencia Artificial, Evan Solomon, confirmó este lunes que se reunirá "con los responsables del equipo de seguridad" de la empresa tras conocer "informaciones muy inquietantes" publicadas por The Wall Street Journal. Según el rotativo, OpenAI detectó en junio pasado publicaciones preocupantes en la cuenta de Jesse Van Rootselaar —incluidas referencias a ataques con armas— y procedió a cancelarla, pero no comunicó el hallazgo a las autoridades.
Una masacre anunciada (en silencio)
El pasado 10 de febrero, Van Rootselaar, de 18 años, irrumpió en una escuela de la localidad de Tumbler Ridge y asesinó a seis personas: cinco niños de 12 y 13 años y una profesora. Antes de llegar al centro educativo, la joven había matado a tiros a su madre y a su hermano en su propia vivienda. Finalmente, se quitó la vida.
La tragedia, que ha conmocionado a Canadá, adquiere ahora una dimensión inquietante: los algoritmos de OpenAI ya habían identificado a la autora como un riesgo potencial, pero la información quedó atrapada en los servidores de la compañía, sin que ningún agente humano —policial o de inteligencia— pudiera intervenir.
La defensa de OpenAI y la indignación oficial
La empresa responsable de ChatGPT ha justificado su actuación alegando que las publicaciones de Van Rootselaar "no fueron lo suficientemente graves como para avisar a la Policía". Un criterio que, a ojos del gobierno canadiense, resulta cuando menos discutible.
"Nada más conocer la revelación del Wall Street Journal, contacté de forma inmediata con OpenAI para obtener una explicación", explicó Solomon en declaraciones a la prensa. "El domingo por la mañana, mi equipo se reunió con miembros de OpenAI, y he convocado a los responsables del equipo de seguridad en EE.UU. para que vengan a Ottawa".
El ministro fue claro sobre el objetivo del encuentro: "Queremos que expliquen sus protocolos de seguridad y los casos en los que avisan a la policía. Necesitamos entender mejor qué sucedió y qué hacen realmente".
Regulación sobre la mesa
Solomon advirtió que "todas las opciones están sobre la mesa", incluida la posibilidad de regular los chatbots de inteligencia artificial como ChatGPT. La reunión con OpenAI se produce en un momento clave, mientras el gobierno canadiense ultima una legislación integral sobre privacidad, datos personales e inteligencia artificial.
"Estamos trabajando para asegurar que tenemos una serie de medidas que protegen a los canadienses. Y esa serie de medidas será exhaustiva para garantizar que los canadienses están seguros, especialmente los menores", concluyó el ministro.
El caso de Tumbler Ridge abre un debate espinoso: ¿deben las empresas tecnológicas actuar como vigilantes silenciosos o están obligadas a compartir sus alertas con las autoridades? Mientras Canadá busca respuestas, la sombra de una masacre que pudo ser evitada planea sobre la reunión de Ottawa.
