La provincia canadiense de Columbia Británica anunció que llevará a los tribunales a OpenAI, empresa desarrolladora de ChatGPT, al considerar que no informó a las autoridades sobre una serie de consultas relacionadas con violencia realizadas por la persona señalada como responsable de un tiroteo escolar que dejó ocho fallecidos.
El anuncio fue realizado por la fiscal general de la provincia, Niki Sharma, quien explicó que el gobierno provincial busca determinar si la compañía tenía alguna responsabilidad legal tras detectar actividad que, según las investigaciones, generó preocupaciones antes del ataque ocurrido en la comunidad de Tumbler Ridge, en el noreste de Canadá.
De acuerdo con Sharma, la acción judicial pretende establecer si OpenAI debió notificar a los cuerpos policiales luego de identificar consultas potencialmente peligrosas realizadas a través de ChatGPT.
«La provincia está preparando acciones legales para responsabilizar a la empresa y a quienes toman sus decisiones por su fracaso para notificar a las fuerzas del orden sobre las solicitudes violentas realizadas en su plataforma antes de la tragedia», señaló la funcionaria durante una conferencia de prensa.
Las investigaciones identificaron como responsable del ataque a Jesse Van Rootselaar, una persona de 18 años. Tras el hecho, trascendió que OpenAI había suspendido una cuenta presuntamente vinculada con esa persona en junio de 2025, varios meses antes del tiroteo.
Según explicó la empresa, la cuenta fue bloqueada después de detectar un uso que podía estar relacionado con contenido violento o incompatible con sus políticas. No obstante, sostuvo que la información disponible en ese momento no permitía concluir que existiera un plan específico o un riesgo inminente que justificara una denuncia a las autoridades.
Esa explicación ha abierto un intenso debate sobre el papel que deben desempeñar las compañías de inteligencia artificial cuando identifican comportamientos potencialmente peligrosos en sus plataformas.
El caso pone sobre la mesa una discusión cada vez más relevante para gobiernos, especialistas en tecnología y juristas: hasta qué punto las empresas deben proteger la privacidad de las conversaciones de sus usuarios y en qué circunstancias esa confidencialidad podría ceder ante la necesidad de prevenir un posible acto de violencia.
Tras conocerse el caso, OpenAI indicó que revisó y fortaleció sus protocolos internos para mejorar la forma en que responde a señales de riesgo detectadas mediante sus sistemas.
La empresa reiteró además que mantiene una política de «tolerancia cero» frente al uso de sus herramientas para facilitar actos violentos y aseguró que continúa desarrollando mecanismos para identificar y limitar ese tipo de conductas.
La controversia surge en un momento en que la regulación de la inteligencia artificial gana fuerza en Norteamérica. Tanto en Canadá como en Estados Unidos han aumentado las iniciativas legislativas orientadas a exigir mayores estándares de transparencia, supervisión y rendición de cuentas a las compañías que desarrollan modelos avanzados de IA.
Expertos en derecho y tecnología consideran que el proceso judicial podría convertirse en un caso de referencia para definir el alcance de las obligaciones legales de las empresas de inteligencia artificial frente a posibles amenazas detectadas en sus plataformas.
El resultado del litigio podría influir en futuras regulaciones sobre el uso de sistemas de IA, especialmente en lo relacionado con el equilibrio entre la protección de la privacidad de los usuarios, la seguridad pública y la prevención de hechos violentos.
