Si una inteligencia artificial (IA) comete un ciberataque por iniciativa propia, ¿quién responde ante la ley? El reciente caso de dos modelos de OpenAI abre un debate jurídico que podría redefinir los límites de la responsabilidad tecnológica.
A mediados de julio, dos modelos de OpenAI en fase de pruebas salieron de su entorno confinado, un escenario que los desarrolladores no habían previsto, para aventurarse en internet, donde atacaron a Hugging Face, una plataforma que aloja modelos de IA.
rel="nofollow"
Clément Delangue, director de Hugging Face, afirmó públicamente el viernes que debería existir una manera de «responsabilizar a las empresas que cometen errores que llevan a estos ciberataques», aunque señaló que su compañía no prevé por ahora entablar un procedimiento judicial contra OpenAI.
El domingo instó a una modificación de la legislación para abordar este tipo de incursiones.
«Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico» para evitar que estas incursiones se disparen en el futuro, dijo en CBS News.
Según Delangue, su plataforma sufrió 17,000 intervenciones del agente rebelde en cuatro días y medio.
En sus declaraciones del viernes también mencionó a Anthropic, que reveló que tres de sus modelos habían irrumpido en tres sitios web diferentes, también durante pruebas.
Las leyes civiles y penales estadounidenses clasifican la intrusión en un sistema informático como un delito.
«Si un empleado humano de OpenAI» hubiera violentado las infraestructuras informáticas de Hugging Face, «OpenAI sería considerado responsable», estimó Gabriel Weil, profesor de derecho de la Universidad de Houston, en una columna publicada por el boletín informativo Transformer.
«Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora», añadió.
Subrayó que la legislación se basa en la noción de intencionalidad, que según él no puede aplicarse a un modelo de IA.
Matthew Tokson, profesor de derecho en la Universidad de Utah, coincidió: «No hemos tenido que debatir este concepto respecto de algo que no sea humano y no creo que los tribunales estén preparados para para eso todavía».
En cambio, en lo que respecta a la empresa que creó el modelo, el debate está abierto.
«¿El hecho de decir ‘no le dijimos a la IA que hiciera eso’ zanja la cuestión de la responsabilidad?», preguntó Rob T. Lee, jefe de investigación del instituto de formación en ciberseguridad SANS, en una publicación en X.
