El gran desafío es “construir un modelo en el que la innovación tecnológica se alinee con los valores fundamentales que el Derecho Internacional busca proteger”.La prevención debe convertirse en el centro de la gobernanza de la inteligencia artificial militar, incluyendo elementos tales como: la evaluación jurídica, evaluación técnica, pruebas, auditorías, supervisión, documentación, mecanismos de interrupción, y revisión periódica.
Durante su participación en el Congreso Internacional de Derechos Humanos y Derecho Internacional Humanitario la Ministra Loretta Ortiz Ahlf sostuvo que la evolución de la inteligencia artificial en el ámbito militar e internacional de los últimos años muestra que existe una necesidad progresiva de regulación la cual, dijo, “no debe centrarse únicamente en qué puede hacer la tecnología sino en qué debe permitir el Derecho”.
“Estamos en un momento crucial en el que no basta con reconocer que la inteligencia artificial plantea riesgos, tenemos que decidir cuáles son aceptables y cuáles no. Ya no basta con decir que debe existir control humano, es momento de definir qué significa. No basta con afirmar que habrá responsabilidad, sino que se debe garantizar que las personas correspondientes sean sancionadas. Y ya no basta con decir que el Derecho Internacional se aplica, tenemos que construir mecanismos para demostrar que efectivamente se cumple”, señaló.
Asimismo, advirtió que el verdadero desafío no es elegir entre innovación y regulación o escoger entre tecnología y derechos humanos si no “construir un modelo en el que la innovación tecnológica se alinee con los valores fundamentales que el Derecho Internacional busca proteger” pues el valor de la vida humana “nunca será negociable”.
“No se puede convertir a una persona en un dato, ni la dignidad en una variable ni mucho menos convertir la responsabilidad en un algoritmo. La tecnología no puede convertirse en una zona de impunidad”, agregó.
Loretta Ortiz explicó que, en el ámbito de los conflictos armados la inteligencia artificial no sólo está modificando las herramientas con las que se desarrollan sino también la estructura de la toma de decisiones. Lo que, en su opinión, es la cuestión que se debe analizar con mayor detenimiento.
“El problema no es únicamente que existan nuevas armas, sino que la decisión humana puede comenzar a reducirse, fragmentarse o quedar mediada por sistemas cuyo funcionamiento puede ser difícil de comprender, predecir o controlar y es ahí donde el Derecho Internacional juega un papel importante pues sus normas deben seguir siendo efectivas aun cuando la tecnología incremente su velocidad y complejidad. La aplicación del Derecho no comienza cuando una máquina utiliza la fuerza, comienza desde mucho antes, desde su desarrollo”.
De igual forma, la Ministra Ortiz Ahlf aseguró que la prevención debe convertirse en el centro de la gobernanza de la inteligencia artificial militar, incluyendo elementos tales como: la evaluación jurídica, evaluación técnica, pruebas, auditorías, supervisión, documentación, mecanismos de interrupción, y revisión periódica.
Finalmente, agradeció a la Red Internacional de Derechos Humanos y Derecho Internacional Humanitario y a su presidente, José Trinidad Padilla López, por la invitación para participar en esta edición del Congreso Internacional de Derechos Humanos y Derecho Internacional Humanitario.
