La policía recurre a un incentivo de inteligencia artificial, con algoritmos que ahora pueden generar informes policiales en minutos. La tecnología promete informar a la policía y generar informes más completos y precisos, además de ahorrar tiempo a los empleados.
La idea es simple: descargar la transcripción de audio de la cámara corporal que lleva las posibilidades textuales predictivas de grandes modelos de lenguaje para escribir un informe policial formal que podría convertirse en la base de un proceso penal. Como espejo de otros campos que permitieron que sistemas similares al Chatggpt estén escritos en nombre de las personas, la policía ahora puede obtener ayuda para automatizar una gran cantidad de trámites terribles.
El problema es que, en lugar de escribir el primer borrador de su trabajo en inglés en inglés, este documento puede determinar la libertad de alguien en los tribunales. El error, omisión o alucinación puede poner en riesgo la integridad de la Fiscalía o, peor aún, justificar un arresto falso. Si bien los agentes de policía no deben estar firmados en la versión final, la mayor parte del texto, la estructura y el formato fueron generados.
¿Quién es o qué lo escribió?
Hasta octubre de 2025, solo era necesario Utah para que la policía admitiera siquiera que utilizaban un asistente de IA para desarrollar sus informes. El 10 de octubre, esto cambió cuando California se convirtió en otro estado para exigir un aviso transparente de que se utilizaba IA para realizar informes policiales.
La ley es un importante punto de inflexión en la regulación de la IA en la policía, pero su aprobación también significa que la IA se convertirá en la parte principal del sistema de justicia penal.
Si se encuentra tras las rejas basándose en un informe policial, es posible que tenga algunas preguntas. La primera pregunta que ahora se responde a Yute y California es "¿Ai escribe esto?" La transparencia básica con la que el algoritmo ayudó a redactar el informe de arresto, tal vez mínima, podría minimizarse antes de encerrar a alguien. Y, aunque las tecnologías policiales líderes como Akson recomiendan tal exención de responsabilidad para incluirse en sus informes, no son necesarias.
El autor explica los problemas de los informes policiales descritos por la IA en una entrevista en el podcast "CONN Terms of Service. Muchas preguntas
La transparencia es sólo el primer paso. Comprender el riesgo de depender de la IA para los informes policiales es otra.
Se crean problemas tecnológicos sobre cómo se entrenan los modelos y, posiblemente, sesgados se basan en la dependencia de los informes de la policía anterior. Los problemas de transcripción surgen por errores, omisiones y paradas incorrectas, porque la policía deja de tener lugar en contextos caóticos, ruidosos y a menudo emocionales en pleno crecimiento del lenguaje.
Finalmente, aparecen juicios sobre cómo un abogado necesita interrogar un documento generado por IA o si los registros de auditoría deben mantenerse para un análisis profesional o convertirse en defensa.
Riesgos y consecuencias
La importancia de la Ley de California no es sólo concienciar al público sobre el riesgo de IA, sino que California acepte el riesgo de IA en la policía. Creo que la gente probablemente perderá libertad basándose en un documento que ha generado en gran medida IA y sin problemas difíciles para respuestas satisfactorias.
Peor aún, en un sistema jurídico penal, que se basa en la negociación de culpables en más del 95% de los casos y delitos menores, puede que nunca exista la oportunidad de comprobar si el informe captó la escena con precisión. De hecho, en muchos casos de nivel inferior, el informe policial será la base para presentar decisiones, detenciones, propuestas, ventajas, quejas sobre el reconocimiento de penas, sanciones e incluso animaciones probatorias.
Creo que el sistema legal penal que depende en gran medida de los informes policiales garantiza que los departamentos de policía acepten no sólo la transparencia sino también la justicia. Mínimo, esto significa que más estados, después de Utah y California, adoptarán leyes que regulen la tecnología y los departamentos de policía según las mejores prácticas recomendadas por las empresas tecnológicas.
Pero incluso eso puede no ser suficiente sin evaluaciones críticas de los tribunales, expertos legales y abogados defensores. El futuro y la policía apenas comienzan, pero los riesgos ya están aquí.
.webp)
0 Comentarios