Axon, el contratista de seguridad pública que popularizó el Taser, ha lanzado un nuevo producto que es menos aterrador pero aún vagamente preocupante: un programa de software impulsado por IA que permite a los policías automatizar sus informes policiales.
Axon llama a su nuevo producto Borrador uno. Según un comunicado de prensa publicado el martes, Draft One es un “nuevo y revolucionario producto de software que redacta narrativas de informes policiales de alta calidad en segundos”. El software funciona con el potente modelo de lenguaje grande GPT-4 y supuestamente puede escribir informes mediante transcripción automática de audio. de las cámaras para el cuerpo de policía que Axon vende. Forbes fue el primero en reportar en el lanzamiento del nuevo producto.
Axon está lanzando su nuevo software como una forma de reducir el trabajo de oficina de la policía para que los policías puedan pasar más tiempo en sus comunidades. En su comunicado de prensa, la empresa enmarca los beneficios de su tecnología de la siguiente manera:
Los departamentos de policía en todo Estados Unidos carecen de personal suficiente. Si bien las agencias están enfatizando la contratación y la retención, la demanda para cubrir puestos vacantes es baja. La escasez resulta en tiempos de respuesta más largos a las llamadas de servicio y los funcionarios trabajando horas extras, lo que puede provocar agotamiento y ser costoso para los contribuyentes. En última instancia, Draft One tiene el potencial de aumentar y amplificar a los oficiales, dándoles tiempo para servir mejor a sus comunidades.
Sin embargo, algunos críticos han sido rápidos en notar que este producto, que fue diseñado para resolver problemas para la policía, podría también causar una serie de problemas para todos los demás. Forbes’ El artículo cita a Dave Maass, director de investigaciones de tecnologías de vigilancia de la Electronic Frontier Foundation, quien calificó el nuevo producto como “una especie de pesadilla”. Maass señaló que la mayoría de los policías no están capacitados en el uso de IA y, por lo tanto, es posible que no estén acostumbrados a reconocer sus debilidades. Daniel Linskey, El ex superintendente en jefe del Departamento de Policía de Boston, quien también fue entrevistado por el medio de noticias, también pidió precaución en el despliegue de la tecnología.
De manera problemática, la IA ha sido conocida “alucinar”—es decir, inventar galimatías. Al mismo tiempo, parece posible que la policía pueda, en ciertos casos, utilizar el software para eximirse de responsabilidad legal. Es decir, si algo cuestionable apareciera en un informe policial y el informe estuviera “escrito” Con el nuevo software de Axon, parece plausible que los policías puedan culpar falsamente al software por errores o imprecisiones que en realidad fueron insertados por un humano, sembrando dudas a lo largo del camino. Como tal, cualquier implementación de esta tecnología necesitaría directrices regulatorias sólidas para garantizar que no se utilice incorrectamente por los departamentos de policía.
Axon afirma en su comunicado de prensa que en el Borrador Uno se ha instituido una “serie de salvaguardias críticas” y que “cada informe [generado por el software es requerido] ser revisado y aprobado por un funcionario humano, garantizando la exactitud y responsabilidad de la información antes de los informes presentado”. Aún así, la comodidad que usted siente con esas garantías probablemente depende de cuánta confianza tenga en que los agentes de policía harán lo suyo. trabajos correctamente. Para algunos miembros del público, esa confianza es probablemente bastante baja.
Draft One aún no se ha implementado ampliamente, aunque la compañía dice que sus pruebas con agencias de aplicación de la ley han ayudado a esas agencias a ahorrar aproximadamente una hora de trabajo por día. El comunicado de prensa también cita a un sargento de policía de los Servicios de Policía de Fort Collins Colorado, quien afirma que El software le ha permitido a su agencia ver una “disminución del 82% en el tiempo dedicado a escribir informes”.
Gizmodo se puso en contacto con Axon para obtener más contexto sobre su nuevo producto y actualizará esta historia si responde.
