Nueva Orleans se convirtió en la primera gran ciudad de Estados Unidos en permitir que un sistema de inteligencia artificial intervenga directamente en la atención de llamadas al 911. La nueva tecnología busca organizar las emergencias y determinar cuáles necesitan pasar inmediatamente a un operador humano, mientras que otras llamadas pueden ser gestionadas por el propio sistema.El sistema, denominado AI Emergency Call Triage, comenzó a utilizarse a finales de julio en Nueva Orleans, después de haber sido probado anteriormente en la línea 311 de la ciudad. El distrito de comunicaciones de Orleans Parish recibe más de 1,000 llamadas de emergencia al día, una de las cifras más altas del país según el diario The Shreveport Times.La herramienta analiza las llamadas para establecer cuáles deben recibir atención prioritaria de los operadores. Asimismo, puede encargarse de llamadas repetidas o consideradas de menor prioridad, con el objetivo de evitar que los despachadores humanos se vean saturados cuando existe una gran cantidad de solicitudes.Las autoridades aseguran que la IA no reemplazará a los operadoresKarl Fasold, director ejecutivo del Orleans Parish Communication District, rechazó la idea de que la tecnología vaya a sustituir a los trabajadores del 911. Según explicó a la cadena WWL-TV, el sistema se utilizará principalmente cuando la persona que llama se encuentre aproximadamente a 200 metros de un accidente que ya haya sido reportado y todos los operadores humanos estén ocupados.Aun así, la implementación vien generando preocupación entre personas vinculadas con la atención de emergencias. Un crítico identificado en internet como Boxy, quien afirmó haber trabajado como socorrista, criticó duramente la decisión: “Fui operador del 911 durante 11 años y esta es la peor idea que se les podría haber ocurrido”.El sistema busca identificar las emergencias que necesitan atención humana y gestionar llamadas consideradas de menor prioridad. (Foto referencial: Freepik) Los críticos temen que la IA no pueda entender situaciones complejasUna de las principales preocupaciones está relacionada con la capacidad de la inteligencia artificial para interpretar situaciones en las que la persona que llama no puede hablar con claridad o utiliza expresiones indirectas para pedir ayuda. Boxy puso como ejemplo casos de violencia doméstica en los que una víctima podría intentar ocultar que está en peligro.“Hay situaciones en las que la persona no puede hablar bien [o tiene acentos marcados] —o si está en una situación de violencia doméstica y finge llamar para pedir una pizza o algo así—, hay que ser capaz de determinar cómo se siente alguien o captar lo que no está diciendo”, explicó.Después, el crítico fue tajante sobre la necesidad de mantener la intervención humana: “Necesitas una persona”.Nueva Orleans no es la única ciudad que usa IAAunque Nueva Orleans parece ser el primer gran municipio del país que permite que una inteligencia artificial responda directamente llamadas de emergencia, otras ciudades ya utilizan esta tecnología de diferentes maneras. Según CBS News, Atlanta emplea IA para ayudar a los operadores a localizar más rápidamente a las personas que realizan las llamadas.Seattle también comenzó a utilizar una herramienta similar en 2024 para ayudar a sus despachadores a determinar qué llamadas médicas requieren una respuesta rápida. Una investigación del Seattle Times señaló que el sistema estuvo funcionando durante más de dos años sin que el público fuera informado de su utilización.Críticos advierten sobre posibles errores, problemas de comprensión, ataques informáticos y consecuencias graves en situaciones de emergencia. (Foto referencial: Freepik) Los errores de la IA generan dudasLa precisión de los sistemas de inteligencia artificial, especialmente cuando interactúan mediante voz, es otro de los puntos que preocupa a los críticos. Un estudio citado en un reporte de Newsguard encontró que herramientas como ChatGPT y Gemini generaron información falsa en casi la mitad de las pruebas analizadas, aunque las respuestas de audio podían sonar convincentes.El problema puede ser todavía mayor durante una llamada al 911, donde las personas suelen estar asustadas, alteradas o tener dificultades para explicar lo que ocurre. Para los críticos, esas circunstancias aumentan la posibilidad de que una IA interprete mal una situación y clasifique una emergencia de manera incorrecta.También existen riesgos de ciberseguridadLa seguridad informática representa otro problema. Investigadores de la Universidad de Zhejiang, en China, demostraron que algunos modelos de voz pueden ser manipulados desde el exterior. En sus pruebas, los ataques consiguieron modificar el comportamiento de los sistemas con tasas de éxito que llegaron hasta el 96%.A pesar de estas advertencias, las autoridades de Nueva Orleans consideran que el sistema puede funcionar si cuenta con supervisión humana, datos adecuados para su entrenamiento, medidas sólidas de ciberseguridad y una regulación apropiada. La discusión ahora se basa en si los beneficios de utilizar IA para aliviar la carga del 911 compensan los riesgos que puede representar cuando hay una emergencia real de por medio.