Experimento de IA en la Seguridad Social: Peligros y Trampas de la Automatización
La integración de la IA en agencias gubernamentales, particularmente aquellas que manejan la seguridad social, se está abordando con creciente escrutinio. El afán por modernizar y automatizar los procesos, liderado por entidades como DOGE de Elon Musk, plantea preocupaciones significativas sobre la eficiencia, la precisión y el potencial desplazamiento de la supervisión humana.
La Promesa y el Peligro de la Automatización
La Administración del Seguro Social (SSA) introdujo recientemente un bot estilo ChatGPT, "Agency Support Companion", destinado a ayudar a los empleados con las tareas diarias e impulsar la productividad. Sin embargo, los informes iniciales sugieren un rendimiento menos que estelar. Las fuentes indican una adopción mínima y preocupaciones sobre la precisión y la utilidad del bot. Un video de capacitación mal ejecutado, que no advierte sobre la carga de información personal confidencial, socavó aún más la credibilidad de la iniciativa.
Fallos en la Automatización: Lecciones de Brasil
Las experiencias en otros países, como Brasil, destacan los posibles peligros de la dependencia excesiva de sistemas automatizados en los servicios sociales. La aplicación "Meu INSS" de Brasil, diseñada para agilizar las solicitudes de seguridad social, utiliza visión artificial y procesamiento del lenguaje natural para analizar documentos. A pesar de su intención de reducir la burocracia, la aplicación rechaza con frecuencia solicitudes legítimas debido a errores menores, lo que lleva a largas batallas legales y dificultades para los solicitantes. El caso de Josélia de Brito, una ex trabajadora de la caña de azúcar identificada incorrectamente como hombre por el sistema, ejemplifica las fallas de la aplicación y las consecuencias reales para las poblaciones vulnerables.
Automatización que lleva al desastre
La estrategia de DOGE, caracterizada por una rápida reducción de la fuerza laboral federal y un enfoque de "IA primero", ya ha provocado problemas importantes en la SSA. Un incidente reciente en el que numerosos beneficiarios vivos fueron marcados erróneamente como "muertos" y se les cortaron sus beneficios subraya el potencial de caos y disfunción. Los planes para reescribir el código de la SSA utilizando IA a un ritmo acelerado aumentan aún más las preocupaciones sobre la calidad y la confiabilidad del sistema resultante. Teniendo en cuenta los errores cometidos, una reescritura automatizada del código de la SSA podría ser un desastre.
¿Una Desestabilización Deliberada?
Algunos críticos argumentan que el impulso a la automatización no se trata de mejorar la SSA, sino de desestabilizarla en preparación para la privatización. Si este es el caso, los problemas actuales que aquejan a la agencia pueden ser pasos intencionales hacia ese objetivo.
El impulso a la automatización dentro de las agencias gubernamentales es un tema complejo con el riesgo de errores. Si bien la tecnología ofrece el potencial de mejorar la eficiencia y reducir la burocracia, la implementación cuidadosa, la supervisión humana y el enfoque en la precisión son esenciales para evitar consecuencias no deseadas y garantizar resultados equitativos para todos los ciudadanos.
Fuente: Gizmodo