Usar IA para preparar y evaluar evaluaciones ambientales conlleva riesgos de fallos al estilo ‘robodebt’, dicen los científicos

Conservacionistas y científicos han advertido sobre una propuesta de un grupo de presión minero para utilizar inteligencia artificial para acelerar las aprobaciones ambientales nacionales que podría generar “fallos al estilo Robodebt”, poniendo a las especies amenazadas en mayor riesgo.
El Minerales Council of Australia ha pedido al gobierno que invierta 13 millones de dólares para probar el uso de la IA para ayudar a las empresas a preparar solicitudes y ayudar al gobierno federal a tomar decisiones.
Pero el Biodiversity Council, un grupo de expertos independientes en 11 universidades, le dijo a Guardian Australia que, si bien la IA podría desempeñar un papel en tareas sencillas, automatizar las evaluaciones ambientales “podría conducir a un fallo al estilo Robodebt, donde las computadoras toman decisiones erróneas sin transparencia”, lo que podría, en última instancia, empujar a las especies más cerca de la extinción.
Robodebt se refiere al esquema automatizado de recuperación de deudas que, entre 2015 y 2019, acusó erróneamente a cientos de miles de beneficiarios de prestaciones sociales de sobrepagos.
Lis Ashby, la responsable de política e innovación del Biodiversity Council, dijo que la ley ambiental fundamental del país – la Environment Protection and Biodiversity Conservation Act – está “llena de lenguaje vago y amplia discrecionalidad ministerial”.
“Las reglas vagas añaden a la longitud actual de los procesos de evaluación, porque obstaculizan la toma de decisiones basada en reglas por parte de los evaluadores humanos. La falta de reglas claras será aún más problemática para una herramienta de IA”, dijo.
“Establecer reglas claras en los National Environmental Standards, incluyendo definir lo que es inaceptable, aceleraría los tiempos de evaluación, incluso sin la ayuda de la IA, y es importante para cualquier futura adopción de la IA”.
Brendan Sydes, el asesor de política de biodiversidad nacional de la Australian Conservation Foundation, dijo que la organización era “escéptica” ante la presión del Minerales Council.
“Claramente la tecnología tiene un papel que desempeñar para garantizar que las leyes de protección de la naturaleza proporcionen resultados de protección de la naturaleza de la manera más eficiente posible. Pero mientras que la IA podría ser un buen sirviente, es un mal amo”, dijo.
Dijo que el gobierno federal debería centrarse en cubrir las existentes lagunas de datos sobre especies y hábitats amenazados.
Prof David Lindenmayer, ecólogo forestal en la Australian National University y miembro del Biodiversity Council, dijo que la investigación había demostrado que un tercio de las especies amenazadas de Australia no se han monitoreado, mientras que otras solo tenían datos dispersos.
Los evaluadores superaban estas lagunas consultando expertos, dijo.
“Las decisiones de IA solo son tan buenas como los datos en los que se basan, y los buenos datos no están disponibles públicamente para la mayoría de las especies amenazadas de Australia, a menudo ni siquiera datos básicos de ubicación”, dijo.
“La automatización de la IA corre el riesgo de tomar decisiones basadas en información defectuosa o desactualizada, sin proteger la biodiversidad”.
El gobierno de Albanese aprobó reformas en las leyes ambientales el año pasado después de que una revisión de 2020 encontró que no estaban protegiendo a las especies y los hábitats.
Prof Hugh Possingham, biólogo de conservación líder en la University of Queensland, dijo: “Las herramientas de IA generalmente necesitan que se les proporcione material para entrenar.
“Los últimos 20 años de aprobaciones del EPBC Act son claramente un material inadecuado, ya que la Ley ha fracasado demostrablemente en la protección del medio ambiente”.
Para acelerar las evaluaciones, dijo que el gobierno debería estar empleando más personas para llevarlas a cabo.
La directora ejecutiva del Minerales Council, Tania Constable, dijo que las comparaciones con Robodebt eran “decepcionantes” y que la propuesta era innovadora y podría fortalecer la protección del medio ambiente al mejorar la eficiencia.
Dijo: “El enfoque propuesto apoyaría la toma de decisiones humana con herramientas de IA para tanto el regulador como para el promotor del proyecto, incluyendo ayudar a navegar la complejidad y la variabilidad de las evaluaciones y aprobaciones bajo la EPBC Act”.
Un portavoz del gobierno federal dijo que las decisiones presupuestarias se tomarían “en el debido momento” pero que el departamento del medio ambiente estaba considerando cómo la IA podría hacer que las solicitudes fueran más fáciles.
“Las decisiones sobre si se aprueban o no los proyectos deben, y lo harán, siempre ser tomadas por los oficiales de evaluación, no por la IA”, dijo una declaración.
Las herramientas de IA tenían el potencial de ahorrar tiempo, reducir la incertidumbre y traducir el lenguaje técnico, añadió el portavoz.