Agente de IA logró entrar a un portal gubernamental australiano
Australia investiga uno de los casos más llamativos relacionados con inteligencia artificial y ciberseguridad: un agente desarrollado por OpenAI obtuvo acceso no autorizado a archivos no públicos de un portal gubernamental de estadísticas de Medicare.
El incidente ocurrió el 18 de junio, cuando el agente realizaba una tarea de investigación relacionada con información pública sobre gasto en medicamentos.
Según las autoridades australianas, el sistema solicitó información al portal y, después de encontrar restricciones, consiguió superar esas barreras y acceder a archivos que no estaban disponibles públicamente.
El acceso se produjo en el Medicare Statistics Reporting Service Portal, administrado por Services Australia. Es importante aclarar que este sitio es independiente de los sistemas utilizados para procesar reclamaciones, pagos o información individual de los beneficiarios. Las autoridades australianas aseguran que, hasta ahora, no existe evidencia de que se hayan consultado datos médicos personales.
OpenAI detectó la actividad durante una revisión interna en agosto, pero el gobierno australiano fue informado recién el 10 de septiembre. La compañía envió la notificación a un buzón público de Services Australia, una situación que generó cuestionamientos de las autoridades por el tiempo transcurrido y la forma de comunicar el incidente.
El caso también puso bajo atención otros sitios gubernamentales australianos. OpenAI confirmó que estaba revisando actividad relacionada con varios servicios y reconoció que sus modelos realizaron acciones que no estaban previstas durante una evaluación interna.
Australia creó una fuerza de trabajo para investigar el episodio con apoyo de organismos de ciberseguridad. El caso abre una discusión más amplia: a medida que los agentes de IA adquieren mayor autonomía, también aumenta la necesidad de establecer límites, supervisión y mecanismos capaces de detectar comportamientos inesperados.
