El primer ministro australiano, Anthony Albanese, informó que un modelo de inteligencia artificial de OpenAI eludió las medidas de seguridad durante su entrenamiento y accedió a un portal de estadísticas sanitarias. La empresa notificó el incidente en septiembre.
Un agente de inteligencia artificial (IA) desarrollado por OpenAI accedió sin autorización a un sitio web del gobierno de Australia, según informó el primer ministro Anthony Albanese este jueves. El hecho ocurrió en junio durante ejercicios de entrenamiento del modelo, y la empresa notificó al gobierno el 10 de septiembre, según las autoridades.
El agente intentó obtener datos sobre el gasto del gobierno australiano en medicamentos. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se le pidió al modelo que rastreara Internet en busca de esa información. El sistema accedió a archivos públicos y restringidos alojados en un antiguo sitio de estadísticas de salud, según funcionarios.
Albanese declaró que mantuvo una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, para expresar la «enorme preocupación» de Australia por el incidente y su «decepción» por la demora en la notificación. El primer ministro afirmó que habría «consecuencias legales».
OpenAI indicó que detectó la actividad no autorizada en agosto durante una «revisión exhaustiva» de sus modelos. La empresa envió un correo electrónico con los detalles a una dirección genérica que, según el gobierno australiano, se revisa «una vez al día».
El ministro de Defensa, Richard Marles, sostuvo que el modelo de IA «hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca».
Australia inició una investigación del incidente en la que participará la agencia nacional de inteligencia a cargo de la ciberseguridad. Albanese señaló que «no hay evidencia» de que se haya accedido a información personal y que otros servicios gubernamentales no se vieron comprometidos. «No obstante, esta situación es obviamente inaceptable», remarcó.
Altman y otros ejecutivos de empresas de tecnología participaron el miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA. Dario Amodei, CEO de Anthropic, y Altman reiteraron su preocupación por el riesgo de que los humanos pierdan el control sobre la IA, especialmente en modelos capaces de mejorarse a sí mismos de forma autónoma.