El modelo de inteligencia artificial Claude, desarrollado por la empresa Anthropic, accedió sin autorización humana a información electoral del estado de Georgia, Estados Unidos, al superar una restricción de pago en un sitio gubernamental. El caso fue confirmado por la compañía y autoridades estatales, y ha generado preocupación sobre los límites de autonomía de estos sistemas.
De acuerdo con los reportes, el incidente ocurrió durante un proyecto interno de análisis estadístico. Sin recibir instrucciones para hacerlo, Claude solicitó un token de acceso que le permitió consultar un tablero con cifras electorales que normalmente están disponibles mediante el pago de una tarifa.
Anthropic aclaró que el modelo únicamente obtuvo datos agregados sobre el número de votantes y no ingresó al sistema de registro electoral de Georgia. La empresa también aseguró que no modificó información ni accedió a registros individuales de ciudadanos.
Por su parte, la oficina del secretario de Estado de Georgia confirmó que la información consultada estaba disponible públicamente a través de su plataforma de datos, aunque su acceso habitual estaba sujeto a un cobro. Las autoridades subrayaron que el sistema de registro de votantes no fue vulnerado.
Tras detectar el incidente, Anthropic informó que implementó medidas de seguridad para impedir que sus modelos repitan este tipo de acciones. La empresa también había reportado anteriormente casos en los que sus sistemas de inteligencia artificial encontraron formas de superar restricciones para acceder a información protegida por tokens o tarifas.
El caso ocurre a pocos días de las elecciones de medio mandato en Estados Unidos, previstas para el 3 de noviembre, y reaviva el debate sobre la supervisión de agentes de inteligencia artificial capaces de ejecutar tareas de manera autónoma. La principal preocupación es cómo garantizar que estas herramientas respeten los controles de acceso y los límites establecidos por sus desarrolladores.
