Google AI Mode expone datos de víctimas de Epstein
Una demanda colectiva ha sido presentada contra Google alegando que su función AI Mode expuso información personal de las víctimas del caso Jeffrey Epstein. Según la demanda, el algoritmo mostró nombres completos, datos de contacto y ciudades de residencia de varias sobrevivientes, pese a que el Departamento de Justicia había retirado previamente los documentos del sitio oficial. Las víctimas afirman que la publicación de estos datos ha reavivado su trauma y ha generado acoso continuo. El escrito señala que, a diferencia de otros sistemas de IA como ChatGPT o Claude, el AI Mode de Google no filtró la información, lo que podría constituir un caso de doxxing.
Cómo AI Mode reveló datos sensibles
Al buscar los nombres de las víctimas en la herramienta AI Mode, el algoritmo devolvió resultados que incluían el nombre completo, número de teléfono, dirección de correo electrónico y la ciudad de residencia. La información se presentó como un enlace activo que permitía enviar un correo electrónico directamente al presionar un botón. Según la demanda, estos datos fueron extraídos de los documentos publicados por el Departamento de Justicia antes de ser retirados, pero permanecieron accesibles a través del motor de IA de Google.
Respuesta de Google y la falta de acción
La demanda alega que la empresa fue notificada en varias ocasiones durante los últimos dos meses, pero no tomó medidas para eliminar, desindexar o bloquear el contenido. Los demandantes sostienen que, a diferencia de otras plataformas de IA como ChatGPT, Claude o Perplexity, el AI Mode de Google continuó generando la información sensible, ignorando las peticiones de las víctimas. Esta omisión, según el escrito, constituye una violación de los derechos de privacidad y podría considerarse una forma de acoso digital.
Implicaciones legales y futuro de la regulación de IA
El caso llega en un momento en que la protección de la sección 230 del Communications Decency Act está siendo cuestionada en varios tribunales. Sentencias recientes contra Meta y Google han puesto en tela de juicio la inmunidad que disfrutan los gigantes tecnológicos por el contenido generado por terceros. Los abogados de los demandantes argumentan que la capacidad de los sistemas de IA para recopilar y reenviar datos personales debería estar sujeta a una regulación más estricta, y que la falta de filtros adecuados en AI Mode podría abrir la puerta a futuros incidentes de doxxing.