Puntos clave:
La demanda de Google contra un grupo de ciberdelincuentes chinos marca la primera gran prueba de si las empresas de IA pueden ser consideradas responsables cuando sus propios modelos son utilizados como armas en su contra.
Google acusó a un grupo de ciberdelincuentes chinos de utilizar su sistema de inteligencia artificial Gemini para generar cientos de sitios web corporativos y gubernamentales falsificados, exponiendo una nueva vulnerabilidad en la forma en que las plataformas de IA pueden ser utilizadas contra sus creadores.
"Esta operación utilizó nuestras propias herramientas de IA para crear réplicas convincentes de organizaciones legítimas, socavando la confianza en las comunicaciones digitales", declaró un portavoz de Google en la demanda presentada el 12 de junio.
La campaña, que comenzó en noviembre de 2023, utilizó Gemini para generar contenido web, perfiles de empleados falsos y documentación corporativa para al menos 13 dominios incautados por el FBI, según documentos judiciales. Los operadores recurrieron a aplicaciones de mensajería cifrada como Telegram, pagos con criptomonedas y fotos de perfil generadas por IA para que las empresas fantasma parecieran legítimas.
La demanda pone de relieve un desafío creciente para las plataformas de IA: a medida que los modelos se vuelven más capaces, también se vuelven más útiles para los actores malintencionados. La acción legal proactiva de Google podría sentar un precedente sobre cómo las empresas de IA combaten el uso indebido de su propia tecnología, al mismo tiempo que intensifica las tensiones tecnológicas entre EE. UU. y China que ya han reconfigurado los mercados de semiconductores y computación en la nube.
El Departamento de Justicia dijo que los dominios incautados se hacían pasar por firmas consultoras como Centrik Global Consulting, Rightinfo Consulting y Finnacle-Vesper Consulting, anunciando puestos de investigación bien remunerados dirigidos a titulares de autorizaciones de seguridad de EE. UU. Los sitios buscaban atraer a funcionarios actuales y antiguos de EE. UU., personal militar y contratistas gubernamentales para que elaboraran informes o compartieran información privilegiada sobre temas de interés para el gobierno chino.
El presunto esquema refleja un patrón más amplio de operaciones de inteligencia extranjera que combinan el reclutamiento en línea con incentivos financieros. En una rara divulgación pública el pasado noviembre, el teniente general Anthony R. Hale, subjefe de Estado Mayor del Ejército para Inteligencia, emitió un memorando advirtiendo que adversarios extranjeros están atacando a soldados, civiles y sus familias a través de empresas falsas y reclutadores fraudulentos. La advertencia fue enviada a más de 1 millón de miembros del Ejército.
Las oleadas de despidos federales durante el último año han empujado a miles de empleados y contratistas gubernamentales a un mercado laboral incierto, creando nuevas oportunidades de recolección de información para los servicios de inteligencia extranjeros, según la presentación del DOJ. La campaña utilizó plataformas de trabajo independiente para anunciar puestos como "Analista Senior" y "Consultor de Asuntos Internacionales", con pagos canalizados a través de cuentas en el extranjero y criptomonedas.
Las acciones de Google tienen una exposición financiera directa limitada por la demanda, pero el caso subraya un riesgo reputacional para el negocio de IA de Alphabet Inc. en un momento en que compite por comercializar Gemini contra OpenAI y Microsoft. Google cotiza a 22 veces las ganancias futuras, un descuento frente a las 31 veces de Microsoft, reflejando en parte la incertidumbre de los inversores sobre la monetización de la IA y el riesgo regulatorio. El resultado de este caso podría influir en cómo los reguladores abordan la responsabilidad de las plataformas de IA, afectando potencialmente los costos de cumplimiento en toda la industria.
Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.
