La ciudad de Baltimore ha presentado una demanda contra X, anteriormente conocida como Twitter, por el uso del sistema de inteligencia artificial generativa Grok.
La demanda alega que X viola la Ordenanza de Protección al Consumidor de Baltimore al diseñar, comercializar y desplegar un Grok generativo que, según la ciudad, «produce y difunde imágenes sexualizadas sin consentimiento, incluido contenido que involucra a menores».
Los funcionarios municipales afirmaron que Baltimore se encuentra entre los primeros municipios en tomar medidas contra X y Grok, utilizando su autoridad de protección al consumidor para abordar el daño generalizado causado por las falsificaciones profundas generadas por IA y proteger a sus residentes.
«Estos deepfakes, especialmente los que muestran a menores, tienen consecuencias traumáticas y de por vida para las víctimas, quienes quedan sin forma de impedir la difusión de imágenes perturbadoras y sexualizadas creadas sobre ellas sin su consentimiento», declaró el alcalde de Baltimore, Brandon Scott. «Estamos hablando de empresas tecnológicas que permiten la explotación sexual infantil. Nuestra ciudad no se quedará de brazos cruzados y permitirá que esto continúe; es una amenaza para la privacidad, la dignidad y la seguridad pública, y los responsables deben rendir cuentas».
Alegaciones de la demanda
La demanda contra X alega que Grok permite a sus usuarios de redes sociales «generar y manipular imágenes de personas reales para convertirlas en contenido sexualmente explícito, degradante o perjudicial de cualquier otro modo».
La demanda también alega que las funciones de Grok permiten a los usuarios «desnudar o sexualizar a personas, incluidos ciudadanos particulares y niños, sin su consentimiento, exponiendo a los residentes de Baltimore a graves violaciones de la privacidad, acoso y daños psicológicos».
La denuncia alega que, si bien X comercializa Grok como un asistente de IA seguro y de uso general, no revela su capacidad para generar contenido deepfake explícito.
«Las leyes de protección al consumidor de Baltimore existen precisamente para salvaguardar a los residentes de este tipo de daños emergentes», declaró la abogada municipal de Baltimore, Ebony Thompson. «Cuando las empresas introducen tecnologías poderosas sin las salvaguardias adecuadas, la ciudad tiene tanto la autoridad como la obligación de actuar. Estamos interviniendo ahora para proteger a nuestros residentes, exigir responsabilidades a estas empresas y evitar que estos daños se afiancen aún más a medida que esta tecnología continúa evolucionando».
Los líderes de Baltimore también afirman que X no proporcionó medidas de seguridad significativas, verificación de edad ni controles de contenido, y que en su lugar monetizó la tecnología colocando ciertas funciones de alto riesgo detrás de un modelo de suscripción de pago después de que ya se había producido un abuso generalizado.
«Baltimore ha sido pionera en el uso de las leyes de protección al consumidor para hacer frente a los daños nuevos y en constante evolución, y este caso da continuidad a ese liderazgo», declaró Adam Levitt, socio fundador del bufete DiCello Levitt. «La ciudad está dando un ejemplo contundente a los municipios de todo el país al enfrentarse a una tecnología novedosa y de rápido avance —y a un área emergente del derecho— donde la rendición de cuentas aún no se ha puesto al día con la innovación». CBS News
Más noticias: Prohíben entrada de ICE a edificios municipales en Baltimore