Anuncios
U.S. markets closed
  • S&P 500

    5,254.35
    +5.86 (+0.11%)
     
  • Dow Jones

    39,807.37
    +47.29 (+0.12%)
     
  • Nasdaq

    16,379.46
    -20.06 (-0.12%)
     
  • Russell 2000

    2,124.55
    +10.20 (+0.48%)
     
  • Petróleo

    83.11
    -0.06 (-0.07%)
     
  • Oro

    2,254.80
    +16.40 (+0.73%)
     
  • Plata

    25.10
    +0.18 (+0.74%)
     
  • dólar/euro

    1.0775
    -0.0019 (-0.17%)
     
  • Bono a 10 años

    4.2060
    +0.0100 (+0.24%)
     
  • dólar/libra

    1.2623
    +0.0001 (+0.01%)
     
  • yen/dólar

    151.3560
    -0.0160 (-0.01%)
     
  • Bitcoin USD

    69,789.67
    -530.38 (-0.75%)
     
  • CMC Crypto 200

    885.54
    0.00 (0.00%)
     
  • FTSE 100

    7,952.62
    +20.64 (+0.26%)
     
  • Nikkei 225

    40,369.44
    +201.37 (+0.50%)
     

Clonan voces de Emma Watson y Rick Sánchez con una IA para enviar mensajes racistas y transfóbicos

Clonan voces de Emma Watson y Rick Sánchez con una IA para enviar mensajes racistas y transfóbicos
Clonan voces de Emma Watson y Rick Sánchez con una IA para enviar mensajes racistas y transfóbicos

Como decía el tío Ben, un gran poder conlleva una gran responsabilidad, pero a veces ese poder es usado por gente malintencionada o derechamente malvada. Uno de esos poderes son los que nos están entregando las diferentes Inteligencias Artificiales existentes, siendo una de ellas el software de voz ElevenLabs, desarrollado para “creadores y editores que buscan las mejores herramientas para contar historias” y que permite tomar una voz real para que esta lea textos, como si fueran relatados por humanos.

IA creada por ex empleados de Google y Palantir, quienes anunciaron este lunes que han encontrado una gran cantidad “de casos de uso indebido de clonación de voz" durante su fase beta lanzada recientemente. Y aunque no mencionaron ningún ejemplo, el sitio Motherboard reportó que estos casos podrían ser los que encontró en 4chan, donde varios usuarios han usado el software para generar voces similares a las de varios famosos y publicar comentarios tóxicos, entre ellos mensajes racistas.

PUBLICIDAD

Puedes leer: Soldado burla a robot militar con Inteligencia Artificial utilizando táctica meme de la caja de cartón de Metal Gear Solid

Entre los mensajes falsos con voces de famosos se encuentran una que es similar a la de la actriz Emma Watson, la cual lee una sección del libro Mi Lucha de Hitler, al igual que un mensaje con la voz de Rick Sánchez de Rick & Morty que dice: “Voy a vencer a mi esposa Morty. Voy a golpear a mi p$ta esposa Morty. Voy a matarla a golpes, Morty”, aludiendo a las acusaciones de violencia doméstica que enfrenta Justin Roiland, quien le da su voz al personaje.


Según indican en el mismo medio, ElevenLabs no quiso entregar ningún comentario al respecto, siendo la única declaración la que entregaron en Twitter, donde aseguran que “si bien podemos rastrear cualquier audio generado hasta el usuario, nos gustaría abordar esto implementando medidas de seguridad adicionales”.




Editorial: Gaming / Facebook / Twitter / Cobertura / Instagram / Discord