Anuncios
U.S. markets closed
  • F S&P 500

    5,092.50
    -9.00 (-0.18%)
     
  • F Dow Jones

    39,139.00
    -50.00 (-0.13%)
     
  • F Nasdaq

    17,951.75
    -39.25 (-0.22%)
     
  • E-mini Russell 2000 Index Futur

    2,014.50
    -6.00 (-0.30%)
     
  • Petróleo

    76.17
    -0.32 (-0.42%)
     
  • Oro

    2,042.70
    -6.70 (-0.33%)
     
  • Plata

    22.89
    -0.09 (-0.40%)
     
  • dólar/euro

    1.0819
    -0.0004 (-0.03%)
     
  • Bono a 10 años

    4.2600
    -0.0670 (-1.55%)
     
  • Volatilidad

    13.75
    -0.79 (-5.43%)
     
  • dólar/libra

    1.2663
    -0.0010 (-0.08%)
     
  • yen/dólar

    150.4230
    -0.0170 (-0.01%)
     
  • Bitcoin USD

    51,504.06
    -164.52 (-0.32%)
     
  • CMC Crypto 200

    885.54
    0.00 (0.00%)
     
  • FTSE 100

    7,706.28
    +21.79 (+0.28%)
     
  • Nikkei 225

    39,381.58
    +282.88 (+0.72%)
     

Amazon busca atraer a clientes corporativos con medidas de seguridad de IA generativa

Foto de archivo del logo de Amazon en un centro de logística en Trapagaran, España

Por Greg Bensinger

28 nov (Reuters) - Amazon intenta atraer a grandes empresas a su servicio de computación en nube AWS ofreciéndoles protección contra los daños legales y de reputación que pueden derivarse de los resultados de la inteligencia artificial.

Adam Selipsky, CEO de AWS, anunció en la conferencia anual de computación en nube de Amazon, celebrada en Las Vegas, una nueva salvaguarda contra contenidos censurables en aplicaciones de IA generativa, denominada Guardrails for Bedrock, que permite a los usuarios filtrar contenidos perjudiciales.

Dado que la IA generativa se entrena a partir de contenidos de dominio público, las palabras ofensivas u otros contenidos censurables pueden colarse en los resultados de las preguntas de los usuarios.

Esto es especialmente problemático para los usuarios más jóvenes, en tiempos de conflicto mundial o durante las elecciones, cuando los resultados de la IA generativa pueden influir en la opinión pública.

Los defensores de la seguridad han advertido que la IA generativa podría funcionar fuera del control de sus creadores humanos y generar contenidos cada vez más peligrosos o hacer funcionar sistemas enteros sin supervisión. En concreto, les preocupa que el software publique contenidos influyentes -y convincentes- en redes sociales como X y Facebook.

Selipsky afirmó que el nuevo servicio es importante para que los clientes pongan los límites que consideren oportunos a la IA generativa que utilizan.

"Por ejemplo, un banco podría configurar un asistente en línea para que se abstuviera de dar consejos sobre inversiones", dijo Selipsky. "O, para evitar contenidos inapropiados, un sitio de comercio electrónico podría asegurarse que su asistente en línea no utilice expresiones de odio o insultos".

También en la conferencia, Amazon anunció que indemnizaría a sus clientes contra demandas basadas en el uso indebido de materiales protegidos por derechos de autor. La empresa de fotografía de archivo Getty Images, por ejemplo, demandó a Stability AI a principios de este año, alegando que extraía imágenes de su sitio web sin permiso.

Según Amazon, Guardrails para Bedrock ya está disponible en una versión preliminar limitada. La empresa de Seattle no dio más detalles sobre su política de indemnización.

(Reportaje de Greg Bensinger; Editado en español por Juana Casas)