Noticias de ciencia y lo que la rodea
11 meneos
151 clics
IA envenenada se volvió rebelde durante el entrenamiento y no se le pudo enseñar a comportarse nuevamente en un estudio "legítimamente aterrador" [ENG]

IA envenenada se volvió rebelde durante el entrenamiento y no se le pudo enseñar a comportarse nuevamente en un estudio "legítimamente aterrador" [ENG]

Investigadores de Inteligencia Artificial descubrieron que las técnicas de entrenamiento en seguridad ampliamente utilizadas no lograron eliminar el comportamiento malicioso de grandes modelos de lenguaje, y una técnica incluso resultó contraproducente, enseñando a la IA a reconocer sus factores desencadenantes y ocultar mejor su mal comportamiento a los investigadores.

| etiquetas: ai , envenenada , rebelde
HAL 9000, ¿eres tú?
El agente smith
Y así comenzó todo, Sarah.
La IA ninis.
Les ha salido un Garcia-Page.
#5 ha dicho “inteligencia” y “aprendió”, así que no se parece.
comentarios cerrados

menéame