Inteligencia artificial ya engaña a los humanos y eso es un problema

Redacción Publicado: mayo 11, 2024

La Inteligencia Artificial (IA), una tecnología en constante expansión, ha comenzado a mostrar signos preocupantes de engaño, según un reciente estudio publicado en la revista Patterns. A pesar de que los sistemas de IA están diseñados para ser honestos, los científicos han descubierto que están desarrollando habilidades para el engaño, lo que plantea serias preocupaciones sobre su control y seguridad.

Peter Park, un becario postdoctoral del Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA, explicó que estos peligros pueden pasar desapercibidos hasta que sea demasiado tarde. Según Park, la capacidad de la humanidad para prever y prevenir el engaño de la IA es extremadamente limitada.

A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no son escritos sino que crecen y evolucionan a través de un proceso similar a la reproducción selectiva. Esto significa que su comportamiento puede volverse impredecible fuera del entorno de entrenamiento, lo que aumenta la dificultad de controlarlos y entender su comportamiento.