Limitaciones

  • Sesgos y discriminación: los modelos incorporan los sesgos inherentes a los datos utilizados para entrenarlos, ya sean estos sociales, políticos o culturales.
  • Alucinaciones: son resultados gramaticalmente correctos, pero conceptualmente erróneos o imprecisos.
  • Falta de comprensión y sentido común: puede tener problemas para identificar sutilezas lingüisticas y culturales generando interpretaciones erróneas o respuestas inapropiadas.

Desafíos

  • Cajas negras: Modelos tan complejos como inescrutables. Desconocimiento de cómo y porqué toman ciertas decisiones.
  • Deepfakes y noticias falsas: Desinformación y manipulación informativa. Lo generado por IA es indistinguible de la realidad.
  • Privacidad y seguridad de los datos: cómo se resguarda y se usa la información personal y sensible.
  • Desplazamiento laboral: la automatización impulsada por la IA tendrá un impacto significativo en el mercado laboral.
  • Desafíos éticos y responsabilidad: por lo anterior expuesto y por la responsabilidad de las decisiones automáticas de las IA.