¿Cuáles son los desafíos de la IA generativa en la actualidad?
La inteligencia artificial se define como una simulación de la inteligencia humana mediante máquinas con capacidad de tomar decisiones y resolver problemas sin intervención humana. La IA generativa, más conocida como Chat GPT o herramientas similares, está transformando varias industrias y ayudando a resolver grandes problemas de la sociedad actual.
Lo más importante hoy es que las empresas y organizaciones puedan aprovechar al máximo esta tecnología para lograr mejores resultados. Sin embargo, todavía existen muchos desafíos para utilizar estas herramientas de manera responsable y ética para que todo el ecosistema pueda beneficiarse y avanzar hacia una nueva era: la era de la cooperación.
¿Qué es la IA generativa?
Los modelos tradicionales de IA se basan en modelos estadísticos que tienen como objetivo reconocer patrones en los datos existentes y, a menudo, se utilizan en contextos de análisis y predicción.
Con la llegada de la inteligencia artificial ha surgido una nueva categoría: generativa. Tiene la capacidad de generar contenido a partir de texto, imágenes, vídeo, audio o código fuente que sea tan fiable como el usuario pueda permitirlo.
Por lo tanto, los modelos generativos pueden crear datos nuevos (artificiales) y utilizar datos reales (otorgados por el usuario) para generar nueva información. Horizontes que sólo existían en los libros y películas de fantasía hace apenas unos años se acercan cada vez más a la realidad.
Si bien el futuro es prometedor para todas las industrias que puedan aplicarlo, adoptar esta nueva tendencia conlleva algunos desafíos.
Los desafíos de la IA generativa
Infracción de derechos de autor e imágenes
Sabemos que en mayo de 2023 en Estados Unidos se inició una nueva huelga del Writers Guild, y en julio de ese año, el Hollywood Actors Guild se sumó a la huelga.
La razón principal de esta medida fue la demanda de aumento salarial debido al crecimiento de las plataformas digitales y el deseo de garantizar que los ingresos se dividirán proporcionalmente entre guionistas/actores y escritores debido al aumento de la demanda/creación de contenido.
Otra razón es que las empresas hacen un mal uso de la IA generativa para crear contenido que utiliza los rostros y voces de los actores con fines comerciales sin su consentimiento. Entonces pidieron un nuevo contrato que protegiera su identidad de la explotación de su talento e identidad.
Se puede contratar talento sin consentimiento ni compensación por esas habilidades. La confiabilidad de cierto contenido, independientemente de su fuente, parece volverse más común con la llegada de la IA generativa.
En este caso, las grandes corporaciones ignoraron muchos derechos de autor y publicidad, lo que causó gran irritación, por lo que Estados Unidos decidió introducir recursos legales para proteger a ambas partes.
La Inteligencia artificial generativa se encuentra en el ciberespacio y, por esto, existen muchos riesgos vinculados que pueden llegar a afectar tanto a empresas, como personas o gobiernos.
Moderación de contenido
Algunas redes sociales, sitios web o aplicaciones, incluso si tienen términos de uso, estándares comunitarios, no tienen ninguna responsabilidad legal o son muy vagas por el contenido subido por el usuario, así como ideas o publicaciones realizados por terceros, incluido el contenido generado por IA.
Aún cuando se cuentan con las políticas de privacidad que protegen los derechos de autor tienen lagunas legales que protegen a los proveedores de la infracción de derechos de autor.
Cuestiones éticas
En países con poca o ninguna regulación de la IA, algunos usuarios la utilizan con fines poco éticos, desde el robo de identidad (voz, imagen o vídeo) hasta la creación de perfiles falsos que pueden utilizarse para fraude/extorsión a través de plataformas, aplicaciones o redes sociales.
La red también puede ejecutar campañas de phishing muy sofisticadas o estafas similares a las de catfishing.
Privacidad
Si miramos retrospectivamente lo que pasó con los actores y guionistas estadounidenses, los modelos de IA generativa deben entrenarse con grandes cantidades de datos para que funcionen correctamente. Sin embargo, este volumen se puede utilizar para vídeo, audio, etc. sin la aprobación del propietario.
¿Qué pasaría si pudieras obtenerlo de fuentes abiertas como imágenes, texto o código fuente? Esto requiere que las plataformas, apps y redes sociales sigan el marco regulatorio de privacidad de datos de cada país o, en su defecto, el Reglamento General de Protección de Datos (GDPR) del Parlamento Europeo, que incluye un apartado sobre IA.
Desinformación
El uso de este tipo de inteligencia artificial mejora la experiencia de difundir noticias falsas en plataformas y redes sociales. Cuando este contenido engañoso se vuelve viral, daña la imagen de un individuo, una comunidad, un país, un gobierno o una empresa.
