Empresas líderes en tecnología se unen para combatir los deepfakes
La lucha contra los deepfakes: empresas tecnológicas trabajan juntas para proteger a los usuarios
Las principales compañías tecnológicas del mundo se han unido para abordar un problema creciente en la era digital: los deepfakes y el contenido generado fraudulentamente por la inteligencia artificial (IA). Entre las empresas que se han involucrado en esta iniciativa se encuentran OpenAI, Microsoft, Google, Meta y Amazon. Esta colaboración sin precedentes busca establecer medidas efectivas que permitan identificar rápidamente el material producido artificialmente y la tecnología de IA utilizada en su creación.
La importancia de esta colaboración entre las principales compañías de tecnología es un hito significativo en la industria de la inteligencia artificial, pues subraya la importancia de la colaboración entre los principales actores para abordar los desafíos globales.
Entre las medidas acordadas, se encuentra la implementación de marcas de agua, que pueden ser invisibles y detectables mediante software especializado, o visibles y fácilmente identificables. Además, las compañías se han comprometido a someterse a controles tanto internos como externos, realizados por expertos en seguridad independientes, antes de lanzar cualquier nueva IA o versión de IA generativa. Esto asegurará que todas las tecnologías desarrolladas sean sometidas a una revisión rigurosa para garantizar su seguridad y fiabilidad.
Otro aspecto clave de la iniciativa es la transparencia, que se logrará mediante el intercambio de información sobre el funcionamiento interno de los sistemas de IA con gobiernos, expertos y académicos. Este enfoque busca identificar posibles riesgos de seguridad y prevenir el uso malintencionado de la tecnología.
Además, las empresas han acordado establecer cortafuegos en áreas críticas, como el desarrollo de armas biológicas, químicas o radiológicas, herramientas de ciberdelincuentes, control físico de máquinas y dispositivos, y la discriminación basada en razas y géneros. También se abordará la cuestión de la replicación autónoma de las IAs, un tema que ha generado inquietud en la comunidad científica.
La colaboración sin precedentes entre estas compañías líderes en tecnología es un paso importante para abordar los desafíos globales relacionados con los deepfakes y el contenido generado fraudulentamente por la inteligencia artificial. Las medidas acordadas reflejan el compromiso de estas empresas con la seguridad y la transparencia en la IA, lo que es de interés para la sociedad en general y para el avance de la tecnología de manera responsable.
