Desaprendizaje automático: la innovación de Google para el control de la inteligencia artificial
La nueva herramienta de Google para la inteligencia artificial: el desaprendizaje automático
Cuando se trata del tema de la inteligencia artificial (IA), es común mencionar conceptos como el «aprendizaje automático» y el «machine learning». Recientemente, Google ha presentado Bard, una IA basada en el modelo de lenguaje experimental LaMDA, que se integrará en el motor de búsqueda de la empresa como respuesta a la introducción de ChatGPT. No obstante, en medio de la competencia por liderar estos modelos de aprendizaje, Google ha reconocido una posible limitación: el «desaprendizaje automático».
Con el fin de recordar la importancia de la precaución en todo lo relacionado con la IA, la empresa ha lanzado un desafío que invita a los desarrolladores a hacer algo contrario a lo que se ha estado presenciando últimamente: hacer que los modelos de IA olviden lo que ya han aprendido.
De acuerdo con Xataka, Google ha explicado que el «desaprendizaje automático» es un concepto nuevo en el campo del aprendizaje automático. Su objetivo no es hacer que una IA olvide todo lo que ha aprendido, sino eliminar la influencia de ciertos conjuntos de datos de entrenamiento para permitir la realización de correcciones en los modelos actuales.
Según la compañía, esto podría tener implicaciones positivas en términos de mejorar la privacidad, mitigar los posibles riesgos de los modelos y reducir el tamaño de los conjuntos de datos masivos.
De manera más específica, el «desaprendizaje automático» permite eliminar información inexacta o desactualizada de modelos previamente entrenados, eliminar datos manipulados o corregir errores inherentes al conjunto de datos utilizado para el entrenamiento. Sin embargo, la implementación de estrategias de «desaprendizaje automático» plantea desafíos significativos. Es fundamental olvidar los datos previos del modelo sin comprometer su utilidad. Además, debido a la falta de literatura en este ámbito, evaluar la eficacia de estas estrategias representa un desafío adicional.
La solución de Google para el control de la inteligencia artificial: el desaprendizaje automático.
Con el objetivo de promover este tipo de enfoque, Google ha anunciado el «Desafío de desaprendizaje automático», que se llevará a cabo en el evento NeurIPS 2023 como parte de diversas competiciones. Este desafío se realizará a través de Kaggle, una subsidiaria de Google que cuenta con una amplia comunidad enfocada en el aprendizaje automático y el análisis de datos. El kit de inicio ya se encuentra disponible en GitHub, y el desafío plantea una tarea interesante: los participantes deberán enfrentarse a un escenario en el que se ha entrenado un modelo capaz de predecir la edad a partir de imágenes faciales. Sin embargo, después del entrenamiento, se les pedirá que olviden cierto subconjunto de las imágenes para preservar la privacidad de las personas involucradas (en este caso, modelos sintéticos).
