Hablar de inteligencia artificial es hablar de términos como ‘aprendizaje automático’ y ‘machine learning’. Con la llegada de ChatGPT, Google respondió con Bard, una inteligencia artificial basada en el modelo de lenguaje experimental LaMDA y con miras a integrarse dentro de la propia búsqueda de Google.

En plena lucha por liderar estos modelos de aprendizaje, la propia Google ha mostrado uno de los potenciales frenos para los mismos: el ‘desaprendizaje automático’. Con el objetivo de recordar que todo lo relativo a la IA requiere precaución, ha anunciado una competición en la que se invitará a los desarrolladores a hacer justo lo contrario que llevamos viendo en los últimos meses: hacer que los modelos de IA desaprendan lo que ya conocen.

Curioso es, cuanto menos, que una de las compañías con papel central en el desarrollo de la IA nos haga la siguiente propuesta: desarrollar algoritmos de entrenamiento capaces de eliminar la influencia de los subconjuntos mediante los cuales ha aprendido.

Google explica que el desaprendizaje automático es un término emergente dentro del propio campo del aprendizaje automático. Su objetivo no es hacer que una IA olvide todo lo que sabe, sino eliminar la influencia de ciertos conjuntos de aprendizaje para dar la opción de rectificar en los modelos actuales. Esto, según Google, tendría implicaciones de cara a mejorar la privacidad, mitigar los posibles riesgos de los modelos y aligerar gigantescos conjuntos de datos.

Siendo más concretos, mediante desaprendizaje automático es posible borrar información inexacta o desactualizada de modelos ya entrenados, eliminar datos manipulados o corregir errores inherentes al conjunto de datos del que bebe el modelo.

Más…fuente: https://www.xataka.com/robotica-e-ia/estamos-yendo-lejos-rapido-ia-que-google-ha-disenado-freno-desaprendizaje-automatico