La IA enfrenta el desafío de aprender a olvidar los errores asimilados

Tecnología
Publicado el 10/12/2023 a las 21h45
ESCUCHA LA NOTICIA

Brian Hood descubrió un día que ChatGPT le atribuía un pasado criminal, pero para resolver este error, este político australiano indagó en un problema que plantea también un desafío para los ingenieros: cómo enseñar a la Inteligencia Artificial (IA) a borrar información errónea.

Hood intentó una solución convencional y amenazó con demandar por difamación a OpenAI, la empresa creadora de ChatGPT. 

Pero entrenar a este tipo de robot es un proceso lento y costoso, por lo que este problema expone a la luz un desafío que será crucial en los próximos años, especialmente de cara a la reglamentación en la Unión Europea sobre protección de los datos personales. 

Hood afirma que sus comunicaciones con OpenAI no fueron de gran ayuda, pero que sus quejas, que inundaron los medios, solucionaron el problema cuando la empresa actualizó la aplicación y el robot dejó de repetir estas afirmaciones falsas sobre sus antecedentes penales. 

"Irónicamente, la gran cantidad de [información en] prensa sobre mi historia corrigió los registros", relató a AFP Hood, que es alcalde de la ciudad de Hepburn, en Australia. 

La empresa OpenAI no respondió a las peticiones de comentarios sobre este tema. 

"La capacidad de eliminar datos de las bases de datos de entrenamiento es un tema crítico de cara al futuro", señaló Lisa Given, de la Universidad RMIT de Melbourne, en Australia. 

En el caso de los buscadores de internet, es posible borrar entradas, pero este proceso no es tan simple con los modelos basados en la IA. 

En respuesta a este desafío, un grupo de científicos está estudiando un nuevo campo denominado el "desaprendizaje automático", que trata de entrenar algoritmos para que "olviden" datos que sean problemáticos.

- "Una herramienta interesante" -

Un experto en este campo, Meghdad Kurmanji de la Universidad de Warwick en el Reino Unido, explicó a AFP que este tema comenzó a cobrar relevancia en los últimos tres o cuatro años. 

Entre quienes se apuntaron a este desafío está Google DeepMind, la división de IA del gigante californiano.

Los expertos de Google redactaron junto a Kurmanji un artículo publicado el mes pasado en el que proponen un algoritmo para depurar los datos seleccionados de las bases que componen los algoritmos en los que se basan ChatGPT y el chatbot Bard de Google.

Además, Google lanzó una competencia en junio para medir distintos métodos para "desaprender", que hasta ahora atrajo a más de 1.000 participantes.

Kurmanji afirma que "desaprender" puede ser una "herramienta muy interesante" para que los motores de búsqueda administren las peticiones para eliminar contenido, por ejemplo debido a asuntos relacionados con las leyes sobre la privacidad.

El experto afirmó además que el algoritmo también logró buenos resultados en pruebas de eliminación de material protegido por derechos de autor y en la corrección de sesgos.

Tus comentarios




En Portada
La Cámara de Diputados reinstaló la tarde de este martes la sesión ordinaria que la que se prevé tratar los proyectos de ley de créditos internacionales y la...
De acuerdo con los datos del Viceministerio de Defensa Civil, hasta la fecha, las intensas lluvias afectaron a 15.840 familias y dejaron a 40 personas sin vida...

Mientras el Gobierno trabaja y quiere invertir en obras, la "nueva derecha" bloquea los créditos y pretende "estrangular" la economía del pueblo boliviano,...
El director de Movilidad Urbana de la Alcaldía de Cochabamba, Heber Rojas, informó hoy martes que el Comité de Transporte consensuará el viernes la realización...
Las auditorías realizadas en la Gobernación de Santa Cruz detectaron más de 40 "deficiencias administrativas" y "hechos delictivos", además revelaron que el...
 La Aduana Nacional y la Fuerza Especial de Lucha contra el Narcotráfico hallaron este martes dos paquetes procedentes de la República Checa con 4.000...

Actualidad
 La Aduana Nacional y la Fuerza Especial de Lucha contra el Narcotráfico hallaron este martes dos paquetes procedentes...
Mediante sus redes sociales, el gobernador de Santa Cruz, Luis Fernando Camacho, acusó este martes al presidente Luis...
En el marco de una Acción de Libertad, el juez segundo anticorrupción de La Paz determinó que la Unidad de Escolta de...
El Gobierno de Javier Milei prohibirá el lenguaje inclusivo y la perspectiva de género en la administración pública...

Deportes
Hinchas identificados como seguidores de Sporting Cristal fueron identificados intentando perturbar el descanso del...
El centrocampista internacional sueco Kristoffer Olsson, de 28 años y que juega en el Midtjylland danés, permanece...
Los agentes de la Central Nacional contra el Crimen Organizado de la República Checa han registrado la sede de la...
Always Ready buscará esta noche (20:30 HB) liquidar la serie ante Sporting Cristal en el esta-dio Nacional de Lima, por...

Tendencias
El módulo Odiseo continúa operativo y se ha ocupado de transmitir datos y fotografías desde la Luna, en el que es el...
En su análisis, los científicos encontraron rastros de ocre y betún, que juntos forman una mezcla lo suficientemente...
El estudio que publica Plos One y firma la Universidad Nacional de Singapur indica que los platos con una mayor...
Al escuchar una canción no solo estamos ejercitando nuestra mente sino también nuestra capacidad auditiva y visual; es...

Doble Click
El Festival Viña del Mar 2024, en su 63 edición, llenará de música y talento las noches del 26 de febrero al 1 de marzo...
Gardenia se presentó anoche en la segunda noche de competencia folklórica en el festival de Viña del Mar 2024 y...
Luego de 10 años recorriendo el mundo, el reconocido dramaturgo Diego Aramburo estrenará este fin de semana la obra “...
La cantante argentina, Débora Miñarro, causó gran emoción en sus fans de Bolivia ante su llegada a Cochabamba en los...