Científicos advierten de los efectos catastróficos de la IA
Científicos de numerosos centros de investigación y universidades de varios países alertaron, en un artículo que publica la revista Science, de los elevados riesgos de la Inteligencia Artificial (IA) y de las consecuencias catastróficas que los fallos que esta tecnología puede causar.
Los investigadores subrayaron que los sistemas de inteligencia artificial ya se han puesto a prueba en una amplia gama de aplicaciones, desde el diagnóstico médico hasta la navegación de coches autónomos, pero han alertado de que éstos son escenarios “de alto riesgo” en los que los márgenes de error son escasos y las consecuencias de un fallo pueden ser fatales.
La entrada en Science llega apenas quince días después de que 5.500 expertos de todo el mundo publicaran una carta abierta en la que abogaban por pausar durante un tiempo los experimentos con la IA más potente y avanzada -la llamada “generativa” y que es capaz de crear textos o imágenes a partir de datos ya existentes- ante los riesgos que puede entrañar para la sociedad.
Ayer firmaron en Science investigadores de varias instituciones académicas y científicas, entre las que están las universidades de Cambridge, Harvard, Stanford, Shandong (China), la Politécnica de Valencia, el Imperial College London, el Instituto Tecnológico de Massachusetts (MIT), y varias empresas, entre ellas Google o la británica DeepMind, una de las mayores multinacionales del sector de la inteligencia artificial.
Los científicos que ayer suscribieron en la revista incidieron en la necesidad de que todas las publicaciones sobre esta materia incluyan de forma pormenorizada todos los datos que son vitales para comprender y abordar los errores intermedios que pueden conducir a los posibles fallos, y que todos esos datos estén a disposición de la comunidad científica que evita que se reproduzcan los mismos errores.
Describieron, por ejemplo, un escenario hipotético en el que un algoritmo de reconocimiento facial alcanza la “impresionante” tasa de precisión del 90 por ciento al distinguir rostros masculinos de femeninos. Sin embargo, un examen detallado podría revelar que clasifica erróneamente los rostros de mujeres de piel oscura en el 35 por ciento de los casos, y que ese porcentaje de error sólo se produce en el 0,8 por ciento de los hombres de piel clara.
