Aunque la inteligencia artificial (IA) promete una revolución en la gobernanza, los negocios y la sociedad, también conlleva enormes riesgos, como la aceleración de la desinformación, los ciberataques sofisticados y el aumento del consumo energético. Otros riesgos, como la posibilidad de que máquinas superinteligentes tomen decisiones sin supervisión humana, están todavía un poco más lejos.
En 2023, el Instituto Igarapé (Brasil) y la Fundación New America convocaron un grupo de trabajo global, formado por expertos en IA de toda América, África y Asia, para debatir formas prácticas de mejorar la seguridad de esta tecnología. Y en 2024, este grupo de trabajo publicó una serie de estrategias para mitigar los riesgos y mejorar la resiliencia, así como para reducir las brechas de gobernanza y regulación de la IA entre el norte y el sur globales.
Inteligencia Artificial. Foto:iStock
Uno de los mayores riesgos destacados por el grupo de trabajo es la automatización masiva y la eliminación de puestos de trabajo, por ejemplo en sectores que van desde la agricultura, la industria y el comercio minorista hasta los ámbitos jurídico y médico y las consultorías de gestión. Y una preocupación es que los sectores poco cualificados de los países en desarrollo se vean desproporcionadamente afectados. La Organización Internacional del Trabajo estima que más del 56 % de todos los empleos en los países de ingresos bajos y medios corren un “alto riesgo” de automatización.
También hay riesgo de que se profundice la exclusión digital y se aumente la desigualdad. Es probable que la brecha entre los que tienen acceso a las tecnologías avanzadas y los que no aumente en los próximos años, lo que conducirá a una menor productividad, un menor crecimiento económico y una mayor desigualdad.
Otra amenaza es la intensificación de los prejuicios y la discriminación, a la que se suma que la integración de la IA en la vigilancia –desde ciudades inteligentes hasta la aplicación de la ley– puede vulnerar, intencionadamente o no, la privacidad, las libertades civiles y los derechos humanos.
Otro riesgo se relaciona con la excesiva dependencia de los actores del sur global de las tecnologías y los conocimientos extranjeros. Esa dependencia significa que los datos pueden ser más fácilmente accesibles, controlados, manipulados y explotados por actores externos.
Las soluciones
Ante todos los riesgos, ¿cuáles son las posibles soluciones para el sur global? Cada vez son más las voces que abogan por normas mundiales, cooperación internacional y programas específicos, como los propugnados en una resolución de la Asamblea General de la ONU de 2024 sobre inclusión de la IA y el acordado Pacto Digital, cuyo objetivo es superar las desigualdades digitales, de datos y de innovación.
El enviado tecnológico de la ONU y un órgano consultivo de alto nivel sobre IA han instado a gobiernos, empresas e investigadores a diseñar tecnologías de IA de forma equitativa, inclusiva y sensible a los retos específicos a los que se enfrentan los países del sur global. Estos y otros grupos han propuesto una serie de estrategias para mitigar los riesgos.
Asamblea de la ONU. Foto:AFP
Entre esas están la formación y la capacitación, pues los trabajadores actuales y futuros deben poseer las competencias adecuadas para el mercado laboral en evolución. En cuanto a las desigualdades digitales, los agentes públicos y privados tendrán que realizar una inversión significativa en infraestructura digital. También son esenciales las políticas que promuevan el acceso equitativo a los servicios digitales y los programas tecnológicos de bajo costo.
Del mismo modo, es necesaria una normativa clara sobre el uso de la IA para la vigilancia, para minimizar las prácticas invasivas.
Por último, para reducir la dependencia excesiva de los proveedores de tecnología extranjeros es necesaria una gran inversión en investigación y desarrollo locales de IA, así como en la formulación de políticas sobre el tema.
Además, para hacer frente a estos riesgos y ampliar las soluciones, es esencial reducir la diferencia en la gobernanza de la IA entre el norte y el sur global. Esta diferencia se manifiesta no solo en las capacidades tecnológicas y la infraestructura digital y energética subyacente, sino también en el acceso a los recursos y el talento.
Como mínimo, esto requiere aumentar la participación de responsables de la toma de decisiones y expertos del sur global en el desarrollo, la regulación y la formulación de políticas de IA, incluso en los contextos del G20 y la Ocde.
Estos ambiciosos compromisos requieren un esfuerzo concertado para atraer inversiones en programas de apoyo a la infraestructura de la IA, en asociación con los países en desarrollo. Esto demandará importantes compromisos financieros y técnicos para construir nuevos centros de datos, aumentar la capacidad informática, ampliar la conectividad de banda ancha, y ofrecer herramientas y plataformas de IA de código abierto.
ROBERT MUGGAH (*)
The Conversation (**)
(*) Cofundador del Instituto Igarapé.
(**) The Conversation es una organización sin ánimo de lucro que busca compartir ideas y conocimientos académicos con el público. Este artículo es reproducido aquí bajo licencia de Creative Commons.
Este texto fue editado por razones de espacio.