Urge encauzar la Inteligencia Artificial
| de la tecnoogía |  |
|
||||||||||||
| Urge encauzar la Inteligencia Artificial |  |
|||||||||||||
| Eduardo Morales | ||||||||||||||
|
La Inteligencia Artificial (IA) recientemente se ha
vuelto un tema común de conversación, con desarrollos que no dejan de sorprendernos, inclusive a los que trabajamos en el área desde hace muchos años. Apoyada por una inyección importante de recursos económicos y humanos, ha aprovechado la gran cantidad de datos disponibles, los aumentos en la capacidad de cómputo y las mejoras en los algoritmos de aprendizaje para crear sistemas que prácticamente saben de todo, que le ganan a los mejores del mundo en una gran cantidad de juegos, que pueden generar dibujos, textos, música y videos a partir de un texto simple, e inclusive resolver problemas tan fundamentales para la vida como el del plegamiento de proteínas. La ia está impactando a gran velocidad en toda la sociedad, por lo que es importante actuar con rapidez para asegurarnos que esta poderosa tecnología se use en beneficio y no en detrimento de todos.
Sus avances recientes están detonando un “nuevo renacimiento” en las ciencias y las artes. Por un lado, ayudando a resolver problemas fundamentales en la ciencia y, por el otro, generando una explosión de expresiones artísticas. En particular, se le puede ver como un “amplificador cognitivo”, con capacidades para analizar una gran cantidad de información, encontrar patrones útiles, explorar diversas alternativas, entre muchas otras capacidades. Siendo una tecnología tan poderosa, también tiene sus posibles riesgos. Es importante entender que los sistemas de ia, pueden tomar decisiones acertadas o decisiones que pueden reforzar nuestros errores o sesgos, pero estos sistemas no tienen un código moral, no saben lo que es verdadero o falso, no saben si se equivocan, no tienen valores humanos, no cuentan con intención, motivación, emoción o juicio, aunque por su comportamiento lo pueden “simular”, por lo que es común asignarle cualidades humanas.
Para contener sus posibles malos usos, recurrentemente se menciona la importancia de crear una regulación, como lo están haciendo muchos países. La regulación tiene sus beneficios, pero también sus riesgos. Por un lado, ayuda a que se le dé un uso ético, buscando prevenir discriminación y sesgos que puedan impactar negativamente a grupos minoritarios; también a la protección de datos personales, a respetar la privacidad, a impulsar la calidad y consistencia de los desarrollos y a promover la responsabilidad social y legal de estos sistemas cuando se equivocan. Con la regulación se puede promover la transparencia de estos sistemas, buscar proteger los derechos de autor, evitar la proliferación de armas autónomas, incentivar el uso de estas tecnologías en toda la sociedad, y para evitar ensanchar la brecha entre ricos y pobres, entre otros beneficios.
Por otro lado, los detractores de las regulaciones argumentan que éstas pueden detener o retrasar el desarrollo de dicha tecnología y crear costos excesivos, afectar al surgimiento de nuevas empresas para las cuales sea difícil cumplir con tales regulaciones y que no tengan los recursos económicos necesarios, limitando la posible competencia. Sin embargo, dada la velocidad en que están ocurriendo los desarrollos y la incertidumbre en cuanto a su posible futuro, lo más probable es que dichas regulaciones dejen de tener vigencia rápidamente.
Finalmente, las regulaciones que adopten los países no van a ser equivalentes e inclusive pueden no existir en algunos casos, lo cual puede provocar que las empresas desarrolladoras de dichas tecnologías se muevan a países con regulaciones laxas que permitan desarrollar sistemas que posiblemente violen derechos humanos a costa de beneficios económicos. Algo parecido ya sucede en otras industrias, como la minera, en donde se violan las condiciones mínimas laborales y ambientales. La regulación debe de ser en beneficio de la población y no de las compañías desarrolladoras. Las normas deben de crearse a nivel nacional tomando en cuenta las regulaciones internacionales y ser robustas y ágiles para poder lidiar con los continuos cambios tecnológicos.
Las regulaciones son indispensables, pero no son suficientes. Por ejemplo, existen leyes claras para no robar, sin embargo, cerramos con llave todas nuestras pertenencias porque las leyes no siempre son respetadas. Si algo nos enseñó el uso de la ia en las redes sociales es que, con mecanismos relativamente sencillos, lograron que la gente fuera más predecible, más extrema y más polarizada. No es difícil imaginar mayores controles sobre la población con mecanismos más sofisticados. Afectará la educación, el sector salud, el desarrollo de la ciencia y de las artes, la agricultura, el empleo y muchas áreas más, por lo que se requiere tener un plan nacional de desarrollo integral, con equipos multidisciplinarios, que abarque todos estos sectores y se asegure de que dicha tecnología se use en beneficio de la sociedad.
Por ejemplo, en el sector salud se esperan mejoras al producir diagnósticos precisos, acelerar la producción de fármacos y vacunas, dar un mejor seguimiento a los pacientes, ayudar a la prevención de enfermedades y contar con la posibilidad de desarrollar aplicaciones médicas específicas para la población mexicana. Pero para eso se requiere trabajar con médicos especialistas que conozcan no sólo los beneficios, sino también los riesgos potenciales.
Se espera que contribuya asimismo a una educación personalizada con grandes beneficios en el proceso enseñanza-aprendizaje, pero esto requiere educar a los alumnos y, en particular, a los maestros en cómo usar estas tecnologías de forma efectiva para que promuevan la enseñanza y se eviten saltos cognitivos, esto es, que los alumnos dejen de aprender ciertos conceptos o habilidades por delegar buena parte del trabajo cognitivo en tales tecnologías. Para esto se requiere cooperar con los docentes a fin de diseñar programas de enseñanza en donde se aprovechen dichas tecnologías como apoyo a los alumnos en el aprendizaje y desarrollo de nuevas habilidades.
Además, se espera que provoque desempleo, por lo que se requiere trabajar con expertos de economía y empresarios para vislumbrar alternativas laborales y programas de capacitación para la generación y conversión de nuevos empleos. Ya está presente en nuestras vidas y su influencia va a ser cada vez mayor. No podemos dejar pasar la oportunidad para aprovecharla ni dejar que cada quien use esta tecnología como “dios le dé a entender”. Actualmente las grandes compañías crean sistemas de ia, los liberan a la sociedad y luego buscan corregirlos para evitar posibles sesgos o malos usos. Tenemos que obligar a estas compañías para que los sistemas que liberan a la sociedad sean seguros por diseño. Eso justamente sucede con las farmacéuticas, las cuales no pueden, por ejemplo, saltarse los ensayos clínicos, o con las plantas nucleares, que no pueden omitir los protocolos de seguridad. Entonces, ¿por qué vamos a permitir que las compañías que están generando estos sistemas sí se puedan saltar cualquier tipo de garantía? No queremos que por desconocimiento de su uso se creen errores médicos que pongan en riesgo la vida de los pacientes. Tampoco podemos quedarnos cruzados de brazos mientras el desempleo aumente con su incorporación en varios sectores productivos; no debemos permitir que nuestros alumnos usen estas herramientas para resolver problemas escolares, evitando procesos cognitivos y perdiendo su capacidad para escribir, cuestionar o razonar. Debemos evitar que esta tecnología ensanche la brecha educativa, de salud, alimenticia, entre otras tantas, entre personas con altos recursos económicos y aquellas menos favorecidas.
Finalmente, es importante preguntarnos cómo estamos en la formación de recursos humanos, la cual es una parte fundamental para el futuro de la ia. Desafortunadamente en México, su desarrollo y, más genéricamente de la computación, tiene serios problemas en todos los niveles educativos. En la primaria, secundaria y preparatoria, en general, se enseña cómo usar paquetes para escribir textos, hacer hojas de cálculo o diseñar presentaciones, en lugar de enseñar computación. Aprender a usar paquetes en las clases de computación es como aprender a usar una calculadora en lugar de enseñar matemáticas, a usar un telescopio en lugar de aprender astronomía o manejar un coche para aprender mecánica. El equiparar el uso de paquetes o herramientas con el conocimiento del área crea una idea equivocada de lo que es la computación. A nivel licenciatura no estamos mejor, en lugar de que exista una carrera en computación que se enseñe en diferentes instituciones, como ocurre con la física, química o biología, lo que vemos es que existen más de doscientos nombres diferentes para carreras relacionadas a computación e informática, la mayoría de ellas con deficiencias en matemáticas, que son la base de la computación y la ia.
Esto crea confusión para los estudiantes y para los empleadores, ya que el nombre de la carrera deja de hacer sentido en cuanto al contenido de la carrera. A nivel posgrados, se tienen grupos relativamente pequeños y aislados en el país, no se tiene un Centro Público de Investigación dedicado a la ia y las políticas de evaluación de conahcyt, que en buena medida determinan el desarrollo de la investigación en el país, aíslan a los científicos mexicanos de la comunidad internacional. Me explico: en la computación, una de las formas más aceptadas de publicar conocimiento es por medio de congresos, los cuales son artículos en extenso que siguen un proceso estricto de evaluación y en donde muchas veces es más difícil de publicar que en las mejores revistas del área. Esto no ocurre, en general, en otras áreas del conocimiento, en donde las publicaciones en congresos se consideran de menor calidad que las de las revistas. Para ilustrar la relevancia de los congresos en computación, según Google metrics, de las cien publicaciones de mayor impacto a nivel mundial, existen diez de computación, de las cuales ocho son congresos. De hecho, la cuarta publicación de más impacto a nivel mundial en esa lista es un congreso de computación, sólo por debajo de Nature, The New England Journal of Medicine y Science. Sin embargo, si un investigador de México publica en ese congreso, no se le toma en cuenta en sus evaluaciones porque no se considera como un producto válido de investigación. Esto provoca que los investigadores acaben publicando en revistas para que se les reconozcan esas publicaciones en México, pero que posiblemente no reciban el mismo reconocimiento a nivel internacional.
La IA es una tecnología muy poderosa que puede ayudar a resolver muchos problemas de la sociedad y mejorar sus estándares de vida, pero tenemos que asegurarnos que así sea. Dada las capacidades de sus herramientas actuales y su disponibilidad, es primordial que nosotros definamos cómo queremos que se usen en beneficio de la sociedad. Se tiene que invertir en su educación, en su investigación y en su sano desarrollo. Se requiere crear centros de ia, con grupos multidisciplinarios y equipo de cómputo adecuado para atender los sectores que más rápidamente van a ser afectados con esta tecnología, empezando por la educación. Es necesario crear una regulación y considerar aspectos éticos en su uso. Se requiere incluir cursos de ética en las universidades que enseñan computación y aplicar regularmente auditorias y monitoreos a estos sistemas para asegurarse de que cumplan con ciertos estándares de desempeño y confiabilidad. Tales acciones nos pueden ayudar a crear un desarrollo responsable en el área, que traiga beneficios tangibles para la sociedad y detone el desarrollo científico y tecnológico del país.
Necesitamos articular un plan nacional para la incorporación de la ia en la sociedad. Sus posibles consecuencias son muy amplias, es una tecnología disruptiva y ya está entre nosotros, lo queramos o no, por lo que urge encauzarla para poder obtener todos los beneficios que promete y al mismo tiempo evitar todos los posibles daños que puede ocasionar.
|
||||||||||||||
| Eduardo Morales Instituto Nacional de Astrofísica, Óptica y Electrónica, Universidad Nacional Autónoma de México. |
||||||||||||||
|
cómo citar este artículo
|
||||||||||||||
