Bajo el título “Más Allá de ChatGPT: Abordando las cuestiones éticas del uso de la IA en la educación”, Claro Perú publicó un artículo sobre inteligencia artificial escrito por el investigador Miguel Córdova, director de Tecnologías Digitales para la Educación de la Universidad Continental.
En el artículo, Miguel Córdova sostiene que lo que todos tenemos que hacer es asegurarnos de que estamos usando la IA de una manera que sea en beneficio de la humanidad, no en detrimento de la humanidad”. Tim Cook, CEO de Apple.
En ese sentido señala que la Inteligencia Artificial (IA) es una tecnología que emula al comportamiento inteligente del humano, cómo reacciona, cómo aprende; se trata de dotar de esta inteligencia artificial a las computadoras y aplicaciones. Debido a su potencial para abordar diversas situaciones y problemas se utilizan cada vez más en aplicaciones que repercuten en nuestra vida cotidiana.
Preocupaciones de la IA
Sin embargo, dice Miguel Córdova dice que preocupa que estas aplicaciones puedan estar sesgadas en contra de grupos de estudiantes como mujeres, mayores de edad, de color, inmigrantes, de comunidades LGTBI+, contra estudiantes de bajo rendimiento académico o que provengan de poblaciones marginadas. Por ejemplo, el reconocimiento facial comete muchos más errores al reconocer a mujeres afroamericanas que a otros grupos demográficos, hasta un 35% de los casos frente a los hombres de tez blanca cuyos errores llegan al 1%, también en un estudio sobre el impacto de IA en los derechos de las personas con discapacidad, evidencian que “se han hallado determinadas limitaciones en los procesadores de lenguaje natural y reconocimiento de voz en los asistentes personales virtuales, en los sistemas biométricos, de reconocimiento por visión artificial o de conducción autónoma”.
Al respecto, señala que las razones de los resultados sesgados de la IA se asocian, por lo general con los sesgos incrustados en la data utilizada para entrenar a la IA, a este fenómeno se le conoce como “basura entra, basura sale”, la IA aprende estos prejuicios de los datos que provienen – en muchos casos – de sociedades sexistas, racistas, clasistas y capacitistas y lamentablemente perpetúa los patrones de discriminación a través de sus resultados.
Necesidad de la ética en IA
Ante ello, ¿podemos fiarnos de la Inteligencia Artificial?, se pregunta Miguel Córdova. La respuesta está en la ética; por ello, es necesario abordar la ética de la IA como una “reflexión normativa, sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de la IA”, tomando como referencia la dignidad humana, la justicia, la imparcialidad, el bienestar y la prevención de daños y apoyándose en la ética de la ciencia y la tecnología.
En ese sentido, añade que el auge de la IA generativa de texto o imágenes de fácil uso, como ChatGPT o Dall-e respectivamente, han exacerbado aún más otros problemas, dado que podrían generar textos creíbles con información falsa y engañosa que los estudiantes podrían estar propagando como noticias falsas o “fakenews”. Actualmente, se estima que el 70% de la población mundial ha sido expuesta a este tipo de noticias en el último año, convirtiéndose en una especie de círculo vicioso.
Acciones para contrarrestar
Sobre el tema, el investigador UC señala que algunos investigadores examinan si la IA toma decisiones moralmente cuestionables, como una especie de “ética de las máquinas”, otras en cambio, se centran en la conducta moral de los seres humanos involucrados en el desarrollo y el uso de la IA.
Añade que en este esfuerzo general hacia una conducta moral de los humanos, no se puede dejar de lado el papel crucial de la educación; las escuelas tienen una importante responsabilidad de incorporar en sus planes de estudio el desarrollo de competencias digitales y de pensamiento crítico por mencionar algunas.
Finalmente, dice que otro frente son las políticas organizativas y públicas incluso de instituciones multilaterales como la Unesco y la ONU, que definen un conjunto de principios fundamentales que deben guiar el desarrollo y el uso de la IA, análoga a la ética biomédica. Más de 70 países en el mundo cuentan con una Ley y el Perú no la excepción que cuenta con la Ley N° 31814 que promueve el uso de la inteligencia artificial (IA) en beneficio del desarrollo económico y social, los principios de la IA más comunes son la equidad y la no discriminación, la protección de la privacidad, el respeto de los derechos humanos y la promoción del bienestar social, la transparencia, la explicabilidad, la seguridad, la protección, el control humano de la IA y la sostenibilidad medioambiental, conforme la humanidad vaya conociendo del avance de la IA y de sus aún hipotéticos daños, conducirá a nuevos avances en la investigación, las políticas y las prácticas organizativas en torno a la ética de la IA.
Sobre el autor
Miguel Córdova Solís ha liderado los proyectos Contiverso (Universidad Continental en el metaverso) y Docente 2048 (avatar de realidad virtual con IA para mejorar la experiencia de enseñanza). Es ingeniero de sistemas y magister en Administración. Es docente investigador RENACYT. Moodle Course Creator Certificate, embajador XR, Blockchain Evangelist, Open Source Evangelist y Developer AI & Android Studio /E-learning.
Acceda a la publicación original: https://acortar.link/m8tNPI
