Saltar al contenido

LOS CONEJILLOS DE INDIAS DE LA EDUCACIÓN: La inteligencia artificial en el sistema educativo. A cargo de Karin Tafur.

AD 12/2020

Abstract:
El uso de la inteligencia artificial en el sector educativo está mejorando la calidad de enseñanza y está “democratizando” la educación; sin embargo, debido a la escasa regulación de las empresas desarrolladoras de algoritmos de aprendizaje, esta noble causa se pone en entredicho cuando se analiza sus posibles riesgos.

Palabras claves:

  • Inteligencia artificial, algoritmo, riesgo, data, vulnerabilidad, desregulación, regulación, big data, educación, estudiantes.

Actualmente, el sistema educativo se sirve de la inteligencia artificial (IA), en las escuelas y fuera de ellas, para ayudar a sus estudiantes a aprender de la mejor forma. Las ventajas[2] de su uso son variadas, por ejemplo, es utilizada para incrementar su calidad, creando tareas específicas para los estudiantes con problemas de aprendizaje; mejora el acceso a la educación en lugares remotos, facilita el trabajo de los profesores a la hora de revisar y calificar las tareas, etc.

En china, por ejemplo, la IA es parte importante en su sistema educativo y para hacerlo viable, colocan en la cabeza de los niños un aparato electrónico que mide el nivel de concentración de ellos, y en tiempo récord esta información es enviada al profesor y a los padres del menor, para darles a conocer dichos datos.[3]

Definitivamente, no se puede negar que, uno de los primeros países en aventurarse en el uso de la inteligencia artificial en la educación ha sido China, sin embargo, lamentablemente, este esfuerzo tecnológico no va acompañado de una regulación que permita proteger los datos de niños que están siendo sometidos a dicho experimento.  Por lo cual, aun estando a tiempo, para que esta tecnología se implemente en nuestros países, es importante conocer sus beneficios, pero, también, advertir los riesgos que ello implica.

La IA, al tiempo que va obteniendo nueva información, la cuantifica y califica, por lo cual, no solo obtiene los datos de los niños que son más inteligentes, o que tienen mucha rapidez aprendiendo sino, también, de aquellos que tienen dificultad de aprendizaje, etc. Estos datos al ser recolectados por un tercero (la empresa privada desarrolladora del algoritmo – escasamente regulada), puede hacer el uso que más le interese por lo cual, en la mayoría de los casos estos datos podrían ser “vendidos” al mejor postor. Después de todo incumplir con el Reglamento General de Protección de Datos (RGPD), no está sancionada “fuertemente” como para desincentivar esta mala práctica.

De acuerdo con Rose LUCKIN, Profesora del Centro de Diseño del aprendizaje en el Knowledge Lab – University College London y asesora especialista del Comité de Educación de la Cámara de los Comunes del Reino Unido, es preocupante cuán desregulado está el desarrollo de la inteligencia artificial en el sector educativo, de hecho “cualquiera puede establecerse como una empresa de tecnología educativa, y hay poca regulación de su actividad más allá de los procesos de regulación financiera y de datos [básicos[4]] que se aplican a todas las empresas. Los establecimientos educativos formales de todo el mundo son inspeccionados invariablemente. Sin embargo, una empresa que ofrece servicios o productos educativos basados ​​en inteligencia artificial no está regulada. Y, muchas de estas compañías están impulsadas únicamente por el rendimiento que pueden dar a sus accionistas y están controladas por un pequeño número de personas (…). La única forma en que podemos abordar realmente el vacío ético que actualmente amenaza con socavar el potencial transformador de la educación de alta calidad para todos, es a través de una combinación de educación y regulación”.[5]

Entonces, por qué pese a que los mayores especialistas en tecnología y educación, además de la UNESCO[6], están haciendo un llamado para que la IA en la educación se regule ¿por qué no se está regulando? o ¿por qué su regulación no es prioritaria? La posible respuesta es que, como las consecuencias del IA en la educación, no es calificado de alto riesgo (o sus posibles efectos negativos no se verán de modo inmediato), por lo tanto, no es un tema urgente; por lo cual, mientras no se regule esto, nuestros hijos serán utilizados como conejillos de indias de los “laboratorios tecnológicos”, tal cual sucede hoy en día en China.

De hecho, si bien la Unión Europea, es la primera en “tomar cartas en el asunto” sobre la regulación de la IA, sin embargo, no lo hará sobre la regulación del IA en la educación, sino en los sectores como ellos han denominado de “alto riesgo” pero, de modo muy general, para evitar violaciones de los derechos fundamentales, sobre todo como consecuencia del uso del reconocimiento facial[7]. Mientras tanto, las empresas creadoras de los algoritmos educativos – sí, ellos los recolectores de los datos de nuestros niños (o piratas del siglo 21) -, seguirán haciendo de las suyas con la información que recaben, para venderlas y/o revenderlas.

Es criticable la inacción de los reguladores, pues no hay justificación que valga cuando se trata de la seguridad de los menores y más aún cuando se presume que deberían estar “a salvo” en sus centro de estudios; sin embargo, ello es relativamente entendible, debido a que los reguladores, actualmente, no se dan abasto para velar por la reglamentación de esta nueva tecnología que, viene como un tsunami, y es completamente imparable e inmanejable; por lo cual, en este contexto ellos han focalizado su atención en regular la IA evidentemente de alto riesgo: como el “reconocimiento facial y el vinculado a la salud, al transporte y el usado por la policía”[8].

Por lo tanto, si permitimos que se mantenga el desarrollo la IA, tal cual es hoy en día – una jungla sin reglas -, los mayores perdedores seremos todos nosotros, incluidos nuestros niños, quienes están o estarán sometidos a este experimento y cuyo riesgo, en el mejor de los casos, es que sus datos sean vendidos al mejor postor y, en el peor de los casos, que el uso de esos datos condicionen totalmente su vida.

Ahora, tú que eres conocedor o conocedora de esta realidad, crees que quizás sea momento de pedir un lento-IA (slow-IA) para que se realice su adecuada regulación, y, así, dejemos de ser los conejillos de indias de esta tecnología y limitemos los perjuicios de sus efectos secundarios.

CITA DE ARTÍCULO:   TAFUR, Karin.  Los conejillos de indias de la educación: La inteligencia artificial en el sistema educativo. En Adefinitivas, enero-2020. [https://adefinitivas.com/arbol-del-derecho/los-conejillos-de-indias-de-la-educacion-la-inteligencia-artificial-en-el-sistema-educativo-a-cargo-de-karin-tafur/]

Fotografía de la autora del artículo "La inteligencia artificial y sus "bias" en el sistema de justicia", Karin Tfur
Karin TAFUR

Karin TAFUR, es Jurista, Legal Tech Entrepreneur y Speaker (Magister en Ciencias Jurídicas por la Universidad Pompeu Fabra; Seleccionada por la Fundación Rafel del Pino para el Summer Course in Law & Economic- John M. Olin Center for Law, Economic and Business, Harvard Law School y, actualmente, cursa el Programa “Strategic Management and Innovation” en Copenhagen Business School). Como Jurista su principal misión es investigar las implicancias de la tecnología en el sector legal y en la sociedad, así como incentivar su desarrollo y uso, de modo responsable e inclusivo.


Referencias ([9])

AAVV. Human learning in the digital era, UNESCO y NETEXPLO 2019, 179 pp. Consulta: 27 de enero de 2020. https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

BBC News. US lawmakers concerned by accuracy of facial recognition. Consultado: 26 de enero de 2020. https://www.bbc.com/news/technology-51130904

BOFFEY, Daniel. “EU eyes temporary ban on facial recognition in public places”. The Guardian. Consultado: 26 de enero de 2020. https://amp-theguardian-com.cdn.ampproject.org/c/s/amp.theguardian.com/technology/2020/jan/17/eu-eyes-temporary-ban-on-facial-recognition-in-public-places

EUOBSERVER. EU keen to set global rules on artificial intelligence.  Consulta: 26 de enero de 2020. https://euobserver.com/science/147198

FJELD, Jessica y otros. Principled Artificial Intelligence: Mapping consensus in ethical and right – based approaches to principles for AI. Berkman Klein Center: for Internet and society at Harvard University. Publicado en enero de 2020, 70 pp. Consulta: 26 de enero de 2020. https://cyber.harvard.edu/publication/2020/principled-ai

HAO, Karen. “China has started a grand experiment in AI education. It could reshape how the world learns”. MIT Technology Review. Consulta: 26 de enero de 2020. https://www.technologyreview.com/s/614057/china-squirrel-has-started-a-grand-experiment-in-ai-education-it-could-reshape-how-the/

LUCKIN, Rose. “The need for ethical AI in and for education”. En Human learning in the digital era. UNESCO y NETEXPLO, 2019, pp. 82-87 [traducción personal]. Consulta: 26 de enero de 2020. https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

MARR, Bernard. How is AI used in education – Real world examples of today and a peek into the future. En Forbes, julio de 2018. Consulta: 26 de enero de 2020. https://www.forbes.com/sites/bernardmarr/2018/07/25/how-is-ai-used-in-education-real-world-examples-of-today-and-a-peek-into-the-future/

SCHMELZER, Ron. AI applications in education. En Forbes, julio-2019. SCHMELZER, Ron. AI Applications In Education. En Forbes, julio-2019. Consulta: 26 de enero de 2020. shttps://www.forbes.com/sites/cognitiveworld/2019/07/12/ai-applications-in-education/

SINGH, Amita. Where can AI reduce inequalities?”. En Human learning in the digital era. UNESCO y NETEXPLO, 2019, pp. 38-43. Consulta: 26 de enero de 2020. https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

WALL STREET JOURNAL. How China Is Using Artificial Intelligence in Classrooms. Consulta: 26 de enero de 2020. https://www.youtube.com/watch?v=JMLsHI8aV0g


[1]  Karin TAFUR, es Jurista, Legal Tech Entrepreneur y Ponente (Magister en Ciencias Jurídicas por la Universidad Pompeu Fabra; Seleccionada por la Fundación Rafel del Pino para el Summer Course in Law & Economic- John M. Olin Center for Law, Economic and Business, Harvard Law School y, actualmente, cursa el Programa “Strategic Management and Innovation” en Copenhagen Business School). Su principal misión como Jurista es investigar las implicancias de la tecnología en el sector legal y en la sociedad, así como incentivar su desarrollo y uso, de modo responsable e inclusivo.

[2]  MARR, Bernard. How is AI used in education – Real world examples of today and a peek into the future. En Forbes, julio de 2018. https://www.forbes.com/sites/bernardmarr/2018/07/25/how-is-ai-used-in-education-real-world-examples-of-today-and-a-peek-into-the-future/

    SCHMELZER, Ron. AI Applications in Education. En Forbes, julio-2019. https://www.forbes.com/sites/cognitiveworld/2019/07/12/ai-applications-in-education/

[3] WALL STREET JOURNAL. How China Is Using Artificial Intelligence in Classrooms. Consulta: 26 de enero de 2020 [corchete propio]. https://www.youtube.com/watch?v=JMLsHI8aV0g

[4] Reglamento General de Protección de Datos (RGPD) es un reglamento “consuelo”, porque realmente no protege plenamente nuestros datos porque, si bien “nos da derechos como individuos para saber cuándo se recopilan nuestros datos, por qué se recopilan, cómo y durante cuánto tiempo se almacenarán nuestros datos… [sin embargo] las consecuencias de romper el RGPD pueden no ser lo suficientemente graves como para desalentar contravenirlas”. LUCKIN, Rose. “The need for ethical AI in and for education”. En: Human learning in the digital era. UNESCO y NETEXPLO, 2019, pp. 85 y 86 [corchetes y traducción propia]. Consulta: 26 de enero de 2020. https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

[5] LUCKIN, Rose. “The need for ethical AI in and for education”. En: Human learning in the digital era. UNESCO y NETEXPLO, 2019, pp. 86 y 87 [corchetes, negrita y traducción propia]. Consulta: 26 de enero de 2020.

https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

[6] AAVV. Human learning in the digital era, UNESCO y otros and NETEXPLO 2019, 179 pp. Consulta: 27 de enero de 2020. https://unesdoc.unesco.org/ark:/48223/pf0000367761.locale=fr

[7] EUOBSERVER. EU keen to set global rules on artificial intelligence.  Consulta: 26 de enero de 2020.        https://euobserver.com/science/147198

[8] EUOBSERVER. EU keen to set global rules on artificial intelligence.  Consulta: 26 de enero de 2020. https://euobserver.com/science/147198

[9]  Las ideas vertidas en el presente artículo fueron tomadas mayormente de la siguiente Referencias.

 

Deja un comentario

A %d blogueros les gusta esto: