Ahora que entramos en el Año Nuevo con una insurgencia violenta organizada en las redes sociales, la difusión de desinformación sobre una pandemia mortal y cortes en la educación a distancia, sería negligente por nuestra parte no reconocer el impacto de la tecnología en todas las facetas de nuestra sociedad. . Todos hemos estado igualmente unidos en nuestras frustraciones y preocupaciones de que nos estamos acercando a un futuro distópico.
2020 dará más visibilidad a cómo el racismo, el sexismo y otros ismos impregnan la tecnología y continuará creando divisiones que pueden volverse irreparables. En el mundo de la tecnología, ha habido esfuerzos de DCI, legislación dirigida al impacto racista de la tecnología, advertencias de especialistas en ética y evaluaciones independientes de los sesgos creados para frenar el daño, pero ninguna de estas soluciones falla.Resuelve el problema real: los humanos. Tenemos que afrontar cómo el daño destructivo que se produce a través de nuestras tecnologías hoy en día es un reflejo de los prejuicios y los prejuicios implícitos en los diseñadores que construyen la tecnología, y cómo se les ha enseñado. Muchos diseñadores no saben cómo identificar los sesgos dañinos y desconocen por completo cómo sus propios sesgos dan forma a los productos que fabrican. Entonces, ¿cómo podemos comenzar a abordar este problema de frente en 2021?
Los seres humanos son el problema y, afortunadamente, la educación ofrece una solución.
Necesitamos ir más allá de las soluciones rápidas que no funcionan; e invertir en la próxima generación de tecnólogos modificando radicalmente por qué y cómo enseñamos informática. El lugar natural para comenzar es con la gran pero influyente comunidad en la educación en ciencias de la computación, que incluye educadores, administradores, diseñadores de programas y cualquier persona involucrada en la formación de futuros tecnólogos. Nuestros jóvenes necesitan dominar técnicamente Python, R y Lisp para desarrollar IA, aprendizaje automático y otras tecnologías emergentes. Sin embargo, las habilidades informáticas no son suficientes; debemos dotar a nuestros jóvenes del conocimiento, las habilidades y el valor moral para diseñar una tecnología justa que desmantele las dinámicas de poder existentes, proteja a los grupos no dominantes, represente a todos y ponga el bienestar de la sociedad en primer lugar.
Como educadores de informática y tecnología, hemos ayudado a crear decenas de espacios para que los jóvenes jueguen con la tecnología durante más de una década. Pensando en este período, no podemos evitar preguntarnos cuántos jóvenes se han graduado en estos espacios capaces de construir un nuevo bot, pero incapaces de reconocer sus propios sesgos. ¿Donde están ahora? ¿Qué tecnología genial y potencialmente peligrosa han traído al mundo? No podemos retroceder en el tiempo; pero podemos utilizar esta nueva visión para diseñar una visión mejor y más equitativa para la educación en ciencias de la computación.
Una educación informática radicalmente remodelada:
Priorizar la alfabetización racial y la historia.
Es importante que todos los jóvenes crean que pueden ser creadores de tecnología, y tampoco es prudente omitir que la tecnología fue diseñada históricamente como una herramienta para monitorear y oprimir a las comunidades no dominantes. Dar prioridad a la alfabetización racial significa que debemos reconocer cuán arraigada ha estado la supremacía blanca en la tecnología y reconocer colectivamente que la tecnología no ha sido neutral y tiene el poder de hacer daño. Los ejemplos podrían incluir cómo los tabuladores de tarjetas perforadas fueron utilizados en la Alemania nazi por el Tercer Reich para procesar censos raciales de ciudadanos judíos alemanes; y cómo algunas de las primeras películas se centraron en los tonos de piel blancos. Hoy en día, tenemos tecnologías como el software de reconocimiento facial que centra la blancura y no puede identificar a las mujeres negras, mientras que también está diseñado para monitorear y controlar las comunidades negras y morenas.
Al igual que las tecnologías emergentes, las prácticas de diseño opresivas solo han evolucionado y se han manifestado de nuevas formas. Los administradores, educadores y empresas de tecnología de jardín de infantes a grado 12 que invierten en educación informática deben ayudar a los jóvenes a examinar el diseño, el uso y las consecuencias dañinas de las tecnologías discriminatorias.
Reflexionar y actuar sobre nuestros propios prejuicios como creadores.
Es esencial que los jóvenes comprendan cómo los prejuicios están incrustados en el código, los datos, las políticas y otras facetas de la tecnología. Aún más importante para los jóvenes es la capacidad de reflexionar sobre cómo nuestra posicionalidad (moldeada por la identidad y el estatus social) influye en las tecnologías que diseñamos. En Stanford d.school, hemos creado una metodología de diseño que puede ayudar a los diseñadores de tecnología a pensar en las implicaciones de primer, segundo y tercer orden de sus diseños antes de lanzarlos al mundo. Nuestros tecnólogos en ciernes deberían evaluar iterativamente sus creaciones y preguntarse:
- ¿Estoy creando esto basado en mi propia experiencia vivida y esperando que otras personas además de mí lo usen?
- ¿Quién se beneficia, quién se lesiona o quién queda excluido de la tecnología?
- ¿A quién le dice este conjunto de datos? ¿De quién está excluido este conjunto de datos? ¿Cuál fue el contexto histórico cuando se produjo este conjunto de datos?
- Que no se ¿Con quién debo preguntar y aprender?
- Puedo diseñar esto, pero ¿debería? ¿Cuáles son las implicaciones a considerar?
Reconozca y haga espacio para múltiples perspectivas.
El campo del diseño puede ser un escenario para el “pluriverso”, que el antropólogo Arturo Escobar define como múltiples formas de conocer, ser y pensar enraizados en lugares y comunidades específicos.
Los jóvenes son curiosos y pueden inspirarse en las diversas ontologías y perspectivas de los pueblos del mundo y los sistemas naturales. Guiarlos para que canalicen esa inspiración en prácticas de diseño que transformen la dinámica de poder en la tecnología a través de la raza, el género, la capacidad y la cultura puede hacer que nuestras tecnologías sean profundamente más equitativas. Animarlos a ver qué se puede hacer al abordar problemas hiperlocales y diseñar soluciones con otros que tienen perspectivas muy diferentes, es un punto de partida. Experiencias transculturales que les hacen preguntarse por qué su punto de vista debería ser el del mundo y dejar espacio para otras creencias con las que pueden no relacionarse, es otra. Estas primeras experiencias pueden permitirles trabajar con otros y crear tecnologías más inclusivas y sensibles al contexto.
¿Cómo seguimos hacia adelante?
Podemos inspirarnos en Project 1619 y The Zinn Education Project, que nos proporcionaron las herramientas para enfrentar nuestras historias multifacéticas con la esperanza de reparar y dar forma a nuestro futuro. Estos proyectos dan prioridad a la alfabetización racial, ayudan a los jóvenes a reflexionar sobre los prejuicios y reconocen múltiples perspectivas.
Podemos trabajar con nuestros departamentos de estudios sociales y otras disciplinas para asegurar que nuestros estudiantes tengan una comprensión histórica de la tecnología. Podemos celebrar lo que nuestros estudiantes codifican y construyen, y pedirles que piensen en el impacto que sus creaciones podrían tener en los demás. Y podemos celebrar e involucrarnos activamente con diferentes perspectivas que desafían las voces y narrativas dominantes en cada paso de nuestro proceso de diseño.
Si podemos aplicar estas prácticas a la educación en ciencias de la computación, nuestros jóvenes podrían crear tecnología genial que sirva a todos y apoye un mundo justo.
