¿Cómo de neutral es la tecnología digital? ¿Y la IA?

¿Cómo de neutral es la tecnología digital? ¿Y a IA? Estas han sido algunas de las preguntas que han surgido hoy en el aula. Pues bien, mi respuesta ha sido prácticamente inmediata: No. Considero que ni la tecnología digital ni la Inteligencia Artificial son totalmente neutrales.

Con el fin de comentar distintos puntos de vista, me he juntado con mi grupo de trabajo para comentarlo, descubriendo así que todos/as los integrantes estábamos de acuerdo en la respuesta. Sin embargo, para más inri, hemos decidido preguntárselo al propio Chat GPT, porque, ¿quién mejor que él puede responder a esta pregunta? Pues bien, esta fue la respuesta que nos proporcionó: “Intento serlo, pero en realidad, como cualquier sistema de IA, no soy completamente neutral. Mi entrenamiento se basa en datos creados por humanos, que pueden tener sesgos. Aunque OpenAI trabaja para reducirlos, mi forma de responder puede verse influenciada por las decisiones tomadas en el desarrollo del modelo”.

Hace poco, leí un artículo que decía que cuando a Deepseek, esta nueva IA que tanto peso ha cogido recientemente, se le preguntaba acerca de un acontecimiento histórico sumamente trágico que tuvo lugar en China, este le respondía que no tenía alcance para responder a dicha cuestión. Y lo mismo ocurría cuando se le preguntaba acerca de si Taiwán es parte de China, ya que esta IA afirmaba que sí, mientras que ChatGPT respondía que dependía de la perspectiva. Todo ello pone en relieve que en efecto, la IA no es neutral y que funciona en base a propios intereses.

En definitiva, a pesar de que nos recalca que trata de proporcionar datos y hechos objetivamente, resulta innegable que en muchas ocasiones los dota de cierta subjetividad mediante opiniones, juicios y perspectivas humanas. Me gustaría señalar que hay una palabra que la docente ha mencionado hoy en clase que es clave para entender todo esto: los intereses. Resulta innegable que detrás de todo hay unos intereses ocultos, y en este caso estos intereses vienen por parte de la oligarquía tecnológica imperante. 

Por todo ello, creo que es importante tomar conciencia y adoptar una actitud más crítica con la información que obtenemos por medio de la IA, ya que esta no siempre es veraz y objetiva. ¿Qué opináis al respecto? ¿Se os ocurre algún ejemplo más que corrobore la no neutralidad de la IA? Dejádmelo en los comentarios.

En relación a la Inteligencia artificial, creo que esta no deja de ser una herramienta “domada” y meticulosamente moldeada. ¿Por qué? Sencillamente porque estamos hablando de un sistema programado por seres humanos, sufriendo así un indiscutible y significativo sesgo.