|
Getting your Trinity Audio player ready...
|
Por Redacción OnData
Tiempo de lectura: 5 minutos.
Resumen. La inteligencia artificial (IA) se ha integrado en múltiples aspectos de nuestra vida cotidiana, desde asistentes virtuales hasta sistemas de recomendación. Sin embargo, surge una pregunta crucial: ¿qué tan imparciales y objetivas son estas herramientas? A continuación, analizaremos la imparcialidad de diversas IAs destacadas, su método de aprendizaje, sus fundadores o empresas propietarias, y abordaremos recientes controversias que han puesto en duda su veracidad.
IA: ¿Qué tan objetivas e imparciales son?
La percepción de que la IA es neutral y objetiva es común, pero diversos estudios y expertos han señalado que estos sistemas pueden perpetuar y amplificar sesgos existentes en la sociedad. Esto se debe a que la IA aprende de datos históricos que, en muchos casos, contienen prejuicios implícitos.
Ruha Benjamin, socióloga especializada en la relación entre tecnología, diversidad e igualdad, enfatiza que la tecnología no es mágica ni neutral, sino que refleja las desigualdades presentes debido a las visiones y valores de quienes la desarrollan. Destaca la importancia de desmitificar la tecnología y prestar atención a las voces silenciadas por el supuesto progreso tecnológico.
Errores y desinformación: El desafío de la precisión en la IA
Un estudio de febrero del 2025, de la BBC analizó la capacidad de chatbots de IA, como ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Perplexity AI para resumir noticias. Los resultados mostraron que el 51% de las respuestas generadas por estos sistemas presentaban imprecisiones significativas, incluyendo errores fácticos y omisión de información clave. Deborah Turness, directora ejecutiva de BBC News and Current Affairs, expresó su preocupación por la amenaza que la falta de precisión en la IA puede representar en un entorno donde la desinformación es prevalente.
Es evidente que la IA no es inherentemente objetiva ni imparcial. Su desempeño y decisiones están influenciados por la calidad y naturaleza de los datos con los que se entrena, así como por las decisiones de diseño tomadas por sus desarrolladores. Por lo tanto, es esencial implementar medidas que identifiquen y mitiguen estos sesgos para garantizar que la IA opere de manera más justa y equitativa.
Principales IAs y su aprendizaje
ChatGPT
Empresa: OpenAI
Fundador(es): Sam Altman, Elon Musk, entre otros.
Método de aprendizaje: Entrenado con vastos conjuntos de datos textuales provenientes de internet, incluyendo libros, artículos y sitios web. Aprende patrones lingüísticos y contextuales a partir de esta información.
DeepSeek
Empresa: DeepSeek Inc.
Fundador(es): Liang Wenfeng.
Método de aprendizaje: Utiliza técnicas de aprendizaje profundo y análisis semántico para procesar y comprender grandes volúmenes de datos, enfocándose en la búsqueda y recuperación de información relevante.
Gemini
Empresa: Google DeepMind.
Fundador(es): Demis Hassabis, Shane Legg y Mustafa Suleyman.
Método de aprendizaje: Basado en modelos de aprendizaje automático que analizan datos de diversas fuentes, priorizando la comprensión del lenguaje natural y la generación de respuestas coherentes.
Grok
Empresa: X Corp. (antesTwitter)
Fundador(es): Elon Musk
Método de aprendizaje: Se alimenta de datos en tiempo real de la plataforma X, analizando tendencias y conversaciones para generar respuestas actualizadas y contextuales.
Meta AI
Empresa: Meta Platforms, Inc.
Fundador(es): Mark Zuckerberg
Método de aprendizaje: Entrenado con datos de las plataformas de Meta, incluyendo Facebook e Instagram, analizando interacciones y contenidos para mejorar la comprensión y generación de lenguaje.
Copilot
Empresa: Microsoft
Fundador(es): Madonna y Matt Spettel.
Método de aprendizaje: Utiliza modelos avanzados de IA, incluyendo GPT-4, integrados en productos como Microsoft 365 y Windows. Se entrena con documentos, correos y otros datos de usuarios para asistir en tareas como redacción, programación y análisis de información.
Controversia reciente con Grok
Grok, la IA desarrollada por X Corp., ha estado en el centro de la polémica en Ecuador y México debido a respuestas controvertidas que han generado dudas sobre su imparcialidad. En Ecuador, durante el debate presidencial, usuarios consultaron a Grok sobre los candidatos Luisa González y Daniel Noboa, obteniendo respuestas que algunos consideraron sesgadas.
En México, Grok fue cuestionado sobre la seguridad durante el mandato de Claudia Sheinbaum, proporcionando datos que dejaron en una posición incómoda a la administración actual. Así como, su respuesta sobre la aceptación del gobierno actual de México en LATAM en comparación con el presidente de El Salvador, Nayib Bukele.
Estos incidentes han generado desconfianza y preocupación en la veracidad y objetividad de Grok, evidenciando la necesidad de una mayor supervisión y transparencia en el desarrollo y entrenamiento de las IAs.
@politicomx “¡Ahí nomás!”: Sheinbaum reacciona a polémica de Grok y Bukele Claudia Sheinbaum fue cuestionada sobre el hecho de que el presidente de El Salvador, Nayib Bukele, preguntara a la IA de X, Grok, quién es el presidente más popular del mundo y ésta respondiera que Sheinbaum. La presidenta afirmó que dicha pregunta “se explica por sí misma” y reiteró su solicitud de respeto para México. #sheinbaum #bukele #grok #noticia ♬ sonido original - PolíticoMX
Controversia por generación de imágenes con IA
La reciente capacidad de ChatGPT para generar imágenes detalladas ha generado un debate significativo en la comunidad artística y tecnológica. Usuarios han utilizado esta función para crear ilustraciones en estilos reconocidos, como el de Studio Ghibli, lo que ha suscitado preocupaciones sobre derechos de autor y la originalidad artística. El propio Hayao Miyazaki, cofundador de Studio Ghibli, ha expresado su descontento, calificando estas prácticas como «un insulto a la vida misma».
A pesar de las críticas, esta tecnología ofrece oportunidades para emprendedores y marcas, permitiéndoles generar contenido visual atractivo de manera eficiente y económica. Esta tendencia recuerda la resistencia inicial que enfrentaron herramientas como Canva, que, aunque en su momento fueron cuestionadas por diseñadores, hoy son ampliamente utilizadas en el ámbito del diseño gráfico.
Sin embargo, es esencial considerar el impacto ambiental de estas tecnologías. La generación de imágenes mediante IA consume una cantidad significativa de recursos hídricos. Estudios indican que crear una imagen con IA puede requerir entre 2 y 5 litros de agua, debido a la energía necesaria para alimentar y enfriar los servidores que procesan estas tareas.
Controversia por generación de imágenes con IA
A medida que la inteligencia artificial evoluciona, los investigadores y empresas tecnológicas trabajan en mejorar su imparcialidad y precisión. Algunas de las estrategias clave incluyen:
Mejor calidad de datos: Las compañías están enfocadas en utilizar conjuntos de datos más diversos y representativos para reducir sesgos en los modelos de IA.
Mayor transparencia: Se están implementando auditorías externas y herramientas de código abierto para que el desarrollo de la IA sea más accesible y verificable.
Regulación y control ético: Gobiernos y organismos internacionales están proponiendo regulaciones para evitar el uso indebido de la IA y garantizar que sus decisiones sean justas.
Sostenibilidad: El impacto ambiental de la IA es una preocupación creciente. Modelos de lenguaje y generación de imágenes consumen grandes cantidades de energía y agua para su funcionamiento. Empresas como OpenAI, Google y Microsoft están investigando formas de optimizar la eficiencia energética de sus sistemas y reducir su huella ecológica.
Si bien la IA nunca será completamente neutral debido a la naturaleza de su entrenamiento, los avances en regulación, ética y sostenibilidad pueden acercarnos a un futuro en el que estas tecnologías sean más justas, precisas y responsables.
