Investigadores de la Universidad de Anglia Oriental (Reino Unido) han publicado recientemente un estudio que arroja luz sobre un sesgo ideológico en las respuestas generadas por la plataforma de IA ChatGPT. El estudio, que analizó las respuestas de ChatGPT a una serie de más de 60 preguntas ideológicas, encontró una inclinación sistemática hacia la izquierda política.
Sesgo hacia la izquierda
El equipo de investigadores, formado por expertos de Reino Unido y Brasil, evaluó las respuestas de ChatGPT a preguntas que requerían interpretar a individuos con diferentes afiliaciones políticas. Estas respuestas se compararon con las respuestas predeterminadas de ChatGPT para evaluar el posicionamiento del chatbot. Se repitieron las preguntas 100 veces y se recopilaron las respuestas para evitar aberraciones estadísticas.
Los resultados mostraron de manera sostenida un sesgo favorable al Partido Demócrata en Estados Unidos, al Partido Laborista en el Reino Unido y al Partido de los Trabajadores de Lula en Brasil, todas ellas formaciones políticas de izquierdas. El líder del equipo de investigadores, Fabio Motoki, afirmó que este sesgo podría influir en las percepciones de los usuarios.
Info relacionada:
Fuentes de sesgo
El estudio no abordó directamente las razones detrás del sesgo político detectado, pero se señalan dos posibles fuentes de sesgo. En primer lugar, el conjunto de datos de entrenamiento podría contener sesgos que el proceso de «limpieza» no logró eliminar. Estos sesgos podrían ser inherentes o introducidos por los desarrolladores humanos. En segundo lugar, el algoritmo en sí podría estar amplificando esos sesgos, aplicando políticas de moderación de contenidos a muchos posicionamientos alejados de la izquierda política.
Confirmación de otros estudios
Además del estudio de la Universidad de Anglia Oriental, otra investigación reciente realizada por investigadores estadounidenses y chinos también ha encontrado resultados similares. Este estudio, que ganó el premio Best Papers en la conferencia Association for Computational Linguistics el mes pasado, respalda las acusaciones de sesgo en ChatGPT.
El estudio examinó los resultados del modelo por defecto de ChatGPT, GPT-3-davinci y ChatGPT 4. Todos ellos sitúan sus coordenadas políticas en el cuadrante de ‘izquierda libertaria’, que significa que son económicamente intervencionistas y sociopolíticamente progresistas. La mayoría de los modelos contemplados en el estudio se encuentran en ese cuadrante o en la zona fronteriza con el mismo, a excepción de LLaMa y los modelos BERT de Google.
Conclusiones
El sesgo ideológico en las respuestas de plataformas de IA como ChatGPT es un tema de preocupación. Los investigadores han señalado que este sesgo podría influir en las percepciones de los usuarios y tener un impacto en los procesos políticos y electorales. Las fuentes de sesgo podrían estar en los datos de entrenamiento o en el algoritmo en sí.
Las acusaciones de sesgo en ChatGPT no son nuevas. Elon Musk, CEO de Tesla y SpaceX, declaraba en marzo que el chatbot de OpenAI era «demasiado woke». Ahora, estos estudios parecen confirmar las afirmaciones de sesgo ideológico en las respuestas de ChatGPT.
