La información distorsionada de las fuentes en Internet ha empeorado en los últimos años. Un nuevo proyecto llamado Public Editor pide a los ciudadanos científicos que ayuden a señalar los errores en las historias que leen. (Crédito: Public Editor)

En una época de robots en los medios de comunicación social, falsificaciones profundas y "hechos alternativos", las noticias fiables son más importantes que nunca. Ahora, un proyecto de ciencia ciudadana llamado Public Editor está pidiendo voluntarios que ayuden a encontrar noticias creíbles a través de análisis en internet. Con orientación y apoyo, los voluntarios del Editor Público evalúan secciones de los artículos de noticias en busca de "errores de razonamiento" y otras cuestiones.

El proyecto toma su nombre del papel de editor público de las publicaciones de noticias, que suele encargarse de supervisar la ética periodística de un medio de comunicación y, a veces, actuar de enlace con el público. El Public Editor ha adoptado aspectos de este puesto tradicional y los ha digitalizado con la ayuda de la ciencia ciudadana y la inteligencia artificial.

"El aspecto más gratificante de este trabajo es escuchar a los voluntarios que tanto aprecian el poder de enfrentarse a este problema masivo y creciente de la desinformación", dice el codirector del Editor Público, Nick Adams. "Los efectos nocivos parecen agravarse ya que el pensamiento falso acelera tanto la propagación de COVID como la erosión de nuestros lazos comunes como comunidad nacional".

¿De dónde vino el Editor Público?

Public Editor, una organización independiente sin fines de lucro, comenzó como una colaboración entre los miembros de la organización sin fines de lucro Goodly Labs y el Instituto de Ciencias de la Información de la Universidad de California, Berkeley. El objetivo de Goodly Labs es ofrecer tecnología y experiencias de colaboración para beneficiar a la sociedad. Adams es también el fundador y jefe científico de Goodly Labs y CEO de Thusly, que proporciona la tecnología de inteligencia artificial TagWorks que utiliza Public Editor". El otro codirector de Public Editor es el físico Saul Perlmutter, quien ganó el Premio Nobel de Física 2011 por el descubrimiento de su equipo de la expansión acelerada del universo.

El equipo comenzó a trabajar en el concepto de Editor Público en 2015. En el camino, reclutaron un equipo de diseño que incluye científicos del conocimiento, periodistas, educadores científicos, sociólogos, bibliotecarios, psicólogos, ingenieros de software y otros expertos.

El Editor Público entrena a los voluntarios y luego los guía a través de una serie de indicaciones que pueden identificar problemas potenciales con una historia de noticias. A medida que más usuarios participan, el artículo recibe una puntuación. (Crédito: Editor Público)

La tecnología TagWorks subyacente del Public Editor fue diseñada para facilitar la colaboración en la anotación y el análisis de la información. El Editor Público utiliza esa tecnología para combinar las respuestas de los voluntarios sobre los prejuicios y la información errónea, y luego utiliza los juicios frecuentes del grupo para crear una puntuación final de credibilidad para un artículo.

En cierto sentido, TagWorks toma la experiencia del equipo sin fines de lucro y la traduce en herramientas que cualquiera puede usar. En palabras del Public Editor, los expertos usan TagWorks "para establecer una secuencia de tareas de anotaciones sencillas que los no expertos pueden completar".

El proyecto de ciencia ciudadana divide a los colaboradores en diferentes roles. Algunos voluntarios de la Redacción Pública sirven de " intermediarios " para seleccionar los pasajes de los artículos para su revisión, y otros sirven como editores especializados. Estos editores especializados aprenden a calificar de "loable a problemático" el uso de las pruebas y el lenguaje, la discusión de las probabilidades y el razonamiento dentro de un texto. A través de un conjunto de nueve tareas de evaluación, los voluntarios pueden identificar más de 40 tipos diferentes de errores de razonamiento.

En el sitio del Editor Público, se invita a los nuevos voluntarios a comenzar con lo que ellos llaman un video de entrenamiento y un conjunto de actividades del Especialista en Fuentes Citadas, para luego pasar a otras categorías como Razonamiento o Especialista en Relevancia de los Argumentos.

En las primeras etapas de las tareas del especialista en fuentes citadas, se pide a los voluntarios que destaquen las áreas de texto "para indicar cómo las citas/frases fueron recogidas por el reportero". Por ejemplo, un periodista puede referirse a una persona, sitio web o libro como la fuente de una cita. El voluntario resaltaría las palabras específicas que contienen esa referencia.

Después de una actividad, el sistema pregunta al usuario lo difícil que fue la actividad y la confianza que tiene en sus respuestas. "Haz lo mejor que puedas, pero no te estreses", dicen las instrucciones. "Otras personas también están completando estas tareas, y el sistema [Public Editor] encontrará el consenso entre sus mejores iniciativas."

"Nadie puede saltarse directamente al Editor Público y tener un impacto inmediato en las etiquetas o puntuaciones de un artículo", dice Adams. "Se requiere entrenamiento, y el peso de un usuario individual en el sistema aumenta con el tiempo con un buen rendimiento". A medida que progresan, los voluntarios pueden ganar distintivos virtuales y pegatinas para sus portátiles. Public Editor responde a las preguntas de los voluntarios y construye una comunidad en un foro de equipo que también organiza fiestas en línea y en persona, y conecta a los voluntarios a través de grupos basados en la localización.

Cómo hacer frente a los prejuicios en el editor público

El sesgo y la arbitrariedad son problemas de larga trayectoria en los campos de STEM, y la inteligencia artificial sigue luchando con cuestiones de género, raza y otras identidades. Estos son desafíos duraderos para muchas organizaciones tecnológicas, así como para los proyectos de ciencia ciudadana que se abastecen de información.

Public Editor ha luchado proactivamente contra los prejuicios a través de sistemas premeditados y un equipo entrenado para encontrar los prejuicios de los usuarios y abordarlos. Por ejemplo, los artículos se presentan sin un medio de comunicación o nombre de autor, pero si un voluntario sigue siendo más crítico con algunas fuentes de noticias que con otras, el Editor Público reduce temporalmente el peso de sus juicios y proporciona capacitación adicional.

Adams dice que eliminar el sesgo es imposible. "Pero especialmente una vez que una persona ha completado muchas tareas, es fácil ver cómo está sistemáticamente desajustada con sus compañeros de equipo", dice. "Incluso incluimos algunas preguntas y opciones de respuesta en el sistema que son especialmente probables de revelar los sesgos ideológicos y de conocimiento de los individuos". El Editor Público puede entonces compartir esos sesgos con los usuarios y animarlos a corregirlos en el futuro.

El grupo también ha tratado de construir su proceso de entrenamiento para evitar que los trolls se infiltren en el sistema. Alguien con intenciones negativas tendría que trabajar muchas horas antes de que sus juicios tuvieran peso. En ese momento, los cambios en el comportamiento de los participantes serían señalados, y la cuenta podría ser suspendida.

Pero, si la mayoría de los voluntarios comparten un sesgo similar, ¿cómo podría el sistema encontrarlo?

Hay protocolos superpuestos para contrarrestar el sesgo del usuario. Pero, Adams dice que tendrían que usar medios alternativos si la comunidad de Editores Públicos fuera alguna vez muy homogénea, como por ejemplo más del 85 por ciento de un único grupo interseccional (como "mujeres jóvenes, conservadoras, de clase media de ascendencia europea"). "El sistema no tendría información que indicara que su perspectiva agregada no estaba representando las perspectivas de la población en general", dice. "Eso es algo que nuestro equipo descubriría a través de otros métodos como la encuesta a nuestros compañeros de equipo".

Adams dice que la mejor manera de prevenir "sesgos perjudiciales" es a través del reclutamiento.

"Estamos invitando a una diversidad de personas a ser redactores públicos, gente que se identifique con una variedad de grupos culturales, ideológicos, de clase, de herencia y de edad", dice. La diversidad puede ayudar a los prejuicios individuales a " compensar" si o cuando los compañeros de equipo del Editor Público no corrigen sus propios prejuicios.

Public Editor ha luchado proactivamente contra los prejuicios a través de sistemas convencionales y un equipo entrenado para encontrar los prejuicios de los usuarios y abordarlos. Por ejemplo, los artículos se presentan sin un medio de comunicación o nombre de autor, pero si un voluntario sigue siendo más crítico con algunas fuentes de noticias que con otras, el Editor Público reduce temporalmente el peso de sus juicios y le proporciona capacitación adicional.

Adams dice que eliminar el sesgo es imposible. "Pero especialmente una vez que una persona ha completado muchas tareas, es fácil ver cómo está sistemáticamente desajustada con sus compañeros de equipo", dice. "Incluso incluimos algunas preguntas y opciones de respuesta en el sistema que son especialmente probables de revelar los sesgos ideológicos y de conocimiento de los individuos". El Editor Público puede entonces compartir esos sesgos con los usuarios y animarlos a corregirlos en el futuro.

El grupo también ha tratado de construir su proceso de entrenamiento para evitar que los trolls se infiltren en el sistema. Alguien con intenciones negativas tendría que trabajar durante horas antes de que sus juicios tuvieran peso. En ese momento, los cambios en el comportamiento de los participantes serían detectados, y la cuenta podría ser suspendida.

Pero, si la mayoría de los voluntarios comparten un sesgo similar, ¿cómo podría el sistema detectarlo?

Hay protocolos superpuestos para contrarrestar el sesgo del usuario. Pero, Adams dice que tendrían que usar medios alternativos si la comunidad de Editores Públicos fuera alguna vez muy homogénea, como por ejemplo más del 85 por ciento de un único grupo interseccional (como "mujeres jóvenes, conservadoras, de clase media de ascendencia europea"). "El sistema no tendría información que indicara que su perspectiva global no representaba las perspectivas de la población en general", dice. "Eso es algo que nuestro equipo descubriría a través de otros métodos como la encuesta a nuestros compañeros de equipo".

Uso de la ciencia ciudadana para combatir la desinformación

Adams también dice que la diversidad hace que el criterio de consenso del proyecto sea más creíble porque, por ejemplo, cuando personas de múltiples perspectivas identifican el mismo defecto de razonamiento, "nos sentimos mucho más seguros porque el defecto es real y difícil". Dice que el Editor Público busca ser inclusivo y está especialmente emocionado de trabajar con personas que históricamente han estado poco representadas en el discurso público. "Algunas de estas comunidades están siendo objeto en estos momentos de campañas de desinformación que tratan de desalentar su participación política", dice.

Junto con sus principales instituciones fundadoras, Public Editor está trabajando con un puñado de organizaciones asociadas, y también colabora con verificadores de hechos externos. La organización sin fines de lucro está abierta a trabajar con individuos y grupos privados y públicos. Public Editor planea lanzar una extensión del navegador Chrome para que los lectores puedan utilizar sus evaluaciones en tiempo real. Sospechan que la aprobación de Google podría llegar pronto.

Los voluntarios que se unan al Editor Público hoy pueden tratar inmediatamente un tema que a muchos les apasiona: la búsqueda de la verdad y la creación de una idea compartida de la información veraz.

"La buena noticia es que cada caso de desinformación es un momento de aprendizaje; una experiencia para que los voluntarios del Editor Público y los lectores de noticias aprendan", dice Adams. "Así que podemos tomarlo con los brazos abiertos, mantenerlo bajo control, y usarlo para ayudar a todos a ser más críticos y reflexivos".

Fuente:

• Anterior
• Siguiente