Cómo entrenan las “manitas” africanas ChatGPT

Varias encuestas muestran cómo las empresas de inteligencia artificial subcontratan a África, a veces en condiciones deplorables.

Por apenas dos dólares la hora, los trabajadores de Kenia están trabajando para "hacer que ChatGPT sea menos tóxico", dice un investigación instructiva de Time. La aplicación de la inteligencia artificial (IA) ha revolucionado internet. Pero sería un error imaginar que simples robots lograron crear este nuevo tipo de aplicación: al emitir comentarios violentos, sexistas y racistas, fue necesario entrenar a la IA, que extrajo información de una red llena de comentarios discriminatorios. OpenAI, el creador de ChatGPT, ha envió decenas de miles de extractos de texto a una empresa de Kenia. La misión de subcontratación habría comenzado en noviembre de 2021.

Si bien Sama es una empresa con sede en San Francisco, emplea a trabajadores en Kenia, Uganda e India. Y funciona para Google, Meta y Microsoft. Si bien se presenta como una empresa que trabaja por la “IA ética” y afirma haber ayudado a sacar de la pobreza a más de 50 personas, los hechos son diferentes: los contratistas de OpenAI ganan entre 000 y 1,32 dólares por hora.

"Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad, y trabajamos arduamente para construir sistemas de IA seguros y útiles que limiten el sesgo y el contenido dañino", admite OpenAI. Pero este duro trabajo está en realidad reservado a las “manitas” africanas. La misión encomendada a los kenianos recuerda cómo Facebook explotó a los empleados para moderar su contenido.

"Tortura"

“Es una tortura”, resume un empleado de Sama encargado de leer contenidos zoofílicos. Tanto es así que, en febrero de 2022, ocho meses antes de la expiración del contrato, Sama rompió su subcontrato por las pésimas condiciones laborales. Según Time, Sama se embolsó 200 dólares para su misión, unos 000 kenianos tuvieron que leer contenido lleno de abuso sexual, discursos de odio y violencia. Asesoramiento en "bienestar" se han puesto a disposición de los empleados y Sama asegura han contratado “terapeutas de salud mental capacitados y licenciados profesionalmente”. Lo que disputan los empleados.

Más allá de las dificultades psicológicas, fueron las condiciones de trabajo de la puesta en marcha las que fueron impactantes: mientras que en Kenia no existe un salario mínimo obligatorio, los contratistas de OpenAI ganan apenas tanto como una recepcionista en Nairobi, informa Time. " Las tareas infravaloradas y que consumen mucho tiempo son generalmente subcontratadas por las empresas de tecnología a una gran cantidad de trabajadores precarios, generalmente ubicados en países del sur”, indican Clément Le Ludec, sociólogo digital, y Maxime Cornet, estudiante de doctorado en sociología de la IA.

Encontraron una misión similar en Madagascar, que se refería al trabajo de datos. “Nuestro estudio también muestra la realidad de la 'IA al estilo francés': por un lado, las empresas tecnológicas francesas confían en los servicios de GAFAM para acceder a los servicios de alojamiento de datos y poder de cómputo; por otro lado, las actividades relacionadas con los datos son realizadas por trabajadores ubicados en las antiguas colonias francesas, en particular Madagascar, lo que confirma lógicas ya antiguas en términos de cadenas de subcontratación”, escriben.

Invisibilización de subcontratistas

Problema: los trabajadores africanos “están ubicados al final de una larga cadena de subcontratación, lo que explica en parte los bajos salarios de estos trabajadores calificados”. En cuanto a las empresas, generalmente están en manos de extranjeros. De las 48 empresas que ofrecen servicios digitales en zonas francas, estudiadas por los dos investigadores, apenas 9 están en manos de malgaches frente a 26 de francesas.

“Este patrón recuerda a lo que el investigador Jan Padios llama 'recuerdo colonial', según los dos investigadores. Los antiguos países colonizados tienen habilidades lingüísticas y proximidad cultural con los países que dan las órdenes de lo que se benefician las empresas de servicios”. Un poscolonialismo económico, que muy a menudo conduce lamentablemente a una invisibilización de los trabajadores de la inteligencia artificial que, sin estas encuestas, estarían siempre en el más total anonimato.