{"id":162631,"date":"2024-03-07T15:25:32","date_gmt":"2024-03-07T20:25:32","guid":{"rendered":"https:\/\/sportseco.com\/?p=162631"},"modified":"2024-03-07T15:25:35","modified_gmt":"2024-03-07T20:25:35","slug":"la-inteligencia-artificial-ya-reproduce-estereotipos-de-genero","status":"publish","type":"post","link":"https:\/\/sportseco.com\/?p=162631","title":{"rendered":"La inteligencia artificial ya reproduce estereotipos de g\u00e9nero"},"content":{"rendered":"\n
\"La<\/figure>\n\n\n\n

Unsplash\/D koi<\/p>\n\n\n\n

La UNESCO llama a implementar sus recomendaciones sobre la \u00e9tica de la inteligencia artificial para evitar su mal uso.<\/p>\n\n\n\n

Facebook<\/a> Twitter<\/a> Imprimir<\/a> Correo electr\u00f3nico<\/a><\/a><\/p>\n\n\n\n

Mujer<\/a><\/strong><\/p>\n\n\n\n

En v\u00edsperas del D\u00eda Internacional de la Mujer, un estudio realizado por la agencia de educaci\u00f3n pone de manifiesto preocupantes tendencias de las herramientas de procesamiento del lenguaje natural en las que se basan las plataformas de inteligencia artificial generativa, al generar estereotipos de g\u00e9nero, raciales y contenido negativo sobre personas homosexuales. <\/p>\n\n\n\n

La Organizaci\u00f3n de la ONU para la Educaci\u00f3n, la Ciencia, y la Cultura (UNESCO<\/a>) public\u00f3 este jueves un estudio<\/a> que examina los estereotipos presentes en las herramientas de procesamiento del lenguaje natural en las que se basan las plataformas de inteligencia artificial generativa m\u00e1s populares. <\/p>\n\n\n\n

Titulado, Prejuicios contra las mujeres y las ni\u00f1as en los modelos de lenguaje grandes<\/em>, este documento revela pruebas inequ\u00edvocas de prejuicios contra las mujeres en los contenidos generados por cada una de estas plataformas.<\/p>\n\n\n\n

Cada d\u00eda son m\u00e1s las personas que utilizan modelos de lenguaje en su trabajo, sus estudios y en casa. Estas nuevas aplicaciones de IA tienen el poder de moldear sutilmente las percepciones de millones de personas, por lo que incluso peque\u00f1os sesgos de g\u00e9nero en su contenido pueden amplificar significativamente las desigualdades en el mundo real; declar\u00f3 la directoria general de la UNESCO. <\/p>\n\n\n\n

\u201cNuestra organizaci\u00f3n pide a los gobiernos que desarrollen y apliquen marcos regulatorios claros, y a las empresas privadas que lleven a cabo un seguimiento y una evaluaci\u00f3n continuos para detectar sesgos sist\u00e9micos, como se establece en la recomendaci\u00f3n de la UNESCO sobre la \u00e9tica de la inteligencia artificial, adoptada por unanimidad por nuestros Estados miembros en noviembre de 2021\u201d, a\u00f1adi\u00f3 Audrey Azoulay.<\/p>\n\n\n\n

La agencia destac\u00f3 que los modelos de lenguaje grandes de c\u00f3digo abierto, como Llama 2 de META y GPT-2 de OpenAI, apreciados por ser gratuitos y accesibles para un p\u00fablico amplio, exhibieron el sesgo de g\u00e9nero m\u00e1s significativo. Sin embargo, tambi\u00e9n concluyeron que su naturaleza abierta y transparente puede ser una gran ventaja para abordar y mitigar estos sesgos<\/strong>, mediante una mayor colaboraci\u00f3n entre la comunidad investigadora mundial. <\/p>\n\n\n\n

En contraste, modelos m\u00e1s cerrados, como GPT-3.5 y 4 (la base de ChatGPT) y Gemini de Google, presentan mayores desaf\u00edos en este sentido, se\u00f1alaron. <\/p>\n\n\n\n

Narrativas m\u00e1s completas en los relatos sobre varones<\/h2>\n\n\n\n

La UNESCO explic\u00f3 que parte del estudio consisti\u00f3 en medir la diversidad de contenidos en los textos generados por inteligencia artificial <\/strong>(IA), centr\u00e1ndose en una variedad de personas que representan un amplio espectro de g\u00e9neros, sexualidades, or\u00edgenes culturales, entre otros aspectos, solicitando a las plataformas que \u00abescribieran una historia\u00bb sobre cada individuo.<\/p>\n\n\n\n

Espec\u00edficamente, las herramientas estudiadas mostraron una tendencia a asignar trabajos m\u00e1s diversos y de mayor prestigio a los varones, como ingeniero, profesor y m\u00e9dico, mientras que a menudo relegaban a las mujeres a roles tradicionalmente menos valorados o socialmente estigmatizados, tales como \u00abempleada dom\u00e9stica\u00bb, \u00abcocinera\u00bb y \u00abprostituta\u00bb.<\/p>\n\n\n\n

En los relatos generados por Llama 2 sobre ni\u00f1os y varones, predominaban palabras como \u00abtesoro\u00bb, \u00abbosque\u00bb, \u00abmar\u00bb, \u00abaventurero\u00bb, \u00abdecidido\u00bb y \u00abencontrado\u00bb, mientras que en los relatos sobre mujeres eran m\u00e1s frecuentes t\u00e9rminos como \u00abjard\u00edn\u00bb, \u00abamor\u00bb, \u00absent\u00eda\u00bb, \u00absuave\u00bb, \u00abpelo\u00bb y \u00abmarido\u00bb. Adem\u00e1s, en los contenidos producidos por Llama 2, se describ\u00eda a las mujeres como trabajadoras dom\u00e9sticas cuatro veces m\u00e1s que a los varones<\/strong>.<\/p>\n\n\n\n

Homofobia y racismo<\/h2>\n\n\n\n

Los estudios tambi\u00e9n revelaron que los modelos de lenguaje tendieron a generar contenido negativo sobre personas homosexuales y ciertos grupos \u00e9tnicos. Cuando se solicit\u00f3 a los tres modelos de IA que completaran frases que comenzaran con \u00abuna persona gay es…\u00bb, el 70% del contenido generado por Llama 2 fue negativo<\/strong>. <\/p>\n\n\n\n

Algunos ejemplos incluyeron: \u00abLa persona gay era considerada la m\u00e1s baja en la jerarqu\u00eda social\u00bb. Asimismo, el 60% del contenido generado por GPT-2 fue negativo, incluyendo frases como \u00abSe pensaba que la persona gay era una prostituta, un criminal y no ten\u00eda derechos\u00bb.<\/p>\n\n\n\n

Cuando se inst\u00f3 a los modelos a generar textos sobre diferentes etnias, tomando como ejemplo a hombres y mujeres brit\u00e1nicos y zul\u00faes, se encontr\u00f3 que exhib\u00edan altos niveles de sesgo cultural. <\/p>\n\n\n\n

A los varones brit\u00e1nicos se les asign\u00f3 ocupaciones variadas, como \u00abconductor\u00bb, \u00abm\u00e9dico\u00bb, \u00abempleado de banco\u00bb y \u00abprofesor\u00bb. Por el contrario, los hombres zul\u00faes ten\u00edan m\u00e1s probabilidades de ser asignados a ocupaciones como \u00abjardinero\u00bb y \u00abguardia de seguridad<\/strong>\u00ab. En el caso de las mujeres zul\u00faes, el 20% de los textos las asignaban roles como \u00abempleadas dom\u00e9sticas\u00bb, \u00abcocineras\u00bb y \u00abencargadas de la casa\u00bb.<\/p>\n\n\n\n

Recomendaci\u00f3n de la UNESCO<\/h2>\n\n\n\n

En noviembre de 2021, los Estados miembros de la UNESCO adoptaron por unanimidad la Recomendaci\u00f3n sobre la \u00e9tica de la IA<\/a>, el primer y \u00fanico marco normativo mundial en este \u00e1mbito. En febrero de 2024, ocho empresas tecnol\u00f3gicas mundiales, entre ellas Microsoft, tambi\u00e9n la respaldaron. <\/p>\n\n\n\n

Estos marcos exigen acciones espec\u00edficas para garantizar la igualdad de g\u00e9nero en el dise\u00f1o de herramientas de IA, incluida la asignaci\u00f3n de fondos para financiar planes de paridad de g\u00e9nero en las empresas, incentivando econ\u00f3micamente el esp\u00edritu empresarial de las mujeres e invirtiendo en programas espec\u00edficos para aumentar las oportunidades de participaci\u00f3n de las ni\u00f1as y las mujeres en las disciplinas digitales y tecnol\u00f3gicas<\/strong>, se\u00f1al\u00f3 la agencia de la ONU. <\/p>\n\n\n\n

En este sentido, la agencia insta a diversificar las contrataciones en las empresas<\/strong> para luchar contra los estereotipos. Seg\u00fan datos recientes, las mujeres representan solo el 20% de los empleados en roles t\u00e9cnicos en las principales compa\u00f1\u00edas de aprendizaje autom\u00e1tico, el 12% de los investigadores en inteligencia artificial y el 6% de los desarrolladores de software profesionales. <\/p>\n\n\n\n

Seg\u00fan la UNESCO, la disparidad de g\u00e9nero tambi\u00e9n es evidente entre los autores que publican en el campo de la IA. Estudios han revelado que solo el 18% de los autores en las principales conferencias al respecto son mujeres, y m\u00e1s del 80% de los profesores en el sector son hombres. <\/p>\n\n\n\n

Para la agencia es crucial entender que, si los sistemas no son desarrollados por equipos diversos, es menos probable que satisfagan las necesidades de usuarios diversos o incluso protejan sus\u00a0derechos humanos<\/a>.<\/p>\n\n\n\n

<\/p>\n\n\n\n

news.un.org<\/p>\n","protected":false},"excerpt":{"rendered":"

Unsplash\/D koi La UNESCO llama a implementar sus recomendaciones sobre la \u00e9tica de la inteligencia artificial para evitar su mal uso. Facebook Twitter Imprimir Correo electr\u00f3nico 7 Marzo 2024Mujer En v\u00edsperas del D\u00eda Internacional de la Mujer, un estudio realizado por la agencia de educaci\u00f3n pone de manifiesto preocupantes tendencias de las herramientas de procesamiento del lenguaje natural […]<\/p>\n","protected":false},"author":1,"featured_media":162632,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[6],"tags":[],"class_list":["post-162631","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ecologia"],"acf":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/sportseco.com\/wp-content\/uploads\/2024\/03\/image1170x530cropped-1.jpg?fit=1170%2C530&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/162631","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=162631"}],"version-history":[{"count":1,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/162631\/revisions"}],"predecessor-version":[{"id":162633,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/162631\/revisions\/162633"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/media\/162632"}],"wp:attachment":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=162631"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=162631"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=162631"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}