{"id":214340,"date":"2026-09-15T10:17:21","date_gmt":"2026-09-15T14:17:21","guid":{"rendered":"https:\/\/sportseco.com\/?p=214340"},"modified":"2026-09-15T10:17:21","modified_gmt":"2026-09-15T14:17:21","slug":"ia-regular-una-tecnologia-sin-salvaguardas-ni-inhibiciones","status":"publish","type":"post","link":"https:\/\/sportseco.com\/?p=214340","title":{"rendered":"IA: regular una tecnolog\u00eda sin salvaguardas ni inhibiciones"},"content":{"rendered":"\n
\"La<\/figure>\n\n\n\n

\u00a9 CTBTO\/Gobierno de los Estados Unidos Una inteligencia artificial sin control representa un riesgo comparable, o incluso mayor, que el asociado al arma nuclear. En la imagen, una prueba nuclear atmosf\u00e9rica llevada a cabo por Estados Unidos en marzo de 1954 en el atol\u00f3n de Bikini, Islas Marshall.<\/a><\/p>\n\n\n\n

Las alertas sobre el peligro que representa el uso descontrolado de la inteligencia artificial se multiplican por doquier, ahora incluso hasta se suman los l\u00edderes de las compa\u00f1\u00edas que lideran el mercado tecnol\u00f3gico. Los altos cargos de la ONU llevan a\u00f1os avisando. Hoy el responsable de la Oficina de Derechos Humanos volvi\u00f3 a pedir a los Estados que intervengan para poner orden. No se puede dejar a la autorregulaci\u00f3n de las empresas.<\/p>\n\n\n\n

Fallos en servicios esenciales, infraestructuras cr\u00edticas desestabilizadas, instituciones democr\u00e1ticas debilitadas: en una carta dirigida a los Estados y a los l\u00edderes de las corporaciones de que han lanzado sin salvaguardas la inteligencia artificial al mercado, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker T\u00fcrk, ha trazado un inventario de los peligros relacionados con los sistemas m\u00e1s avanzados.<\/p>\n\n\n\n

Le preocupa en particular la aparici\u00f3n de una inteligencia artificial denominada \u00abag\u00e9ntica\u00bb, capaz de actuar de forma aut\u00f3noma para realizar tareas y alcanzar objetivos. \u00abLos fallos que impliquen sistemas de IA ag\u00e9ntica podr\u00edan paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras cr\u00edticas y atentar contra el coraz\u00f3n mismo de las instituciones democr\u00e1ticas\u00bb, ha advertido.<\/p>\n\n\n\n

Todos los derechos humanos amenazados<\/h2>\n\n\n\n

El escenario descrito por el alto responsable alcanza incluso las necesidades m\u00e1s elementales. \u00abPoblaciones enteras podr\u00edan verse privadas de agua potable, calefacci\u00f3n y servicios financieros<\/strong>\u00ab, ha proseguido. \u00abLa IA ag\u00e9ntica ya est\u00e1 acelerando el ritmo y la magnitud de los conflictos armados, al tiempo que erosiona las salvaguardias que nos separan del lanzamiento de armas de destrucci\u00f3n masiva\u00bb.<\/p>\n\n\n\n

Para Volker T\u00fcrk, que a principios de a\u00f1o advirti\u00f3 del peligro de crear \u201cun monstruo de Frankenstein\u201d, el desarrollo de los modelos m\u00e1s potentes marca as\u00ed un cambio de escala. \u00abEstamos en el umbral de un cambio irreversible, que nos afectar\u00e1 no solo a nosotros mismos, sino tambi\u00e9n a las generaciones futuras<\/strong>\u00ab, ha declarado, estimando que \u00abtodos los derechos humanos<\/a> est\u00e1n amenazados\u00bb, incluido el derecho a la vida.<\/p>\n\n\n\n

Su advertencia llega cuando se inaugura el lunes en Riad, Arabia Saudita, el cuarto foro mundial de la <\/a>UNESCO<\/a> sobre la \u00e9tica de la IA. Hasta el 17 de septiembre, gobiernos, investigadores, empresas, organizaciones internacionales y representantes de la sociedad civil deben precisamente intentar reducir la brecha entre los principios \u00e9ticos ya enunciados y su traducci\u00f3n en reglas concretas.<\/p>\n\n\n\n

Riesgos que ya no son te\u00f3ricos<\/h2>\n\n\n\n

La advertencia, sin embargo, no se refiere solo a lo que la IA podr\u00eda provocar ma\u00f1ana. Parte de los da\u00f1os que describe ya son observables<\/strong>. \u00abLos perjuicios relacionados con la IA no son hipot\u00e9ticos: ya se est\u00e1n produciendo, a la vista de todos\u00bb, ha subrayado el Alto Comisionado.<\/p>\n\n\n\n

Automatizaci\u00f3n de servicios esenciales en detrimento de las poblaciones marginadas, explotaci\u00f3n masiva de datos personales, tecnolog\u00edas de vigilancia, campa\u00f1as de desinformaci\u00f3n. ONU Derechos Humanos ve en estos usos otras tantas amenazas para las libertades individuales, la cohesi\u00f3n social y las instituciones democr\u00e1ticas, puestas a dura prueba \u00abde manera insidiosa e in\u00e9dita\u00bb.<\/p>\n\n\n\n

La alerta de la ONU llega sobre todo en el momento en que las interrogantes alcanzan a las empresas desarrolladoras de esta tecnolog\u00eda. Dario Amodei, responsable de uno de los modelos l\u00edderes en el mercado, Anthropic, habl\u00f3 de ralentizar los avances para da m\u00e1s tiempo a las sociedades para comprender y dominar los riesgos asociados a sus nuevas capacidades, que sin m\u00e1s salvaguardias podr\u00edan conducir a la extinci\u00f3n de la humanidad. En estas condiciones, la IA representar\u00eda un riesgo comparable, o incluso mayor, que el asociado al arma nuclear.<\/p>\n\n\n\n

Los Estados deben regular<\/h2>\n\n\n\n

Para T\u00fcrk, estas incertidumbres hacen m\u00e1s urgente el establecimiento de reglas. Insta a \u00ablos Estados y las empresas a movilizarse con urgencia en el marco de instancias multilaterales para definir una v\u00eda de acci\u00f3n destinada<\/strong> a encuadrar los modelos de IA de vanguardia\u00bb.<\/p>\n\n\n\n

Las empresas que desarrollan estos sistemas tienen, seg\u00fan \u00e9l, tanto los medios como la responsabilidad de actuar. Pero no pueden fijar solas los l\u00edmites de tecnolog\u00edas<\/strong> cuyas consecuencias superan ampliamente a sus usuarios o a sus accionistas. Los gobiernos deben imponerles obligaciones y exigirles responsabilidades por sus incumplimientos.<\/p>\n\n\n\n

\u00bfQui\u00e9n fija los l\u00edmites?<\/h2>\n\n\n\n

El Alto Comisionado reclama en particular una verificaci\u00f3n independiente de las capacidades de los agentes de IA<\/strong>, llevada a cabo por expertos que dispongan de las competencias t\u00e9cnicas necesarias y de un acceso a los modelos, a su documentaci\u00f3n y a sus entornos de prueba. Tambi\u00e9n pide a las empresas que eval\u00faen permanentemente las consecuencias de sus productos sobre los derechos humanos.<\/p>\n\n\n\n

Sobre todo, esta regulaci\u00f3n no puede, a su juicio, detenerse en las fronteras nacionales. Ning\u00fan pa\u00eds puede encuadrar solo una tecnolog\u00eda desarrollada y desplegada a escala mundial<\/strong>; ninguna empresa deber\u00eda poder determinar sola el nivel de riesgo que el resto de la sociedad deber\u00e1 aceptar.<\/p>\n\n\n\n

\u00abNadie deber\u00eda verse obligado a renunciar a sus derechos humanos en nombre de un supuesto progreso tecnol\u00f3gico\u00bb, ha insistido T\u00fcrk.<\/p>\n\n\n\n

No es una cuesti\u00f3n t\u00e9cnica sino pol\u00edtica<\/h2>\n\n\n\n

Detr\u00e1s de la cuesti\u00f3n t\u00e9cnica de la seguridad de los modelos aparece as\u00ed una cuesti\u00f3n m\u00e1s pol\u00edtica: \u00bfqui\u00e9n decidir\u00e1 lo que una inteligencia artificial puede hacer, los riesgos considerados aceptables y el momento en que una capacidad se vuelve demasiado peligrosa para ser desplegada?<\/p>\n\n\n\n

El tiempo apremia<\/strong> tanto m\u00e1s, seg\u00fan el Alto Comisionado, cuanto que las elecciones efectuadas hoy podr\u00edan ser dif\u00edciles de deshacer. Y sus consecuencias ser\u00e1n soportadas por quienes apenas participaron en su elaboraci\u00f3n.<\/p>\n\n\n\n

\u00abLa generaci\u00f3n que hoy entra en la edad adulta heredar\u00e1 las consecuencias de las decisiones tomadas sobre esta cuesti\u00f3n sin haber tenido voz ni voto\u00bb, ha advertido, llamando a la comunidad internacional a \u00abvelar por que estas decisiones se tomen con total transparencia, con respeto a sus derechos y con la humildad que exige la magnitud de esta empresa\u00bb.<\/p>\n\n\n\n

<\/p>\n\n\n\n

news.un.org<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00a9 CTBTO\/Gobierno de los Estados Unidos Una inteligencia artificial sin control representa un riesgo comparable, o incluso mayor, que el asociado al arma nuclear. En la imagen, una prueba nuclear atmosf\u00e9rica llevada a cabo por Estados Unidos en marzo de 1954 en el atol\u00f3n de Bikini, Islas Marshall. Las alertas sobre el peligro que representa el […]<\/p>\n","protected":false},"author":1,"featured_media":214341,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[6],"tags":[],"class_list":["post-214340","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ecologia"],"acf":[],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/i0.wp.com\/sportseco.com\/wp-content\/uploads\/2026\/09\/image1170x530cropped-8.jpg?fit=1170%2C530&ssl=1","_links":{"self":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/214340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=214340"}],"version-history":[{"count":1,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/214340\/revisions"}],"predecessor-version":[{"id":214342,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/posts\/214340\/revisions\/214342"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=\/wp\/v2\/media\/214341"}],"wp:attachment":[{"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=214340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=214340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sportseco.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=214340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}