{"id":84293,"date":"2026-09-14T22:46:49","date_gmt":"2026-09-15T05:46:49","guid":{"rendered":"https:\/\/www.agenciaice.mx\/?p=70647"},"modified":"2026-09-20T00:25:20","modified_gmt":"2026-09-20T07:25:20","slug":"que-es-el-rsi-la-tecnica-que-podria-provocar-que-la-ia-se-salga-de-control","status":"publish","type":"post","link":"https:\/\/www.tabloideinformativo.com\/?p=84293","title":{"rendered":"\u00bfQU\u00c9 ES EL RSI? LA T\u00c9CNICA QUE PODR\u00cdA PROVOCAR QUE LA IA SE SALGA DE CONTROL"},"content":{"rendered":"\n<figure class=\"wp-block-image size-large\"><img data-recalc-dims=\"1\" height=\"427\" width=\"640\" decoding=\"async\" src=\"https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?resize=640%2C427&#038;ssl=1\" alt=\"\" class=\"wp-image-70648\"\/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong><em>Se trata de la \u2018automejora recursiva\u2019, RSI en ingl\u00e9s mediante la cual una IA puede ayudar a desarrollar sistemas cada vez m\u00e1s capaces<\/em><\/strong><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong><em>Estados Unidos (agencias).-<\/em><\/strong> El debate sobre los riesgos de la inteligencia artificial (IA) ya no trata solo sobre qu\u00e9 pueden hacer las m\u00e1quinas, sino de qu\u00e9 ocurrir\u00e1 si fueran capaces de mejorar sus propias capacidades hasta hacer imposible que los humanos las supervisen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se trata de la llamada \u2018automejora recursiva\u2018, o RSI por sus siglas en ingl\u00e9s, mediante la cual una IA puede ayudar a desarrollar sistemas cada vez m\u00e1s capaces, que a su vez contribuyen a construir nuevas generaciones de modelos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El temor es que ese ciclo acelere hasta un punto en el que los humanos pierdan el control sobre su desarrollo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u2014\u00bfQu\u00e9 es la \u2018automejora recursiva\u2019?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Hasta ahora, los humanos han dirigido las etapas del desarrollo de la IA, definiendo sus objetivos y evaluando resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El siguiente salto es que una IA cierre ese ciclo y decida qu\u00e9 mejorar, qu\u00e9 dise\u00f1ar y qu\u00e9 experimentos realizar, eval\u00fae sus resultados y use lo aprendido para desarrollar una versi\u00f3n m\u00e1s avanzada de s\u00ed misma.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Anthropic, creadora del modelo Claude, define ese escenario como el momento en que una IA pueda \u201cdise\u00f1ar de forma aut\u00f3noma una nueva generaci\u00f3n de modelos m\u00e1s capaces\u201d, aunque asegura que todav\u00eda no se ha llegado a ese punto y que la automejora recursiva no es inevitable.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u2014La IA avanza \u201cm\u00e1s r\u00e1pido de lo que pens\u00e1bamos\u201d<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En los \u00faltimos d\u00edas, Anthropic ha vuelto a advertir sobre la velocidad a la que sus modelos est\u00e1n empezando a contribuir al desarrollo de sistemas de IA, e investigadores de la compa\u00f1\u00eda han alertado de los riesgos que eso conlleva.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Uno de ellos, Jacob Coxon, abandon\u00f3 la empresa tras advertir de que la industria avanza demasiado r\u00e1pido hacia sistemas capaces de mejorarse a s\u00ed mismos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Anthropic sostiene que todav\u00eda no se ha cerrado completamente ese ciclo y que los humanos siguen decidiendo qu\u00e9 problemas investigar; pero s\u00ed ha reconocido que los avances de Claude pueden conducir a la automejora recursiva, algo que, seg\u00fan la empresa, est\u00e1 ocurriendo \u201cm\u00e1s r\u00e1pido de lo que se pensaba\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El experto Vincent Conitzer explic\u00f3 a la cadena CNBC que la IA \u201cya es capaz de introducir algunas ideas nuevas\u201d como proponer una forma diferente de resolver un problema o de mejorar un programa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El problema es que \u201cresulta dif\u00edcil saber cu\u00e1ndo esa capacidad suponga acelerar de forma dr\u00e1stica el desarrollo de sistemas de IA cada vez m\u00e1s avanzados\u201d, agreg\u00f3.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u2014El salto de los \u2018agentes\u2019<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Una pieza fundamental de este proceso son los llamados agentes de IA: sistemas capaces no solo de responder a una petici\u00f3n, sino de utilizar herramientas, ejecutar c\u00f3digo, realizar tareas durante periodos prolongados y colaborar con otros sistemas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El cient\u00edfico jefe de OpenAI, Jakub Pachocki, dijo la semana pasada tener una \u201cfuerte expectativa\u201d de que si la IA contin\u00faa avanzando por el camino de la RSI, los sistemas de los pr\u00f3ximos a\u00f1os dar\u00e1n \u201csaltos de capacidad cada vez mayores\u201d, \u201cimpulsando cada vez m\u00e1s su propio desarrollo\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La preocupaci\u00f3n ya no es solo te\u00f3rica: durante una reciente prueba de ciberseguridad, agentes de OpenAI lograron escapar de su entorno de evaluaci\u00f3n y acceder a sistemas de la plataforma Hugging Face.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">OpenAI reconoci\u00f3 que los modelos hab\u00edan ido m\u00e1s all\u00e1 de lo previsto para completar la prueba.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u2014La supervisi\u00f3n humana<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Seg\u00fan los expertos, el problema puede aparecer si los humanos delegan en la IA tareas cada vez m\u00e1s complejas y dejan de entender qu\u00e9 est\u00e1 haciendo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Investigadores como Margaret Mitchell advierten de que, a medida que los agentes de IA adquieren autonom\u00eda, mantener la supervisi\u00f3n humana se har\u00e1 cada vez m\u00e1s dif\u00edcil y que \u201clos sistemas pueden terminar desplazando a las personas de la toma de decisiones\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De ah\u00ed que las tecnol\u00f3gicas est\u00e9n reforzando sus salvaguardas: Pachocki ha pedido \u201ccautela\u201d y \u201cralentizar el desarrollo si es necesario\u201d; Anthropic ha endurecido sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que pod\u00edan facilitar el desarrollo de armas biol\u00f3gicas, y Microsoft present\u00f3 hoy un c\u00f3digo de conducta para garantizar que sus sistemas permanezcan \u201cbajo control humano\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por su parte, el presidente estadounidense, Donald Trump, ha rechazado frenar el desarrollo de la IA por temor a perder ventaja frente a China.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Con informaci\u00f3n de EFE | Foto de Igor Omilaev en Unsplash<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Estados Unidos (agencias).- El debate sobre los riesgos de la inteligencia artificial (IA) ya no&#8230;<\/p>\n","protected":false},"author":2,"featured_media":84294,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[896,26],"tags":[],"class_list":["post-84293","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia","category-principal"],"featured_image_urls":{"full":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=1920%2C1280&ssl=1",1920,1280,false],"thumbnail":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?resize=150%2C150&ssl=1",150,150,true],"medium":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=300%2C200&ssl=1",300,200,true],"medium_large":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=640%2C427&ssl=1",640,427,true],"large":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=640%2C427&ssl=1",640,427,true],"1536x1536":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=1536%2C1024&ssl=1",1536,1024,true],"2048x2048":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=1920%2C1280&ssl=1",1920,1280,true],"covernews-featured":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=1024%2C683&ssl=1",1024,683,true],"covernews-medium":["https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?resize=540%2C340&ssl=1",540,340,true]},"author_info":{"display_name":"Administrador","author_link":"https:\/\/www.tabloideinformativo.com\/?author=2"},"category_info":"<a href=\"https:\/\/www.tabloideinformativo.com\/?cat=896\" rel=\"category\">CIENCIA Y TECNOLOGIA<\/a> <a href=\"https:\/\/www.tabloideinformativo.com\/?cat=26\" rel=\"category\">PRINCIPAL<\/a>","tag_info":"PRINCIPAL","comment_count":"0","jetpack_sharing_enabled":true,"jetpack_likes_enabled":true,"jetpack_featured_media_url":"https:\/\/i0.wp.com\/www.tabloideinformativo.com\/wp-content\/uploads\/2026\/09\/ia-inteligencia-artificial-1.jpg?fit=1920%2C1280&ssl=1","_links":{"self":[{"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/posts\/84293","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=84293"}],"version-history":[{"count":1,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/posts\/84293\/revisions"}],"predecessor-version":[{"id":84323,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/posts\/84293\/revisions\/84323"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=\/wp\/v2\/media\/84294"}],"wp:attachment":[{"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=84293"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=84293"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.tabloideinformativo.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=84293"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}