![\"\"](\"https:\/\/elmetropolitano.com.gt\/es\/wp-content\/uploads\/2021\/11\/cintillo-arrin-cual-1.jpg\")
<\/a><\/div><\/div>\n\n\n\n\u00abLos modelos sobrehumanos en t\u00e9rminos generales ser\u00edan extraordinariamente poderosos y, si se usan mal o no se alinean con los valores humanos, podr\u00edan causar da\u00f1os catastr\u00f3ficos\u00bb, plantearon los investigadores de OpenAI en las conclusiones de su estudio, publicado recientemente.<\/p>\n\n\n\n
El problema de alinear modelos de IA sobrehumanos<\/p>\n\n\n\n
El equipo considera un imperativo actual el alinear (dirigir y controlar) los futuros sistemas de IA sobrehumanos para que sean seguros y se\u00f1alan que ahora es el momento adecuado para realizar \u00abavances emp\u00edricos en este problema\u00bb. Los investigadores exponen que las actuales t\u00e9cnicas de alineaci\u00f3n de modelos de IA ampliamente utilizadas, como el aprendizaje por refuerzo a partir de la retroalimentaci\u00f3n humana (RLHF), ser\u00edan incapaces de supervisar la seguridad de los modelos sobrehumanos m\u00e1s inteligentes que ellos.<\/p>\n\n\n\n
Como ejemplo, se\u00f1alan que los modelos sobrehumanos podr\u00edan \u00abescribir millones de l\u00edneas de c\u00f3digo inform\u00e1tico novedoso (y potencialmente peligroso) que ser\u00eda muy dif\u00edcil de entender incluso para humanos expertos\u00bb. En este sentido, los humanos ser\u00e1n \u00absupervisores d\u00e9biles\u00bb. \u00ab\u00bfC\u00f3mo pueden los supervisores d\u00e9biles confiar y controlar modelos sustancialmente m\u00e1s fuertes?\u00bb, se preguntan desde OpenAI.<\/p>\n\n\n\n
Propuesta de soluci\u00f3n<\/p>\n\n\n\n
El equipo desarroll\u00f3 un m\u00e9todo denominado ‘generalizaci\u00f3n de d\u00e9bil a fuerte’. El prometedor m\u00e9todo se basa en entrenar modelos grandes de IA con modelos de IA m\u00e1s peque\u00f1os que podr\u00e1n transmitirle a estas superinteligencias nuestros valores con un nivel m\u00e1s alto de precisi\u00f3n en m\u00faltiples circunstancias, en comparaci\u00f3n con el entrenamiento humano. Los investigadores consideran que los modelos de IA menos complicados los entrenar\u00e1n en nuestro nombre.<\/p>\n\n\n\n
Para el estudio realizaron una prueba de concepto que utiliz\u00f3 a GPT-2 como modelo d\u00e9bil para entrenar a GPT-4. Obtuvieron un rendimiento final al nivel de GPT-3,5 en tareas de procesamiento del lenguaje natural. Aunque desde OpenAI plantean que no est\u00e1n convencidos de que ya sea una \u00absoluci\u00f3n\u00bb definitiva para la superalineaci\u00f3n, se\u00f1alan que constituye un marco prometedor para entrenar a una IA superhumana. Con base en sus resultados sugieren que es posible realizar progresos emp\u00edricos hoy en d\u00eda en el alineamiento de modelos suprahumanos.<\/p>\n\n\n\n
Rt Noticias #metroredes\u00a0 www.elmetropolitano.com.gt<\/a><\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Los investigadores quieren entrenar modelos grandes de inteligencia artificial con modelos m\u00e1s peque\u00f1os que podr\u00e1n transmitirle los valores humanos en nuestro nombre con una mayor efectividad. Un equipo de investigaci\u00f3n sobre superalineaci\u00f3n de OpenAI se encuentra desarrollando herramientas para garantizar el control de una inteligencia artificial (IA) sobrehumana para que no pueda volverse contra nosotros. Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":1,"featured_media":80617,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[15],"class_list":["post-80616","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacionales","tag-internacionales"],"_links":{"self":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/80616","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/comments?post=80616"}],"version-history":[{"count":1,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/80616\/revisions"}],"predecessor-version":[{"id":80618,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/80616\/revisions\/80618"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/media\/80617"}],"wp:attachment":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/media?parent=80616"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/categories?post=80616"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/tags?post=80616"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}